漫无目标的智能

时间:2023-11-21 04:39:03

森舸澜(Edward Slingerland):哲学家,汉学家;加拿大不列颠哥伦比亚大学进化、认知与文化研究中心主任,哲学与心理系暨东亚研究系教授;著有《试着不去尝试》(Trying Not to Try)

漫无目标的智能

对于会思考的机器,我没有太多想法,但有一点在我看来是值得注意的:它们有力地证明了,思想并不像那些认为世界的本源是意识和物质两个实体的二元主义者所信奉的那样,需要某些神秘的额外“物质”。

人们对人工智能机器将统治世界的恐惧总是让我感到困惑,这种恐惧心理是建立在基本的思维误区之上的。当我们想象超强思维机器时,我们总是将自己作为最佳的类比对象。因而,我们总是倾向于认为人工智能比人类更聪明。

然而,这是一个糟糕的类比。功能齐全的万能螺丝刀反倒是更好的类比。显然,没有人会担心功能超强的螺丝刀会造反,从而推翻它的主人。同样,人工智能只是工具而已,它们不是有机体。无论它们如何擅长医疗诊断和打扫卫生,它们在本质上都没有主动去做这些事情的想法。我们想让它们做这些事情,于是就把这些需求编进了它们的程序。

对于人类来说,问思维机器会思考些什么,这也是一个歧路。因为思维机器们没有任何内需,因而不存在任何以实现自身目标而进行的相关思考。在本质上,不论是为自己还是为人类,人工智能系统自身是没有计划和目标的。它们没有情感,因而也就没有同情心,也不会感到愤怒。然而不可否认的是,没有任何先验的理由可以否定思维机器在未来复制人类智能这一可能性的存在,尽管这样的智能依旧是完全漫无目标的——它的目标需要外界提供。

动机是生物有机体进化的产物。通过自然选择,人类产生了丰富而复杂的本能和情感,与此同时,自然选择也驱使人类将自身的优秀基因一代代地传承下去,这是一个不断赋予人类各种目标的过程,其中包括好胜心、统治欲和控制欲。虽然我们对于为什么好胜有充足的进化学理由,但机器对这些是没有感觉的。它们只是按照人们输入的命令做着二进制运算。它们怎会想到要统治世界?就算有这样的想法,那又是为什么呢?

真正恐怖的想法是:设计具有超人类智能、速度,以及人类动机体系的实体——换句话说,装备了强大人工智能系统的人类。拥有核武器的智人已经足够可怕,我们在这样的威胁下已经如履薄冰。但人工智能并不比核武器更可怕——它是一个工具,真正会构成威胁的是这些工具的创造者和拥有者。