会思考并不意味着想征服

时间:2024-06-27 09:08:02

Steven Pinker--史蒂芬·平克:哈佛大学语言学家,认知心理学家;著有《语言本能》:《思想本质》《心智探奇》《白板》

会思考并不意味着想征服

英国哲学家托马斯·霍布斯(Thomas Hobbes)提出的精练的推理方程“一切皆计算”,是人类历史上最伟大的思想之一。理性是可以通过物理计算过程实现的,这种观念于20世纪已被艾伦·图灵在理论上所证实,他的论题是:简单的机器可以完成任何计算。而唐纳德·赫布(D.O.Hebb)、沃伦·麦卡洛克(Warren McCulloch)、沃尔特·皮兹(Walter Pitts),以及他们的科研后继者们,则为该理念搭建起了模型,并揭示出:由简化过的神经元搭建而成的神经网络可以实现很复杂的功能。因此,大脑的认知特性可以用物理术语来解释:信念不过是一种信息,思考只是一种计算过程,而动机则是一种反馈和控制系统。这种理念的伟大之处体现在两个方面。

◎第一,它让人类对宇宙的认知过渡到自然主义阶段,从而摒弃了超自然的灵魂、精神、幽灵的干扰。正如达尔文让人卸掉了造物主的思维框架,用科学观测来认识自然界一样,图灵等人让人们摆脱了唯心论的束缚,通过科学观测来认知世界。

◎第二,这种理性的计算理论开启了一扇通往人工智能的大门:会思考的机器。从原理上来讲,人造的信息处理器可以仿造甚至超越人脑的信息处理水平。但在现实中,这种情况未必真的会出现,因为从技术和经济成本的角度来看,它还缺乏足够的动机。正如汽车的发明并不是完全仿造马车,发明一套懂得埋单的人工智能系统并不需要去复制一套完整的智能样本,一个会自动驾驶或者预测流行病的设备无须具备吸引女性或者躲开腐肉的特质一样。

然而,最近在智能机器上刚刚取得的微小进步,却让某种焦虑情绪死灰复燃:我们的知识终将导致人类的灭亡。在我看来,当下对于计算机将引发杀戮的恐惧氛围,实际上是在浪费感情。真实的剧情,与其说是曼哈顿计划,倒不如说更像是对计算机千年虫问题的莫须有的恐慌。

因为一方面,我们有足够的时间来应对。人类级别的人工智能至少在15~20年内依然是无法突破的标杆,而近来许多被炒作的技术进步其实根基尚浅。在过去,专家们的的确确嘲讽般地低估了那些很快取得突破的技术进步。但这事也有两面性,很多在专家预言中即将要诞生的技术却从来没有实现过,比如核动力汽车、水下城市、火星移民、人造婴儿、人造器官存储仓等。

另一方面,我们也没有理由认为机器人专家无法制造出能进行安全防卫的系统。他们无需什么呆板的机器人三定律或者其他新奇的道德哲学,他们需要的只是常识,与设计食品加工机、缝纫机、空间加热器以及汽车没有什么两样。有人担忧人工智能系统会聪明到从我们手中夺取能源的掌控权,然后横行霸道,甚至会抢在我们设计出防御系统之前就袭击我们。但现实是,人工智能技术发展缓慢,我们有足够多的时间从新安装使用的人工智能中收集反馈信息,这跟我们使用螺丝刀的原理没有什么不同。

人工智能系统是否会蓄意破坏这种防卫机制呢?一群人工智能反乌托邦主义者在智能概念上加入了一点男权主义,他们认为,超级智能机器人会萌生出罢免他们的主人,接管这个世界的目标。但是智能是一种通过更加先进的手段来实现目标的能力,而目标是智能外部的东西,聪明并不意味着想要获取。在历史上,确实出现过狂妄的独裁者和残忍的杀手,但这些都是自然选择产生的灵长类雄性激素的影响,而并非智能系统不可避免的特征。人工智能如果能朝着女性化的方向发展,就会变得既善于解决问题又不忍心伤害无辜,更别提征服和统治整个文明了。但是很多高科技领域的先知,好像都不愿意接受这种局面。

我们可以假想一个残暴的人,打造了一支到处搞破坏的机器人军队。但是这种灾难片更适合在想象中上演。我们要清楚,在这种事件成为现实以前,每个环节都能一一呈现的概率。首先要有一个犯罪天才的出现,他同时要具备强烈的破坏欲望以及非凡的技术本领;然后他召集和管理一支阴谋团队,每个人都能秘密、忠诚而又出色地完成所有任务,这个过程还要能躲过监测和背叛,不出差错;最后还要有运气的眷顾。理论上这是有可能的,但也不过是另一种杞人忧天而已。

一旦我们抛弃这种科幻情节,那么先进的人工智能的前景是令人期待的——无论是实实在在的好处(比如自动驾驶带来的安全、舒适、愉快的体验),还是哲学上的其他可能性。思维的计算理论从未在主观意志的角度解释意识的存在,尽管它从信息的可获得性和反馈性上完美地解释了意识的存在。对于这种现状的其中一种解释就是,主观意志是任何足够复杂的网络系统与生俱来的特质。过去我一直认为,这种假说是无法被证实的。但是,假如有这样一个智能机器人,它有一个内置的程序来监控自身的系统并且能提出科学问题,如果它能自发地提问为何其自身具有主观体验的话,那么我就会重新思考这个问题。

注:作为当代最伟大的思想家、世界著名的语言学家和认知心理学家,史蒂芬·平克的“语言与人性”四部曲(《语言本能》《思想本质》《心智探奇》《白板》)是认知神经科学领域、语言学领域不可不读的革命性经典著作。这四本文简体字版已由湛庐文化策划出版。