Sherry Turkle--雪莉·特克尔:麻省理工学院社会学教授,科技与自我创新中心主任。著有《群体性孤独》。
20世纪80年代初期,我采访了人工智能创始人之一马文·明斯基(Marvin Lee Minsky)的一名年轻学生,他说自己心目中的英雄明斯基正致力于建造一台绝佳机器,连“灵魂都想居住其中”。而最近,我们慢慢由抽象变得注重实际,设想制造出各种机器人:用于照顾老人和小孩的机器人、教学机器人和性爱机器人等。回想那个学生的话,如今我们试图发明机器,并非为了让灵魂住在里面,而是我们出于自身的喜爱,想和它们住在一起。
拥有人造知己和恋人的梦想混淆了一些本不该混为一谈的类别。人类有躯体,有生命周期,有家庭生活,从依赖到独立,渐渐成长。这给予他们各种体验,依恋、失落、痛苦和对疾病的恐惧,当然还有死亡,这些都是人类特有,而机器没有的。我并不是说机器不够聪明,或是不能学习惊人数量的事情。相反,它们能学会的事情要比人类所知的更多。但是当我们需要友谊和爱时,它们并非正确的倾诉对象。
创造出提供工具性帮助的机器人伙伴(比如保护你在家的安全、打扫卫生、拿高架子上的物品等)自然是个很棒的主意,但和它谈论人际关系就比较糟糕。关于人际关系的对话是人类独有的,依赖于拥有相似体验的双方,这些体验来自人类的躯体、局限性和生命周期。
我们应该忘掉机器人伙伴这一想法。
我们似乎已经忘记,只有人与人之间才可以相互关心和对话。“对话”一词来源于一个表示“彼此靠近和亲近”的词汇。交谈时,你必须倾听他人,设身处地,读懂他们的姿势、声音、语气和沉默。你带给别人关怀,诉说经验,希望对方亦是如此。一个能共享信息的机器人固然好,可如果要提供友谊和亲密感,那你还是去找真人比较合适。
例如,当我们想给孩子提供机器人保姆时,往往会忘记,孩子的茁壮成长是因为感受到大家对他始终如一的关爱。和人类在一起,他能意识到说话、声音、音调变化、脸部表情和身体所呈现的动作是如何与意义融为一体的,他能学习到人类情感如何层层体现,灵活且自然。这些事,机器人都教不了。
我们讨论机器人伙伴时,有一种通用模式,我称之为“从聊胜于无到无与伦比”。我听见人们一开始说,有机器人陪伴总比没有强,因为“没有人做这些工作”,比如在疗养院干活或是当保姆,所以这些人开始从机器中寻找各种可能。后来,从人们的话中,我似乎感觉到机器可以提供的服务比生活中的都要好,因为人类保育员也许会虐待小孩,护士可能会犯错,疗养院服务员或许不够聪明或者没受过高等教育。
对机器人伙伴的青睐体现了我们对他人的不信任。我们把人工智能看成避免独处的零风险方式。我们害怕没人关心,所以被机器人吸引,因为它能使我们产生“陪伴不需要友谊”这样的错觉。渐渐地,人们甚至认为它可以提供“无须亲密的爱情”。我们把机器人放在不该放的地方,不是因为它们属于那里,而是因为人类对彼此的失望。
长期以来,寄希望于人工智能或机器人,体现了持久的技术乐观信念——科学可以拯救一切。在这个复杂的世界中,机器人似乎总是骑士精神的象征。它们在战争地区和手术室挽救生命,在外太空、沙漠和深海工作,而人类很难做到。但是在寻求机器陪伴的过程中,我们所需要的并非是骑士般的壮举,而是简单的救赎。
那么,什么是简单的救赎呢?就是希望机器人可以陪伴我们,和我们说说话,让我们得到安慰。
在过去15年的研究中,我看到关于简单救赎的希望从未消失,并且愈发强烈,尽管大多数人根本没有和机器人相处的经历,只是使用过像苹果手机上的语音助手Siri一类的东西,对话很可能就是“定位一家餐馆或一个朋友”。但是我的研究表明,用Siri“定位朋友”也会很快变成“交朋友”,比如把Siri当成在某些方面更好的密友,你可以随时和它讲话,它绝不会让你生气或失望。
人们喜欢没有相互依存关系的、唾手可得的友谊,可在我看来,机器人伙伴带来的简单救赎却不那么简单。我们必须改变自己来适应这样一种新常态,在此过程中,我们也改造了人类价值和人情纽带。甚至在发明机器前,我们就改变了自己。我们认为自己是在制造新机器,而事实上却是在塑造新人类。