把机器制造成我们恨不起来的模样

时间:2024-06-27 09:26:07

罗里·桑泽兰德(Rory Sutherland):英国奥美集团(Ogilvy Group)创意总监、副总裁;伦敦《观察者报》(The Spectator)专栏作家

把机器制造成我们恨不起来的模样

有没有这样一种可能:某种邪恶的超级智能早已存在于地球之上,却精明地隐瞒了它们的存在和企图,甚至它们的智能?我认为这种障眼法没什么特别难的地方,何况人类自己还特别不知道天高地厚呢。

在人类进化史的大部分时间里,人类所面临的非天灾类的生存威胁中,最严峻的考验常常源于和人类体型相近,却又时刻想要伤害人类的个体,比如食肉动物,又比如其他人类。经年累月之后,我们日渐变得更擅长识别这些心怀不轨的动物或人类。我们同时还通过社会规范以及宗教戒律,学会了如何最小化被感染的风险,虽然这种学习有点不情不愿,让人反感。古人从不曾有意识地思考关于细菌的事情,只因为当时的人类根本不知道细菌的存在。

为了推销自家的卫生用品,日用品公司不惜投入数以亿计的广告费以向公众夸大细菌的危险性,或者拐弯抹角地描绘干净、整洁与社会地位之间的联系。我可以很自信地预测,来我办公室的人中,绝不会有谁提议发起一场提醒公众警惕老虎的广告宣传。

因此,在思考科技会对我们造成什么威胁的时候,我们的大脑其实也会不自觉地切换到大自然在百万年前为人类磨砺出的本能模式。这也是为什么第一辆无人驾驶汽车被设计成那么可爱的模样——它就像只长了轮子的小狗。这辆车既小又轻,只能以相对较低的速度行驶。但它婴孩般的外形,双眼圆睁的“表情”,以及扁平小巧的鼻子很巧妙地利用了人类的幻想性视错觉(pareidolia)和父性/母性。我们很吃这一套。这也正是我想提出的建议:把机器制造成我们恨不起来的模样。就算人工智能有一天变得比现在的AK47还要危险,那么我也很难想象自己会在内心的卢德主义爆发时抄起一把斧子抡向它们。

但这究竟是一种精神上的安慰还是破坏?被设计得很萌的机器是克服了我们内心对这类科技不必要的恐惧,还是诱骗我们走向了一种错误的自负?我不知道。我们对无人驾驶汽车的恐惧,也许和孩子被绑架的恐惧类似(发生概率低,但恐惧程度高)——或者说,这种恐惧无可厚非。但我们恐惧的程度与受威胁的程度却并非直接相关,而是牵涉到其他因素(包括可爱程度)。

这让我产生了第二个疑问。

就算无人驾驶汽车被设计得很萌,至少我们对它可能带来的危险心知肚明。它诱惑着我们,但我们对这种诱惑也心知肚明。在最广义的“科技”概念上,是否曾经出现过某种彻底俘获人心、快速并广泛地席卷全球的事物,后来却让人们在一次突如其来、始料不及的巨大危机前才最终认清其风险?在这个话题上,还有什么能和19世纪40年代发生在爱尔兰的“马铃薯晚疫病”(potato late blight)相提并论呢?

我们现在深信“技术就是天意”,所以很容易掉进上述陷阱之中——我们面对新事物时的兴奋过度,掩盖了这些新事物同时带来的新风险,直到一切为时已晚。在火药发明后的最初数百年间,人们将它用于娱乐而不是战争。

飞行员很少驾驶没有自动驾驶系统的飞机,但他们仍然经常需要练习手动降落。那么我们是不是也应该偶尔腾出时间来,有意识地让某些科技远离我们的生活,好让自己回想起没有这些科技时应该如何生活、发现新的科技多样性、让使用不足的“精神肌肉”得到锻炼?答案是肯定的。但在大规模人群中协调这一行为的机制是什么?我不知道。

最近我提议各大公司可以实施每周一次的“电子邮件安息日”,因为我相信,人们对电子邮件的过分依赖已经让其他有价值的互动形式濒临灭绝。我们几乎忘记如何以其他方式进行交流了。许多人觉得我疯了。几百年前或许有位教皇曾教导我们做类似的事情,但现在已经没有人这么做了。

我对“搞砸”的恐惧总是胜过各种阴谋论。相比于近在眼前的“无心犯大错”式危机,邪恶机器人威胁论离我们还有点儿遥远,所以不妨安心地将它留给好莱坞吧!