理查德·塞勒(Richard H.Thaler):行为经济学之父;芝加哥大学布斯商学院决策研究中心负责人;著有《“错误”的行为》(Misbehaving)
我对这个问题的简短回答包含在两个小笑话里,而它们正好已经由聪明的以色列人说出来了。
第一个来自我的朋友、同事和导师阿莫斯·特沃斯基(Amos Tversky)。曾经有人问他怎么看待人工智能,特沃斯基俏皮地说:“我不知道,我的特点就是天生愚蠢。”(只要一个人不变得盛气凌人,阿莫斯并不会认为这个人愚蠢。)
第二个笑话来自阿巴·埃班(Abba Eban),他凭借以色列驻美大使的身份成名。曾有人问他,以色列是否会变成每周5天工作制。以色列的工作日是从周日上午开始,周五中午结束尽管每周5天半的时间中有大量“工作”是在咖啡馆完成的。埃班是这样回答这个问题的:“一步一个脚印。首先,让我们实行4天工作制,然后再继续下一步。”
这两个笑话描绘了我所想到的风险,即由机器来履行重大社会职能时会导致的失控。如特沃斯基所言,比起人工智能这个问题,我更懂天生愚蠢是怎样的。所以对于机器是否会思考,如果它们可以,是否对人类带来威胁,我并没有回答的根据。我把争辩留给其他人。就像任何关注金融市场的人那样,我也想到了如2010年“闪电崩盘”那样的事件。当时,存在设计缺陷的交易算法突然导致股价下跌,但在几分钟内就恢复了。不过,这个例子更多体现的是人为的愚蠢,而不是超级智能。只要人们继续写程序,我们就有忽视掉某些重要安全保障的风险。所以,就像人类会在交易时因为输错数字而导致巨额资金的损失,计算机也会犯这类错误。
然而,对计算机掌管世界这种恐惧还为时过早。让我困惑的是,在很多社会领域内已经证明了确实有些计算机比人类做得更好,但还是有人不情愿让计算机去做。已经有一类心理学家主导发布的文献,如洛宾·道斯(Robyn Dawes)的研究表明,任何常规的决策,比如检测错误、评估肿瘤的严重程度、雇用员工等,一个简单的统计模型就可以比这些领域内的顶尖专家做得更好。我可以举两个例子,一个来自人力资源管理领域,一个来自体育界。
第一个例子,让我们来说说面试。面试是一个人获得工作的重要决定因素,甚至通常是最重要的因素。在我教书的布斯商学院,招聘人员要花无数时间在校园里面试学生——这个过程就是挑选出少量学生,邀请他们去见雇主,然后又是更多的面试。然而研究发现,在预测某个职业的人选是否将在这个工作上表现良好时,面试几乎毫无用处。相比于以客观指标(如与工作相关的课程成绩)作为标准的统计模型,面试主要是在增加干扰项和引入潜在的偏见(但统计模型不会偏好某个特定的学校或人种,也不会看颜值)。
这些事实早在40多年前就被发现了,但现实中的雇用方式并不会让步。道理很简单:我们每个人都认为,如果一个人去面试,我们就对他了解得更多。这个与实证研究相背离的错觉意味着,我们会用一如既往的方式选择员工。于是我们选择面对面地打量他们。
比起挑选职业候选人,另一个采用了先进科学方法挑选从业者的领域是体育,就像是迈克尔·刘易斯(Michael Lewis)的书和同名电影《点球成金》(Moneyball)中所展现的那样。但是如果我们认为体育领域内的决策方式已经发生了革命,这种看法也是错误的。大多数专业体育团队确实会雇用数据分析师来帮助他们评估潜在选手、提高训练技巧、设计比赛策略。但是,签约选手、派谁上场这类决策的最终决定权还是在教练和总经理手上——相比于随队的数据狂,他们对自己的智慧更有信心。
还有一项有关橄榄球运动的趣事。加州大学柏克利分校的一位经济学教授戴维·罗默(David Romer)在2006年发表的一篇论文里表示:球队常常选择放弃,而不是尝试“加油”去发起第一次进攻或者得分。由于他的论文已经公开发表,他的分析模型一直被重复检验,基础数据得到了很大扩展,并且结论也得到了认可。《纽约时报》甚至还开了一个在线程序,用来计算球队每次面对第四次进攻时的最优策略。
教练们意识到了这一点吗?一点儿也没有。尽管有罗默的文章,最后一次的进攻频率仍然与以前持平。基于面试被老板雇用的教练仍然按照常规方式做决策。
所以请原谅我,我不会因为担心计算机掌管世界而失眠。让我们一步一个脚印,首先看看人们是否愿意相信它们,让它们在已经超越人类的领域做些简单的决策。