1963年,美国人斯坦利·米尔格拉姆公开了他的实验结果,这个实验注定会成为心理学领域最著名的实验之一。实验是关于学习能力的,实验参与的双方是通过小广告征召而来的,一个人扮演老师,另一个扮演学生的人要背出连词游戏中的单词。如果学生犯错,老师就会用电击的方式对其进行惩罚,惩罚的力度慢慢加大。斯坦利·米尔格拉姆声称此实验的初衷是测试惩罚对记忆力的影响。而事实上,“学生”是实验设计者请来的“同谋”,在被电击时只是假装疼痛而已。实验唯一的被试是“老师”,研究人员想知道其在不知情的状态下对权威尤其是对学识渊博的权威的服从度。
半个世纪之后,社会上出现了一种发号命令的新权威:机器人。因为越来越智能,它们几乎遍布医院、养老院、学校、战场甚至每个人的住所。在机器人专家和心理学家看来,现在研究人类与机器人关系的时候到了,一定要在我们听到一只带滑轮的铁皮桶说“器官材料堆,过来给我的轮子上润滑油”这一天之前就开始。
2013年第一届人机交互国际大会上,来自加拿大的一组研究人员钻研的就是“现代人”种群的代表对机器人吉姆的服从度。吉姆是一个小型人形机器人,在实验中负责监督和指挥。实验设计依照的伦理标准自1963年确定后一直在逐步完善:设计者不能强迫“傻瓜”拷打人类,要想其他的办法。需要完成的任务被“精心设计”得既无聊又枯燥,而且毫无意义可言:以研究鼠标与键盘的使用情况为借口,给计算机中的文件重命名。开始是10个文件夹,之后是50个、100个,以此类推。每个新任务开始执行时,吉姆都会打开天窗说亮话:“这个文件夹有1000个文件,下一个文件夹有5000个。”想象一下,它可能会加上一句:“用你的肉体握住(鼠标)。”
实验的目的是由机器人假扮成“矩阵”[1]或“终结者”(电影《终结者》中具有人类意识的机器人),给人类被试施加压力——过程中被试可以选择拿着早就承诺好的10加元终止实验——看最终人类如何反抗机器人,或乖乖就范。当被试叹气、表现出不满、停下来的时候,吉姆就会用米尔格拉姆研究报告中的句子催促他继续干活:“实验要求你继续。”另一组实验也是同样的测试内容,但管理者是人类——一个假扮成研究员的人(留着胡子,穿着白大褂)。
器官材料堆,过来给我的轮子上润滑油!
2 译注:指迪士尼动画片《机器人总动员》。
实验结束后,研究人员发现,面对机器人老板时,被试抱怨得更多。由机器人负责监督和指挥时,只有46%的人坚持完成了长达80分钟的测试,而对比组的比例高达86%。不过这依然说明,被试承认这些“东西”与长着胡子的人一样合理……当一位被试试图停止测试时,吉姆说它要向负责人报告,这个被试喊道:“不!不要告诉他!吉姆,我不想说……对不起。我不想中断。”我们不知道胜出的吉姆(高58厘米)是如何回答的,也许是:“过来,给我的关节上点油!”
[1]译注:电影《黑客帝国》中一套复杂的虚拟程序,由具有人工智能的机器设计,模拟建造人类以前的世界,用以控制人类。