基思·德夫林（Keith Devlin）：数学家；斯坦福大学H-STAR研究所执行主任；著有《数字人》（The Man of Numbers）
我知道很多会思考的机器。它们就是人类，就是生物机器（我们要重视“生物机器”这个词，因为它是以一种方便的方法指代一种我们尚未完全理解的东西）。我还没见过哪台数字电子机器的表现能称得上“思考”，而且我也没有看到任何可能的苗头。我认为，那种最终能够统治人类的智能硬件，注定只存在于科幻小说中。能模仿鸭子边摇晃着行走边嘎嘎地叫，并不意味着它就是一只真的鸭子。而且，即便一台机器能够展示出思维的某些特征，也不足以说明它是思维机器。
我们经常被“如果它摇摇摆摆嘎嘎叫，那就是只鸭子”这样的假象所蒙骗。这并非因为我们愚蠢，正相反，因为我们是人类，当我们身处信息过载的复杂环境时，为了省时省力，我们经常会被这种假象所蒙骗。
很多年前，我参观过日本的一家人形机器人实验室，那看起来像一家典型的“臭鼬工厂”（Skunk Works）。角落里有一台金属骨架的设备，上面布满了五颜六色的电线，看起来像人的上半身。而相对成形的手臂和手掌——应该是工程研究里面的重点，当时它们并不能活动，而且我也不是在一开始就注意到了它们。在那里的大部分时间，我的注意力都在机器的头部上，虽然那看起来还不像是一个头，只是一个大致的金属框架，在鼻子和嘴巴的位置安装有一个摄像头。在摄像机上面有两个乒乓球大小的白色小球，上面画了两个黑色的瞳孔。而它的眉毛，则是两个大号回形针。
这个机器人的内嵌程序是用来监测人的运动和捕捉声音的。当有人移动时，它的头和眼球就会随着人移动。当它监测的目标说话时，它那两个回形针眉毛就会随之上扬和下垂。
这台机器看起来是那么的活泼，那么的智能，那么的令人震惊。然而，当时那个房间里面包括我在内的所有人都清楚，控制机器人眼球和回形针眉毛的工作机制其实非常简单。那不过是一个小把戏。但这是一个已经深入于我们千百年社会认知发展的一个小把戏，所以我们的自然反应就像是看到另一个活人一样。
而我也并非不知道这个小把戏。我在斯坦福大学的同事和朋友、已故的克里夫·纳斯（Clifford Nass）花费数百个小时做了一项研究，其结果表明，我们人类在基因编码中就决定了基于简单的交互原理的智能搜索是根深蒂固、无法消除的。一些比较成熟的人工智能或许能够控制机器的手臂和手掌，但是控制眼球和眉毛的程序则是非常简单的。但即便如此，这也足以让我清晰地认识到，机器人是一种充满好奇心的、智能的参与者，能够听懂我说话的内容。当然，机器所做的事能让我们的人性和智能得到延伸，但这不是思考。
如果机器人所干的事是帮你打扫房屋、预订机票，或者帮你开车，那这种人类智能的延伸就是一件好事。但是，你会想要一个可以充当陪审团成员，在医疗过程中做关键决策，甚至能够掌控你个人自由的机器人吗？我肯定是不想要的。
因此，当你问我如何看待会思考的机器这个问题时，我的答案是：我喜欢它们中的大部分，因为“它们”是人（也许还有各种其他的动物）。然而，让我担忧的是，我们已经越来越多地将生活中的很多方面交给更加高效和可靠的机器进行决策，但它们绝不会思考。这就是危险所在：不会思考却能做决策的机器。
做决策和思考并不相同，我们不能将两者混淆。当我们在国防、医疗以及金融领域部署决策系统时，无论是个人还是公众，混淆决策和思考的潜在危险都是巨大的。要预防这些潜在危险，我们需清醒地意识到，在某些特定的交互中，我们是被基因设定，按照一套可信任的智能代理诉求机制作出反应的——不论面对的是人类还是机器。但是，有时一台会摇摇摆摆地走和嘎嘎乱叫的设备就只是一台机器而已，并不是鸭子。
