约翰·诺顿（John Naughton）：英国剑桥大学沃尔森学院副主席；英国开放大学公众科学理解专业名誉教授；著有《从古腾堡到扎克伯格》（From Gutenberg to Zuckerberg）
如何看待会思考的机器？这取决于机器思考了什么以及它们思考得如何。几十年来，我是发明家道格·恩格尔巴特（Doug Engelbart）的追随者，他相信计算机是增强人类智慧的机器。如果你喜欢的话，计算机就是你思维的帮手。他一生致力于追寻这一梦想，但却没有成功，因为科技总是太粗糙、太愚蠢、太僵化。
如今，尽管有摩尔定律和它持续的效应，科技的发展却仍然如此。不过它正在慢慢变好。例如搜索引擎，有时候会成为一些人可利用的记忆工具。但它们仍然很愚蠢。所以我无法等到那一刻，我对着计算机说：“嘿，你认为哲学家罗伯特·诺齐克（Robert Nozick）对于国家发展的观点确实是在网络效应下的极端体现吗？”而它给予我相当于大学毕业生平均水平的回答。
呜呼！那一刻仍然很遥远。现在，当我说“布鲁诺·拉图尔”（Bruno Latour，哲学家、人类学家）的时候，我的听写软件却执意地认定为“种香蕉”（Banana till）（二者发音类似，不易区分）。但至少，当我要看天气预报时，智能手机上的个人助手App知道我想了解的是英国的剑桥市，而不是美国马萨诸塞州的坎布里奇。
但当我渴望的是一个能够充当个人助手，使我的工作更高效的机器时，智能机器着实一无是处。这意味着机器能够独立思考。那么，我如何知道科技水平何时可以发展到如此程度？这很容易，那就是：当我的人工智能个人助手能够找到貌似合理的借口，让我逃避掉自己不想做的事情时。
我应该被思维机器的前景所困扰吗？或许会吧。当然，尼克·波斯特洛姆认为我应该如此。他认为，我们专注于让计算机展现出人类水平的智能，是误入了歧途。我们把机器能够通过图灵测试认定为道格·恩格尔巴特所追求的终极目标。但波斯特洛姆认为图灵测试只是道路上的一个点，前方的道路可能更加令人担忧。他说：“火车可能并不在人类城市停靠甚至减速，它更可能从旁边疾驰而过。”他说得对，我应该小心自己的愿望了。
