弗兰克·维尔切克（Frank Wilczek）：2004年诺贝尔物理学奖共同获得者；MIT物理系赫尔曼·费什巴赫讲席教授；著有《一个美丽的问题》（A Beautiful tiful Question）
1.我们是人工智能
英国生物学家弗朗西斯·克里克（Francis Crick）称之为“惊人的假说”：意识，也称为心智，是物质的衍生属性。随着分子神经科学的顺利进展，以及计算机复制了越来越多的人类智能，这一假说似乎是真的。如果这是真的，那么所有的智能都是机器智能。区别自然智能和人工智能的方法不在于它是什么，而仅仅在于它是如何被创造的。
当然，这个小小的词语“仅仅”在这里起着举重若轻的作用。大脑是高度并行架构，会调动许多喧闹的模拟单元（即神经元）一齐发射。而绝大多数计算机是冯·诺依曼架构，它们利用更快的数字单元进行串行工作。然而这种区别从两端看都是难以区分的。神经网络架构是由硅制造的，大脑与外部数字器官可以进行更加无缝地互动。我已经感觉到，笔记本电脑就是我自身的扩展。它是一个视觉记忆和叙事记忆的存储库，一个通向外部世界的感官入口，以及我的数学消化系统的一大部分。
2.人工智能就是我们
人工智能不是外星人入侵的产物，它是特殊人类文化的产物，并反映了人类文化的价值。
3.理性是激情的奴隶
1738年，哲学家大卫·休谟提出了一个惊世骇俗的观点：“理性是激情的奴隶。”这远远早于现代人工智能出现的年代。当然，这意味着它适用于人类的理性和人类的激情（休谟频繁使用“passions”这个词来指“非理性的动机”）。但休谟的逻辑学和哲学观点仍然对人工智能有效。简单的表述是：驱动行为的是动机，而不是抽象的逻辑。
这就是为什么，我认为人工智能最令人害怕的是它们在自主军事实体中的表现——人造士兵、各种无人机以及人造“系统”。我们想灌输给这些实体的价值观是对危险的警觉以及打击敌人的技巧。但这些积极的价值观，稍有偏差就会坠入猜疑和侵略。如果没有详细的约束和足够的智慧，研究人员一觉醒来就会发现他们制造的军队变成了强大、聪明、恶毒的偏执狂。
与核武器不同的是，这里并没有清晰明确的警戒线。由动机驱动的强大的人工智能可能会在许多方面犯错误，但在我看来最可能的还是在军事方面。尤其是因为军队支配着大量的资源，对人工智能的研究投入了巨资，而且他们会被迫进行相互竞争（换句话说，他们将预见可能的威胁，并准备与之战斗）。
我们如何才能避免这种危险，并获得人工智能允诺的许多馈赠？我认为透明和公开讨论十分必要。维基百科和开源编程社区是鼓舞人心的开放性例子，是与之紧密相关的尝试。它们的成功表明，即便是非常复杂的开发项目，也可以在一个开放的环境中蓬勃发展。在那里，许多人对正在发生的事情保持着谨慎的观察态度，维护着共同的标准。
如果人工智能研究者们能够放弃秘密研究，这将会是人工智能领域重要的一步。'
