阿巴斯·拉扎（S.Abbas Raza）：3QuarksDaily.com网站创始编辑
关于人类将任由某种人工智能奴役或灭绝的流言被过度夸张了，因为他们假定，人工智能拥有和人类类似的目的驱动自主性。我认为，除了亲自经历完整的达尔文式自然选择和进化以外，再无其他任何方式能够让它们获得这种自主性。
目前制造人工智能主要有两种方式。第一种是写一组分头执行各种人类大脑功能的程序，再将它们整合。它们的效率与能力甚至会超过人脑；写程序时也无须了解大脑的运行机制，将不同功能的模组整合为一体即可。人类在这方面已经走了很远，并且已在某些领域获得了成功。例如，计算机下国际象棋的水平已经超越了人类。可能有人会想：如果我们再努把力，利用它们的悟性和内建知识，或许可以让机器完成更富创造性的工作，例如谱写出优美的音乐和诗篇。
但这种方法存在一个问题：我们给机器分配哪些能力的依据，却是亿万年的进化历程深植到我们本能（加上一点点后天学习）中的价值和约束。其中，有一些需求甚至是与最古老的生命形式共有的，包括之于生命最重要的生存和繁衍。没有了这些价值，我们根本不会存在，更不必说在活下来的基础上进化出恰到好处的与同类合作的情感。人类这种肩负着价值取向的情绪化一面有多重要，不用举太多例子，光是看看那些完全具有理智，但由于大脑情绪中心的损伤而无法融入社会的可怜人就知道了。
所以，人工智能会拥有什么样的价值观和情感呢？我们把所需要的价值观写进人工智能程序的时候，其实就已决定了这个人工智能“想”做什么，所以便不必担心它日后会萌生异心。我们可以轻松地让人工智能无法违抗人类发出的基本命令（有点儿“升级版阿西莫夫机器人三定律”的意味）。
创造人工智能的第二种方法需要详细解读人类大脑工作原理的细节。可以想象，有关大脑构造和概念层次的重大突破随时可能会引爆，正如沃森、克里克、富兰克林与威尔金发现DNA结构后，人类对遗传机制的理解忽然突飞猛进那样。届时，或许我们能在硅电路板或其他材料上以软硬件结合的方式模拟或复制大脑的功能结构。
乍一看，这可能是将人类历经磨难修炼得到的天资快速传授给智能机器人的一种简便方式，顺带着还把大脑的情绪中心和高级结构（如脑皮层等）的功能复制给机器人，让它们有了自己的价值观。但我们的大脑又高度适应身体各个感觉器官和运动器官，是为这些配合这些附属设备接受外界信息与作出反应而“量身打造”的。那相应的人工智能怎么办？就算这个人工智能同时拥有了复杂的身体结构和丰富的感知能力，它所面临的生存压力或许仍与人类大相径庭。通过与周围环境发生互动，人工智能可以实现一定程度的情绪调节功能。然而它若要发展出真正的自主思想和欲望，没有沧海桑田的进化历程、带有变异和自然选择元素的代代传承，仍然是不可能的。毕竟，我们现在讨论的是“人工智能”，不是“人工生命”。如此一来，第二种人工智能的价值观最终也不得不由人类进行选择性灌输。
可以想象，一些人会将智能机器人作为武器（或军队）投入战争对抗敌军，但这类机器人其实只是单纯执行创造者的意图而已。由于没有属于自己的意志或欲望，它们和一般武器没有本质差别，对多数人类并不构成威胁。因此，两条潜在的通向人工智能之路（不排除有其他方案，但最终实现哪些方案可能要以地质时间为单位了）都未能给予它目标导向的自主性，以及摆脱创造者指挥的自由。说起来，或许让它们拥有这种自由才是危险的。
