加里·克莱因（Gary Klein）：宏观认知有限责任公司（Macro Cognition）高级科学家；著有《如何作出正确的决策》（Sources of Power）
人工智能通常被作为工具来强化、拓展人类的思考力。系统的智能表现表明，人工智能能够而且即将打破这样一种“主仆关系”，那么将会出现一种怎样的新型关系呢？我们已经听到过许多像“超级智能可能会给人类带来灭顶之灾”这样的言论，这意味着未来人类和人工智能的关系是一种为统治权而相互竞争的关系。然而，还有另外一种可能的关系，即人工智能是我们的合作者，就像人类社会的合作关系。我们已经设法将狼驯化为忠诚的狗；或许，我们也能驯化人工智能，以避免一场为争夺统治权而发生的斗争。
不过，相比于仅仅制造运行速度更快、拥有更大存储量和更强大算法的机器，驯化人工智能将是一件更加困难的事情。我们以常用的制定路线的智能系统的使用为例。想象你正处于一片陌生之地，你使用了你最喜爱的GPS导航系统来帮助你找到出路，但不巧的是，它给你指了一条错误的路线。如果你的“指路人”是一位正在看地图的乘客，那么你会问“你确定吗”，或者直接以一种带有疑问的语调说：“要左转弯？”
然而，你无法去质疑你的GPS系统。这些系统以及一般意义上的人工智能都不能作出意义解释。它们不能以一种我们可以理解的方式描述它们的意图。它们不能站在我们的视角来决定到底什么样的陈述才能让我们满意。GPS系统不能传达它对路线选择的肯定性，对不同行走路线的时间差别，它给出的是一种概率性估计，而我们却想要它们给出选择路线的理由和确定性。从这个意义上看，在路线制定和其他许多事务上，人工智能不是一个优秀的伙伴。它只是工具，一种功能强大、对人有帮助的工具。但它不是一个合作者。
为了让人工智能成为我们的合作者，我们还有许多事要做。其中一个可能的出发点是让人工智能变得更为可靠和可信。现在比较流行的“相信自动化”概念的内涵对于我们的目标来说，太过狭隘了。相信自动化意味着，无须顾虑操作员是否相信自动化系统的输出、是否认为软件存在漏洞。战士们担忧依赖智能系统可能会被黑客攻击，因为他们不确定到底是系统的哪一部分受到了未经授权的指令的侵入，也不确定系统的其余部分受到了怎样的连带影响。
精准和可靠是合格合作者的两个重要特征，但“互信”更为重要。我们信任对方，是因为我们相信对方是善意的；因为我们能理解他们的想法，因而能为解决分歧达成共识；因为他们有正直的品性——勇于承认错误和接受批评；因为我们有共同的价值观，但这价值观不是毫无价值的价值优先级的排列训练，这要在双方具体的价值利益权衡中得到体现，也就是在我们有价值利益矛盾时，彼此能否达成双方一致的解决方案。人工智能要成为我们的合作者，我们必须能持续看到它是值得信赖的。站在人类合作者的角度看，我们必须能够判断在什么样的情形下，它们的表现是可信任的。如果人工智能系统能够走向这样一条大道，那么未来的人机统治之战的危机也就可以避免了。
还有一个需要考虑的问题。随着我们越来越依赖手机或者其他一些智能通信设备进行交流，有人开始担心我们的社交能力会被削弱。那些在社交网站上拥有大量粉丝的人可能会失去社会感和情感智能。他们可能会以一种机械的观点看待他人，把别人当作取乐工具。我们可以想象，未来的人类可能已经忘了何为信任，也忘了如何变得可信任。如果人工智能系统变得值得信赖，而人类则完全相反，那么让人工智能系统统治我们可能会是一个不错的结果。
