乔斯查·巴赫（Joscha Bach）：MIT媒体实验室认知科学家；哈佛大学进化动力学计划认知科学家
几个世纪以前，一些哲学家开始将人类思维视作一种机械装置，这个概念（与宇宙的机械论者的解释不同）至今仍争论不休。随着计算的形式化，机械论者的观点获得了新的理论基础：将思维视作信息处理器，这个概念提供了一种新的认知，以及通过重新创造思维来理解我们思维本质的方法。60年前，新型计算概念的先驱们汇聚在一起，创造了人工智能，将其作为一门研究思维的新学科。
人工智能可能是信息时代最具生产力的技术范式，尽管初始化成功的字符串令人印象深刻，但是它未能兑现其承诺，而是变成了一个工程领域的工具，用于创建有用的抽象，聚焦于狭隘的应用。今天它似乎又变了。更好的硬件、新的学习，以及灵感来自神经系统科学的表达范式，再加上人工智能本身的增量进步，促成了一系列里程碑式的成功。我们在图像识别、数据分析、自主学习以及可伸缩系统的构建方面所取得的突破，催生了在10年前看上去似乎不可能的应用。随着来自私人和公共资金的新的支持，人工智能研究人员现在将研究转向了系统，该系统能够展示想象力、创造力和内在动机，并可能会在某种程度上像人类一样获得语言技能和知识。人工智能学科似乎又回到起点了。
新一代人工智能系统还远远不能复制通用人类智能，而且很难知道实现它将要花多长时间。但似乎越来越清楚的是，在人类智能系统的道路上不存在基本的障碍。我们已经开始把思维拆分成一组组拼图，并且拼图的每一部分看起来都是我们可以解决的。但如果我们把所有这些拼图放在一起，拼成一个综合的工作模型，那么我们将不仅仅以类人智慧作为结束。
与生物系统不同的是技术规模。飞得最快的鸟类的速度并不是飞机速度的上限，而相比于人类，人工思维将会更快、更准确、更警觉、更清楚、更全面。人工智能将取代人类决策者、管理者、发明家、工程师、科学家、军事家、设计师、广告商，当然还有人工智能程序员。在这一点上，人工智能将可以实现自我完善，在方方面面都完全超越人类思维。我不认为这会在瞬间发生（在这种情况下，只关乎谁拥有了第一个）。在我们拥有通用智能、能自我完善的人工智能之前，我们将看到许多种拥有特定任务的、没有通用性的人工智能，我们完全能够适应它们。显然，这已经发生了。
当通用智能机器变得可行的时候，实现它们将变得相对廉价，并且每一个大公司、每一个政府、每一个大机构都将发现自己不得不制造或使用它们，否则就将面临破产或落后的危险。
当人工智能开始考虑自己的时候会发生什么？
智能是一个工具箱，我们利用它达到一个既定的目标，但严格地说，它本身并不能产生动机和目标。人类对于自我保护、权力和体验的渴望，并不是人类智能的结果，而是灵长类动物进化的结果。进化将我们带入了一个刺激放大、大众互动、象征性满足和叙事爆炸的时代。人工思维的动机（至少在初期）是那些利用它们智能的组织、企业、团体和个人的动机。如果公司的商业模式是邪恶的，那么人工智能有可能使该公司变得真正危险。同样地，如果一个组织的目标是改善人类的生存条件，那么人工智能会使这个组织更高效地实现它慈善的潜力。
人工智能的动机将源于组成我们社会的每一块基石，每个社会都将得到人工智能的报答。
在这方面，我们目前的社会设计并不完美。我们的生产方式是不可持续的，我们的资源分配是浪费式的，我们的行政机构也不适合解决这些问题。我们的文明是一个猛烈增长的熵泵，相比于它在中心的创造，它在边缘上毁灭的东西更多。
人工智能可以使这些破坏性趋势变得更加高效，从而更具灾难性，但是它同样能很好地帮助我们解决人类文明的生存挑战。我们的任务是建设一个能够给它的每一块基石提供正确动机的社会，并制造与其紧密相连的善良的人工智能。新时代的思维机器的出现，可能会迫使我们从根本上重新思考我们的管理、分配和生产机构。
