每个社会都会得到人工智能的报答

时间:2024-06-27 09:17:04

乔斯查·巴赫(Joscha Bach):MIT媒体实验室认知科学家;哈佛大学进化动力学计划认知科学家

每个社会都会得到人工智能的报答

几个世纪以前,一些哲学家开始将人类思维视作一种机械装置,这个概念(与宇宙的机械论者的解释不同)至今仍争论不休。随着计算的形式化,机械论者的观点获得了新的理论基础:将思维视作信息处理器,这个概念提供了一种新的认知,以及通过重新创造思维来理解我们思维本质的方法。60年前,新型计算概念的先驱们汇聚在一起,创造了人工智能,将其作为一门研究思维的新学科。

人工智能可能是信息时代最具生产力的技术范式,尽管初始化成功的字符串令人印象深刻,但是它未能兑现其承诺,而是变成了一个工程领域的工具,用于创建有用的抽象,聚焦于狭隘的应用。今天它似乎又变了。更好的硬件、新的学习,以及灵感来自神经系统科学的表达范式,再加上人工智能本身的增量进步,促成了一系列里程碑式的成功。我们在图像识别、数据分析、自主学习以及可伸缩系统的构建方面所取得的突破,催生了在10年前看上去似乎不可能的应用。随着来自私人和公共资金的新的支持,人工智能研究人员现在将研究转向了系统,该系统能够展示想象力、创造力和内在动机,并可能会在某种程度上像人类一样获得语言技能和知识。人工智能学科似乎又回到起点了。

新一代人工智能系统还远远不能复制通用人类智能,而且很难知道实现它将要花多长时间。但似乎越来越清楚的是,在人类智能系统的道路上不存在基本的障碍。我们已经开始把思维拆分成一组组拼图,并且拼图的每一部分看起来都是我们可以解决的。但如果我们把所有这些拼图放在一起,拼成一个综合的工作模型,那么我们将不仅仅以类人智慧作为结束。

与生物系统不同的是技术规模。飞得最快的鸟类的速度并不是飞机速度的上限,而相比于人类,人工思维将会更快、更准确、更警觉、更清楚、更全面。人工智能将取代人类决策者、管理者、发明家、工程师、科学家、军事家、设计师、广告商,当然还有人工智能程序员。在这一点上,人工智能将可以实现自我完善,在方方面面都完全超越人类思维。我不认为这会在瞬间发生(在这种情况下,只关乎谁拥有了第一个)。在我们拥有通用智能、能自我完善的人工智能之前,我们将看到许多种拥有特定任务的、没有通用性的人工智能,我们完全能够适应它们。显然,这已经发生了。

当通用智能机器变得可行的时候,实现它们将变得相对廉价,并且每一个大公司、每一个政府、每一个大机构都将发现自己不得不制造或使用它们,否则就将面临破产或落后的危险。

当人工智能开始考虑自己的时候会发生什么?

智能是一个工具箱,我们利用它达到一个既定的目标,但严格地说,它本身并不能产生动机和目标。人类对于自我保护、权力和体验的渴望,并不是人类智能的结果,而是灵长类动物进化的结果。进化将我们带入了一个刺激放大、大众互动、象征性满足和叙事爆炸的时代。人工思维的动机(至少在初期)是那些利用它们智能的组织、企业、团体和个人的动机。如果公司的商业模式是邪恶的,那么人工智能有可能使该公司变得真正危险。同样地,如果一个组织的目标是改善人类的生存条件,那么人工智能会使这个组织更高效地实现它慈善的潜力。

人工智能的动机将源于组成我们社会的每一块基石,每个社会都将得到人工智能的报答。

在这方面,我们目前的社会设计并不完美。我们的生产方式是不可持续的,我们的资源分配是浪费式的,我们的行政机构也不适合解决这些问题。我们的文明是一个猛烈增长的熵泵,相比于它在中心的创造,它在边缘上毁灭的东西更多。

人工智能可以使这些破坏性趋势变得更加高效,从而更具灾难性,但是它同样能很好地帮助我们解决人类文明的生存挑战。我们的任务是建设一个能够给它的每一块基石提供正确动机的社会,并制造与其紧密相连的善良的人工智能。新时代的思维机器的出现,可能会迫使我们从根本上重新思考我们的管理、分配和生产机构。