如何思考会思考的机器

时间:2024-06-27 09:35:06

安德里斯·罗米尔(Andrés Roemer):外交官,经济学家,剧作家;合著有《上升》(Move Up)

如何思考会思考的机器

为了回答“如何思考会思考的机器”这一问题,我们先得稍微了解一下我们到底是谁。所以,让我们先谈谈我们最重要的器官——大脑。这个复杂结构可以被简化为三个部分:新皮质(负责理性思考过程);边缘系统(支持的功能包括情绪和动机);爬行动物脑(人类最根本的原始动机、求生本能和繁殖本能就在这里)。

对思维机器的争论主要集中于大脑的新皮质和边缘系统。新皮质让我们更精确地评估人工智能带来的成本和收益,对比人类与机器劳动力之间的相对成本,以及人力资本与数字资本的相对价值。同样,我们也能以这种方式思考生物技术、隐私和国土安全。新皮质还能让我们去计划、吸引更多的研发资金,定义公共政策的优先级。

边缘系统可以帮助我们采取预防措施,将发展人工智能会带来的风险或机会反映为恐惧或激动。技术万能派或技术恐惧派都只是直接的情绪反应。常见的恐惧包括,人类被机器操控或取代;而机会在于,机器会扩展我们的记忆力,并为我们的日常生活提供便利。

爬行动物脑在我们的思考中发挥着重要作用,甚至是主导性的作用。这就意味着要关注我们最原始的反应,以及我们在思考机器、机器人、智能、人工、自然思考和人类等概念时,最私密和情绪化的方式。爬行动物脑主要关注的是生存,尽管我们对于生存提到得不多,但是生存本能是我们对思维机器产生期待或恐惧的核心原因。如果我们研究过去的文献,以及反映在Edge年度问题里的争议,一种下意识的本能就会反复出现:爬行动物脑的两大元素,即死亡与不朽。

我们对死亡的恐惧隐藏在这种集体想象的背后。我们会想象,在思考上超越人类的机器人将不断复制,反抗并毁灭其造物主。这种机器代表着最令人恐惧的危险——毁灭与人有关的一切。但爬行动物脑也看到了救世主,我们希望超级智能让我们永生和永葆青春。在英文里,“机器人”和“机器”这两个词是不分性别的;而拉丁语系和德语则有这种区别:“机器人”(el robot)这个词是阳性的、有危险的和令人恐惧的,而“机器”(la máquina)这个词则是阴性的、关切保护的、有慈悲心的。

哲学家边沁将人类定义为理性动物,但我们知道自己并不理性。由于爬行动物脑的巨大作用,几乎所有人都会非理性地思考和行动,在智能的进化过程中,爬行动物脑也一直保持着核心地位。感知对思考是最有意义的。机器的数据处理能力每18个月就会呈现出指数级增长,在国际象棋比赛中,它们可以从不计其数的选项中选择着法击败人类;它们能够精确地诊断疾病,但这并非思考的含义。为了实现思维机器的梦想,它们必须理解并质疑价值,遭遇内心的冲突,体验亲密关系。

当思考思维机器时,我们应该问自己的爬行动物脑一些问题,比如,你会为了一台机器牺牲自己的生命吗?你会让一个机器人做政治领袖吗?你会嫉妒机器吗?你会缴税来维持机器人的幸福吗?你会在你机器人的墓碑前放一束郁金香吗?或者,更重要的是,我的机器人会在我的墓碑前放一束郁金香吗?

感谢爬行动物脑在思考思维机器时,帮助我们更清晰地思考机器的潜在后果及其本质,以及我们应该追求何种人工智能。如果我们的生物性把文化设计成生存和进化的工具,那么现在,我们的自然智能应该引导我们去创造拥有感知本能的机器。只有这样,永生才会战胜死亡。