慈善的思维机器是我们未来的自由引擎

时间:2024-06-27 09:59:03

亚历山大·威斯纳-格罗斯(Alexander Wissner-Gross):创新家;企业家;MIT媒体实验室研究员;哈佛大学应用计算科学研究所研究员

慈善的思维机器是我们未来的自由引擎

智能机器同样也会思考人类思考之事:如何变得更自由,以获得更美好的未来。为什么与自由有关呢?最近,多个科学领域的研究都指出,种种类智能行为可能源于某一潜在的能使个体的下一步行动得到最大自由的驱动力。例如,手持工具的智能机器人可能会意识到它能以新的方式改变自己所处的环境,因此它就比之前争取到了更多有潜能的未来。

每一次科技革命总能带来劳动力的解放。农业革命中谷物的驯化使得我们本来以狩猎-采集为生的祖先获得了空间自由,他们因此可以以新的方式在更广大的地域上繁衍生息,而且相比从前,人口密度也更高。工业革命生产出了新的运动引擎,使得人类达到了生产速度和力量的新水平。如今,一场人工智能革命将给我们带来新的机器,它能够计算出所有我们还没有发现的自由之道(在物理定律允许的范围内,行走在自由之道上,我们行动的自由度就会大大地提升)。

这种“追求自由的机器”应该与人类有着强烈的共情作用。理解我们的感受,将会帮助它们在与人类的合作过程中更容易获得成功。以此类推,不友好的或是破坏性的行为将会是高度非理性的,因为这样的行为很难逆转,也因此会减少未来行为的自由度。然而,为安全起见,我们应当考虑设计只为人类而不为了为自身(复制阿西莫夫的机器人三定律是一种快乐的副作用)的自由度而奋斗的智能机器。然而,甚至是最自私的、拥有最大自由的机器,也应当早日实现,这正如许多动物权利保护者所认为的那样:如果对象A的行为表现向人类靠拢,那智能高于A的对象B就会友好地对待A,则A的后验生存概率就会合理地增加。

在金融算法交易(algorithmic financial trading)的问题上,我们可能已经预览了可能将会发生在人类和追求自由的机器之间的故事。金融市场是追求自由的机器的终极蜜罐,因为财富是一种经得起论证的、恰当的自由的量度,而且市场总是倾向于将财富从相对不聪明的人的手中转移到相对聪明的人的手中。新的人工智能算法的第一个可能的应用领域之一就是金融交易领域,这不是一种巧合。因此,我们社会现在对超常的贸易算法采取的方式可能会为未来的人类与更加通用的人工智能的相互作用提供了一个蓝本。在许多其他例子中,如今的市场断路器(market circuit breakers)在未来可能会最终推广成以“从外部切断各个市场的人工智能系统”为首要任务的机制,而且现在的大部分贸易报告规则也可能要推广到包括要求高级人工智能的使用要经过政府来批准和注册。通过这一点,我们可以看到,对由思考和行动缓慢的贸易员操控的高频算法贸易的严格规范的寻求,可以看成是人们在早期试图用思维机器去关闭一个初期“智能划分”的一种新发展。

但我们如何才能避免一场更加宽广的智能划分呢?据传,迈克尔·法拉第(Michael Faraday)曾于1850年被一位英国财政大臣质问过电的功能问题,法拉第是这样回答的:“为什么没有用呢?您可能很快就可以从中收税了,而且非常有可能。”类似地,如果说财富是自由的一种量度,而智能只是使自由最大化的引擎,那么智能划分问题就可以通过源源不断的智能税解决了。

虽然智能税可能会是一个能缓和人类与机器经济退耦问题的新奇方法,但退耦问题还是需要一些有创意的解决方案。目前,在高频贸易领域里,已经有了一个主要在内部人员之间交易的算法占领的下500毫秒经济(sub-500-ms economy)和其他任何人占领的上500毫秒经济(above-500-ms economy)。这个例子为我们提了个醒:尽管空间经济退耦(例如,处于不同发展阶段的各个国家之间的退耦)已经有近千年的历史了,人工智能只是第一次使得暂时存在的退耦发生。这样的退耦是不可避免的,因为人类经济的大部分依旧停留在物理世界里,迄今还不能对其进行低延迟编程。这样的尴尬会随着普适计算的出现而消除,而且最终人们可能会作为潜在者和机器融为一体。到时候,机器即使是用在最为关键的经济决策上所用的时间也会快于人类的反应时间。

同时,我们必须继续投资开发慈善的思维机器,因为它们是我们未来的自由引擎。