智能的铁律

时间:2024-06-27 09:59:06

John Tooby--约翰·托比:进化心理学创始人:加州大学圣芭芭拉分校进化心理学中心联席主任和人类学家

智能的铁律

巧的是,我自己就是一台会思考的机器,我将给你们分享这一特别的感受。除去残留的形而上学的反对意见:我们知道,像人类一样会思考的机器是可能的,它们进入人类视野已经上千年了。如果我们现在想要制造类人智能,那么理解已有的类人智能将是非常有用的,也就是说,我们需要抽取构成人脑计算机制的进化程序的特征。

进化不仅给人类装备了各种技巧、攻略和启迪,研究这些装备还让我们知道了通往真正的人工智能之路上的那些看不见的壁垒:智能的铁律。更确切地说,例如当我们考虑一个家长和孩子时,似乎不言自明的是,智能就是各种生物或多或少拥有的单一实质,而更高级的智能知道低级智能知道的所有事情。这一错觉导致研究者认为,通往增强智能的康庄大道就是:只要增加更多清晰的、同质的(但难以被确定)智能基质——更多神经元、晶体管、神经形态芯片之类的东西就可以。就像有人会说:“数量自有其质量。”

为了绘制已有的智能地图,很难强行去除这一本能直觉。但是正相反,智能的铁律规定:让你在一件事情上智能的程序,会让你在其他事情上表现得很愚蠢。这一铁律传达的坏消息是:对于通用智能,没有可以主导一切的算法等着你去发现。或者说,当晶体管、神经形态芯片或网络连接的贝叶斯服务器数量足够多的时候,通用智能就会自动出现。而好消息是,它告诉了我们智能实际上是如何被设计出来的:通过白痴学者。智能的发展是通过把性质不同的各种程序添加在一起,形成一种更大的神经生物多样性。

每一个程序在其专有领域内都有特殊的天赋,这些专有领域可以是空间关系、情绪表达、扩散、对对象的力学分析、时间序列分析。以一种半互补的方式把不同的白痴学者捆绑在一起,该区域内的群体智能会增加,而群体白痴程度会降低(但永远不会消失)。

宇宙何其广袤,充满了不可限量的丰富结构,相比之下,人脑(或计算机)则是无穷小的。为了缓和这种规模差异,进化筛选出了一些技巧,它们小到足够适应人脑,又能产生巨大的推理收益,这些技巧表现为各种超级有效的压缩算法(当然,这些算法不可避免地也会受损,因为有效压缩的关键正在于几乎把一切都抛弃掉)。

这一指向人工智能和生物智能的铁律揭示出了一个不同的工程学问题集。比如,架构需要把智能放在一起,而不是把白痴放在一起,所以这个架构所需的每一个白痴(以及白痴的联合)需要去识别问题的范围,从而激活相应的程序(或链接),使结果变得更好而非更坏。因为不同的程序通常各有其特定的数据结构,整合不同白痴的信息,需要构建共同的格式、交互界面和翻译协议。

此外,程序优先级相互一致的规则并不容易设计。就像去攀登一座悬崖,再蠢的人也不会只爬到半山腰,仅仅是为了体验一下恐惧时的矛盾和求生本能,而是要想办法如何真正攀登上去。

进化破解了这些难题,因为神经系统的程序像网络系统那样,永远会被自然选择评估。正如“现代概率论之父”安德烈·柯尔莫哥洛夫(Andrey Kolmogorov)所说:“能够接收、存储并处理信息的系统就可以用来控制。”为了控制行动而自然涌现的智能,对于理解其本质及其与人工智能的差异极为重要。也就是说,在特定的任务环境中,神经系统的程序根据其特定的目的而进化;这些程序作为捆绑在一起的整体被评估;并且被并入到其行为规范可以产生后代的程度(为了生存,它们并不需要进化出解决所有可能的假想问题集的能力,尽管依然有人工智能实验室被这个不可能的目的所诱惑)。

这也意味着,进化只开发出了所有可能程序中的一小部分特殊子集;除了召唤无限丰富的新的白痴学者,等待被构想并建造以外。这些智能能够根据不同的原则运转,能够捕捉到先前未被觉察到的关系(我们无法知晓它们的思维方式会变得多奇怪)。

我们生活在一个时代的转折点上,这是精心设计智能浪潮的开端:在这里,我们努力在各个方向上去增强各种智能,并把它们整合起来,组成一个可以相互理解的集合。如同我们人类之间相互协作的集合,开发出无人性的白痴学者的集合是很令人兴奋的,可以用不同的思维去解决各种问题,这些思维由进化得到的天赋与盲点相互交织而成,为集合所利用。

人工智能需要什么?它们是否危险?像我们一样,动物是能够有动机地采取行动的智能(motivated intelligences capable of taking actions, MICTAs)。时间允许

我们可以把它们从佛陀(没有欲望、没有痛苦、被动思考的智慧尊者)转化成MICTAs——拥有欲望,并能积极行动。但是,这样也会导致理智的丧失,人类总是对各种相左的欲望卑躬屈膝。所以,可以预见的危险并非来自人工智能,而是来自被掠夺性程序占领心智的人类,他们急于发展日益强大的军事技术(包括计算技术),以在毁灭性的冲突中获胜。