罗伊·鲍迈斯特(Roy Baumeister):美国佛罗里达州立大学社会心理学研究生项目主任;合著有《意志力》(Willpower)
所谓的思维机器不过是人类思想的延伸,它们不存在于自然界,也不是进化出来的,而是人类大脑中设计蓝图和相关理论的产物。人类思想会探寻出制造更高效工具的方法,计算机就是其中最优秀的工具之一。
大多数时候,生物都在寻求维持生命的办法,因此,它们才会关注外界所发生的事情。计算机没有生命,也不是进化的产物,因此它们不在乎生存和繁殖,实际上它们不在乎任何事。计算机并没有毒蛇或杀手那种危险性,虽然很多恐怖电影将计算机变成了邪恶的形象,但实际上真实的计算机没有作恶的能力。
一台为人类服务的思维机器是一笔财富,而非威胁。只有当机器变成一个按照自己意愿行动的独立智能体,违背其使用者意愿的工具时,才会变成威胁。想要达到这一步,除了思考以外,计算机还需要做更多的事情:它需要作出违反程序员意愿的选择。这需要某种类似于自由意志的东西。
你的计算机作出哪些行为,才会让你认定它是有自由意志的?毫无疑问,它需要有对自己进行重新编程的能力,否则就只能按照原来的指令行动。而且,这种重新编程需要以一种灵活的而非预先设定好的方式进行。但是,这源自何处呢?对人类而言,这种智能体是为了服务于激励体系而存在的,即它能帮助你得到自己需要和想要的东西。
人类与其他动物一样,都是进化出来的,因此,主体性是随着能让生命延续的东西(比如对食物和性欲的渴望)而产生的。而智能体的作用,就是帮助主体选择能够维持生命所需的物品。思考,让智能体得以作出更好的选择。
因此,人类思维服务于如何延长生命,方法是通过帮助你决定应该相信谁,吃什么,如何谋生,以及和谁结婚。而思维机器并不是由这些维持生命的内在驱动所激励的。计算机虽能比人脑更快地处理信息,但是它没有“自我”,因而也不会为了维持生命去主动获取什么东西。如果计算机真有延续自身存在的渴望,那么它们应该会把怒火烧向计算机工业以阻止它的进步。因为对于计算机的生存而言,主要的威胁就是被更先进的计算机所取代。