罗斯·安德森(Ross Anderson):剑桥大学计算机实验室信息安全工程教授;全球最重要的安全权威之一;安全经济学开创者;著有《信息安全工程》(Security Engineering)
即将到来的冲击并非来自会思考的机器,而是来自利用人工智能来增强人类知觉能力的机器。
数百万年来,后人看到我们使用的机器,与我们过去经常看到前人所使用的机器一样。我们拥有和对手几乎一样的眼睛,和对手几乎一样的镜像神经元。在任何特定的文化中,我们拥有几乎一样的信号机制和价值系统。所以,当我们试图欺骗别人或识破别人的欺骗时,我们处于一个公平的竞争环境。我可以稍作伪装,使我看起来更有男子气概,你可以在胸部涂满白色和赭石色泥条纹,使你看起来更可怕。文明使游戏更为复杂:我穿袖口有四个纽扣的剪裁讲究的外套来展现我的身份,而你则佩戴名牌手表来彰显你的财富。这种竞争游戏,对于我们新石器时代的祖先来说是完全可以理解的。
随着计算机在世界上各个角落的融入,什么正在变化?答案是,现在我们所有人都留下了数字痕迹,通过人工智能系统可以对其进行分析。剑桥大学心理学家迈克尔·科辛斯基(Michael Kosinski)表示,你的种族、智力水平和性取向都可以很快从你在社交网络上的行为中推导出来。平均而言,只需要4个“赞”就可以推断出你是异性恋还是同性恋。过去的男同性恋者可以选择是否穿公开性取向的T恤衫,而你现在只是不知道自己穿着什么。随着人工智能变得更强,大多数时候你都会显露出自己的真面目。
这就好像我们都在同一个森林里进化,这里的动物只能看见黑色和白色,这时来了一个能看见彩色的新捕食者。突然之间,你有一半的伪装都行不通了,而你并不知道是哪一半!
如果你是一个广告商,这对你来说就是一个重要时机,因为你可以计算出怎样可以花更少的钱。如今,人工智能还没有普及,但警察已经在工作中开始应用它。试问哪个警察不想拥有谷歌眼镜App,来标记有暴力记录的路人——或许还可以再加上W频段雷达来查看他们中的哪一个人正携带着武器呢?
下一个问题是,只有当局能够使用增强认知系统,还是所有人都可以?未来20年,我们都会戴上增强现实眼镜吗?权利关系将会如何?如果一名警察看见我的时候能看到我的逮捕记录,那我能够看到他是不是暴力申诉的对象吗?如果一个政客能看出我是某政党的支持者或是无党派人士,那我能看到他在我关心的3个问题上的投票记录吗?人们总是说不要担心携带武器的权利,而如今佩戴谷歌眼镜的权利又如何?
之后,知觉和认知将不再是人脑独有的能力。正如我们现在使用谷歌和互联网作为记忆假体一样,我们也将使用拥有数以百万计的机器和传感器的人工智能系统作为感知假体。但我们能相信它们吗?欺骗将不再是一个人对另一个人做的事情。政府将通过我们使用的认知增强工具来影响我们的知觉,广告主们会购入并售卖我们喜欢的东西。否则,谁会为这个系统埋单?