卢卡·德比亚塞（Luca de Biase）：新闻从业者；意大利《24小时太阳报》（Nova 24，Il Sole 24 Ore）编辑
1987年10月19日是个星期一。那天，一股源自中国香港地区横扫欧洲的证券抛售大潮袭击了纽约，最终导致道琼斯指数大跌22%。“黑色星期一”不只在金融史上最大的灾难中榜上有名，还包含了某种特殊的意义。根据多数学者的看法，应该把这场灾难的责任推到计算机的身上——这还是史上头一遭。当时的证券交易所中，各种程序算法决定着何时应该买入或卖出多少股票。这些计算机本应该帮助交易者最小化风险，但那天它们口径一致的抛售行为实际上却是在增加风险。尽管不断有关于停止计算机参与股票交易的讨论声音，但它们始终不曾退出舞台。
实际上恰恰相反。在2000年3月的互联网危机之后，计算机在金融市场中参与的复杂决策反而越来越多。今天，机器接手了人类难以处理的各种海量数据，负责从中找出关联。通过语意学习，它们分析着互联网上人们表达的情绪；它们通过识别重复模式，进而预判人们的行为；它们被授权自主权衡交易细节；它们还能制造新的机器人，即统称为“衍生性金融商品”的那些软件……然而没有一个理性的人类能跟得上这些软件的思路。
人工智能正在做的，其实是协调一种集体智慧，它的速度比人脑快千万倍，同时这些决策的结果与人类生活有着千丝万缕的联系。离我们最近的一次金融危机，苗头出现在2007年8月的美国，其恶劣影响甚至波及了欧洲乃至世界其他地方。由这些机器作出的决策，却让活着的人们付出了惨痛代价。《大而不倒》一书的作者安德鲁·索尔金（Andrew R.Sorkin）在这部著作中描述了如下场景：即便是最有权势的银行家，在危机发生时也会束手无策。这世上似乎没有一个人的大脑能够理解一系列事件的走向，并挽救最终的崩溃。那么，这个例子能否给我们一些启示，告诉我们应该如何看待这些会思考的机器？
实际上，这些机器在判断市场形势和作出交易决定的时候，是完全自主的。它们还控制着人们生活的方方面面。这是不是“后人类时代”到来的预兆呢？不是。这些机器沾满了人的气味，它们是由设计师、程序员、数学家、经济学家和证券经理集体参与制造出来的。那么，它们无论是好是坏，都只是人类发明的又一种工具而已吗？也不是。实际上，我们也有些许无奈，我们制造这些机器的时候没有考虑过后果，我们只是在遵循一种“叙事”而已。那些闯祸的机器，正是在这种几乎没人敢质疑的叙事之下被塑造出的。根据这种叙事，市场是分配各种资源的最佳方式，任何政策都无法改善这一前提；风险可以被控制、利润将无限制地增长；我们应该放任银行“自由发挥”……根据这种叙事，我们只有唯一一个衡量成功的标准：利润。
1929年的证券市场崩溃告诉我们：经济危机并不是机器们凭空发明出来的。但如果脱离了机器的辅助，没有人能够应付现代金融市场的错综复杂。我们拥有的那些最好的人工智能要归功于大手笔的投资和那些最杰出的头脑。它们并不被任何一个人类个体控制，也并不是由任何一个单独的个体设计的。它们是某种叙事的产物，也让那种叙事更加高效。这种特殊的叙事同时又十分狭隘。
假设只看重利润，那么其他一切都可以漠然对待了。文化、社会和环境因素，金融机构从来都不考虑这些。在这样的叙事下成长的人工智能，产生了一种毫无责任感的语境。这是正在崛起的风险：正因为那些机器如此强大又如此贴合叙事，导致现在无人敢质疑大局是否出了岔子，也很难再从不同角度审视一切了——直到下一场危机刺痛我们。
这样的故事很容易套用到其他领域中。在医药行业、电子商务行业、政治领域、广告业、国防领域，甚至社交平台上，同一类人工智能系统都在兴起。它们都被各自的狭隘叙事塑造着，都企图减少人们的责任，同时忽略各种“次要因素”。比如，医疗人工智能会做什么？塑造它的叙事是更关心救死扶伤，还是更关心省钱？我们从中学到了什么？我们明白了人工智能是人类，不是后人类，这些人类有很多方法可以毁灭自己和其所在的星球，人工智能甚至还不是最邪恶的那种。
会思考的机器是由人类思考的丰富与欠缺共同塑造的。所有叙事都有各自的关注点，有忽略其他一切的倾向。这些机器通过在特定语境中作出响应和寻找答案，不断地强化着叙事框架。因此，“提出基本问题”依然是人类应该承担的功能。实际上人们从未停止过发问，甚至是那些与主流叙事格格不入的问题。
在这个越来越复杂的世界中，人类只会越来越离不开这些会思考的机器。但它们都将被多个叙事共同塑造。在自然界的生态系统中，组成单一的系统固然高效，却十分脆弱；同样，在文化的生态系统中，过于单线条的思维也将在人类与其所处的环境间产生高效但脆弱的关系，无论他们创造出多了不起的人工智能。生态系统的多样性，以及人类历史中的多维度引发了各种问题，也因此带来了丰富的结果。
谈起会思考的机器，离不开对塑造它们的那些叙事的讨论。如果这些新叙事由一条开放、生态的方式产生，并在一个中性不偏激的网络中成长，它们就能以一种多元化、多样化的方式塑造未来的人工智能，并帮助人类理解这个世界的丰富多彩。人工智能作为一个物种不是在挑战人类，而是在挑战人类的文明。
注：索尔金通过《大而不倒》（Too Big to Fail）这部著作记录了一幅壮丽的史诗，通过一幕幕生动的场景描述，向读者客观而详尽地展现了金融危机发生之后美国主要监管机构和投行的众生相。该书在美国一经出版便赢得了市场和口碑，其中文简体字版已由湛庐文化策划出版。
