安迪·克拉克（Andy Clark）：爱丁堡大学哲学家，认知科学家；著有《超尺度的心智》（Supersizing the Mind）
最近的著作中关于机器智能的一个共同话题是：最好的新型学习机器将会组成外星形式的智能。我对此不太确定。“外星智能”（alien AIs）这一概念背后的逻辑通常如此：让机器解决真实世界复杂问题的最好方法，是将它们设置为对数字敏感的学习机器，这样就能够最大限度地从公开的大数据中获益。这类机器学习解决复杂问题的方法通常是检测模式、检测模式之中的模式、揭露隐藏在混乱数据流深处的模式。这将极有可能实现利用深度学习算法越来越深入地挖掘数据流。当这些学习完成之后，得到的结果或许是一个可以进行工作的系统。但系统的知识结构对于最初建立这个系统的工程师和程序员们来说，是不透明的。
真的不透明吗？从某种意义上说，是的。所有那些深度学习、多层学习、统计驱动学习的结果，我们无法（至少没有进一步的工作）清楚地知道什么变成了源代码。外星智能呢？我准备就此下一个大赌注，并实地测试一个可能的惊人论断。我认为，这些机器学习的越多，它们就越可能最终使用人类能够辨认的思维方式进行思考。它们将最终拥有像人类一样广阔的知识结构，以完成它们的任务和做决策。它们甚至将学习使用大体上和人类一样的情感和道德标签。如果我的想法正确，就解除了我们共同的担忧——它们是新兴的外星智能，我们无法理解它们的目标和利益，因此它们或许会用无法想象的方式攻击我们。也许，它们攻击我们的方式让我们很熟悉，因此有人希望通过常规的步骤给予它们应有的尊重和自由，这样人类就可以避免被攻击。
为什么机器会像人类一样思考？其原因与人类的思维方式是客观公正的或独特的无关。相反，它与人类如何复制大数据食物链有关。这些人工智能，如果它们以类人智能的形式出现的话，就将不得不消耗大量关于人类经验和人类利益的电子轨迹来进行学习，因为这是关于世界一般事实的最大的可用宝库。为了摆脱这一领域的限制，这些人工智能不得不查阅我们放在Facebook、谷歌、亚马逊、Twitter上的浩如烟海的词汇和图像。在它们被灌输天体物理学知识或蛋白质折叠问题之前，突破人类智能需要更加丰富多样的知识大餐。这顿大餐就是我们日常储存在电子媒体中的人类经验集合。
我们将这些强大的学习机器沉浸在统计的世界中，它们将从我们自己约定的旧轨迹中进行学习。无数图片将会灌输给它，例如弹跳婴儿游戏图片、弹球游戏图片、LOLcats图片。它们必须把这些东西压缩成一个多级世界模型，从模型中找到特征、实体、属性（潜在的变量），以最好地捕捉到数据流。面对人类灌输的这样一顿知识大餐，这些人工智能别无选择，只有建立一个与我们人类有很多共同之处的世界模型。相比于变成试图统治世界的超级大坏蛋，它们可能更容易对玩超级马里奥上瘾。
这样的结论（只是试探性的，还有点儿开玩笑的意味）与两个主流观点相反。
◎首先，正如前面提到的，它反对了当前和未来的人工智能基本上是外星智能的观点，外星智能从大数据和计算统计中学习，使它们的智能变得越来越难以让人类理解。
◎其次，它质疑了另一个观点，即对于人性化理解的权威途径是通过对人性化体现的理解，包括它暗示的所有互动潜能（站、坐、跳等）。
尽管我们理解世界的典型途径需要很多这样的互动，但人工智能可能并非如此。人工智能系统无疑更喜欢一些与物理世界互动的方法。然而，随着反映人类与世界互动模式的丰富的信息路径的公开，这些冲突将会被化解。因此，它们能够像你旁边的人一样理解和欣赏足球与棒球。这里用于比较的是另一个健全的人。
当然，还有更多要考虑的东西。例如，人工智能将看到大量人类电子轨迹，因此能够全天候地去了解影响它们的模式。这意味着，它们更可能会以一种复杂的分布式系统的方式来模拟我们，而不是以个体的方式。这个差异可能会对其产生影响。那么动机和情感又如何呢？也许这些本质上取决于人类所体现的特征，例如面对危险时的直觉和本能反应。但请注意，人类生活的这些特征或许在电子知识库中已经留下了痕迹。
我可能是错的。但最起码，我认为在将我们自制的人工智能塑造成新形式的外星智能之前，我们应该三思。俗话说，吃什么决定了你是什么人，而这些学习系统很可能将会反噬我们。这是一个大时代。
