托马斯·梅青格尔（Thomas Metzinger）：美因茨大学哲学教授；著有《自我的隧道》（The Ego Tunnel）
人类思维之所以有效，正因为我们经历了很多痛苦。高水平认知是一回事儿，内在动机是另一回事儿。人工智能也许很快会变得比我们更有效率，但是它会遭受和我们一样的痛苦吗？对于任何值得探讨的后生物智能而言，遭受痛苦必须是其中的一部分吗？又或者说，负面现象只是我们进化过程的一个偶然特征吗？人类拥有脆弱的身躯，却诞生在一个危险的社会环境里，处在一场否认自己必死命运的持续不断的艰苦战斗中。我们的大脑在一直降低不祥事件出现的可能性。我们聪明，是因为我们受过伤害，因为我们会后悔，因为我们一直挣扎着以找到一些可行的方式，来自我欺骗或获得永生。问题在于，优秀的人工智能是否也需要脆弱的硬件、不安全的环境，以及短暂性的内在冲突？当然在某种意义上，这就是思维机器！但是它们自己的想法与它们有关吗？为什么它们必须对自己的想法感兴趣？
我十分反对冒险建造一台会遭受痛苦的机器。但就像是一个思想实验，如果要建造的话，我们该怎么做？遭受痛苦是一个现象学概念。只有有意识体验的生物才能遭受痛苦（把这个必要条件称作条件1，C[conscious，意识]条件）。僵尸和处于深度睡眠状态下的、昏迷的或麻醉状态下的人不会有什么痛苦，就像是可能存在的人或未出生的人也不会。机器人和其他人造生物体可能有痛苦，但只有当它们拥有现象学状态，只有运行在包括存在的窗口的这样一种完整的本体论条件下才可能。条件2是PSM（phenomenal self-model，现象学自我模型）条件：拥有现象学自我模型。为什么要这样？遭受痛苦最重要的现象学特征是对所有权的感知，这是一种不可言传的主观感受，是正在遭受痛苦的我正在面对自己的痛苦。痛苦本身预设了自我意识。只有拥有PSM的意识系统才可以遭受痛苦，因为只有它们——通过功能和表征上的计算过程把一些负面状态整合进他们的PSM，才能占用一些现象学层次的特定内在状态的内容。
从概念上来看，痛苦的本质在于这样一个事实：意识系统被迫要去认同负面心理效价的状态，而且不能打破这个认同，或者在功能上与这个表象内容相背离。当然，痛苦本身有很多不同层面和现象学面貌，但是这种现象学认同（phenomenology of identification）很重要。这个系统的目的是要终止作为自身状态的体验，这个自身状态限制了系统的自主，因为系统不能有效地远离它。如果你明白了这一点，就会看到为什么通过生物进化来“创造”意识上的痛苦是如此有效——而且（创造者是一个人），这不仅是革命性的，而且是一个阴险残酷的想法。
很明显，现象学中的所有权不是感受到痛苦的充分条件。我们可以轻易构想出没有痛苦的、有自我意识的生物。痛苦还导致了NV（negative valence，负面心理效价）条件。通过将表征为负价的各种状态整合到给定系统中的PSM中，痛苦被创造出来。因此负面偏好变成了负的主观偏好——例如，某人自身偏好的意识表征一直受到（或将受到）阻挠。这意味着人工智能系统必须充分理解那些偏好是什么。如果这个系统不想再次经历当前的意识体验，必然想要结束它，这就足够了。
请注意，现象学中的痛苦有很多特点，人工智能的痛苦可能和人类的痛苦大不相同。例如，对物理硬件的损害会表征为与人脑格格不入的内在的数据格式，为身体痛苦状态生成一种主观经验的定性轮廓，对于像我们这样的生物系统来说，这是难以模仿，甚至难以想象的。或者说，高水平认知所伴随的现象特征或许超越了人类的共鸣和理解能力。例如，理智地洞察到个体的偏好所遭受的挫折或对造物者的轻蔑，或者洞察到把个体存在当作自我意识机器的荒谬。
还有一个条件T（transparency，透明）。透明不仅是一个视觉隐喻，也是哲学里的一个技术性概念，可以有很多用途和特点。我现在考虑现象学中的透明，某些（但不是所有）意识状态拥有这个特点，但所有无意识状态都没有这个特点。要点很简单：透明的现象状态使得其内容具有不容否认的真实性，就像是你无法否认存在的事物。更准确地说，你可以对其存在产生认知上的疑惑，但是根据主观经验，这个现象学的内容是关于痛苦的可怕性，事实上这是你自己的痛苦——不是你可以摆脱的事物。透明的现象学意义就是直接的现实主义的现象学。
所以，我们对痛苦的最简概念的构想由上述四个必要的基石构成：C条件、PSM条件、NV条件和T条件。任何满足这四个认知约束的系统都应该被视作伦理思考的对象，因为我们不知道这四个条件是否构成了全部的充分必要条件；出于审慎的考虑，我们在伦理道德上必须慎之又慎。我们也必须能够判断某个人工系统是否在遭受痛苦的方式，或者说未来是否可能创造出这种能力。
但是从定义上来看，任何智能系统——生物的、人造的或后生物的，只要不满足这四个必要条件中的任何一个条件，就算是没有遭受痛苦的能力。让我们参考四个最简单的可能性：
◎没有意识的机器人，没有遭受痛苦的能力；
◎有意识但没有连贯PSM的机器人，没有遭受痛苦的能力；
◎有自我意识、没有产生负面心理效价状态的能力的机器人，没有遭受痛苦的能力；
◎有意识、没有任何透明现象学状态的机器人，没有遭受痛苦能力，因为它缺少现象学中的所有权和认同感。
经常有人问我，我们能否创造出有自我意识的机器，它既拥有出色的智能，又无须遭受痛苦。事实上，怎么可能有不关心存在性的真实智能呢？
