昆丁·哈迪（Quentin Hardy）：《纽约时报》科技版副主编；加州大学伯克利分校信息学院讲师
在中世纪的神奇与未知之地里，曾栖息着各种各样的生物。它们在八卦和带有影射性的虚构文学作品中是不错的故事素材：脸长在身体上的无头人，人与动物混合的半狗人或半狮人。这些都是对于未知生命的希望和恐惧。今天，就让我们来想象一下有意识的机器。
除了自我意识，假想的人工智能怪兽掌握了计算和预测、独立思考等能力，并掌握了其人类创造者所学的所有知识。悲观主义者害怕这些机器会盯着我们，并批准关于人类的死亡判决；乐观主义者希望这些思维机器对人类是友善的、富有启发性的，而且是会安慰人的。
上述两个版本的畅想，都不能说明独立的人工智能会成为现实。但这并不意味着它们是无趣的。老水手的地图是在原始航海技术的年代绘制而成的。我们正开始探索一个完全被计算迷住的世界。人工智能岛上的生物融合了人类和机器，但与人和动物混合的结局相同：如果它们会唱歌，那么它们唱的也是人类的歌。
当我们谈论可能会盯着人类并想杀死人类，或前所未有地照亮我们的“智能”的时候，我们指的是什么？显然，我们想知道的东西完全超出了机器在国际象棋比赛中获胜的意义。我们拥有了其中一台机器，除了一个新的理由去庆祝深蓝创造了高超的人类智慧外，世界上没有明显的变化发生。人工智能岛上的生物做的事情比击败卡斯帕罗夫有趣得多。它们想要下象棋。它们知道精神刺激的快感，知道被对手折磨的感觉，知道通过下棋来打发无聊的时间。这使得我们需要将只有一次有限生命的意识编码到软件中，这在某种程度上对一些难以捉摸的个体有很重大的影响。由于缺少了某些刺激（或许是下棋），它几乎会发疯，甚至会杀人。
像我们一样，人工智能岛的美妙生物想要弄清楚自己并评判别人。它们拥有我们与其他现实之间细微的差距，这是一个我们坚信其他动物无法察觉的差距。类人的智能知道这是感知能力，它感到一些不妥当，并不断尝试做与之相关的一些事情。
随着这类软件自身的不断挑战，以及即将来临的技术驱动对人类的威胁，为什么还要担心恶意的人工智能？在接下来的至少几十年中，显然我们受跨物种瘟疫、极端的资源消耗、全球变暖、核战争的威胁更大。这就是为什么恶意的人工智能会上升为我们普罗米修斯式的恐惧。这是人类理性到达极致的表现，并自信地杀死了我们自己。
友善的人工智能的梦想同样需要自我反思。这些机器伙伴拥有转向支持它们的创造者的超级智能。鉴于自主性隐含在高水平的人工智能中，我们必须认为这些新生物对我们感兴趣。请思考，恶意的人工智能同样也对我们感兴趣，只是用了错误的方法。
这两个版本的怪兽都反映了更深刻的真相，这是重新探索计算机魔法世界对我们产生的影响。通过用计算机增强我们自己，我们正在变成新的生物。如果你回首，你会像看待怪物一样看以前的自己。
在过去的5万年里，我们已经多次改变了自己的意识，从信仰来世或一神论的思想，到进入印刷文明，再到成为一种很好地意识到自己是生活在宇宙中的一粒微尘的物种。但我们从未如此迅速地改变，或拥有能够承担改变的那些知识。
请思考仅仅在过去10年中的影响。我们利用即时通信突破了许多时间和空间的历史性障碍。语言再也无法把我们分开，因为计算机翻译与图像共享变得日益强大。开源技术与互联网搜索赋予了我们集体工作的鲜为人知的强大能力。除了积极方面，隐私的消失和对人类行为的追踪可以更好地控制人类的行动和欲望。我们自愿服从于一种前所未有的社会关系，它看似平凡，却可以使所有对于孤独和个性的观点都不复存在。经济学的观点正在机器人和共享经济的幌子下发生着改变。
我们正在建造新的智能生物，但是我们正在从自己内部建造它们。因为它是新的，所以现在仅仅是人工的。未来，当它占据主导地位时，它会轻松地实现智能。人工智能岛的机器也是我们或我们之后的几代人所害怕的。我们希望这些机器驱动人和我们在一起时会感觉到亲切感，甚至能深刻地感觉到我们内心的孤独，这也是我们人类创造力的源泉。
我们已经遇到了人工智能，它就是我们。在人类永无止境的不安中，我们渴望超越，但我们不想改变太多。
