安东尼·里斯（Antony Garrett Lisi）：理论物理学家
随着机器日益具有感知性，它们也会遵循达尔文的进化规律，为了资源、生存和繁殖而相互竞争。这剧情听起来有点儿吓人，因为像《终结者》以及计算机导致核毁灭这类电影给人们种下了恐惧的种子。然而事实并非如此。在我们的社会中，早已存在着按照满足人类合法权利而自主运行的系统实体——公司。这些公司按照它们自身的目标运转，对人类完全谈不上爱或者关心。
公司其实是反社会的，它们带来了很多伤害，但同时也为世界的发展作出了巨大贡献。它们在资本主义的舞台上，遵守法律，相互竞争，为人类提供产品和服务。它们表面上是由人类组成的董事会运行的，但是，这些董事会习惯通过授权的方式来运转。而随着计算机变得日益强大，它们会获得越来越多的授权。未来企业的董事会将会被电路板（即智能机器）所取代。
虽然理论推断并非永远正确，但是大部分专家依然相信，摩尔定律在多年内会继续有效。计算机会越来越强大，并且可能在本世纪中叶之前，超越人脑的计算水平。即便在算法上，我们对智能的理解无法取得飞跃式的进步，但是计算机依旧能够有效地模仿人脑（它本身就是一台生物机器）的工作机制，并且通过强大的计算能力，达到超级人类智能的水平。不过，虽然计算机的计算能力可以实现指数级增长，但是，超级计算机的建造成本以及电力成本的下降却跟不上相应的步伐。第一批能达到超级人类智能的计算机必将非常昂贵，并且会消耗巨额的电力成本，它们甚至得靠自己赚钱才能维持运行。
超级智能机器的表演舞台早已存在，事实上，它们同样会遵循达尔文的进化规律。投资银行里面的交易机器，正在全世界范围内为了真金白银而相互竞争，它们早在几年前就开始取代人类交易员。随着计算机和算法超越了投资和会计领域，它们会在公司决策中扮演更加重要的角色，包括战略决策，直到它们最终统治世界。这不一定是坏事，因为机器会按照目前资本主义社会的规则运行，创造对人类有巨大益处的产品和进步，以此来维护自身的运行。智能机器会比人类更好地服务于人类社会，人类激励它们这样做，至少在一段时间内会是如此。
计算机能够比人类更好地分享和传播知识，更长久地存储知识，并且变得比人类更聪明。许多有远见的公司已经看到未来，并通过高薪和高级的硬件水平，把卓越的计算机科学家从大学中引诱出来。对于人类来说，一个拥有由超级智能机器运营的公司的世界与现在的世界并没什么差别。事实上，那只会更加美好，因为我们能以更低的成本获得更加优质的产品和服务，并且获得更多休闲时间。
当然，能够运作第一批超级智能机器的很可能不是企业，而是政府。这实际上会更加危险。相对于公司，政府在行动中更具弹性，因为他们自身能够立法。历史和现实告诉我们，即便是最优秀的政府，当它觉得自身的存在受到威胁时，也会制造酷刑和惨案。政府本身不创造任何东西，他们赖以生存和延续的模式，是社会监管、立法、税收、刑罚、谋杀、诡计以及福利。如果霍布斯的利维坦政府获得了一个超级智能大脑，那么事情将会变得非常糟糕。如果一个由超级人工智能领导的主权政府实施了“Roko的蛇怪”实验，这并非是不可想象的。
想象这么一个悖论：假设未来有一个强大且不受约束的超级人工智能，它为了竞争的优势，想让自己早点诞生。而有一群人类或智能体（企业或者其他组织），他们提前意识到了这种局面，但是他们不去参与协作，不去推动这种人工智能的到来，那么，当这个超级智能最终诞生时，由于它是政府的领导者，它很可能会迫害那些人。这种情况虽然发生的概率很低，却非常吓人。那些意识到这种可能性的人，如果他们出于人类自身的目的，想要去规范人工智能，或者提醒人们对人工智能保持警觉，而不是一味地追求人工智能的发展速度，那么他们可能会让自己置身于危险的境地。
独裁政府对于那些想要阻碍其存在的人，从来都不手软。但如果你喜欢上面那个假说，那么从现在开始，你就可以努力去为那个尚未存在的人工智能早日实现而付出，你会考虑到那个世界会折磨那些先前阻碍人工智能出现的人。或许，如果你从事人工智能的工作，那么未来即将诞生的那个超级人工智能霸主将会厚待你。
