首先，人工智能的思维方式对我们来说是“黑箱”。
特别是现在势头正旺的深度学习。如同之前说过的，这种算法的思路在于让人工智能通过大量地读取数据来做出判断。所以，不熟悉围棋规则的工程师也可以开发AlphaGo。
然而随着人工智能不断发展，如果它要做出判断的情况与政治、经济决策有了更多关联，情况又有所不同了。如果这些重要决策的过程变成“黑箱”，很多人都会觉得不放心吧。
当然，人工智能得出的结论，我们可以再用人类的思维进行说明解释。可是，万一人工智能得出了人类根本无法理解的答案，我们要怎么办呢？这种情况也是我们不得不考虑的。
例如，投球器可以通过设置，投出150公里/秒的球，同样，也有可能存在一个人能够投出如此高速的球。但是，当投球被设置成200公里/秒的时候，恐怕就已经超出了人类的极限，要投出这种异常高速的球，会伤到肩膀。
对于人类的思维领域来说也是如此，就像人的身体会受到物理条件制约一样，思维也一样是有极限的——虽然抽象的世界导致这个道理难以被人察觉。
