能够说明这一点的，是电脑将棋中的是三子关系问题。只要在棋盘的任意位置上摆放三子，人工智能就可以通过庞大的数据，算出这种下法的优劣——只要三个子就可以了。
三子关系在将棋判断下法优劣的算法中十分重要，现在的算法正是活用了这种方法开发出来的。之所以是三子，是因为根据现在的计算处理能力，这个数量是有效的。将来也可能会出现以四子为基本单位的算法。总之，这个数并不是随便定下来的。
判断下法优劣的能力是十分重要的，棋手也经常要考虑这个问题。然而，这种能力并不是“王附近应该有金”“飞车不要放在王附近为上”这类可以从逻辑上说清楚的事情。在盘面随意放三子就能分析出优劣这种事，人类肯定是做不到的。
然而，将棋程序计算得出的评价值，却极为准确。
我对这个问题非常在意，因此曾向松原先生询问过原因，但他只是回答我：“哎呀，这个我也不是很清楚呢。”当我进一步问他：“那么，如果人类观察了一万个这种三子关系的例子，并全部死记硬背下来的话，他的将棋水平会有所提高吗？”他回答说：“恐怕是不能的吧。”
如果松原先生的话是正确的，那么就表明，人工智能存在着机器可以学习而人类无法学习的“黑箱”。
之前提到的巡逻的事例也是如此。人工智能得出了老鸟警官也无法预料到的结论，但是这一结论是将庞大的数据通过怎样的处理得出的，我们却不得而知。在社会接纳人工智能的过程中，这种“黑箱”的存在可能会成为阻碍人们接纳它的巨大障碍。
