总结一下本章前几部分讲的内容:人类下棋时,是以直觉、预判和大局观这三个步骤来进行筛选和判断的,而人工智能则通过强大的计算能力进行预判,最后再用评价函数来选出最佳下法。
在这里,人类拥有而人工智能欠缺的,就是在筛选下一步时缩小范围的过程——用直觉感到“大概就是这个样子的”。棋手是依靠审美来缩小范围的,但人工智能却没有类似审美的能力。
这是为什么呢?
我认为,这与人工智能没有恐惧心有关。
第一章中我们曾提到,人工智能只是以过去的数据为基础,计算出最佳答案。因此,对于一些人类思考的盲点,人工智能也可以“无所畏惧”地提出来。当我们看到答案的时候,有时会震惊于它为何会选择如此危险的对策。
这种人类思考的盲点或死角,似乎是我们与生俱来的防卫本能或者说生存本能造成的。人类为了生存下去,会习惯性地把危险的想法从思考范围内排除出去。
之前已经反复提到,棋手利用审美来筛选下一步时,之所以感到美,其实是因为眼前的棋形接近于看惯了的基本形。
我想,人类的审美意识,应该是接近于安心、安定这一类的感觉的。所以,当察觉局势蕴含危险的时候,人们就会感到不安、不协调,无论这步棋看起来有多妙,也不会使用。
审美可能是人类在漫长的生存史中获得的本能。但是,拥有审美,对于人类来说亦喜亦忧,既是优势又是弱点。
因为,人类所认为的臭棋,在经过深度学习的人工智能看来可能是妙招。而将棋的棋局中有着庞大的可能性,我们的审美无法认知的地方,可能隐藏着胜算更大的选项。
这导致人类棋手所能见到的,只是将棋的一部分可能性,从全局来看,这种看法可以说被局限于十分狭隘的视野之中。
通过这片狭小的视野,我们根据自身经验培养出的审美感受到不合逻辑、形状不好等直觉或大局观。但在我们不了解的世界里,可能还存在非常高妙的对策。
也就是说,人类的思考被审美所限制,选项自然地减少了。所以我认为,仅就这一点来说,将棋软件和人工智能存在的意义也是非常巨大的。
不过,一旦到了将人工智能运用于社会的阶段,人类是否能接受人工智能的判断,就成了一个很现实的问题。想要战胜审美意识,毕竟是非常难的。
无论是多么正确的选择,人们还是从生理上就不想采用,这种情况不仅将棋棋手常常经历,围棋或国际象棋的棋手应该也会经常遇到。一旦关系到社会伦理和礼仪等方面,这种矛盾恐怕会成为更加严重的问题。
我曾经半开玩笑地表示:“当无所畏惧的人工智能拥有了恐惧心,才是真正可怕的。”因为那样一来,人类就对人工智能的真实想法一无所知了。