电脑将棋与人类还有一个不同,那就是它没有恐惧心。
针对电脑将棋的下法,棋手们经常会提到:“在人看来,将棋程序的下法,经常有一种‘违和感’。”
这是因为,人工智能常常会下出人类棋手不敢下的棋步。当然,也可以说这是因为将棋程序不像人类那样有盲点,所以能够自由地选择下法。
然而,一旦人工智能应用于社会,这会造成怎样的局面呢?
尤其是人工智能机器人的情况,没有恐惧心,恐怕它很难立足于社会生活。我们为了不被路上的车撞到,会很小心地过马路;在乘坐自动扶梯的时候,也会注意让自己的步伐配合扶梯的运行速度——总而言之,恐惧心使我们可以察觉到危险。
与“黑箱”的问题一样,当人工智能完成更大的进步,参与社会决策的时候,没有恐惧心会导致怎样的情况发生?它有没有可能做出人类无法接受的、具有危险性的决策呢?