当思维机器不再是恩惠时

时间:2023-11-21 08:39:02

玛丽·凯瑟琳·贝特森(Mary Catherine Bateson):文化人类学家;乔治·梅森大学荣誉退休教授;波士顿学院老龄化与工作研究中心访问学者;著有《青春永不落》(Composing a Further Life)

当思维机器不再是恩惠时

在我们熟悉的领域,当计算机比人类更快、更精准地完成相应任务时,它就是一种恩惠;然而,一旦将计算机应用到我们没有把握的领域时,它就不再那么可靠了。现在,我们还不能指望它们有审美能力、同情心或想象力,因为这些是人类独有的神秘能力。

会思考的机器可能会应用于相应的决策制定,基于的是它们表面上能够执行某些操作。例如,我们现在经常能看到,由程序完成的信件、手稿或是学生论文的拼写检查是完全可靠的,无须复查:当作者写“mod”(现代的)时,程序就自动给他改为“mad”(发疯的)。将决定留给机器,是多么诱人的事情啊!这让我不禁想起了一件趣事:在去得州办事的路上,为了顺便在圣达菲(Santa Fe)约见某人,我写了封电子邮件,在写的时候,我使用了“rendezvous”(相会)一词,但计算机却来得直接,干脆把我给“嫁”了出去,因为它将“rendezvous”改成了“render vows”(宣誓),这样,这趟办公会面就变成了“宣誓之旅”。

“家庭价值观”或是其他任何一种价值观念,能否通过编程体现在计算机上呢?按照我们事先给定的方位,无人机的确能马上找到它的攻击目标,但它也可能将一场欢快的婚宴视为威胁,进而将其作为攻击的目标。显然,我们能通过编程让机器来开处方和制定医疗方案。但在遵从不伤害他人这个基本原则时,机器的表现未必会比人类做得更好。

人类在全力制造会思考的机器时,肯定会对一些我们现在还没有充分理解的有关思想的某些方面产生新理解。例如,设计计算机的过程让我们意识到了通信过程中信息冗余的重要性;在决定我们依赖概率的程度时,我们更加清楚了基于将统计学应用于人类判断得出的民族剖析。我们将来作出的决定将会有多少决定是基于“跟风”的逻辑,又有多少是基于“我的行为纯属个人行为,影响不大”的逻辑呢?

那些不易编程实现的思想将会得到重视,还是被轻视?幽默感和敬畏之心,善良和慈悲,它们将会走向沉默,还是会以新的方式表现出来?如果我们没有了幻想(与幻想相伴的,也许是一种希望),那我们是会过得更好,还是更糟?