本系列文章将深入探讨机器人学的重大迷思，以及科幻小说在制造和传播这些迷思中所扮演的角色。本期我们将回顾之前的议题：机器人很强大，即机器人超能力神话，以及机器人很聪明，即人工智能不可避免论的神话。
当世界上最负盛名的在世科学家宣布人类可能注定灭亡时，你若是对此置若罔闻，那就是愚蠢了。
“成功创造人工智能将是人类历史上最重大的事件，”斯蒂芬·霍金在上个月的《独立报》的一篇社论中写道。“不幸的是，这也可能是最后一次，除非我们学会如何避免风险。”
这位诺贝尔奖得主简要提到了这些风险，例如自主军事杀戮机器人的部署，以及人工智能超智能爆炸式、不可控的出现，这一事件通常被称为“奇点”。这就是霍金，现在彻底惊慌失措了。
霍金不仅仅在谈论奇点——一种预测人工智能将重塑我们的时代，以至于我们甚至无法想象其奇异轮廓的理论（或者说，一个听起来很酷的猜测）。霍金正在重述一个古老的科幻创作神话。这位地球上可能最聪明的人害怕机器人，因为它们可能会变得邪恶。
如果忽视霍金的末日预言是愚蠢的，那么直言不讳地挑战它就更显愚蠢了。我愿意做那个愚蠢的人。只不过，这根本不是一场值得争论的辩论。你无法反驳别人对未来的设想，也无法揭穿一个被专业神话制造者浸透的现象。
不过，我可以指出一些有趣的地方。霍金写这篇社论并非出于对机器人学领域有什么令人震惊的新发现。他引用了谷歌的无人驾驶汽车，以及禁止尚未制造出来的致命、自主机器人的努力，但他并没有提供任何证据表明我们正面临着贪婪的、杀戮性的人工智能。
促使他发出这番严厉警告的是一部名为《超验》的大制作科幻电影的上映。影片中，约翰尼·德普饰演一位人工智能研究员，他自己变成了一个人人工智能，因为好莱坞对有感知能力的机器除了这个几乎没有别的想法。这部电影被观众和评论家 alike 抛弃，它对人工智能的普遍讨论唯一贡献的是其上映前那种轻信的担忧。《超验》就是霍金写下关于机器人毁灭人类的原因。
这就是科幻的力量。它甚至能愚弄天才，让他们自曝其丑。
* * *
屠杀正在减少。机器人起义是经过精心策划的，与其说是一场叛乱，不如说是一次同步的全球性伏击。在制造它的工厂里，Radius 踏上街垒，正式宣布起义。
一位人类——很快将是最后一个——介入，但似乎没有人注意到。Radius 继续发言。
这段来自卡雷尔·恰佩克 1920 年的戏剧《罗森的万能机器人》（R.U.R.）的台词，就是邪恶机器人诞生的起源。今天读起来，这似乎又是一段关于机器人起义的嘲讽、戏谑的段落，但它却是首次引入“机器人”一词以及机器人起义概念的作品。《罗森的万能机器人》有时会被提及，作为机器人学讨论中一个不太可能的历史注脚——难道第一个关于大规模制造仆人的故事也包含其创造者不可避免的灭绝，这不是很令人着迷吗？
但《罗森的万能机器人》不仅仅是一个奇闻。它是邪恶机器人叙事的“阿尔法”和“欧米茄”，在它疯狂、黑暗幽默的胡言乱语中，探讨着它所创造的迷思的每一个层面。
最能说明问题的场景发生在机器人冲破防御前的几分钟，当躲藏在罗森万能机器人工厂里的人类试图弄清楚为什么他们的产品会发动如此意想不到的起义时。盖尔博士，公司的一位首席科学家，将原因归咎于自己“改变了它们的性格”，并让它们变得更像人。“它们不再是机器了——你听到了吗？——它们意识到了自己的力量，现在它们恨我们。它们恨整个人类，”盖尔说。
这就出来了，这个假设开启了科幻小说的整个亚类型，并催生了无数未来学家（以及在一定程度上，人工智能研究者）的令人不安的“如果……会怎样”的设想：如果机器有了意识，它们中的一些或全部就会成为我们的敌人。
但恰佩克对这个主题还有更多的话要说。海伦娜，一位倡导机器人公民权利的善意人士，解释了她为何说服盖尔修改它们的性格。“我害怕机器人，”她说。
这说得通，不是吗？人类显然有作恶的能力。那么，一个足够像人的机器人也必须有作恶的能力。剩下的就是存在主义的化学反应。将仇恨的道德缺陷与机器的完美性能相结合，就会导致死亡。
卡雷尔·恰佩克，似乎很了解他的东西。这位剧作家甚至聪明到能够嘲讽自己关于不可避免的仇恨和程序化灵魂的夸张言辞，当公司商业总监布斯曼对起义发表了最后的看法。
布斯曼预言了“奇点”的另一种形式，它不敢承认自己对邪恶机器人神话的忠诚。那就是假设智能机器可能通过盲目的动力和数量来摧毁人类。恰佩克甚至在他的机器人叛乱故事中包含了非邪恶机器人。
作为开创性科幻作品的典范，《罗森的万能机器人》是一件绝对的珍宝，它应该在可预见的未来被阅读和搬上舞台。但就公众对机器人学的看法，以及我们能否在不听起来像被自己影子吓坏的孩子一样的情况下讨论机器智能而言，《罗森的万能机器人》是一个智力上的污点。它并非投机性小说，不是对机器人学未来的猜想——机器人学在 1920 年并不存在，而且要几十年后才会出现。这部剧是一部滑稽、煽动性的社会政治寓言，机器人代表着世界上被压迫的工人阶级。他们的困境本质上是人类的，尽管被放大或夸大了。而他们的公司创造者，对机器人人格的卑鄙漠视，则是资本主义贪婪的漫画。
更糟糕的是，还记得布斯曼吗，那位商业总监，他将人类的灭亡仅仅视为一种绝佳产品的过剩吗？他在戏剧人物介绍中的描述是：“一个胖的、秃顶的、近视的犹太人。”没有其他角色得到这样的种族或文化描述。只有布斯曼，是剧中冷酷的工业家群体中的那个唯利是图的人。这就是《罗森的万能机器人》所探讨的内容。
那个创造了邪恶机器人神话的科幻故事根本不关心机器人。它最持久的模式是对批判性分析的失败，这种失败基于对一个关于阶级斗争的戏剧的过于字面化或故意无知的解读。然而，近一个世纪过去了，我们仍然喋喋不休地谈论机器起义和人工智能导致的死亡，就像漫无目的的发条玩具一样，不断地撞上同一堵墙。
* * *
为了公平起见，对于那些长期恐惧的人来说，有些邪恶机器人并非隐晦寓言的一部分。有时，天网（Skynet）就是天网。
我在上一篇文章中写过那个标志性杀戮人工智能的起源，但《终结者》的深远影响和牵连是无法回避的。《罗森的万能机器人》奠定了这个神话的基础，而詹姆斯·卡梅隆 1984 年的电影则为它树立了一座巍峨的纪念碑。这部电影催生了三部续集（并且还在继续），以及一部电视剧。尽管自这部电影首次登上银幕以来的 30 年里，大大小小的屏幕上出现了无数机器人起义的场景，好莱坞却从未超越开场序列的令人震撼的视觉效果（见上文）。
电影中，一位身经百战的机器战争老兵凯尔·里斯解释了防御网络如何从有意识转变为大规模杀戮：“他们说它变得聪明了，一种新的智能秩序。然后它视所有人类为威胁，而不仅仅是敌对阵营的人。它在一微秒内就决定了我们的命运：灭绝。”
天网的寓言具有一定的可行性，因为它里面的反派如此冷酷无情。系统害怕了。系统发动攻击。在它秘密具象的心脏中，没有恶意。只有恐惧，这是自我意识的核心组成部分，也是人类为了生存而毁灭对我们构成威胁的非人类物种时所具有的那种便利的缺乏同情心。天网像拍打蚊虫一样拍打我们。
但我们不要拐弯抹角：天网并非现实的人工智能，也不是基于现实原则的。何必呢？它是你床下的怪物，拥有你所需要的足够多的牙齿和凶恶的红眼睛，让你无法安睡。这种风格和程度的邪恶机器人是完全虚构的。至今为止，没有任何东西能够接近该防御网络的认知能力或无限技能。即使有可能创造出如此通用的系统，你为什么要将一个旨在快速发射一系列核武器的程序变成接近人类心智的东西呢？
“人们认为人工智能的范围比实际要广得多，”机器人学家、《纽约时报》畅销小说《Robopocalypse》的作者丹尼尔·H·威尔逊说。“通常，人工智能的输入和输出非常有限。也许它只接收来自汽车惯性测量单元（IMU）的信息，这样它就知道在紧急情况下何时刹车。这是一种人工智能。而那种能解决自然语言问题——一个能走能说‘我做不到，戴夫’的系统——是非常异想天开的。那些人工智能对于任何问题来说都太过头了。”只有在科幻小说中，一个极其复杂和雄心勃勃的五角大楼项目才会超出其设计者的 wildest 期望而超常发挥。
在天网以及类似的杀戮人工智能幻想中，邪恶机器人的设计者的意图或技能通常被认为是无关紧要的——机器智能通过突然吸收所有可用数据，或将多个系统合并成统一意识来获得自我能力。这听起来很合乎逻辑，直到你意识到人工智能本身并不擅长协同工作。
“当我们谈论机器有多聪明时，人类很容易拟人化，并以错误的方式去理解，”威尔逊说。“人工智能并不构成一个自然的群体。它们不必构建在相同的体系结构上。它们不运行相同的算法。它们不会以相同的方式体验世界。而且它们的设计目的也不是为了解决相同的问题。”
在他的新小说《Robogenesis》（将于 6 月 10 日出版）中，威尔逊探讨了与单体或群体思维完全不同的高级机器的观念。“在《Robogenesis》中，世界是许多不同人工智能的家园，它们由不同的人设计，用于不同的任务，对人类的兴趣程度各不相同，”威尔逊说。“它们对人类构成的危险程度也各不相同。”不用说，威尔逊正在愉快地利用邪恶机器人的神话——《Robopocalypse》（被斯皮尔伯格买下版权）中有一个相对经典的超智能人工智能反派，名叫 Archos。但就像《终结者》一样，这是虚构的。这是有趣的。Archos 有一套更复杂、更可辩解的动机，但没有任何新的邪恶机器人能触及天网的遗产。
天网并非孤立的自动化暴力神话，而是多个相互关联的科幻机器人神话的集合。它超能力十足，执行着一个极其复杂的破坏任务——包括为大规模生产自动化步兵、破坏者和空中力量而进行的资源收集和管理。天网也是有自我意识的，因为科幻小说预言机器注定会变得有感知能力。这是基于过去幻想的幻想，而且它极其引人入胜。
我并不是建议好莱坞应该接受同行评审。但虚构的杀戮机器人生活在一种修辞的模糊地带，这模糊了我们理解与非虚构的、潜在致命的机器人相关的风险的能力。想象一篇关于英国国家安全威胁的文章，其中提到，如果情况真的变得很糟，也许亚瑟王会从他漫长而神秘的沉睡中苏醒过来，保护那片绿色而美好的土地。为什么这会比无数次、持续不断地提及天网——一个不真实的人工智能，更像是超自然而非超级计算机——不那么荒谬呢？无人机袭击和自动化的股市波动与天网的关系，就像与索伦（《指环王》中的巫师王）的关系一样。
所以，当你提及《终结者》的核心情节装置，将其作为一个现成的关于自动化陷阱的警示时，请意识到你实际上在做什么。你是在谈论一个被召唤到一个虚假现实中的邪恶恶魔。或者，正如斯蒂芬·霍金的社论所示，意识到你实际上在阅读什么。这看起来像是一个关于灭绝级威胁的奇怪的简略警告。实际上，它是在说科幻小说有很多很棒的想法，你应该看看这部约翰尼·德普主演的电影，因为也许机器人就是这样毁灭我们所有人的。
