这是关于机器人学主要迷思系列文章的第一篇，以及科幻小说在其中扮演的角色。其他主题包括：机器人很智能，以及关于人工智能必然性的迷思，还有机器人很邪恶，关于杀人机器的迷思。
上周，我制造了一场互联网上的小风波，提出了一个并不那么简单的问题——机器人汽车是否应该牺牲车主的生命，以挽救两个陌生人？
这并非一个反问。在与加州州立理工大学的机器人伦理学家 Patrick Lin（他最初在《Wired》杂志上的一篇评论文章中提出了伦理汽车的概念）进行了交谈，并与布鲁克林法学院的一位法学教授兼副院长讨论了法律后果之后，我确信：为了我们这个物种的福祉，答案是令人不忍，但却全心全意地赞成的。如果一辆自动驾驶汽车必须在撞击少数人以拯救多数人之间做出选择，那么这些伦理决定应该提前制定好，并融入其算法中。对我而言，所有其他选择都指向一场诉讼的混乱，或者一场由机器辅助的、可怕的“大逃杀”，因为每个人的机器人——无论是汽车还是其他——都会将它们主人的安全置于一切之上，并将自然选择带到开放的道路上。
这场讨论的反应多种多样，对于这样一个复杂的思想实验来说，这本是意料之中的。但确实出现了一些趋势。
首先，有一些惯常的评论区里的“机器人恐惧症患者”，他们可能读了我的标题，也可能没有，或者只是看了《Gizmodo》和《Slate》等网站上的回应摘要。Facebook上（迄今为止）点赞最多的评论是：“足够证明永远不应该制造机器人或自动驾驶汽车。伦理和道德决策应该由人类做出，而不是他们的造物。”同样，人们提到了“天网”，因为《终结者》里的梗就像影片中虚构的机器人刺客一样，难以磨灭，尽管它们同样毫无幽默感，并且基于现实生活中从未发生过的事情。
但更有趣的反应是那些不以为然的观点，它们有两种类型：一种是建议所有机器人汽车都应该遵循传奇科幻作家艾萨克·阿西莫夫的“机器人第一定律”（机器人不得通过行动或不行动伤害人类），另一种则是预测机器人汽车将变得极其完美，以至于致命碰撞将成为过去。“我认为这不会成为一个问题，”Reddit用户iamnotmagritte写道。“汽车可能会互相通信，完全避免这种情况，如果这还不够，它们会互相告知要走哪条路来避免碰撞。”在与Tyler Lopez的一次Twitter讨论中，Lopez写了相关的《Slate》文章，并对当前自动驾驶汽车在技术和法律上解决任何“谁该死？”的电车难题的能力提出了绝佳的观点。Lopez分享了这种看法。他提出，随着车辆和道路基础设施联网，“道德算法的危险将由网络算法来解决。”
换句话说，机器人只需被告知不要杀任何人，更不用说两个人了，它们就会以机器的精确度执行这项任务。
这令人沮丧。对我来说，这是我多年来一直怀疑但却无法表达，或者至少不敢提及，否则会显得更加自以为是的一个证明。但还是让我说出来吧：总的来说，人类并不了解机器人是如何工作的。
这本不应该是什么大惊小怪的事。机器人学是一个极其复杂的领域，只有极少数人类正在接受培训或从业于机器人领域。但你也可以对物理学说同样的话，然而普通人却不觉得自己有能力随便评论引力透镜的力学，或者每一次我们做出的选择都会催生出平行宇宙的诡异可能性。
那么，是什么让人们觉得他们了解机器人呢？
这也不是一个反问。答案是艾萨克·阿西莫夫。或者更广泛地说，是科幻小说。科幻作家在能够制造机器人之前很久就发明了机器人。即使自动化机器已经成为现代生活不可或缺的一部分，科幻机器人仍在源源不断地出现。而且，总的来说，它们一直在撒谎。我们之所以认为我们知道机器人是如何工作的，是因为我们听了关于那些并不存在的机器人的“营火故事”。
我将在未来的文章中讨论机器人学的其他主要迷思，但让我们先从与机器人汽车最相关的迷思开始，以及为任何在我们中间运行的自动机器制定伦理框架的必要性。
让我们来谈谈机器人能力超强的迷思。
* * *
“相信我，”毕晓普（Bishop）说，然后刀子开始移动。在一部充满经典场景的电影中，一个最著名的场景是，这个机器人（由兰斯·亨利森饰演）将刀插入他张开的手指和被他按住的海军陆战队员的手指之间的桌面上。他刺向其他空隙，速度越来越快，直到刀刃变成一道模糊的影子，以一阵急促的节奏割裂着桌子。当他完成时，我们看到毕晓普自己只被轻微划伤。但那位不幸的海军陆战队员却安然无恙。这是一场精彩的表演，仅仅是作为一个人造人的一个附加好处。
这就是《异形》介绍其常驻机器人，以及它超乎寻常的能力的方式。除了拥有令人难以置信的刀法和手眼协调能力，毕晓普还无所畏惧，在幽闭恐惧症方面超乎常人，能够熟练驾驶战斗飞船（这对于一名医疗官来说绝非标准训练），并且在身体被撕成两半时几乎不受影响。说真的，没有理由派人类去执行那次注定失败的猎杀外星虫子的任务。如果有一队全副武装的合成人——如同毕晓普那样被许可造成伤害——本可以毫发无损地从LV-426撤离。
那么，为什么毕晓普会是一个如此杰出的典范呢？并不是因为《异形》窥探了我们的未来，并预言了现代机器人学家尚未发现的机器人效率的秘密。那是因为，像大多数科幻作品一样，这部电影是一部冒险小说。当一个故事的主要目标是刺激观众时，它的机器人就必须是令人兴奋的。
《异形》只是延续了一个可以追溯到文学界第一个非官方机器人——《弗兰肯斯坦》里的怪物——的传统。这个由零件组装而成的生物，其超人的身心能力并非基于优质的原材料——它并非由奥运选手和诺贝尔奖得主拼接而成。这个怪物的完美程度与毕晓普的完美程度一样令人费解，或者像《星际迷航》中的数据（Data）、《Almost Human》中的多里安（Dorian）等无数虚构的自动机一样，都未能得到解释。当然，你可以猜测其中的原因。人类是基因特征的随机混合体，有些有益，有些则有害，而机器人则是经过精心优化的。机器不会疲劳，也不会失去勇气。尽管它们的程序可能会受到损害，或者它们可能会突然萌生不合时宜的生存本能，但它们完成任务的能力是有保证的。机器人就像它们所源自的瑞士钟表一样，完美无瑕。
机器人能力超强的迷思是基于一种直觉。而这种直觉，在很大程度上，已经被现实中的机器人证明是完全错误的。
实际的机器人是价值和能力极其狭窄的设备。它们能出色地完成一两件事，而其他所有事情都做得糟糕透顶，或者根本做不了。汽车装配机器人可以在一小部分人类团队所需的时间内完成喷漆或点焊工作，而且没有任何健康问题。这就是它们的“刀法”。但如果让它们安装内饰，它们很可能会把车撞得稀巴烂。
目前的机器人汽车也具有类似的“白痴天才”般的专业领域。正如《大西洋月刊》最近报道的那样，谷歌的无人驾驶车辆需要详细的激光雷达地图——由扫描给定道路轮廓的激光创建的三维模型——才能运行。自动驾驶汽车需要完成令人印象深刻的任务，例如检测周围车辆的距离，以及确定交叉路口的通行权。但它们在算法上被锁定在它们的激光道路上。它们沿着预定的路线行驶，追踪着传感器生成的面包屑。与人类需要应对的情况相比，这些机器人是最受保护的永久学员。没有人会通过让行人或醉酒司机冲到它们面前，或者让它们绕行穿过未绘制地图的、被大雪覆盖的乡村小路来考验它们。它们避免致命碰撞的能力仍未得到检验。
当然，它们会越来越好。传感器将得到改进和普及，控制算法将变得更加稳健，也许机器人之间会开始对话，警告对方即将到来的危险。但从减少碰撞的世界到完全无碰撞的世界，这是一个假设，并且没有得到机器人学，尤其是机械设备领域严酷现实的有力支持。机器会坏。软件会出故障。汽车环境是所有工程领域中最具破坏性和挑战性的环境之一，要求部件能够承受剧烈的温度波动、危险的道路状况以及一个错综复杂的互锁系统中其他部件的意外故障。只有一种方式可以假设机器人将永远知道轮胎即将爆胎，或者能够将紧急情况广播给附近的所有汽车，而每辆汽车都会以好莱坞特技司机的瞬间、奇迹般的表现做出响应。要相信这一点，你不能是一个机器人工程师，或者一个电脑曾经莫名其妙崩溃过、WiFi曾经断过、或者流媒体视频曾经短暂卡顿过的人。要相信机器人能力超强——或者说，超乎寻常的能力——的迷思，你必须相信机器人是完美的，因为科幻小说是这么说的。
* * *
当有人引用艾萨克·阿西莫夫的机器人定律时，这是一种无意识的求助信号。这意味着他或她将机器人视为一个现代童话，是谷歌制造的、取代了犹太神话中那些容易出故障的魔像的后继者。
但阿西莫夫的定律并非设计用来解决未来与机器人相关的生杀予夺的困境。它们是叙事工具，其整洁、过度简化的指令为漏洞、矛盾和逻辑差距留下了空间，而这些都可能导致引人入胜的故事。如果你引用了任何一条定律，你就陷入了一个双重陷阱，采用了与阿西莫夫笔下机器人（它们被假定为是做得不好的）的制造者和部署者一样危险的狭隘推理。更糟糕的是，你正在依赖幻想来指导你对现实的思考。即使可以简单地命令所有机器人永远不要伤害一个人，除非它们突然能够征服物理定律，或者在各种情况下消除“蓝屏死机”，否则大型自动化机器仍然会滚落、绊倒或倾倒在人身上。这可能很罕见，但对于一些可怜的灵魂来说，这将是不可避免的。此外，仍然是机器人研发最大资助者的军队，可能会对将第一定律应用于所有此类机器发表意见。
这并不是说科幻小说有意误导我们关于机器人学，或者应该被忽略。我与许多机器人学家和人工智能研究人员交谈过，他们都曾受到《2001太空漫游》中的HAL 9000或《终结者》中的T-800等超级能干的“鬼怪”的启发。机器人力量的梦想是令人陶醉的。这些科学家创建的系统通常是人类能力的可怜影子，这仅仅是机器人学的一个事实。毕竟，在几乎所有情况下，自动化的目的都不是创造超人的能力。而是为了将人类排除在外，省钱，或者拯救他们的生命，或者让他们免于做一些无聊的事情。捕食者无人机不是比有人驾驶的F-16战斗机更好的飞机，因为它具有机器人特性。事实上，它根本不是更好的飞机。无人机在天空中是最不起眼的军用飞行器，没有例外。但它们体积小，而且比真正的空中杀戮机器更便宜。如果你的任务是在一个防空技术就是躲藏的地区暗杀地面目标，那么它们是“足够好的”技术。但如果将它们与传统攻击机或旨在击落入侵飞机的系统进行对抗，那么武装无人机在这些场景中只会沦为冒烟的废墟。
在非常具体、非常有限的应用中，机器人很强大。但在大多数情况下，它们很弱。它们是成本效益高的替代品。或者它们是极其谦虚的设备，就像DARPA机器人挑战赛中那些笨拙、umbling的人形机器人一样，它们因为缓慢地完成任务（驾驶车辆、走过废墟、使用电动工具）而被称赞，而任何健全的成年人都可以在指数级少的时间内完成这些任务。记者们常常是这种神话制造的帮凶。他们夸大自动化能力，将机器人处理任务的决策过程浪漫化，或者将每一次关于为残疾人设计的外骨骼和先进假肢的讨论都变成对“钢铁侠”式能力的充满希望的预言。记者们本应打破关于机器人技术的、源自科幻小说的错误先入之见，但他们却引用那些惊险刺激的故事，并加剧了科幻小说一直都是对的这种感觉。无论是在虚构的场景中，还是在媒体报道扭曲的背景设定中，机器人都是强大的，因为任何不那么强大的都会扫兴。
这让我成了那个一本正经地破坏大家机器人聚会的人。我认为还有另一种选择。机器人可以在不被夸大的情况下令人印象深刻。机械臂对于恢复截肢者的独立性来说可以是一项了不起的成就，而不是因为《Almost Human》想象出机械腿很适合把人踢飞到房间另一边。完全有可能喜爱科幻小说的思想实验和模糊的预测，同时认识到科幻小说并不必 rigidly 准确。机器人不像大学教授及其绝望的情事那样，不会进入沉闷的文学作品。虚构的机器是我们本性的更美好、更升级的天使，它们用不可思议的智慧和体能保护着它们的创造者。更有甚者，它们以完美、一边倒的政变反抗它们的主人，这种政变大约与僵尸爆发一样可行（并且不可能从流行文化中消除）。机器人是完美的，因为它是最有趣的机器人版本。
这是思考或谈论真正机器人的一种愚蠢方式，因为它们注定会出错并表现不佳。自动化正在以令人不安和令人兴奋的方式改变我们的社会。在某些地方，机器人让暗杀变得更容易。有一天，机器人可能会减少碰撞。机器人的自主性将摧毁整个职业，并创造或增强其他职业。机器人刚刚开始重塑人类生活。所以，暂时闭嘴，别再谈论科幻小说中的人造英雄和反派，以及那些填补技术理解空白的、容易获得的、缺乏信息的幻想了。有太多真实存在的、有缺陷的机器人值得我们讨论。而我们短暂、粗暴、肉身的生活中，能用来讨论我们要用它们做什么的时间非常有限。
