当它们出现在地平线上时，来杀你的机器人不一定会像战斗机。加州大学伯克利分校的计算机科学家斯图尔特·拉塞尔说，这是有限的、以人类为中心的思维，并且只适用于当今的无人武器。捕食者和死神无人机在设计时就考虑到了远程飞行员和传统的飞行机制，并配备了典型的空中战争武器——强大的导弹，既能摧毁建筑物和车辆，也能摧毁人员。明天更灵活、可以自行驾驶的武装机器人将不仅仅是老式空袭的升级工具。它们将是屠杀的载体。
更可能的是，即将到来的致命自主武器系统 (LAWS) 将以成千上万个机器人组成的云团出现。每个机器人都会很小，很便宜，并且火力很轻，只携带结束单个人生命的最低限度。预测这些武器的确切性质既可怕又推测性，但为了说明我们应该如何调整关于在战场上部署自主机器人的思维，拉塞尔提出了两个假设。“它或许能够发射微型弹丸，其威力足以通过眼球射杀一个人，”他说。“从 30 或 40 米外做到这一点很容易。或者它可以将定向装药直接放在人的头骨上。一克炸药足以在金属板上炸开一个洞。这可能就足够了。”
拉塞尔的预测是专注于高效的致命性。但拟人化这种攻击云，将其想象成一队微小、飞行的狙击手或掷弹兵，则是另一个错误。拉塞尔估计，通过足够的迭代和创新，在 LAWS 军备竞赛中开发的系统最终每台可能只需 10 美元。它们更像是受控弹药的瘟疫，而不是自动作战部队，在受害者旁边留下像蝗虫一样的死亡的、一次性组件。将这种武器施加到一座城市，并下令杀死任何持有武器状物体的人，或者仅仅是某个年龄段的所有男性，成本太低，而且太有效，以至于无法抵挡。“无论这场军备竞赛最终走向何方，很明显人类没有机会。”
拉塞尔的担忧并非仅仅是未来的战争会令人不安或不公平。在他今天发表在《自然》杂志上的评论文章中，拉塞尔重申了他今年 4 月在日内瓦联合国关于禁止 LAWS 会议上提出的许多担忧。这些担忧包括自主武器被滥用的可能性——例如，被用来犯下战争罪——以及过度使用。将机器人部署到传统伤亡惨重的情况（例如城市作战）的明显吸引力，加上其潜在的致命性，可能将武装冲突转变为一系列单方面的大屠杀。“风险很高，”他写道。“LAWS 被称为继火药和核武器之后的第三次战争革命。”
“致命自主武器被描述为继火药和核武器之后的第三次战争革命。”
关于自主武器的争论通常集中在是谁，或者是什么，做出杀戮的决定。人权观察组织和其他反对该技术的人经常警告说，允许机器人自行选择目标的益处——例如，当距离或地形中断操作员和无人机之间的通信链路时——使得部署此类系统成为不可避免的。与此同时，军方坚持认为，这些机器并没有意愿，指挥官将永远想要一个人“在循环中”，发出攻击特定目标的最终命令。但国防工业仍在朝着实现这一能力迈进。国防承包商 BAE 系统公司用于描述其正在开发的“飞翼神兵”隐形无人机的营销语言包括“完全自主”的短语。
在《自然》杂志的文章中，拉塞尔引用了 DARPA 的两个项目，其目标是显著提高无人机的自主性。快速轻量级自主 (FLA) 项目正在开发小型无人系统在混乱环境中自主导航的方法，而拒绝环境中的协作操作 (CODE) 项目明确表示有兴趣进行自主作战。“就像狼群以最少的沟通协同捕猎一样，多个 CODE 赋能的无人机将协同工作，在一名人类任务主管的指挥下，寻找、跟踪、识别和攻击目标，”DARPA 项目经理 Jean-Charles Lede 在今年早些时候的该机构新闻发布中说道。
尽管提到了人类主管，CODE 的一部分是攻击目标，这是一个旨在应对无人机可能被迫自主行动的情况的项目。“他们倾向于在文中加入一些‘遮羞布’的措辞，与‘人在环’有关，”拉塞尔说。“但我认为他们很有兴趣。我认为如果没有禁令，就会有军备竞赛，它们也会被使用。”事实上，他认为 LAWS 已经被部署。以色列的Harop 无人机设计用于在一个区域上空盘旋，搜索敌方雷达站点。如果它探测到特定辐射源，系统就会自动撞击目标，引爆其弹头。“在我看来，这越界了，”拉塞尔说。“它的行为可能是无差别的。你可以想象巴勒斯坦人将雷达系统设在拥挤的学校里，诱使以色列人犯下战争罪。”
但即使 LAWS 能够完美运作，并且能够以某种方式穿透战争的迷雾，避免大规模的误伤，或者全面爆发的自动化暴行，它们可能与核武器有重要的相似之处。对于核攻击的压倒性破坏力，没有可行的防御。拉塞尔认为，一旦自主武器成熟，它们将同样势不可挡，从而重现冷战核僵持时期岌岌可危的末日地缘政治。如果各国不开始复杂的过程来定义和禁止这些系统，并防止在它开始之前就出现升级，他担心总有一天云团会滚向某个城市。“我设想人们会想出对策，”拉塞尔说。“某种电磁武器，或者他们可能会派出自己的反无人机群。”但如果他的分析是正确的，并且 LAWS 军备竞赛达到了以数百万计的目标大规模人口为目标的蜂群的顶峰，那么有什么能有效地对抗相当于自主大规模杀伤性武器呢？
拉塞尔笑了，笑得有点过于了然。“我觉得我们不想知道答案。”
