也许没有比武装的机器能够自主决定杀害人类的想法更令人反感的军事技术了。这是反乌托邦小说和电影中的一个主题，也激起了人们对无人机抗议，尽管目前军事无人机仍有人类操控。武器的自主性——即枪炮塔或未来的机器能够自行按下发射按钮——在未来的战争中是绝对可能的。华盛顿特区智库“新美国安全中心”的一份新报告，旨在引导我们平静地理解这个武装思考机器的未来。
为了便于理解，该报告将杀手机器人的宏大问题分解为更小的问题。首先是关于机器自主性的本质。
自主性很复杂，但当谈论机器时，最重要的方面围绕着人类对技术仍拥有哪些控制权以及机器能够自主做出哪些决策。从五角大楼到基层，每个人都非常关注确保在做出致命决定时有人类参与，官员们绝对不想将任何武器，更不用说超级致命的武器，随随便便交给机器人。
让_人_类_参_与_进_来_的_技_术_术_语_是_“_在_循_环_中_”，_但_至_关_重_要_的_是_人_类_在_这_个_循_环_中_的_位_置_
让_人_类_参_与_进_来_的_技_术_术_语_是_“_在_循_环_中_”，_但_至_关_重_要_的_是_人_类_在_这_个_循_环_中_的_位_置_。_一_个_扫_描_环_境_识_别_目_标_并_在_每_个_目_标_之_前_向_人_类_请_示_批_准_的_机_器_人_，_与_战_场_上_一_个_自_己_选_择_并_攻_击_目_标_的_机_器_人_不_同_。_这_些_都_是_军_事_思_想_家_、_机_器_人_设_计_师_和_起_草_新_战_争_法_的_人_都_必_须_考_虑_的_问_题_，_因_此_，_先_把_问_题_框_架_起_来_是_很_好_的_。
报告的作者保罗·沙雷（Paul Scharre）和迈克尔·C·霍洛维茨（Michael C. Horowitz）进一步细分了“在循环中”的概念。能够识别目标但需要先询问后发射的导弹是“人类在循环中”，而能够自行选择目标并攻击的机器则是“人类脱离循环”。然而，对于自动防御武器，存在一个中间地带，例如反导导弹电池，它需要比人类反应更快地发射，否则就无效。沙雷和霍洛维茨将这类武器称为“人类在循环之上”。在这种情况下，武器可以在没有人类批准的情况下发射，但人类可以阻止未来的发射。
这些区分的重要性在于，它们与自主性本身一样，都是程度问题。通过将自主性划分为不同的类别，使得国防规划者、立法者和人权组织能够区别对待这些类型，特别是更具威胁性的“人类脱离循环”。
如果军用机器人将成为未来战争的一部分，那么拥有一个共同的术语来理解哪些机器做什么是有益的。《自主武器系统入门》并没有提供关于世界和军队应该如何对待自主机器的所有答案，但它为任何想要在未来进行此类对话的人提供了有用的词汇。
在此处阅读完整报告。
