

致命机器人是否已经存在,在很大程度上取决于定义。地雷,当人类踩到它们时会爆炸的固定爆炸物,是自主和致命的,尽管没有人真正认为它们是杀人机器人。亚利桑那州立大学全球安全倡议的一项新研究,得到了埃隆·马斯克的未来生命研究所的资助,研究了武器中已存在的自主系统,为我们理解未来机器的致命决策奠定了基础。它提出了一个非常有趣的问题:如果自主机器不是在为人类的决策提供信息,而是在取代它们呢?
考虑简单的寻标导弹。寻标导弹最早是在20世纪60年代开发的,通常不是人们认为的自主致命机器。人类将导弹瞄准目标,人类决定发射它。嗯,大部分情况是这样。Roff,该论文的作者,将寻标定义为“武器系统能够自行追踪已识别目标的能力”。
在所有目标识别技术中,寻标是最早出现的。寻标对人类的危险在于,由于它众所周知且广泛使用,因此很容易被欺骗。Roff 写道:
相信机器能够找到正确的目标可能会带来可怕的人类后果。2014年夏天,在乌克兰东部作战的亲俄分离分子击落了几架乌克兰军用运输机。导致乌克兰上空MH-17航班被击落的责任人,可能误读了导弹发射器的雷达,将一架载有无辜非战斗人员的商业客机错认为另一架部队运输机。 Buk 导弹发射器使用的寻标系统擅长在空中寻找飞机;它不太擅长区分大型运输机和喷气式客机。
未来的自主目标识别技术很可能不仅能更好地找到选定的目标,还能在发起攻击前独立识别目标。Roff 写道:
这是这样一种未来景象:机器人飞越战场,扫描下方的物体,并与内部批准的目标列表进行比对,然后决定发动攻击。这些武器很可能被设计成在攻击前等待人类批准(正如五角大楼所说的“闭环控制”)。战场上的情况瞬息万变,军方领导人很可能会发现,批准攻击所需的时间过长,导致武器无法使用——转而鼓励机器实现完全自主。