自主武器已到来

一份报告显示了机器在多大程度上已经在做出致命的决定
Harop Drone At 2013 Paris Air Show
Julian Herzog,来自Wikimedia Commons,CC BY 4.0

致命机器人是否已经存在,在很大程度上取决于定义。地雷,当人类踩到它们时会爆炸的固定爆炸物,是自主和致命的,尽管没有人真正认为它们是杀人机器人。亚利桑那州立大学全球安全倡议的一项新研究,得到了埃隆·马斯克的未来生命研究所的资助,研究了武器中已存在的自主系统,为我们理解未来机器的致命决策奠定了基础。它提出了一个非常有趣的问题:如果自主机器不是在为人类的决策提供信息,而是在取代它们呢?

正如Defense One 指出

考虑简单的寻标导弹。寻标导弹最早是在20世纪60年代开发的,通常不是人们认为的自主致命机器。人类将导弹瞄准目标,人类决定发射它。嗯,大部分情况是这样。Roff,该论文的作者,将寻标定义为“武器系统能够自行追踪已识别目标的能力”。

在所有目标识别技术中,寻标是最早出现的。寻标对人类的危险在于,由于它众所周知且广泛使用,因此很容易被欺骗。Roff 写道:

相信机器能够找到正确的目标可能会带来可怕的人类后果。2014年夏天,在乌克兰东部作战的亲俄分离分子击落了几架乌克兰军用运输机。导致乌克兰上空MH-17航班被击落的责任人,可能误读了导弹发射器的雷达,将一架载有无辜非战斗人员的商业客机错认为另一架部队运输机。 Buk 导弹发射器使用的寻标系统擅长在空中寻找飞机;它不太擅长区分大型运输机和喷气式客机。

未来的自主目标识别技术很可能不仅能更好地找到选定的目标,还能在发起攻击前独立识别目标。Roff 写道:

这是这样一种未来景象:机器人飞越战场,扫描下方的物体,并与内部批准的目标列表进行比对,然后决定发动攻击。这些武器很可能被设计成在攻击前等待人类批准(正如五角大楼所说的“闭环控制”)。战场上的情况瞬息万变,军方领导人很可能会发现,批准攻击所需的时间过长,导致武器无法使用——转而鼓励机器实现完全自主。

随着五角大楼国际社会在致命自主机器的问题上进行斗争,Roff 的研究提供了大量发人深省的数据。

 

更多优惠、评测和购买指南

 
Kelsey D. Atherton Avatar

Kelsey D. Atherton

科技领域特约撰稿人

Kelsey D. Atherton 是一名军事技术记者,自 2013 年起为《大众科学》供稿。他报道无人机器人和其他无人机、通信系统、核企业以及用于规划、发动和缓解战争的技术。


© .