你已顺从:机械战警和令人恐惧的脑部黑客攻击

httpswww.popsci.comsitespopsci.comfilesimport2014DF-05815r.jpg
乔尔·金纳曼(左)和加里·奥德曼主演了《机器人警察》的翻拍版。Kerry Hayes / Columbia Pictures

在科幻电影中,科学往往扮演着反派的角色。 speculative theories and far-fetched technology wear the old black hat and outsize mustache, and tie us all kicking and screaming to the train tracks. These are adventure stories, ultimately, so why not set cloned dinosaurs and predatory androids loose on civilians? Someone or something has to be vanquished by heroics.

因此,新的《机器人警察》电影提出了通常的修辞性问题,关于进步的代价,以及扮演上帝的后果,以及一些更具体的问题,例如制造杀手机器人以及搅乱人类大脑的危险。我无权决定它是否是一部高质量的电影,评论家们的看法,无论其价值如何,褒贬不一。然而,《机器人警察》中最令人不寒而栗的构想,即脑植入物可以将人类变成一个顺从的赛博格奴隶,其质量却出奇地高。

电影中这种情况是如何发生的,在智力上的预演方面是相当酷的。当身受重伤的亚历克斯·墨菲被重塑为机器人警察时,他的再造者 OmniCorp 安装了脑植入物,这些植入物有助于将他的神经信号转化为机器指令。这就是墨菲用意念驱动他超凡的机器人身体行动的方式。这是对当前实验的未来主义解读,这些实验已经允许瘫痪的人类受试者通过直接神经控制来移动机械臂。这也是科幻电影的标准套路,将当前的研究规模化,直到变得有趣。但这并不是有趣的部分。

有趣的是——以下涉及剧透——OmniCorp 实际上是用这些植入物做什么的。在电影的设定中,公司能够在海外冲突中使用武装自主无人机,攻击被认定为威胁的目标。但德雷福斯法案,以哲学家休伯特·德雷福斯(Hubert Dreyfus,以批判人工智能而闻名)的名字命名,禁止在美国使用自主武装无人机。《机器人警察》导演何塞·帕迪利亚(Jose Padilha)说:“该法案规定,只有有意识的、对成为人类的感觉有直接了解的实体,才能理解生命的意义,并被允许取人性命。”“因此,在美国,机器人不允许扣动扳机。OmniCorp 被剥夺了一个巨大的市场。所以他们需要找到一种绕过法律的方法。”

解决方案就是机器人警察,一个可以在底特律街头使用致命武力的赛博格原型,因为他的大脑(大部分)完好无损,他的决定是他自己的。不幸的是,机器人警察也是一个经过精心策划的骗局。墨菲头部植入的不仅仅是将神经活动重写为控制信号,还会向大脑发送信号。当机器人警察应对犯罪时,他是根据预设算法行事的。与此同时,植入物正在巧妙地调整墨菲的大脑,让他相信他所做的每一个行动都是他自己的主意。机器人警察是一个自主无人机,遵循其创造者设定的规则和协议。帕迪利亚说:“这个系统制造了自由意志的幻觉。OmniCorp 制造了一个认为自己是人的机器。”

亚利桑那大学神经科学家和机器人学家查尔斯·希金斯(Charles Higgins)表示,这种阴险的精神控制存在实验先例。希金斯说:“在大鼠身上,他们确实做到了这一点,通过刺激释放神经递质的大脑中心,让他们可以 pretty much 控制大鼠,让它们朝一个方向或另一个方向转动,当它们做对的事情时,大鼠会感到愉悦。”“所以你有可能对人类做同样的事情,尽管这是完全不道德的。”

只要被控制者没有意识到这种刺激,那些微小的愉悦感可能从根本上塑造一个人,创造新的本能,或重写旧的本能。希金斯说:“大脑非常擅长以认知上适当的方式解释信号。”换句话说,大脑几乎会自行“清洗”。从他先进的假肢到自我合理化的精神控制,希金斯认为,《机器人警察》的概念——赛博格本身——在电影设定的 2028 年时间线上是技术上可行的。

而且,《机器人警察》的大脑层面控制方案也揭示了神经科学中一个更令人沮丧的真相。希金斯说:“我们对智力如何运作真的没有概念。”因此,帕迪利亚没有假设你可以像遥控无人机一样简单地控制墨菲,或者将他的思想变成一个功能齐全的生物计算机,而是想尊重大脑的复杂性和有时令人不安的可塑性。《机器人警察》不是被一个驻留的人工智能劫持的。他是一个不知情的合作者,欺骗自己认为自己处于控制之中。

生物学和机器人学的融合可能不会导致赛博格警察枪杀罪犯,并与巨大的、双足的军用机器人搏斗。帕迪利亚认为,“执法将实现自动化。这一点毫无疑问。一旦发生这种情况,而且很快就会发生,我们在《机器人警察》中辩论的所有问题都将成为现实问题。”就我个人而言,我认为致命自主机器人并非不可避免,甚至并不理想。但《机器人警察》中隐藏着一个真正可怕的前景,它在未来几年可能会变得更加紧迫。大脑不仅容易受到未来国防承包商、应用程序开发者和恶意软件分发者的认知操纵。它甚至可能准备为自己的黑客行为承担责任。

 

更多优惠、评测和购买指南

 
© .