金属同情心:《艾丽姆·休曼》是我们需要的亲机器人宣传

httpswww.popsci.comsitespopsci.comfilesimport2013almost-human-fox-hed-2013.jpg
Fox

电视剧《 quase humano 》首播十五分钟后,一个机器人被随意地从行驶的汽车上扔了出去。他,或者也许是它,尽管 MX 型警用机器人有一个明显男性化的面孔和男性化的声音,但它翻滚到高速公路上,立刻被其他车辆碾压。该剧的主角,约翰·肯尼克斯侦探(由卡尔·厄本饰演)对此毫无反应。没有那种刚刚摧毁了一台傲慢的打印机时的黑暗快感,也没有毁坏价值(人们只能猜测)数百万美元的财产,同时还危及驾驶公众时可能出现的短暂恐慌。他关上副驾驶的车门,继续他粗犷的工作。

作为叙事节点,这段短暂的机器人杀戮事件完成了许多任务。它确立了肯尼克斯喜欢机器人,在肯尼克斯昏迷期间,机器人已经成为所有人类警察的强制性伙伴。它也引出了他的下一个搭档,一个被闲置的型号,因为其令人恼火的情感倾向而整个生产线都被撤下,并因此偶尔会出现情绪崩溃。DRN,发音为多里安(由迈克尔·伊利饰演)是两位警官中更具人性化的一位,一个巨大的、机械化的软心肠,他不得不提醒他更肉体的搭档敞开心扉。多里安必须忍受新种族主义的嘲讽和不屑——在一次早期互动中,肯尼克斯命令道:“合成器关闭”,这引发了多里安可能拥有的任何人类反应——以及成为连续第二个被高速公路碾压的机器人搭档的奇怪的随意威胁。意图很明显。我们应该支持肯尼克斯,但要与多里安的困境产生共鸣。在《 quase humano 》的第一集或第二集中,没有一丝关于即将到来的机器人起义的迹象。我们被告知,2048 年的技术是未经监管且失控的。有感知能力的机器是解决方案的一部分,而不是问题。

对于主流科幻小说来说,这是一个有趣的转折。它以一种笨拙的好莱坞方式,探讨了日益增长的机器人伦理和机器人权利全球讨论,并试图先发制人地为机器及其制造商的责任奠定基础。《 quase humano 》与这些问题的交集可能并非巧合。该剧的执行制片人 J.J. Abrams 今年早些时候成为麻省理工学院媒体实验室第一批导演研究员,在那里他与研究员 Kate Darling 讨论了当时正在开发的系列。Darling 曾在哈佛法学院与 Larry Lessig 共同教授一门关于机器人权利的课程,她越来越被机器人法律和伦理相关话题所吸引。这次非正式会面导致与该剧编剧和系列创作者 J.H. Wyman 进行了一小时的电话会议,他们在会议中深入研究了她关于人类和机器人目前如何互动以及未来可能如何互动的研究。

“他们问我社会未来将如何看待机器人,”Darling 说。“我告诉他们,这在某种程度上取决于你们。这些电视节目和电影比其他任何东西更能塑造公众对机器人的看法。”关于机器人作为我们物种的敌人的虚构故事,随后在流行媒体的机器人学文章中得到了回响。“这部剧的制作方式将塑造关于这项技术的辩论。”

《 quase humano 》中有熟悉的科幻小说套路,例如高尚的机器人例外,其情感智能能唤起观众的同情,即使我们认为该设定中其他先进的自动装置是无情硬件或邪恶载体。这与《终结者 2》中的 T-800 所扮演的角色相似,它具有学习模式和英雄牺牲。《银翼杀手》中的 Roy Batty,在雨中表现出仁慈。甚至 1992 年评价不高的电视剧《 Mann & Machine 》也出现了一个正在适应自己情感的机器人警察。

虚构的机器人学家能够如此轻松地创造出能够产生真实情感的机器——这是一项在复杂性上几乎令人难以置信的成就,堪比人工智能领域的“建造传送舱”——这是标准的好莱坞敷衍了事。但《 quase humano 》与常规的不同之处在于它展示了一个理所当然地接受机器人融入社会的社会。如果关于武装全自动警用机器人或允许性爱机器人出售其商品存在辩论,那么到 2048 年似乎都已解决。先进的武器和令人不安的生物技术可能泛滥成灾,但机器人完全处于控制之中。

正如 Darling 所指出的,J.J. Abrams 或 J.H. Wyman 没有责任去详细说明人类将机器人置于攻击步枪之中,并对偶尔的旁观者枪击事件耸耸肩所面临的法律斗争和社会障碍。“真正热衷于此事的科幻迷们可能会对这部剧感到失望,并认为它需要关注这些灰色地带,”Darling 说(她自称是科幻迷,也是该剧的粉丝)。“然而,就改变公众认知而言,第一步是提出这个问题,即我们实际上可能接受机器人作为社会中栩栩如生的生物。”

就其对人机交互的潜在影响而言,《 quase humano 》最引人注目的地方,至少是如此,并不是它对一个有感情的机器人是什么感觉的探索。一项与魔法无法区分的技术能力所带来的细微之处和影响,可以构成伟大的故事,但却可能是糟糕的科学推测。相关的是我们对机器人的感受。

在这方面,这部剧与 Darling 的研究并不一致,她的研究很大一部分集中在人类如何同情我们这个时代无情机器——那些甚至不模拟情感,更不用说体验情感的机器人。在她的工作中,包括研究一个关于 Pleo 恐龙机器人在网上被殴打、勒死和虐待的视频的在线反应,以及军事人员在他们的扫雷机器人被无法修复地损坏时感到的失落感,证据是一致的。“我们会同情那些东西。即使它们不是为了引发人类的情感反应而设计的,我们也会与之产生联系,”Darling 说。

例如,机器人搭档将变得像朋友,或者至少像宠物。肯尼克斯可能没有对那个他推入车流的 MX 产生依恋——那是他们第一天在一起——但其他警官似乎使用的那种粗鲁的主仆语气对他们的搭档来说是不现实的。多里安可能天生迷人,但那些在阿富汗接受临时军事葬礼的、面无表情、无声的爆炸物处理机器人并不是派对的常客。尽管 MX 们很暴躁,但它们会逐渐让它们的人类搭档产生感情。“我甚至不知道你怎么能设计出能最大限度地减少我们最终对它们产生同情的机器人,”Darling 说。

不过,剧中的人类怎么想他们的机器人可能并不重要。小说是为了我们的利益,而不是为了其中的角色。《 quase humano 》的目标之一是改变我们对机器人的看法,那么第二集结尾是一个坚实的开端。一个非法制造的性爱机器人被判处停用。多里安,一如既往的多里安,请求在场。她不是一个聪明的机器人,而且不清楚她是否拥有基本的情感,或者仅仅是被编程通过熟悉感来建立联系,以便更好地为客户服务。所以不清楚她是否明白她为什么会出现在这个白色、消毒的房间里,背靠着一个直立的担架状平台,身后有一个技术人员在忙碌。也许她害怕。也许不是。

“我要去哪里?”她问道,微笑着。

“一个更好的地方。”

“你会去吗?”她问。

他停顿了一下。“我会记住你的。”

她死了。

恐机症普遍存在,根深蒂固,而且通常很有趣。但如果你看了那个场景,却没有丝毫感觉,那么请做好心理准备:你可能也不是人类。

 

更多优惠、评测和购买指南

 
© .