在《PLOS ONE》杂志上的一篇近期论文中，德国研究人员让 89 名大学生与一个名为 Nao 的、小巧而眼神明亮的机器人合作，回答问题并完成琐碎的任务。这是一种值得一部喜剧片来描绘的机器人搭档。但是，正如实验心理学中常见的那样，这些任务只是为了分散人们对真正研究问题的注意力：当人类不得不关闭机器人时会发生什么？
本月早些时候，《The Verge》报道称，在 43 个案例中，“机器人进行了抗议，告诉参与者它害怕黑暗，甚至恳求说：‘不！请不要关掉我！’” 正如研究人员预测的那样，参与者在关闭机器人时遇到了困难——他们之前曾将其视为合作伙伴。与那些机器人什么都没说的组相比，30 名人类关闭机器人所花费的时间平均是前者的两倍。还有 13 人完全拒绝执行命令，让 Nao 保持开启状态。
“人们认为机器人某种程度上是活着的，”人机交互领域的主要研究员Christoph Bartneck在一封电子邮件中写道。这种将电影和机器人视为人类的现象被称为“媒体方程”。而它可能导致一些严重的道德困境。
2007 年，Bartneck 进行了一项类似实验，一个会说话的、像猫一样的机器人乞求保命，但所有参与者都被一名观察的科学家强迫关闭了机器。在那项研究中，100% 的人都最终遵从了，但这并不容易。Bartneck 说，将机器人视为真正活着的东西，意味着我们“因此犹豫是否要关闭它，尤其是在这会意味着机器人会失去记忆或个性的情况下。”
理解人类感知和人类行为可塑性的工作，一直是实验心理学家及其同行 50 多年来关注的焦点——而这些方法一直以来都……令人不安。
20 世纪 60 年代，一位耶鲁大学的心理学家设计了一种方法来检验当时最紧迫的生存问题：服从权威是否足以说服表面上善良的人做出通常被认为邪恶的行为？
研究员 Stanley Milgram 将研究参与者请到实验室，让他们扮演“老师”的角色，并以研究学习和记忆为幌子，要求他们向他们的“学生”施加越来越强的电击。随着电击的升级，这个“学生”——实际上是研究团队的成员，并且不受任何真实伤害——恳求被释放，并表现出痛苦和痛苦的迹象。一些参与者拒绝继续。但大约 65% 的人还是施加了最高电压。
“这个程序从一开始就备受争议，它制造了极度的紧张，”Milgram 在他 1963 年的原始研究中写道。“大量的出汗、颤抖和口吃是这种情绪困扰的典型表现。一个意想不到的紧张迹象——至今仍未得到解释——是经常发生的神经性笑。” 无论他们是提早退出，还是坚持到最后，参与者都受到了刺激。
虽然我们倾向于像对待人类一样对待机器人——并经历与几十年前 Milgram 所观察到的相似的痛苦迹象——但研究人员发现了一些复杂的因素。我们关闭一个恳求的机器人的决定，可能会受到机器人的价格点或质量、它的社交性（相对于其效用）——这是近期德国研究操纵的一个因素——甚至机器人的颜色，这可能被视为种族或民族，从而影响我们与这些我们创造的机器的互动。正如《PLOS ONE》论文的作者所言，“当人们与不同的媒介互动时，他们常常表现得好像是在与另一个人互动，并且不加思考地应用广泛的社会规则。”
这些反应可能看起来很愚蠢或微不足道。但人工智能研究人员担心我们对这些机器人的顺从会带来后果，尤其是当它们进入我们的家庭并甚至进入公共生活时。“今天的机器人没有足够高的智能来证明将其保持开启是合理的。今天的机器人并不关心，”Bartneck 写道。“我们需要尊重我们的创造物，但我们也需要避免被科幻小说所欺骗。”他说，亚马逊 Echo 不是《西部世界》，Nao 也不是《银翼杀手》。
归根结底，当我们伤害人类同胞时感到的内疚是好事。但 Bartneck 说，当涉及到机器人时，可以随意将其关闭。
