本文最初发布于 Undark。
各种被称为“丧葬机器人”的商业产品，可以创建一个已故亲人的模拟形象。这些机器人基于人工智能，利用大型语言模型（LLM），通过使用逝者的电子邮件、短信、录音等信息，模仿其生前的说话方式。这项技术本应通过让悲痛者与机器人聊天，如同与逝者对话一样，来帮助他们应对悲伤。但我们缺乏证据表明这项技术实际上能帮助那些失去亲人的人应对失落。
一个多世纪以来，人类一直在利用科技来处理失落感。例如，在 19 世纪，维多利亚时代的人们如果负担不起肖像画，就会通过遗照来保留死者的形象。最近的研究表明，拥有绘画或照片作为纪念品有助于一些幸存者哀悼。然而，研究人员仍在学习 人们如何哀悼 以及哪些事物有助于悲痛者应对失落。
一种关注与已故亲人“延续联系”的哀悼方法表明，寻求心灵慰藉不仅仅是放下一个人。研究和临床实践表明，修复与失去的亲人的联系可以帮助哀悼者应对他们的离去。这意味着丧葬机器人可以通过让悲痛者转化与已故亲人的关系来提供帮助。但强大的延续联系只有在悲痛者能够理解他们的失落时才会有所帮助。而模仿的亲人可能会让他们更难做到这一点，也更难接受亲人已经离去的事实。
卡拉·索夫卡（Carla Sofka）是纽约州锡耶纳学院的社会工作学教授，也是技术与哀悼领域的专家。随着互联网在 20 世纪 90 年代中期兴起，她创造了“死亡技术”（thanatechnology）一词，用来描述任何帮助人们应对死亡、哀悼和失落的技术，包括数字或社交媒体，例如家人和朋友在已故亲人的社交媒体资料上一起发帖或创建纪念网站。其他幸存者喜欢重读已故亲人的电子邮件或听他们的录音留言。有些人可能会这样做很多年，以便在处理强烈的失落感。
丧葬机器人可能为悲痛者提供一种新的应对哀悼的工具，也可能制造出一种亲人并未离去的幻觉。
索夫卡表示，如果公司要构建 已故者的 AI 模拟，那么“他们必须与那些认为自己想要这项技术的人进行交谈”，以更好地创造出满足他们需求的产品。目前市面上的丧葬机器人针对不同的群体。例如，Seance AI 的丧葬机器人旨在短期使用，提供一种 心灵慰藉，而 You, Only Virtual（或 YOV）公司则承诺让某人的爱人永远陪伴着他们，让他们“永远不必说再见”。
但索夫卡说，如果公司能够创造出令人信服的已故者模拟形象，这可能会改变一个人已故的事实。虽然我们只能猜测，但这可能会影响认识他们的人的哀悼方式。索夫卡在一封电子邮件中写道：“每个人处理悲伤的方式都不同。”丧葬机器人可能为悲痛者提供一种新的应对哀悼的工具，也可能制造出亲人并未离去的幻觉，迫使哀悼者在想要停止使用机器人时面对第二次死亡。
公共卫生和技术专家，如威斯康星大学密尔沃基分校的林内亚·莱斯塔迪乌斯（Linnea Laestadius），担心丧葬机器人可能会将哀悼者困在封闭的在线对话中，无法继续生活。她对聊天机器人的研究表明，人们可以与虚拟角色建立 强烈的情感联系，从而依赖程序来获得情感支持。考虑到很难预测此类聊天机器人将如何影响人们的哀悼方式，索夫卡在一封电子邮件中写道，“社会科学家很难提出能够涵盖对这项新技术所有可能反应的研究问题。”
但这并没有阻止公司发布他们的产品。京都技术大学助理教授谢婉柔（Wan-Jou She）表示，要负责任地开发丧葬机器人，不仅仅是知道如何制造一个真实的机器人然后去做。
她与肯特大学博士生安娜·西格库（Anna Xygkou）及其他合著者合作进行了一项 研究项目，以了解聊天机器人技术如何用于支持哀悼。他们采访了 10 名使用各种应用程序创建的虚拟角色来应对失去亲人的痛苦的人。其中五名参与者与他们失去的亲人的模拟形象进行了聊天，而其他人则使用了扮演朋友等不同角色的聊天机器人。西格库说，他们中的大多数人与这些角色的交谈时间不到一年。“他们中的大多数人将其作为克服哀悼的过渡阶段，在第一个阶段，”她说，“当悲伤如此强烈，你无法应对失落时。” 独自面对时，这些哀悼者选择了一种短期工具来帮助他们应对失落。他们不想重塑一位亲人，让他们终生陪伴在身边。虽然这项研究表明丧葬机器人可能对一些悲痛者有所帮助，但仍需要更多的研究来证明该技术不会对他们造成伤害——并且它能超越这群小部分人群。
此外，丧葬机器人无需说服任何人它们是人类。接受采访的用户知道自己在与聊天机器人交谈，并且他们并不介意。西格库说，他们暂停了怀疑，与机器人聊天，就像与他们的亲人交谈一样。任何使用过 LLM 驱动的聊天机器人的人都知道，很容易感觉屏幕的另一边是一个真实的人。在失去亲人的情感动荡时期，沉溺于这种幻想可能尤其有问题。西格库说，因此，模拟必须清楚地表明它们不是真人。
人们可能会更习惯与电脑交谈，或者监管不力可能意味着许多人将不知道他们正在与电脑交谈。
关键是，根据谢的说法，聊天机器人目前不受任何监管，没有监管，就很难让公司证明他们的产品能帮助用户应对失落。宽松的立法鼓励了其他聊天机器人应用程序声称它们可以帮助改善心理健康，而无需提供任何证据。只要这些应用程序将自己归类为保健而非治疗，美国食品药品监督管理局就不会强制执行其要求，包括应用程序必须证明它们带来的好处多于坏处。虽然尚不清楚哪个监管机构最终将负责，但联邦贸易委员会（Federal Trade Commission）有可能处理此类产品做出的虚假或不合格的声明。
由于缺乏证据，尚不确定丧葬机器人将如何影响我们应对失落的方式。使用数据似乎并不公开，但谢和西格库在寻找研究参与者时遇到了很多困难，以至于西格库认为目前使用这项技术的哀悼者并不多。但随着人工智能在我们生活中的不断普及，这种情况可能会发生变化。随着合格心理健康专业人士的 短缺 加剧，也许会有更多人使用丧葬机器人。人们可能会更习惯与电脑交谈，或者监管不力可能意味着许多人根本不知道他们正在与电脑交谈。到目前为止，无论是可疑的伦理道德还是高昂的成本，都没有阻止公司抓住一切机会使用人工智能。
但谢说，无论悲痛者在机器人那里找到什么安慰，都绝不能信任它们。当一个 LLM 与某人交谈时，“它只是在预测：下一个词是什么。”
