互联网上充斥着个人化的数字痕迹，其中很多在一个人死后仍然可以在网上存在很长时间。但如果这些数字痕迹被用来模拟已故的亲人呢？这“已经发生”，人工智能伦理学家警告说，这种现实让我们自己暴露于一种新的“数字鬼魂”之中，这些“鬼魂”由“死者机器人”构成。
数千年来，人们一直试图通过宗教仪式、灵媒甚至伪科学技术方法与已故的亲人交流。但生成式人工智能的持续发展为悲伤的朋友和家人提供了一种全新的可能性——与聊天机器人形象互动，这些聊天机器人通过已故个人的在线形象和数据（包括声音和视觉形象）进行训练。虽然仍明确宣传为数字模拟，但像Replika、HereAfter 和 Persona 等公司提供的部分产品可以（并且在某些情况下已经）被用来模拟死者。
虽然有些人可能难以理解这种新现实，甚至不愿认真对待，但重要的是要记住，“数字来世”行业不仅仅是一个仅限于小型初创公司的利基市场。就在去年，亚马逊展示了其Alexa助手仅用一段简短的音频片段就能模仿已故亲人声音的潜力。
[相关：观看一位科技亿万富翁与他的AI生成的克隆人对话。]
人工智能伦理学家和科幻作家几十年来一直在探索和预见这些潜在情况。但对于剑桥大学Leverhulme未来智能研究中心的研究人员来说，这种不受监管、未被探索的“伦理雷区”已经出现。为了强调这一点，他们设想了三个很容易在任何一天发生的虚构场景。
在一项发表于《哲学与技术》的新研究中，人工智能伦理学家Tomasz Hollanek和Katarzyna Nowaczyk-Basińska采用了一种名为“设计小说”的策略。设计小说最初由科幻作家Bruce Sterling提出，指的是“通过使用叙事原型来达到对变革的置疑”。基本上，研究人员会撰写 plausible 事件，并配以虚构的视觉辅助。
在他们的研究中，Hollanek和Nowaczyk-Basińska设想了三个超现实的场景，其中虚构人物遇到了各种“死后存在”公司的问题，并制作了如假冒网站和手机截图等数字道具。研究人员专注于三个不同的群体——数据捐赠者、数据接收者和服务互动者。“数据捐赠者”是指AI程序所依据的人，“数据接收者”被定义为可能拥有数字信息的公司或实体。“服务互动者”则是亲属、朋友以及任何可能使用“死者机器人”或“鬼魂机器人”的人。
在一个设计小说中，一位成年用户对其已故祖父母的聊天机器人的逼真度印象深刻，但很快就收到了以其亲人声音风格发送的“高级试用”和送餐服务广告。在另一个场景中，一位绝症母亲为她八岁的儿子创建了一个死者机器人，以帮助他处理悲伤。但随着AI适应孩子的反应，它开始建议进行面对面的会面，从而造成了心理伤害。
在最后一个场景中，一位年长的客户订阅了一个为期20年的AI服务，希望以此来安慰家人。然而，由于公司的服务条款，即使他们的子女和孙辈不希望继续使用该服务，也无法暂停。
Nowaczyk-Basińska说：“生成式AI的快速发展意味着几乎任何拥有互联网接入和一些基本知识的人都可以‘复活’已故的亲人。同时，一个人可能会将AI模拟作为告别礼物留给那些尚未准备好以这种方式处理悲伤的亲人。数据捐赠者和与AI来世服务互动者双方的权利都应得到同等保护。”
[相关：一个深度伪造的“乔·拜登”自动电话告诉选民在初选中不要投票。]
Hollanek补充道：“如果人们遭受他们失去的人那些令人震惊地准确的AI重现带来的不受欢迎的数字鬼魂，这些服务就有可能造成巨大的痛苦。潜在的心理影响，尤其是在本已艰难的时刻，可能会是毁灭性的。”
伦理学家们认为，应尽快实施某些保护措施，以防止此类后果的发生。公司需要制定敏感的程序来“退休”化身，并通过风险免责声明来保持其服务运作方式的透明度。与此同时，“重现服务”应仅限于成年用户，同时也要尊重数据捐赠者及其数据接收者双方的共同同意。
Nowaczyk-Basińska认为：“我们需要开始考虑如何减轻数字永恒带来的社会和心理风险。”
