LinkedIn联合创始人、亿万富翁里德·霍夫曼（Reid Hoffman）最近发布了一段与他的新数字化身“Reid AI”的“采访”视频。Reid AI基于一个专门训练了霍夫曼二十年来书籍、文章、演讲、采访和播客数据的GPT模型，并利用语音和视频深度伪造技术，创造了一个能够模仿其源头人物的举止和谈话风格的数字克隆人。在超过14分钟的时间里，你可以看到两位霍夫曼深情而又死气沉沉地凝视着科技行业的怪异核心。这样做，观众看到的不是真正霍夫曼所声称的“变得更好、更人性化的方式”，而是一条通往一个错误、危险、不道德且空洞未来的道路。
许多人可能会对释放一个会说话、会动的AI化身形象感到不寒而栗，但这位科技乌托邦式的“昨日之城”的投资者似乎对此感到无比兴奋。根据4月24日的一篇博客文章，他觉得整个前景“有趣且发人深省”，事实上，他最近与生成式AI视频公司Hour One和AI音频初创公司11ElevenLabs合作实现了这一切。（如果你觉得后者名字耳熟，那是因为今年早些时候，诈骗犯就利用11ElevenLabs的产品制作了那些音频深度伪造的拜登电话诈骗。）
在数月来预告展示他的数字克隆人之后，霍夫曼上周终于公布了他与“Reid AI”之间（经过大量剪辑的）视频对话。那么，这个基于专门为霍夫曼的一切信息定制的GPT-4聊天机器人并进行了深度伪造动画处理的尖端成果，到底是什么呢？这是一个很好的问题——在一个观看了那个超现实、尴尬，偶尔甚至有些不卫生的模拟互动之后，这个问题并不容易回答。
“我为什么要让一个数字版本的自己来采访我？”霍夫曼在视频开头问道。最首要的原因，显然是为了给一系列潜在受众群体总结他的一本书：世界上最聪明的人、5岁的孩子、《宋飞正传》的粉丝，以及克林贡人。尽管霍夫曼似乎很喜欢后续每一次对《闪电扩张》的概括（特别是“最聪明的人”那一段），但它们听起来都像是来自ChatGPT的提示——从技术上讲，它们确实是。这里的区别在于，它们不仅仅是一个文本答案，而是将霍夫曼的语音模仿叠加在一个（仍然明显是人工的）视频呈现上。
在所有这些兴奋之中，霍夫曼——就像许多有影响力的科技行业人士一样——再次暴露了对生成式AI工作原理的基本误解。像OpenAI的GPT这样的技术，无论多么华丽地加上视觉和音频效果，都无法理解。当AI回应“谢谢”或“我认为这是个好观点”时，它们并没有真正体验到感激或思考任何事情。生成式AI将句子视为代码行，每一个字母或空格后面跟着下一个最可能的字母或空格。这可以转化为对话音频，并配上视频形象，但这并不会改变底层的功能。它只是接收了新的符号输入，影响了一个基本上等同于超级自动纠错系统的东西。即使它的语言设置为克林贡语，正如Reid AI在某个时候提供的。
因此，当Reid AI警告霍夫曼说一个错误的答案可能会出现，“因为我误解了你提供的信息，或者我没有你问题的全部上下文”，霍夫曼并没有停下来向观众解释上述任何事实。他而是继续进行下一个对话点，这通常涉及对他的书籍或LinkedIn的推广。
[相关：深度伪造的“乔·拜登”电话诈骗告诉选民在家投票参加初选。]
与此同时，Reid AI的视觉部分据说旨在模拟霍夫曼的许多对话习惯和提示。从Reid AI的表现来看，这些主要包括笨拙地模仿“使劲点头”、“强调性地敲击以阐述观点”和“抠鼻子”。正如New Atlas所指出的，视频中10:44处的这一刻，在一个明显经过剪辑和浓缩的视频中加入这样一个奇怪的细节——也许是为了说明人类一些更尴尬、更 relatable 的特质。如果是这样，它并没有很好地转移人们对两位霍夫曼所说的更荒谬和令人担忧的言论的注意力。
Reid AI详细阐述了陈词滥调的技术自由主义者的观点，主张培养“促进创新的框架”。霍夫曼一再认为，任何关于偏见、隐私、劳工和数字所有权担忧的担忧，都只是“从负面开始，却没有意识到所有积极的方面”。这个数字克隆人重复着平淡、缺乏创意的建议来美化霍夫曼的LinkedIn页面，比如添加“个人风格”，如一个有趣且色彩鲜艳的头图。
但最令人担忧的时刻到来，当霍夫曼声称“每个人都应该问问自己，‘我能做些什么来帮助？’”让AI像数字头像一样更普遍。他甚至把当前的科技时代比作欧洲采用蒸汽机，这使得它“成为整个世界的强大力量”。（他本人和Reid AI都没有承认工业革命涉及的其他工具，即建立在数百万被剥削和奴役人口劳动之上的殖民主义体系。）
霍夫曼表示，Reid AI的未来版本将“扩展我能做的事情的范围”。这是一个极其能说明问题的说法——暗示像霍夫曼这样的人，毫不犹豫地抹去了他们的克隆自我和真实自我之间的任何界限。至少，霍夫曼已经找到了Reid AI可以为他做的一项任务。
“我很想知道其他人对如何减轻冒名顶替和所有其他类型的风险，以及实现‘负责任的AI’有何看法，”一位LinkedIn用户在他的公告帖评论区问道。
“很好的问题……这是Reid AI的回答，”霍夫曼回应道，并附上了一个新化身片段的链接。
