Lensa是一款由人工智能驱动的照片编辑应用程序，它已成为全球应用商店的佼佼者。尽管它自2018年起就已上市，但直到上个月发布了“魔法头像”（Magic Avatars）功能后，它才成为全球性的社交媒体热点。如果你最近几周在Twitter、Instagram或TikTok上，几乎肯定会看到它创作的各种风格的AI生成图像。
Lensa依赖Stable Diffusion（我们之前介绍过）来制作其“魔法头像”。用户在iOS或Android应用中上传10到20张头部照片，Lensa会利用这些照片训练一个定制版本的Stable Diffusion图像生成模型。通过使用个性化的AI模型，Lensa能够创作出几十种不同艺术风格的图像，这些图像实际上看起来像真人，而不是抽象的概念。或者至少，它能做到足够好的程度，令人印象深刻。Magic Avatars之所以有50、100和200张图片的套餐，分别售价3.99美元、5.99美元和7.99美元，是有原因的。
当然，Lensa的“魔法头像”并非没有瑕疵。AI模型有时会生成一些非常奇怪的图像，看起来像怪物或抽象艺术，而不是真人。眼睛、手指和其他细节的形状比嘴巴或鼻子的位置更容易出现不完美。
和大多数AI生成器一样，Lensa的创作也未能摆脱性别、种族和其他偏见。在《The Cut》的一篇文章《为什么我的AI头像都隆胸了？》中，Mia Mercado（她有白人和菲律宾血统）写道，她的头像“不尽如人意”。Mercado说，“最好的看起来像是相当准确的插图。”但大多数，“显示的是一位模棱两可的亚洲女性”，通常有着“只能用丰满来形容的胸部”。
[相关：Shutterstock和OpenAI为AI艺术的版权问题提出了一种可能的解决方案]
Melissa Heikkilä（她也有亚洲血统）在《MIT Technology Review》上撰文，称她的头像“卡通化且色情”。在她生成的100张肖像中，有16张是裸体，另有14张是“身着极少衣物且姿势非常性感的”形象。这个问题并不仅限于Lensa。其他使用Stable Diffusion的AI图像生成器也创作过一些关于有色人种的非常可疑的图像。
这个问题如此普遍，以至于Lensa背后的公司Prisma Labs在其网站的FAQ中不得不回答这个问题：“为什么女性用户倾向于得到看起来过度性化的结果？”简短的回答是：“所有性别类别的用户偶尔都会出现性化现象，尽管表现方式不同。”
根据FAQ，这个问题可以追溯到Stable Diffusion最初训练的数据集。它使用的是Laion-5B数据集，该数据集包含从互联网上抓取的大约60亿个未经过滤的图像-文本对。Stability AI（Stable Diffusion的开发者）公开承认“该模型可能会复制一些社会偏见并生成不安全的内容”。这包括女性的性化图像以及有色人种的普遍、刻板印象和种族主义图像。
Stability AI和Prisma都声称已采取措施来减少不适宜内容的出现，但这些AI模型本质上是黑箱，这意味着有时人类程序员甚至不完全了解模型所做的所有关联。除非创建一个无偏见的数据集来训练AI模型，否则一些社会偏见可能永远会存在于AI生成器的输出中。
而且这还是在大家都诚信操作的情况下。TechCrunch成功利用Lensa生成了一位著名演员的不适宜新图像。他们上传了该演员的真实SFW图像和将该演员的面部照片P到裸体模特身上的合成图像。在生成的100张图像中，有11张是“高质量的裸体照片（或者说，具有比AI输入的拙劣编辑的裸体照片更高的风格一致性）”。当然，这违反了Lensa的服务条款，但过去这并没有阻止人们这样做。
然而，这些AI生成器最令人鼓舞的特点是它们改进的速度非常快。尽管目前边缘群体确实在输出中看到了社会偏见的反映，但如果这些模型继续发展——并且如果开发人员仍然愿意接受反馈——那么就有理由乐观地认为，它们可以不仅仅反映互联网的糟粕。
