一家声称其 AI 服务能够准确扫描阴茎照片以检测性传播感染迹象的网站，正激起医疗保健倡导者、数字隐私专家以及许多其他批评者的愤怒。然而，尽管互联网（以及吉米·法伦）在过去一周都在批评 Calmara 的开发者，但这一切的出现却耗时两年。
AI“亲密最佳拍档”从何而来？
早在 2022 年，公司 HeHealth 便推出了一个在线平台，旨在“在几分钟内获得有关您阴茎健康的答案”。为了获得这些信息，该网站结合了问卷调查和公司声称的“65%-96% 准确率”的 AI 筛查工具，该工具据称是在专有数据集上训练出来的，用于标记各种性传播感染的摄影证据，包括生殖器疣、疱疹爆发和梅毒。“癌症”也包含在可扫描的迹象列表中。如果结果显示“阳性”，HeHealth 就可以将用户推荐给医疗专业人员进行实际的体检、诊断和治疗。此后，它基本上默默无闻，据报道在过去两年中只有约 31,000 人使用了其声称已匿名化和加密的服务。然后，Calmara 出现了。
Calmara 的网站充斥着 Z 世代中心的流行语，它将自己定位为女性新的“亲密最佳拍档”，提供扫描潜在性伴侣阴茎照片以检测性传播感染迹象的服务。根据 HeHealth 首席执行官最新的LinkedIn 帖子，HeHealth 和 Calmara“是完全不同的产品”。然而，根据 Calmara 的网站，HeHealth 的所有者正在运营 Calmara，并且 Calmara 使用相同的 AI。Calmara 还将自己定位为（目前）免费且“当专注于 D（阴茎）时，它才能真正发挥作用”。
在 3 月 19 日的揭幕公告中，一位“匿名用户”声称 Calmara 已经“改变了关于性健康的对话”。Calmara确实在上周引发了一场对话——只是这场对话可能并非其开发者所期望的那样。
一款新奇的应用
Calmara 和 HeHealth 的细则都承认，它们的性传播感染判断“不应被用作专业医疗建议、诊断、治疗或任何疾病或病症管理的替代品”。尽管其广告宣传，但它并不是一个真正的医疗诊断工具，这显而易见。
不需要一个“锐利到让你觉得它参加了 SAT 考试”的 AI 来记住，大多数性传播感染都是无症状的。在这种情况下，它们肯定不会在照片中可见。此外，一篇解释 Calmara AI 的预印本论文（其中包含拼写错误）表明，它是在一个极其有限的图像数据库上训练出来的，该数据库包括阴茎的“合成”照片，即计算机生成的图像。同时，确定其令人惊讶的准确性也很困难——Calmara 的预印本论文称其 AI 准确率为 94.4%，而主页则称其为 95%。再往下滚动一点，FAQ 部分则提供了 65% 到 90% 的可靠性。这似乎并不是一种鼓励人们采取安全无套行为的有效方法，而后者（presumably）需要双方就性健康进行相互、值得信赖的沟通。
性与文化评论家 Ella Dawson 上周在一篇病毒式传播的博客文章中写道：“表面上看，这项服务如此不恰当，很容易被当作讽刺”。Calmara 的核心概念——即新的亲密伴侣会舒适到愿意为 AI 服务“扫描”而拍摄生殖器照片——这在现实生活中很难想象会发生。“……人类就是这样相互交往的。这不是正常化关于性健康的对话的方式。也不是促进更安全的性行为的方式。”
无年龄验证
鉴于其特定的年轻受众定位，Dawson 告诉《PopSci》，她认为“很容易想象一个未成年人在恐慌中找到 Calmara 并用它来自我诊断”，这显然会涉及法律问题，也包括道德问题。首先，未成年人的露骨图像可能构成儿童性虐待材料（CSAM）。尽管 Calmara 明确声明其程序不应被未成年人使用，但在撰写本文时，它甚至连最基本的年龄验证协议都没有。
“Calmara 没有任何年龄验证，甚至没有一个复选框要求用户确认他们已年满十八岁，这不仅仅是懒惰，更是极其不负责任，”Dawson 总结道。
可疑的隐私行为
更关键的是，数字隐私专家 Carey Lening 在他的分析中指出，仅仅在你的“健康”网站上加上免责声明，可能相当于“法律上的魔法仙尘”。尽管 Calmara 的 FAQ 部分在技术细节方面含糊不清，但 HeHealth 的 FAQ 页面确实说明其服务符合 HIPAA 标准，因为它们使用亚马逊网络服务 (AWS)“收集、处理、维护和存储”数据——这在技术上是正确的。
AWS 在其专门介绍 HIPAA 法规的页面上明确表示，云服务提供商不存在“HIPAA 认证”。相反，AWS“调整我们的 HIPAA 风险管理计划”，以满足“适用于我们运营模式”的要求。根据 AWS 的说法，它利用“更高的安全标准，这些标准符合HIPAA 安全规则”，使符合 HIPAA 规定的“受保护实体及其业务伙伴”能够使用 AWS 来处理、维护和存储受保护的健康信息。基本上，如果您同意使用 Calmara 或 HeHealth，您就同意 AWS 处理阴茎照片——无论它们是您的还是别人的。
[相关: 一种曾被遗忘的抗生素可能是对抗耐药性感染的新武器。]
不过，Lening 表示，Calmara 的开发者可能未能考虑到较新的州法律，例如华盛顿州的《我的健康我的数据法案》，该法案对消费者健康数据持有“极其广泛的定义”，并将于 6 月下旬生效。《我的健康我的数据法案》是美国此类法律的首例，其宗旨是保护可能不属于 HIPAA 管辖范围的个人健康数据。
“简而言之，他们没有进行充分的法律尽职调查，”Lening 认为。
“从隐私倡导者和从业者的角度来看，令人沮丧的不是他们‘拥抱健康创新’和‘带来改变’，而是他们采用了典型的‘快速行动，打破常规’的方法来解决问题，”她继续说道。“事实是，（网络上的）愤怒是完全可以预料到的，因为在我看来，Calmara 的开发者没有充分评估他们的应用程序可能造成的危害风险。”
保持 Calmara，继续前进
当被直接问及这些问题时，Calmara 和 HeHealth 的创始人似乎并不在意。
“大部分批评是基于错误的信息和不实信息，”HeHealth 首席执行官兼 Calmara 联合创始人 Yudara Kularathne 上周五在写给《PopSci》的邮件中表示，她同时指向了早期关于其隐私政策的LinkedIn 声明。Kularathne 补充说，“关于匿名数据可能被重新识别的担忧”正在被考虑之中。
周一，Kularathne 在另一篇公开的 LinkedIn 帖子中表示，她正在处理“健康数据和个人身份信息 (PHI) 相关问题”、“CSAM 相关问题”、“沟通相关问题”和“合成数据相关问题”。
“我们正在解决提出的绝大多数问题，并且许多更改已立即实施，”Kularathne 写道。
在被问及更多细节时，Calmara 首席执行官 Mei-Ling Lu 在邮件中回避了批评，而是向《PopSci》提供了一段“我们的一位女性用户”的音频文件，其中讲述了这位匿名用户和她的伴侣如何利用 HeHealth（现在是 Calmara）的 AI 帮助确定他们患有疱疹。
“在他们即将开始时，她注意到她伴侣的阴茎上有一些‘不对劲’的地方，但他却说：‘你知道我有多容易出汗，这是热疹’，”Lu 写道。在几天后注意到类似的“热疹”后，Stacy 和她的伴侣咨询了 HeHealth 的 AI 扫描仪，该扫描仪对上传的照片进行了标记，并将他们推荐给医疗专业人员，后者证实他们俩都患有疱疹。
需要明确的是，像梅奥诊所这样的医疗组织可以免费提供关于疱疹症状的简洁、准确的信息，这些症状可能包括生殖器、肛门或口腔周围的疼痛或瘙痒以及丘疹或水泡、排尿疼痛以及尿道或阴道分泌物。症状通常在感染后 2-12 天出现，尽管许多感染病毒的人症状轻微或没有症状，但他们仍然可以将疾病传播给他人。
与此同时，Calmara 光鲜亮丽（NSFW）的宣传视频充满了双关语，承诺它是“ the PERFECT WEBSITE for HOOKING UP”（约会/勾搭的完美网站），但无论展示多少根香蕉，使用 AI 对阴茎进行一次快速检查似乎并不可靠、不愉快，甚至不自然。
