本文最初发布于 KFF Health News。
华盛顿的立法者和监管机构开始对如何在医疗保健领域监管人工智能感到困惑——而人工智能行业认为他们很有可能搞砸。
加州大学旧金山分校医学系主任 Bob Wachter 表示：“这是一个极其艰巨的问题。“我们可能会鲁莽行事，过度监管。”
人工智能对医疗保健的影响已经十分广泛。美国食品药品监督管理局已批准了约 692 种人工智能产品。算法正在帮助安排患者就诊、确定急诊室人员配备水平，甚至转录和总结临床就诊记录以节省医生时间。它们还开始帮助放射科医生解读核磁共振成像和 X 射线。Wachter 表示，他有时会非正式地咨询 OpenAI 公司的大型语言模型 GPT-4 的一个版本，以处理复杂的病例。
人工智能影响的范围之广——以及未来潜在的变革——意味着政府已处于追赶状态。
风险投资公司 OMERS Ventures 的高级执行合伙人 Michael Yang 在一封电子邮件中表示：“政策制定者完全落伍了。”Yang 的同行们在这个领域进行了巨额投资。风险投资公司 Rock Health 表示，投资者已向专注于人工智能的数字健康公司投入了近 280 亿美元。
Wachter 表示，监管机构正在应对的一个问题是，与今天和五年后化学性质相同的药物不同，人工智能会随着时间而改变。但治理正在形成，白宫和多个以健康为中心的机构正在制定规则，以确保透明度和隐私。国会也表现出兴趣。参议院财政委员会于 2 月 8 日就医疗保健领域的人工智能举行了听证会。
随着监管和立法的出台，游说活动也随之增加。CNBC统计显示，2023 年披露人工智能游说活动的组织数量激增了 185%。行业组织 TechNet 发起了一项 2500 万美元的倡议，包括电视广告投放，以教育观众了解人工智能的好处。
曾在美国奥巴马政府任职的风险投资公司 Venrock 合伙人 Bob Kocher 在一封电子邮件中表示：“鉴于我们仍处于该技术的发明初期，很难知道如何明智地监管人工智能。”
Kocher 曾与参议员就人工智能监管问题进行过沟通。他强调了医疗保健系统在采用这些产品时将面临的一些困难。医生——面临着医疗事故风险——可能会对使用他们不了解的技术来做临床决策感到担忧。
咨询公司 Capital Economics 在一月份对人口普查局数据进行的一项分析发现，在接受调查的 14 个行业中，有 6.1% 的医疗保健企业计划在未来六个月内使用人工智能，这处于调查的中等水平。
与任何医疗产品一样，人工智能系统也可能对患者构成风险，有时是以一种新颖的方式。例如：它们可能会编造信息。
Wachter 回忆起一位同事，他曾测试性地让 OpenAI 的 GPT-3 为一个故意“古怪”的处方撰写一份事先授权书给保险公司：一种用于治疗患者失眠的血液稀释剂。
但他表示，人工智能“写了一份漂亮的说明”。该系统令人信服地引用了“近期文献”，以至于 Wachter 的同事一度怀疑她是否错过了新的研究领域。事实证明，聊天机器人编造了这些内容。
人工智能有可能放大医疗保健系统中已经存在的偏见。历史上，有色人种接受的护理比白人患者少。例如，研究表明，骨折的黑人患者获得止痛药的可能性低于白人患者。当人工智能以这些数据为基础进行训练并随后采取行动时，这种偏见可能会被固化。
对大型保险公司部署的人工智能进行的研究证实了这种情况的发生。但这个问题更为普遍。Wachter 表示，加州大学旧金山分校测试了一款用于预测临床预约缺席率的产品。那些被认为不太可能就诊的患者更容易被重复预约。
测试表明，有色人种更有可能缺席。无论这项发现是否准确，“伦理上的回应是询问，为什么会这样，以及你是否可以做些什么，”Wachter 说。
抛开炒作不谈，这些风险很可能会随着时间的推移持续引起关注。人工智能专家和 FDA 官员强调需要透明的算法，并由人类——监管机构和外部研究人员——进行长期监控。人工智能产品会随着新数据的纳入而适应和改变。科学家们也将开发新产品。
芝加哥大学教务长 Katherine Baicker 在财政委员会听证会上作证时表示，政策制定者将需要投资于新的系统来跟踪人工智能。她在一次采访中说：“最大的进展是我们尚未想到的东西。”
KFF Health News 是一家国家新闻编辑室，专门报道深入的健康问题新闻，并且是 KFF 的核心运营项目之一——KFF 是一个独立的健康政策研究、民意调查和新闻机构。了解更多关于 KFF。
订阅 KFF Health News 的免费晨报。
