本文最初发布于 KFF Health News。
Elizabeth Amirault 从未听说过 Narx Score。但她说，她去年得知该工具被用来追踪她的用药情况。
她说，在 2022 年 8 月的一次就诊中，Amirault 告诉印第安纳州韦恩堡一家医院的执业护士，她感到剧痛。她得到了一个令人费解的答复。
“你的 Narx Score 太高了，我不能给你任何麻醉药品，”她回忆起男人说的话，当时她正在等待核磁共振成像，准备进行髋关节置换手术。
像 Narx Scores 这样的工具被用来帮助医疗提供者审查管制药品处方。它们会影响甚至限制止痛药的处方，类似于信用评分影响贷款条款。Narx Scores 和一个由算法生成的过量风险评级由医疗保健技术公司 Bamboo Health（前身为 Appriss Health）在其 NarxCare 平台中生成。
此类系统旨在对抗该国的阿片类药物流行病，这场流行病已导致惊人数量的过量死亡。这些平台利用各州收集的管制药品处方数据，以识别患者和医生潜在问题的模式。州和联邦卫生机构、执法官员和医疗保健提供者都采纳了这些工具，但用于计算公式的机制通常不会向公众公开。
人工智能正逐渐渗透到美国生活的更多领域。随着 AI 在医疗保健领域的蔓延，人们对偏见、准确性以及政府监管能否跟上快速发展的技术产生了熟悉的担忧。
分析阿片类药物处方数据的系统使用引发了关于它们是否经过了足够多的独立测试（超越了开发它们的公司之外的测试）的疑问，这使得人们很难了解它们的工作方式。
无法了解这些系统的内部运作，只能留下对其潜在影响的线索。一些患者表示，他们被剥夺了必要的护理。一些医生表示，他们行医的能力受到了不公平的威胁。研究人员警告说，尽管这种技术有其益处，但如果它错误地标记了患者或医生，可能会产生意想不到的后果。
科罗拉多大学安舒茨医学院科罗拉多公共卫生学院的健康经济学家 Jason Gibbons 表示：“我们需要了解正在发生什么，以确保我们没有弊大于利。”“我们担心它没有按预期工作，并且正在伤害患者。”
34 岁的 Amirault 说，她多年来一直饱受坐骨神经痛、退行性椎间盘疾病和股骨头缺血性坏死的慢性疼痛困扰，后者是由于骨骼供血受限造成的。
她说，她之前曾被拒绝使用阿片类药物 Percocet，但从未听说过 Narx Score。
在 Facebook 的一个慢性疼痛支持小组中，她发现其他人也在讨论 NarxCare，该工具根据患者所谓的处方药滥用风险进行评分。她坚信她的评分对她的治疗产生了负面影响。
Amirault 说：“显然，生病、做了一堆手术和看了不同的医生，所有这些都对我不利。”
数据库驱动的追踪 已被发现与阿片类药物处方下降有关，但其对遏制疫情的影响证据尚不明确。过量死亡继续困扰着这个国家，像 Amirault 这样的患者表示，监测系统让他们感到被污名化，并且无法获得疼痛缓解。
美国疾病控制与预防中心（CDC）估计，2021 年约有 5200 万美国成年人患有慢性疼痛，约有 1700 万人患有严重到影响日常活动的疼痛。为了控制疼痛，许多人使用处方阿片类药物，这些药物在几乎所有州都通过电子数据库（称为处方药监测计划，PDMP）进行追踪。
最后一个采用该计划的州密苏里州仍在运行中。
据该公司称，超过 40 个州和地区使用 Bamboo Health 的技术来运行 PDMP。这些数据可以输入 NarxCare，这是一个独立的工具集，用于帮助医疗专业人员做出决策。该公司表示，数百家医疗机构和六大主要药房零售商中的五家也使用 NarxCare。
该平台根据患者在麻醉药品、镇静剂和兴奋剂方面的处方活动生成三个 Narx Score。同行评审研究表明，“Narx Score 指标可以作为一种有用的初步通用处方阿片类药物风险筛查工具。”
NarxCare 的算法生成的“过量风险评分”利用 PDMP 的患者用药信息——例如开处方的医生数量、使用的药房数量和药物剂量——来帮助医疗提供者评估患者的阿片类药物过量风险。
Bamboo Health 没有透露算法背后的具体公式，也没有回应有关其“过量风险评分”准确性的问题，但表示它会根据当前的过量趋势，持续审查和验证其算法。
美国疾病控制与预防中心（CDC）的指南建议临床医生在开具止痛药之前查阅 PDMP 数据。但该机构警告说，“应特别注意确保 PDMP 信息的使用方式不会对患者造成伤害。”
CDC 表示，这种处方药数据导致患者被医生诊所辞退，这可能使患者面临疼痛未得到治疗或治疗不足的风险。该机构进一步警告说，风险评分可能由“不公开的专有算法”生成，并可能导致有偏见的结果。
Bamboo Health 表示，NarxCare 可以向提供者显示患者在一屏上的所有分数，但这些工具绝不应取代医生的决定。
一些患者表示，这些工具对他们的治疗产生了不成比例的影响。
居住在北卡罗来纳州的 47 岁的 Bev Schechtman 表示，她偶尔会使用阿片类药物来控制克罗恩病的疼痛发作。作为慢性疼痛患者倡导组织“医生患者论坛”的副主席，她表示她听到了其他患者报告的药物获取问题，其中许多问题她担心是由数据库的红旗引起的。
Schechtman 说：“很多患者在没有药物的情况下被剥夺了。”她表示，有些人在无法获得处方后转向了非法来源。“有些患者对我们说：‘要不就是自杀，要不就是流落街头。’”
对于慢性疼痛患者来说，风险很高。研究表明，快速调整剂量会增加戒断、抑郁、焦虑甚至自杀的风险。
一些治疗慢性疼痛患者的医生表示，他们自己也曾被数据系统标记，然后失去了执业执照并被起诉。
密歇根州门罗市的疼痛医学和成瘾专家 Lesly Pompy 认为，此类系统参与了他面临的法律诉讼。
2016 年，由于他的止痛药处方模式，他的诊所遭到当地和联邦执法机构的突袭。突袭一年后，Pompy 的医疗执照被暂停。2018 年，他被控非法分发阿片类止痛药和医疗欺诈。
他说：“我知道我是在善意地照顾患者。”联邦陪审团于 1 月宣判他对所有指控无罪。他说他正在努力恢复他的执照。
一家名为 Qlarant 的马里兰州科技公司表示，它已开发出算法，用于识别医疗提供者之间涉及管制物质（尤其是阿片类药物）的“可疑行为模式和互动”。
该公司在其在线宣传册中表示，其“广泛的政府工作”包括与州和联邦执法实体合作，如美国卫生与公众服务部监察长办公室、联邦调查局（FBI）和美国禁毒局（DEA）。
在该公司的宣传视频中，该公司表示其算法可以“分析各种数据源”，包括法院记录、保险索赔、药物监测数据、财产记录和监禁数据，以标记提供者。
公司首席技术官 William Mapp 强调，最终决定如何处理这些信息是由人来做出的，而不是算法。
Mapp 表示，“Qlarant 的算法被认为是专有的，是我们知识产权”，并且它们没有经过独立的同行评审。
Mapp 说：“我们知道会有一定的错误率，并且我们会尽量告知客户。”“当我们出错时，这很糟糕。但我们一直在努力达到减少错误的目标。”
通过使用处方数据起诉医生引起了美国医学会的关注。
美国医学会物质使用和疼痛管理工作组主席 Bobby Mukkamala 说：“这些未知且未经审查的算法导致医生在未经正当程序或州执照委员会审查的情况下立即暂停其处方权——由于延误和拒绝护理，常常伤害了疼痛患者。”
即使是药物追踪系统和算法的批评者也认为，数据和人工智能系统在减轻阿片类药物危机造成的危害方面具有一定的作用。
健康经济学家 Gibbons 说：“关键在于确保技术按照预期工作。”
KFF Health News 是一个全国性的新闻编辑部，致力于深入报道健康问题，是 KFF 的核心运营项目之一。KFF 是一个独立的健康政策研究、民意调查和新闻机构。了解更多关于 KFF 的信息。
