越来越多的 执法部门 据 报道 正在转向人工智能程序来监控警官与公众的互动。根据 多个 消息来源，警方部门特别征募了 Truleo，这是一家总部位于芝加哥的公司，该公司提供人工智能自然语言处理服务，用于转录从 本已备受争议的执法记录仪录像 中提取的音频日志。此次合作引发了对数据隐私和监控的担忧，以及 有效性 和 偏见问题，这些都与 人工智能自动化 息息相关。
Truleo 于 2019 年通过与 FBI 国家学院协会（FBI National Academy Associates, Inc.） 的合作成立，现已拥有不断增长的客户名单，该名单 已包括 加利福尼亚州、阿拉巴马州、宾夕法尼亚州和佛罗里达州的部门。西雅图警察局刚刚与该公司续签了一份为期两年的合同。科罗拉多州奥罗拉市的警察——该市目前正处于州总检察长关于种族偏见和过度使用武力的 同意令 下——也即将获得该软件，据 报道，该软件的成本约为每名警官每月 50 美元。
[相关：警用执法记录仪本应建立信任。迄今为止，它们并未做到。]
Truleo 的网站称，它“利用”专有的 自然语言处理（NLP）软件来分析、标记和分类警官与公民互动的转录文本，以期提高专业性和效率。转录日志根据特定参数进行分类，并通过详细报告呈现给客户，供其酌情使用。例如，奥罗拉市警察局长 Art Avecedo 在 Truleo 网站上发布的另一则采访中 表示，该服务可以“尽早识别行为模式——提供咨询和培训，并有机会在（不专业的行为）发生时尽早进行干预，远早于（他们）传统上能够做到的程度。”
Truleo 的联合创始人兼首席执行官 Anthony Tassone 在与 PopSci 的电话采访中强调，Truleo 软件“依赖于计算机的 GPU”，并且仅安装在警察部门的云环境中。“我们没有登录名，也无法访问这些信息，”他说。他表示，Truleo 的唯一目的是为警方部门提供文本分析工具，以分析和评估其警官。
该公司网站提供了示例转录文本，其中包含人工智能确定的描述，如“正式性”、“解释”、“侮辱性脏话”和“威胁”。语言检测技能似乎还可以识别追捕、逮捕或医疗援助请求等行为。该程序其他分类的例子包括“请出示您的驾照和行驶证？”（好）和“如果你从这里离开，我会打断你的腿”（坏）。
然而，当被问及公民是否有权选择退出这种新的员工发展形式时，Tassone 警告说，他只能“猜测或推测”他们的选择。
“我的意思是，我不是律师，”Tassone 在被问及公民关于选择退出的权利时强调。“这些问题更多地是为地区检察官，或许是警察工会律师准备的。一旦这些信息被执法记录仪数据捕获，你就真正提出了‘谁拥有它？’”的问题。
“公民能否致电（当地部门）并要求删除？我不知道，”他补充道。
PopSci 已联系阿拉米达和奥罗拉执法部门的代表征求意见，并将根据需要更新此帖子。
[相关：司法部正在调查一项可能伤害宾夕法尼亚州家庭的 AI 工具。]
Marquette 大学计算机科学系副教授兼系主任、数据、伦理与社会中心主任 Michael Zimmer 在一封发送给 PopSci 的电子邮件中敦促谨慎使用这项技术。
“虽然我认识到将人工智能应用于执法记录仪视频的良好意图……但我担心，鉴于这些算法的建模和训练方式，这可能会充满偏见。”
Zimmer 质疑“好”与“有问题”的互动究竟是如何定义的，以及由谁来定义。鉴于警民互动中充满压力甚至对抗的 普遍性，Zimmer 对人工智能“仅基于执法记录仪音频互动”来判断警官的不当行为表示异议，称其为“普遍监控常态化的又一个案例”。
Truleo 的网站声明，任何经过分析的音频都首先通过端到端加密的 《刑事司法信息服务》（CJIS） 合规数据传输流程，与上传的执法记录仪录像进行隔离。 CJIS 合规指南 由 FBI 于 1992 年制定，旨在确保政府执法部门和 Truleo 等供应商在存储和处理个人数字数据时，保护个人的民事权利，例如隐私和安全。但是，需要注意的是，“合规”并非“认证”。CJIS 合规性仅通过 Truleo 及其执法机构客户等公司自身的考量进行评估。没有中央授权机构来授予任何具有法律约束力的认证。
尽管如此，Tassone 解释说，Truleo 产品本身的性质使得其员工永远无法访问机密信息。“在我们处理（执法记录仪）音频后，不会留下任何数据副本。任何法院都无法强迫我们提供任何东西，因为我们不保留任何东西，”Tassone 说。“这是数字残余——是‘计算机内存’，它已经消失了。”
Truleo 的技术还只分析其自愿提供的数据——处理内容完全由警察局长、警长和其他 Truleo 客户自行决定。但 《Axios》 指出，绝大多数执法记录仪录像都未被审查，除非有市民投诉或外部公众压力，例如在 Tyre Nichols 死亡事件 中。即便如此，获取录像仍然困难——例如，围绕 Joseph Pettaway 在阿拉巴马州蒙哥马利 死亡事件 的漫长斗争。
[相关：人工智能能进行对话，并不意味着它很聪明。]
与此同时，对于那些对与当局互动被转录进行人工智能文本分析感到不适的公民来说，尚不清楚他们是否有任何追索权。Tassone 告诉 PopSci ，如果少数人要求从当地部门的项目中排除他们的数据，他不会介意，因为这不太可能影响 Truleo 的“整体匿名聚合分数”。
“我们正在查看一名警官一年内的数千次互动，”他表示，这是一个平均请求。“所以，如果一名市民（不）希望他们的数据被分析，以决定他们是否合规，或者他们是否生气，”他停顿了一下。“再说一遍，这确实归结于：人工智能说，‘这次通话中是否有市民投诉？’‘是’或‘否’。‘这名市民是否生气？’‘是’或‘否’。就这样。”
