下周，当今年的夏季奥运会在法国巴黎拉开帷幕时，近 100 艘载着世界顶尖运动员的船只将 沿着塞纳河缓缓驶过。大约有五十万粉丝将为他们国家的体育大使在卢浮宫、埃菲尔铁塔以及其他如同旅行指南般的历史遗迹旁加油助威。但观看者并非只有粉丝。成千上万俯瞰河流的闭路电视摄像机将实时监控现场。在幕后，强大的新人工智能模型将处理视频素材，搜寻人群中隐藏的任何危险迹象。这个备受争议的新人工智能驱动的 监控系统，批评者 认为它可能违反了更广泛的欧盟隐私法，是法国利用技术使今年奥运会成为有史以来监控最严密的奥运会之一的几种方式之一。
人工智能监控将用于检测人群骚乱
法国立法者 去年年底通过了一项新法律，暂时赋予执法部门使用“实验性”人工智能算法监控公共视频流并提供“实时人群分析”的权力。实际上，据报道，人工智能检测模型将分析成千上万个闭路电视摄像机的视频流，寻找奥林匹克人群中隐藏的潜在危险异常迹象。这些警示信号可能包括挥舞武器的人、远超预期的聚集人群、打斗和斗殴，以及无人看管的行李。
法国在人工智能分析方面与 Wintics、Videtics、Orange Business 和 ChapsVision 等多家科技公司合作。执法部门已经在一些地铁站、戛纳电影节和一次挤满了观众的 Depeche Mode 音乐会中测试了新系统。巴黎警察局长 Laurent Nunez 最近告诉《路透社》，音乐会试运行“相对顺利”，并且系统在奥运会期间的使用“一切绿灯”。
如果人工智能模型确实检测到潜在威胁，它将将其标记给一名人工执法人员，然后由该人员决定是否采取进一步的执法行动。法国官员坚称，实时分析将在不使用 面部识别 或收集其他独特的生物识别标识符的情况下进行。相反，执法部门及其私人合作伙伴表示，该模型将仅测量“行为”模式，例如身体运动和姿势。官员们声称，人工智能无法根据个人生物识别身份来识别个人。
“这无关乎在人群中识别出‘X 先生’，”法国内政部长 Gérald Darmanin 据称在今年早些时候与法国议员的一次会议上表示。“这关乎识别情况。”
奥运会将考验法国新的“实验性”人工智能视频监控
但一些批评人士质疑，在这种情况下，是否有可能在无意中收集和比较某些生物识别标识符。这样做可能会使法国违反欧洲的 通用数据保护条例 (GDPR) 和最近通过的 欧盟人工智能法。38 个欧洲公民社会组织组成的联盟在今年早些时候的一封公开信中称，该模型报告的对步态、身体姿势和手势的监控仍可能被视为用于识别特定个人或群体的生物识别标记。如果属实，这些组织认为，那么该系统将违反现有的 GDPR 规则，限制在公共场所允许收集的生物识别数据范围。
国际特赦组织研究员兼人工智能与人权顾问 Matt Mahmoudi 告诉《科学美国人》，在涉及行为或生物识别的人工智能分析之间划定界限，更多的是语义上的区别，而非实质性的。Mahmoudi 表示，这些模型可能仍然依赖包含生物识别信息的“参考数据库”。
“监控行为涉及对人脸、身体、手势、模式和动作的识别和检测，所有这些都是不同形式的生物识别数据，这使社区遭受大规模监控，并常常遭受种族歧视，”Mahmoudi 说。“任何体育赛事都不应该涉及生成与会者的虚拟警方线条图，这些人因默认而显得可疑。这项技术完全是站不住脚的，并且违反了国际法。”
GDPR 规则允许在“公共利益许可”下对生物识别数据收集规则进行某些例外，但人权组织认为法国案例中授予的许可过于宽泛，与任何明显的威胁不成比例。人权组织和一些反对 快速通过的法律 的议员们还担心，这可能会为未来的公共监控法案 树立危险的先例，并可能破坏欧盟遏制人工智能监控的更广泛努力。国际特赦组织人工智能监管顾问 Mher Hakobyan 表示，即使是暂时的监控权力，“也可能将法国永久地变成一个反乌托邦式的监控国家。”人权观察组织曾在一封致法国议员的信中反对 快速通过的法律，同样担心它对公民自由和民主原则构成“严重威胁”，并可能加剧执法中的种族差异。
“该提案以保障大型活动安全为借口，为使用侵入性算法驱动的视频监控铺平了道路，”人权观察组织在其信中写道。“在公共可访问区域存在未经针对性的（通常称为无差别的）算法视频监控，就可能对基本的公民自由产生寒蝉效应。”
与此同时，也有人担心这些名义上的临时措施最终会成为常态。监控法将于 2025 年正式失效，但如果立法者愿意，他们将有机会延长其有效期。支持扩大权力的人认为，这些权力是加强国家防御以应对可能致命的恐怖袭击的必要工具。法国在过去二十年中 经历过六次以上的重大袭击，包括 2015 年的一系列枪击事件，造成 130 人死亡。2015 年的事件导致法国 发布了紧急状态，最终 延长了两年多。
“目前没有什么能阻止这种‘临时’措施被永久地编织到法国警务的结构中，”Mahmoudi 说。“历史告诉我们，这种试验是滑向正常化的滑坡。今年夏天聚集在巴黎的法国和全球各地的社区，不能被期望在法国寻求扩大其人工智能驱动的监控计划的过程中充当实验对象。”
法国加强了大规模户外开幕式的安保
法国今年奥运会期间对安全的重视不仅限于视频监控。当局已将开幕式举行地塞纳河部分区域周围的区域指定为“反恐区”。从 7 月 18 日至 26 日，大约 6 公里的路段将受到高度安保。
居住和工作在该区域内的约 2 万名法国居民在奥运会前 将被强制接受背景调查，以确定他们是否与所谓的伊斯兰极端组织有任何联系。这些人将每人获得一个 政府发放的二维码，他们将在活动期间使用该二维码在该区域内通行。全副武装的警察和军队，这些在过去十年中在巴黎随处可见的景象，据说 数量是正常情况下的十倍。当地执法部门将与数百名潜水炸弹专家、反恐部队和训练有素的防范无人机威胁的特种部队协同工作。
多年来，奥运会一直被各国用作推广和部署最新数字监控工具的试验场。中国在 2008 年北京奥运会及其最近的冬奥会期间在安全检查中广泛使用面部识别技术。俄罗斯情报官员在 2014 年索契冬奥会期间也类似地 监控参赛者和与会者的数字通信和互联网流量。在所有这些情况下，主办国都以确保在空前关注时期的安全为由，超出了普通监控操作的界限。这确实令人担忧。奥运会 曾多次发生过暴力事件，不止一次。但即使眼前的威胁消退，主办国也常常会保留他们新获得的监控能力，活动人士称，这种做法 最终会随着时间的推移而侵蚀公民自由。然而，法国是否会遵循同样的剧本，还有待观察。
更新于 7 月 19 日，下午 12:15： 已添加国际特赦组织研究员兼人工智能与人权顾问 Matt Mahmoudi 的补充评论。
