周三，纽约市在监管人工智能技术对市内工作招聘流程的影响方面迈出了微小的一步。这类技术通常被称为“自动就业决策工具”(AEDT)，它们利用人工智能或算法为求职者或晋升候选人分配自动排名或评分。该市的“自动就业决策工具”法律，又称地方法规 144 号，现在要求任何使用此类技术的雇主必须由第三方对这些工具进行审计，以检测故意或无意的偏见。该法律目前已生效，并将于 2023 年 7 月 5 日开始执行，之后不合规的企业可能面临每天每使用一个工具罚款 500 美元至 1500 美元。
[相关：人工智能的广阔世界简明指南。]
这是在招聘实践和人工智能领域的第一项重要立法。根据 Zippia 的数据，65% 的招聘人员在招聘过程中以某种形式使用人工智能——例如，筛选成千上万份特定职位申请以查找特定资质参数，搜查社交媒体，甚至在视频面试中分析候选人的面部表情或肢体语言。
AEDT 通常被宣传为一种管理大量申请者职位招聘流程的方法。“在互联网时代，找工作容易多了。而且有工具可以帮助求职者简化这一流程。比如‘给我们你的简历，我们将帮你申请 400 个职位’，”咨询公司 Orcaa 的首席执行官 Cathy O’Neil 告诉NBC News。“他们收到的申请太多了。他们必须想办法筛选名单，所以这些算法就为他们做了这件事。”
然而，人工智能远非一个公正的候选人评判者——人工智能数据集和技术经常会延续人类的偏见，例如种族主义、性别歧视和年龄歧视。
批评人士认为该法律并不足够。特别是，一项需要审计的资格要求是人工智能“实质上协助或取代了自由裁量决策”。民主与技术中心主席 Alexandra Givens 担心，这可能被解释为，在这些情况下，人工智能是“招聘决策中的唯一或主要因素，或者被用来推翻人类的决定”，而不是流程的一部分，她五月份在接受《纽约时报》采访时表示。
她补充道：“我最大的担忧是，这可能会成为全国性的模板，而我们应该要求我们的政策制定者做更多的事情。”目前，新泽西州、马里兰州、伊利诺伊州和加利福尼亚州也在考虑类似的法律。
纽约大学计算机科学教授、纽约市自动决策系统特别工作组的创始成员 Julia Stoyanovich 指出，这项审计要求也不涉及基于年龄或残疾的歧视，她对 NBC 说道。
[PopSci+ 相关内容：人工智能时代 4 个隐私问题。]
几十年来，无论是由人类还是人工智能造成的招聘偏见，一直是一个显而易见的问题——这个问题在多年来几乎没有改善。这项法律是否会带来改变，还有待观察。
电子隐私信息中心 Ben Winters 告诉《Quartz》：“我对[这项法律]能提供任何信息不抱任何希望，”或者“真正让人们提高他们在使用招聘过程中的公平性。”
