微软周二宣布，将根据其新的负责任人工智能标准，从其 Azure AI 服务中移除某些面部分析工具。正如微软首席负责任人工智能官 Natasha Crampton 在声明中所解释的那样，自动“推断情绪状态和性别、年龄、微笑、面部毛发、头发和妆容等身份属性”的能力，将在本周对新用户停止提供，并在今年内逐步淘汰对现有用户的影响。
多年来，人工智能驱动的面部识别一直受到电子前哨基金会 (EFF) 等组织的批评。虽然执法部门的使用通常最令人担忧，但研究表明，这些工具在识别性别等属性方面根本不准确——尤其是在多样化和少数族裔群体中。例如，麻省理工学院媒体实验室发现，IBM、Face++ 和微软的面部识别技术对肤色较深的面孔和女性面孔的性别分类存在不成比例的错误。性能最差的工具将肤色较深的女性面孔的性别错误分类的比例高达 34.7%，而肤色较浅的男性面孔的性别错误分类的比例仅在 0% 到 0.8% 之间。
更重要的是，微软在新闻稿中承认，面部表情和情感在不同文化之间并非普遍存在。Crompton 写道：“公司内外的专家都强调，在‘情绪’的定义上缺乏科学共识，在推断如何跨用例、地区和人口统计学进行泛化方面存在挑战，以及围绕这种能力存在加剧的隐私担忧。”
这一切都是微软刚刚向公众发布的负责任人工智能标准 V2 的一部分。该文件试图为产品开发团队设定指导原则（分为问责制、透明度、公平性、可靠性和安全性、隐私和安全以及包容性），同时认识到社会法律和规范尚未跟上人工智能带来的独特风险和挑战。（与此同时，欧盟以其一贯的强硬作风，似乎将率先出台关于人工智能在广泛环境中如何使用的严格规定。）
当然，微软并非唯一一家因面部识别程序而受到批评的公司（而且目前它不向执法部门提供面部识别服务）。Facebook 在去年年底结束了其面部识别功能，该功能曾用于识别照片中的朋友并建议“标记”，在此之前，该功能已使用十多年，并收到了两次巨额罚款和大量批评。
Zoom 目前也因其人工智能驱动的情绪和参与度识别功能而受到批评。超过 25 个人权组织上个月联名致函 Zoom，呼吁其撤销这些功能，因为它们具有操纵性、歧视性和伪科学性。根据 Zoom 的帮助文档，Zoom IQ for Sales 会跟踪诸如“谈话-倾听比例”、“说话速度”、“填充词”、“最长发言”和“耐心”等指标，并为每位通话者提供情绪和参与度分析。Zoom 未回应《PopSci》的置评请求，也没有公开回应该信件。
值得注意的是，微软的面部识别工具并非完全消失。它仍将为像 Uber 这样希望验证注册服务人员的身份和身份证件的公司提供这些工具。然而，它正在借鉴其在实现“适当使用控制”方面的经验，借鉴其自定义神经语音（允许创建听起来与原始来源几乎相同的合成语音）的经验，以确保它们不被滥用。它计划将其使用限制在受管理的客户和合作伙伴，将允许的使用案例缩小到“预定义的可用范围”，并利用技术控制来确保一切合规。
这是否足以抵消人们对面部识别工具的普遍批评和合理担忧，还有待观察。尽管这些工具在自动模糊监控录像中的人脸等方面可能很有用，但它们也非常容易被滥用。除了对私营企业的担忧外，政府和联邦机构在面部识别方面过度使用的可能性几乎是无限的。
