美国研究表明，许多面部识别系统存在偏见

娜塔莎·辛格和凯德·梅斯

根据联邦机构周四发布的一项研究，大多数商业面部识别系统都表现出偏见，突显了有关警察部门和联邦机构越来越多地用来识别可疑罪犯的技术的问题。

据美国国家标准与技术研究所报道，这些系统错误地识别出的非裔美国人和亚裔面孔是白种人面孔的10倍至100倍。研究发现，在美国执法机构使用的照片数据库中，错误率最高的是识别美洲原住民。

这项技术也比男性更难识别女性。而且它错误地识别出的老年人是中年成年人的10倍。

这份新报告发布之际，立法者和民权组织对面部识别的激增越来越关注。支持者认为它是抓捕罪犯和追踪恐怖分子的重要工具。科技公司将其推销为一种便利，可用于帮助识别照片中的人或代替密码来解锁智能手机。

然而，公民自由专家警告说，这项技术-可用于在不知情的情况下远距离跟踪人们-有可能导致无处不在的监视，使行动和言论自由令人不寒而栗。今年，加利福尼亚州的旧金山，奥克兰和伯克利以及萨默维尔和布鲁克莱恩的马萨诸塞州社区禁止政府使用该技术。

美国公民自由联盟 (American Civil Liberties Union) 的政策分析师杰伊·斯坦利 (Jay Stanley) 在一份声明中说: “一场错误的比赛可能导致错过航班、冗长的审讯、观察名单的位置、紧张的警察遭遇、虚假的逮捕或更糟。”“包括联邦调查局、海关和边境保护局以及当地执法部门在内的政府机构必须立即停止部署这种反乌托邦技术。”

联邦报告是同类研究中规模最大的研究之一。研究人员可以从美国的面部照片，签证申请和过境数据库中获得约850万人的1800万多张照片。

美国国家标准与技术研究所测试了来自99个开发人员的189个面部识别算法，代表了大多数商业开发人员。他们包括微软的系统，像Cognitec这样的生物识别技术公司，以及中国的人工智能公司Megvii。

该机构没有测试来自亚马逊，苹果，Facebook和谷歌的系统，因为他们没有为联邦研究提交算法。

联邦报告证实了麻省理工学院的早期研究，该研究报告称，一些大型科技公司的面部识别系统在识别女性和肤色较深的面孔方面的准确率远低于白人男性面孔。

“虽然一些生物识别研究人员和供应商试图声称算法偏差不是问题或已经被克服，但这项研究提供了全面的反驳，” 麻省理工学院媒体实验室的研究员Joy Buolamwini领导了一项面部研究，在一封电子邮件中说。“我们必须维护公众利益，制止人脸监控的扩散。”

尽管执法部门使用面部识别并不是什么新鲜事物，但新用途正在激增，几乎没有独立的监督或公众监督。中国已经使用这项技术来监视和控制维吾尔族等少数民族。今年，美国移民和海关执法局官员因使用该技术在不知情的情况下分析数百万人的驾驶执照而受到抨击。

有偏见的面部识别技术在执法中特别成问题，因为错误可能导致错误的指控和逮捕。这项新的联邦研究发现，执法中使用的面部匹配算法对非洲裔美国女性的错误率最高。

NIST的计算机科学家帕特里克·格罗瑟 (patrick Grother) 说: “后果可能是重大的。” 他是新报告的主要作者。他说，他希望这能激励那些开发面部识别算法的人 “看看他们可能遇到的问题以及他们如何解决它”。

但是，确保这些系统公平只是任务的一部分，卡内基梅隆大学专门研究算法系统的研究员Maria De-Arteaga说。她说，随着面部识别功能变得越来越强大，公司和政府必须注意何时，何地以及如何部署它们。“我们必须考虑我们是否真的希望这些技术出现在我们的社会中，” 她说。