微软首席执行官布拉德·史密斯 (Brad Smith) 呼吁制定法律以防止面部识别AI偏见

微软公司呼吁制定新的立法来管理人工智能软件，以识别面孔，并倡导在关键情况下对技术进行人工审查和监督。

“这包括决策可能对消费者造成身体或情感伤害的风险，可能对人权或基本权利产生影响，或者消费者的个人自由或隐私可能受到影响，” 微软总裁兼首席法律官布拉德·史密斯 (Brad Smith) 在布鲁金斯学会 (Brookings Institution) 智库发表的一篇与该主题相关的演讲同时发表的博客中写道。该技术的销售商必须 “认识到，他们没有免除遵守禁止歧视独立消费者或消费者群体的法律的义务，” 他补充说。

史密斯还希望法律要求产品的销售者清楚地解释他们的所作所为，并开放其服务以供外部各方测试准确性和偏见。周四早些时候，倡导组织AI现在呼吁对政府使用的AI工具进行更严格的监管和定期审核。

执法部门、边境安全部门、军方和其他部门对面部识别软件的使用越来越令人担忧。研究表明，一些最受欢迎的产品会犯错，对肤色较深的人的表现更差。微软，Amazon.com Inc和Alphabet Inc的Google也面临员工和倡导团体的抗议，他们提出了将AI软件出售给政府机构或警察的想法。史密斯7月呼吁立法者在不提供他希望看到的特定法律的情况下规范面部识别软件。

史密斯说: “可以说，面部识别精灵刚刚从瓶子里冒出来。”“除非我们采取行动，否则我们可能会在五年后醒来，发现面部识别服务的传播方式加剧了社会问题。到那时，这些挑战将很难恢复。”这位高管补充说，微软认为，当前的面部识别技术会增加产生偏见的风险，可能导致对隐私的新侵犯，并且如果用于大规模政府监视，可能会侵犯民主自由。

他希望最初的立法，即使它不能回答所有问题，而不是等待几年后更全面的法律方法。史密斯在一次采访中说，他已经与州和联邦立法者进行了交谈，“人们对此很感兴趣。”他希望明年某个时候可以制定法律。史密斯说，微软还要求制定法律，要求在公共区域使用面部识别技术的公司放置 “醒目的通知”，以使客户和路人意识到这一点。

在呼吁对人工智能产品进行第三方审计时，史密斯对竞争对手进行了猛烈抨击，但没有点名。他说: “当重要的倡导组织试图进行测试时，他们几乎立即遭到了一些声称测试不足的提供者的拒绝和批评。”在7月，亚马逊回应了ACLU对其Rekognition服务的批评，称倡导组织使用了错误的测试设置。

微软计划明确记录其AI软件可以做什么和不能做什么，同时明确禁止将产品用于非法歧视。史密斯说，该公司也不会向客户提供它认为可能破坏民主的技术。史密斯写道: “我们必须确保2024年看起来不像小说1984中的一页。”