微软敦促立法者规范人脸识别技术

微软公司因涉嫌涉及面部识别软件的美国政府合同而受到抨击，该公司表示将更仔细地考虑这一领域的合同，并敦促立法者规范此类人工智能的使用，以防止滥用。该公司是能够识别inpidual面孔的软件的主要制造商之一，该公司表示将采取措施使这些系统不容易出现偏见; 制定新的公共原则来管理该技术; 并将更加刻意地出售其在该领域的软件和专业知识。尽管微软指出科技行业对其产品负有责任，但该公司认为还需要政府采取行动。

微软总裁兼首席法律官布拉德·史密斯 (Brad Smith) 周五在一篇博客文章中表示: “管理政府使用技术的唯一有效方法是政府主动管理这种使用。”“如果有人担心一项技术将如何在社会上更广泛地部署，那么监管这种广泛使用的唯一方法就是政府这样做。事实上，这就是我们认为今天需要的 -- 政府倡议规范面部识别技术的正确使用，首先由一个两党和专家委员会通报。“

微软，Alphabet inc. 的Google和Amazon.com inc. 等公司因向美国政府和当地警察出售AI软件 (尤其是用于面部识别的AI软件) 而受到公民自由组织及其员工的抨击。科技公司呼吁对自己的产品进行更严格的监管有点不寻常，但史密斯和微软人工智能负责人哈里·舒姆 (Harry Shum) 今年早些时候发表了一篇论文，称人工智能的进步需要新的法律。

史密斯写道: “虽然我们理解今天一些人呼吁科技公司做出这些决定 -- 我们认识到我们自己行使责任的明确必要性 -- 但我们认为，这不足以替代公众及其民主共和国代表的决策。”面部识别系统通常具有严重的缺点，并且在肤色较深的人群中识别和区分能力特别差。微软的一位研究人员Timnit Gebru和麻省理工学院媒体实验室的Joy Buolamwini的2月论文显示，对肤色较深的女性进行分类的系统的错误率高达35%。此后，微软的研究部门一直致力于纠正研究人员在其面部识别软件中发现的问题。随着技术的快速发展，微软一直在倡导直接考虑云计算和人工智能等新兴领域的新法律。该公司与美国政府就隐私问题进行了斗争，微软称这是政府将过时的通信法应用于云计算，然后支持妥协立法，直接解决了云计算时代的数据隐私和搜索问题。

微软的观点与亚马逊呼吁停止向警察部门和其他政府机构出售其面部识别软件的反应有些不同。亚马逊人工智能总经理马特·伍德 (Matt Wood) 在6月的一篇博客文章中回复了当时提出的担忧，他写道: “新技术能力一直存在，也将永远存在风险。每个选择使用技术的组织都必须采取负责任的行动，否则将面临法律处罚和公众谴责的风险。AWS认真对待自己的责任。但我们认为，禁止有前途的新技术是错误的做法，因为它们将来可能被不良行为者用于邪恶的目的。“

史密斯写道，政府监管应考虑的问题之一是，警察对面部识别软件的使用是否需要人工监督和控制，以及零售商如果在公共场所使用此类软件，是否必须发布可见的通知。其他需要考虑的领域包括在收集个人图像之前是否应要求公司获得同意，以及哪些合法权利适用于认为自己被面部识别系统错误识别的人。负责警务项目的纽约大学法学教授巴里·弗里德曼 (Barry Friedman) 说，执法部门在没有制定规则的情况下使用该技术引起了人们对种族差异和隐私的担忧，该项目致力于制定执法规则和准则。

他说，最高法院裁定，如果没有逮捕令或可能的原因，警察就不能长期访问手机数据，并且对他们使用面部识别技术也应施加类似的限制。

弗里德曼说: “这项技术真的很快就冲向我们。”“如果我们不提前，我们就不能把牙膏放回管子里。”

微软上个月在网上投诉该软件制造商向一家涉及有争议的移民做法的机构出售产品后，在其网站上短暂删除了其与美国移民和海关执法局签订的合同的引用。博客文章后来被恢复。虽然微软后来表示，与移民执法机构的合同是将较旧的电子邮件和员工协作系统放入云中，但博客文章提到该机构使用该公司的面部识别工具的可能性。数百名微软员工签署了一份请愿书，要求微软停止向该机构出售产品。亚马逊因将其Rekognition AI软件出售给当地警察部门而受到抨击，美国公民自由联盟要求该公司停止让政府使用该技术。

在Google，员工对公司在Maven项目上的工作感到反感，Maven是国防部将AI工具应用于无人机镜头的一项计划。上个月，首席执行官桑达尔·皮查伊 (Sundar pichai) 发布了一系列原则，承诺不将其强大的人工智能用于武器，非法监视和造成 “整体伤害” 的技术。该公司表示仍将与军方合作。美国公民自由联盟的立法顾问Neema Singh Guliani同意微软的观点，即立法者需要参与分析面部识别软件的使用。“国会应该立即采取行动，暂停执法使用这项技术，直到它对社区的严重威胁得到充分辩论。” 她说。“然而，与此同时，像微软、亚马逊和其他公司应该听从公众、员工和股东的呼吁，停止向执法部门出售面部监控技术。”

微软已经成立了一个人工智能道德委员会来研究这类问题，并表示拒绝了一些向某些客户出售某些软件的合同，但拒绝提供细节。史密斯说，新的AI董事会已敦促以更慢，更刻意的方式销售该软件。