Facebook，Google限制允许种族主义广告的机器人系统

在显示系统根据种族主义和其他令人反感的信息吐出广告后，世界上最大的数字广告公司控制了他们的自动赚钱机器。 Facebook Inc. 关闭了一个关键的自助服务广告工具，而Google则自动停止了其主要搜索广告系统，以建议针对性的冒犯性短语。此举是对美国最大的互联网公司进行审查的最新迹象，以及他们的软件驱动服务和广告业务如何影响社会。

这些公司在没有太多人为干预的情况下，能够在庞大的受众群体中大规模提供有针对性的广告。本周，一些新闻机构表示，他们可以根据种族主义和反犹太主义的术语或类别购买广告。最大的广告商不太可能开展这样的营销活动，但这表明这些系统是如何容易被滥用的，可能需要更多的动手监控。

“这些工具非常容易使用，无需非常努力，就可以相对容易地暴露自动化广告销售的缩减，” Facebook和Google的关键研究小组分析师兼评论家Brian Wieser说。Facebook表示，在发现一些人在这些领域中充斥着令人反感的内容后，广告商将不再能够通过他们如何描述自己的学历或雇主来瞄准人们。

这家社交网络公司将取消用户个人资料中自我报告的教育，学习领域，职称和就业领域的定位，直到可以解决其自助广告系统中的问题为止。这项决定是在调查新闻网站propublica发现广告商可以针对对 “仇恨犹太人” 等反犹太类别表示兴趣的用户之后做出的。

该公司表示: “我们将删除这些自我报告的目标字段，直到我们有正确的流程来帮助防止这一问题。”该系统已根据社区成员发布的有关自己的信息自动填充兴趣类别。该公司表示: “我们禁止广告商基于宗教和其他属性歧视他人。”“然而，有时我们的平台上出现的内容违反了我们的标准。我们知道我们还有更多的工作要做。“

Facebook软件会自动为广告商创建目标类别，公司会在人们注意到问题后对其进行调整。Facebook以前在广告业务和面向消费者的服务中都遇到过类似的反动执法问题。它的实时视频服务显示，谋杀或自杀事件有足够的时间传播病毒，然后被公司注意到并被删除。国会正在调查Facebook的广告系统如何被俄罗斯实体使用，以影响2016的美国总统大选。

谷歌的AdWords系统是互联网上有史以来最赚钱的业务之一，被发现也有类似的需求。它根据人们在公司搜索引擎中输入的短语或关键字投放广告。这对销售洗发水或衣服的公司非常有用，但周五的Buzzfeed报告强调了它如何与极端主义术语一起使用。

Buzzfeed展示了营销人员如何针对冒犯性搜索词 (如 “黑人摧毁一切”) 运行搜索广告，并自动向其他种族主义建议提供信息。Alphabet Inc. 的Google阻止了其中一些广告的投放，但并非全部。

“在这种情况下，广告并没有与绝大多数这些关键词背道而驰，但我们没有抓住所有这些令人反感的建议。这还不够好，我们也没有找借口，”谷歌广告负责人Sridhar Ramaswamy在一份声明中说。“我们已经关闭了这些建议，以及任何成功的广告，并将更加努力地阻止这种情况再次发生。”

今年早些时候，该公司因其YouTube在线视频服务的广告抵制而遭受重创。营销人员担心广告会出现在令人反感的视频旁边。有了YouTube，广告可以在各种不可预测的视频上投放。通过搜索，广告商可以更严格地控制通过购买广告来选择哪些关键字。

Twitter Inc. 的自动广告系统中的缺陷也在周五曝光。据《每日野兽》报道，这家社交媒体公司的平台告诉营销人员，有数百万用户对 “湿背” 、 “纳粹” 和 “N字” 等术语感兴趣。该新闻网站称，该出版物投放了针对系统表示可能会对条款做出回应的用户的广告，而Twitter的软件并未要求在广告系列运行之前批准这些广告系列。

Twitter表示，《每日野兽》故事中使用的术语已被列入黑名单，该公司正在研究该出版物如何将广告投放到社交网络上。“Twitter积极禁止和阻止任何攻击性广告出现在我们的平台上，” 该公司在一封电子邮件中表示。