Google，Facebook悄悄地朝着自动阻止极端主义视频的方向发展

来源：时间：2022-01-27 19:35:02

据两名熟悉这一过程的人士称，一些网络上观看视频的最大目的地已经悄悄地开始使用自动化从他们的网站上删除极端主义内容。

对于渴望从其网站上消除暴力宣传的互联网公司而言，此举是向前迈出的重要一步，并且随着极端分子的袭击从叙利亚到比利时和美国激增，世界各国政府都面临着这样做的压力。

消息人士称，YouTube和Facebook是部署系统以阻止或迅速删除伊斯兰国视频和其他类似材料的网站之一。

该技术最初是为了识别和删除视频网站上受版权保护的内容而开发的。它寻找 “散列”，一种独特的数字指纹，互联网公司会自动将其分配给特定的视频，从而可以快速删除所有具有匹配指纹的内容。

[相关职位]

观看视频: 什么是新闻

这样的系统将捕获重新发布已经确定为不可接受的内容的尝试，但不会自动阻止以前从未见过的视频。

两家公司不会确认他们是否正在使用该方法，也不会谈论如何使用该方法，但是许多熟悉该技术的人士表示，可以根据被禁止内容的数据库对发布的视频进行检查，以识别新的帖子，例如斩首或煽动暴力的演讲。

这两个消息来源不会讨论在审查被该技术确定为匹配或接近匹配的视频时需要多少人工工作。他们也不会说数据库中的视频最初是如何被确定为极端主义者的。

随着互联网公司继续在内部以及与竞争对手和其他有关方面讨论这一问题，新技术的使用可能会随着时间的推移而得到完善。

4月晚些时候，在美国总统巴拉克·奥巴马 (Barack Obama) 以及其他担心在线激进化的美国和欧洲领导人的压力下，包括Alphabet公司的YouTube，Twitter公司，Facebook公司和CloudFlare在内的互联网公司举行了电话会议，讨论各种选择，包括内容阻止系统由私人反极端主义项目提出。据通话中的一位人士和三位人士介绍了所讨论的内容。

讨论强调了一些世界上最有影响力的公司现在在解决恐怖主义，言论自由以及政府与企业权力之间的界线等问题上发挥的核心但困难的作用。

目前，没有一家公司接受反极端主义组织的系统，而且他们通常对外部干预应如何监管其网站持谨慎态度。

乔治华盛顿大学极端主义项目副主任谢默斯·休斯说: “这与版权或儿童色情有点不同，在版权或儿童色情制品中，事情显然是非法的。”

休斯说，极端主义内容存在，不同的网络公司在不同的地方划清界限。

到目前为止，大多数人主要依靠用户来标记违反其服务条款的内容，而且许多人仍然这样做。然后，由人工编辑对标记的材料进行内部审查，这些编辑删除了发现违规的帖子。

两位消息人士说，目前使用自动化的公司并未公开讨论它，部分原因是担心恐怖分子可能会学习如何操纵其系统，或者压制性政权可能会坚持使用该技术来审查对手。

内容发行公司CloudFlare的首席执行官马修·普林斯 (Matthew prince) 表示: “这些公司谈论这件事没有任何好处。”“他们为什么要吹嘘审查制度？”

在Counter极端主义项目上周首次公开描述其内容阻止系统并敦促大型互联网公司采用该系统之后，两位熟悉仍在发展的行业实践的人士向记者证实了这一点。

警惕外部解决方案

知情人士说，4月电话是由Facebook全球政策管理负责人Monika Bickert领导的。据一位与会者称，Facebook在这方面提出了讨论的选项，包括非营利性反极端主义项目提出的选项。

反极端主义组织由前总统乔治·W·布什 (George W Bush) 国土安全方面的顾问弗朗西斯·汤森 (Frances Townsend) 和布什2004竞选连任的副竞选经理马克·华莱士 (Mark Wallace) 等人创立。

了解4月电话的三位消息人士说，公司对让外部团体决定定义的不可接受内容表示谨慎。