Facebook表示，在监管其实时服务方面将更加严格

凯德·梅斯和亚当·萨塔里亚诺

3月，当51人在新西兰克赖斯特彻奇被杀时，嫌疑人是一名澳大利亚男子，在Facebook上直播了袭击事件。视频在互联网上传播。

周二晚上，Facebook对社交网络上直播的暴力场面做出了最强烈的回应，宣布将对其实时视频服务的使用施加更多限制。

该公司表示，从周二开始，任何在Facebook Live上播放内容时违反某些规则的人都将被暂时禁止使用该服务，并可能对初犯处以30天的禁令。以前，它通常不会禁止用户，直到他们多次违反这些规则。

可能会禁止多名犯罪者或发布特别令人震惊的内容的人进入Facebook。

Facebook负责诚信的副总裁盖伊·罗森 (Guy Rosen) 在博客中写道: “在新西兰发生可怕的恐怖袭击之后，我们一直在审查我们还能做些什么来限制我们的服务被用来造成伤害或传播仇恨。”“我们现在将实施 '罢工' 政策，与更广泛的犯罪活动相关。”

对于那些呼吁该公司简单关闭Facebook Live的批评者来说，新的限制可能还远远不够。它可能对满足一些政府没有多大作用。例如，澳大利亚立法者已考虑对未能迅速删除暴力内容的社交媒体高管处以罚款甚至入狱。

宣布的时间恰逢新西兰总理杰辛达·阿德恩 (Jacinda Ardern) 与法国总统伊曼纽尔·马克龙 (Emmanuel Macron) 在巴黎举行会议。

预计周三，两位政府领导人将签署 “克赖斯特彻奇呼吁”，以推动新的限制，以防止暴力和极端主义内容在网上的传播。预计他们将敦促Facebook和其他互联网公司做出承诺，包括重新检查其将人们引导到网络上的内容的算法。

该协议没有约束力，但给Facebook增加了更大的政治压力，以保护其平台免受暴力行为的在线广播网络的侵害。

克赖斯特彻奇的袭击激发了Ardern推动国际合作打击在线极端主义。她认为，在互联的数字世界中，逐个国家的方法将行不通。除法国外，英国，加拿大，约旦，塞内加尔，印度尼西亚，澳大利亚，挪威，爱尔兰和欧盟委员会也有望签署该协议。

Facebook，谷歌和微软也表示将签署。Twitter拒绝置评。

在宣布对其实时视频服务的新限制时，Facebook表示正在与三所大学 (马里兰大学，康奈尔大学和加州大学伯克利分校) 合作，以开发用于检测和删除麻烦图像的新技术和来自互联网的视频。

Facebook和其他公司在识别和删除基督城视频方面进展缓慢-部分原因是原始视频在传递各种服务时经过了少量编辑。

通过新的大学合作伙伴关系 (由750万美元的资金支持)，Facebook表示将致力于构建能够检测以微妙方式操纵的图像和视频的技术。

在过去三年中，Facebook和其他社交媒体巨头承受着越来越大的压力，要求识别和删除各种有问题的内容，包括仇恨言论，虚假新闻和暴力。

该公司表示，它现在正在使用人工智能来查明许多类型的有问题的内容，并且这项技术正在迅速改进。

但是人工智能并不总是能检测到一些材料，最明显的是仇恨言论和虚假新闻。克赖斯特彻奇的袭击表明，在检测暴力图像方面，这项技术还有很长的路要走。Facebook还向数千名合同工支付费用，以审查和删除有问题的内容。

尽管有这些保障措施，基督城的视频仍在传播。

消除Facebook Live暴力材料的一种解决方案是简单地将其关闭。但这还不是该公司想要采取的步骤。罗森 (Rosen) 在回应公司高管先前的声明时说，公司正试图在相反的观点之间找到平衡。

他写道: “我们认识到那些希望不受限制地使用我们的服务的人与确保人们在Facebook上安全所需的限制之间的紧张关系。”“我们的目标是最大限度地降低现场虐待的风险，同时使人们每天都能以积极的方式使用现场直播。”

马萨诸塞州大学阿默斯特分校的计算机科学教授布伦丹·奥康纳 (Brendan O'Connor) 曾在Facebook实习，现在专门研究可以在社交媒体上捕获麻烦内容的技术，他说，在播放视频时分析视频是一个特别困难的问题。

“这是明智的 -- 我猜，” 他在谈到Facebook的新规定时说。“这似乎是希望在许多其他人中迈出的一步。”