为什么Facebook不屏蔽新西兰现场拍摄视频

为什么脸书直播了17分钟的新西兰清真寺拍摄视频？当事情发生时，没有人提醒公司吗？

脸书说不行。据其副总法律顾问克里斯·桑德比（Chris Sonderby）称，观看现场视频的200多人中没有一个人将其标记给版主。在周二的一篇博客文章中，桑德比说，第一份用户报告是在广播结束12分钟后才出现的。

所有这些都提出了额外的问题--其中，为什么这么多人一言不发地观看，脸书是否过于依赖外人和机器来报告麻烦，用户和执法官员是否知道如何联系脸书，担心他们在服务上看到了什么。

弗吉尼亚大学媒体研究教授Siva Vaidhyanathan说：“当我们通过手机看到东西时，我们会把它们想象成一个电视节目。”“他们在远处，我们没有动力。”

脸书表示，在接到新西兰警方通知后“几分钟内”删除了该视频。但从那以后，脸书和其他社交媒体公司不得不与其他人发布的副本进行斗争。

这名枪击嫌疑人小心翼翼地模仿了互联网时代的袭击，他直播了新西兰克赖斯特彻奇两座清真寺杀害50人的事件。

在密尔沃基马奎特大学教授社交媒体的蒂姆·西格尔斯克（Tim Cigelske）表示，虽然观众和物理世界的旁观者一样有帮助的道德义务，但人们不一定知道该做什么。

“这就像在紧急情况下拨打911，”他说。“我们必须训练人们，让他们变得容易。如果你看到紧急情况不是亲自发生，而是在网上发生，你必须以一种新的方式培训人们。“

要报道现场视频，用户必须知道点击帖子右侧的一小组三个灰点。点击“报告现场视频”的用户可以选择令人反感的内容类型，包括暴力、欺凌和骚扰。用户还被告知，如果有人处于直接危险中，请联系执法部门。

脸书似乎也没有发布任何指示执法部门如何报告危险或犯罪视频的公开信息。该公司确实有一个名为“执法当局信息”的页面，但它只是概述了对用户账户记录提出合法请求的程序。脸书没有立即回应置评请求和关于其与警方沟通的问题。

脸书使用人工智能来检测令人反感的材料，同时依靠公众标记违反其标准的内容。该公司在11月的一段视频中表示，这些报告随后被发送给人类审查员。

该视频还概述了它如何使用“计算机视觉”在任何人报告之前检测97%的图形暴力。然而，尚不清楚这些系统如何适用于脸书的直播。

专家表示，直播视频带来了独特的挑战，关于直播自杀、谋杀和殴打的投诉经常出现。尽管如此，他们说脸书不能转移责任。

迈阿密大学的法学教授玛丽·安妮·弗兰克斯说：“如果他们不能承担责任，那么继续提供服务是他们的错。”

她称将责任归咎于遭受创伤视频的用户是“令人难以置信的冒犯和不合适的”。

在某些情况下，一开始就不清楚视频或其他帖子是否违反了脸书的标准，尤其是在一个有一系列语言和文化规范的服务上。然而，犹豫不决似乎不是这里的情况。脸书根本没有及时知道这件事。

脸书的桑德比在周二的博客文章中说，该公司“将这两起枪击事件指定为恐怖袭击，这意味着对这些事件的任何赞扬、支持和描述”都是违规行为。

Vaidhyanathan说，脸书的直播视频功能已经变成了一头野兽，脸书对“除了打开开关”无能为力。尽管脸书雇佣了更多的版主来补充其机器检测和用户报告，但“你无法雇佣足够的人”来监管一个拥有23亿用户的服务。

“人们总会找到新的方式来表达仇恨和煽动暴力，”他说。

新西兰总理杰辛达·阿德恩对大屠杀四天后视频仍在网上表示失望。

机器可以通过匹配文件中的模式或数字指纹来检测用户何时试图转发被禁止的视频。但是决心绕过这些检查的用户可以进行小的修改，比如调整颜色或视频速度。

由脸书、YouTube、微软和推特领导的全球互联网公司组成的全球互联网反恐论坛表示，它已经确定了800个不同的版本，并将它们添加到一个共享数据库中，用于屏蔽暴力恐怖分子的图像和视频。

桑德比说，一些变体很难检测，脸书已经“扩大到额外的检测系统，包括使用音频技术。”

枪击事件发生一天后，脸书前首席安全官亚历克斯·斯塔莫斯（Alex Stamos）在一系列推特上阐述了科技公司面临的挑战，因为它们正在竞相跟上视频的新版本。

“你在主要平台上看到的是大坝里成千上万根手指周围的水泄漏，”他说。

斯塔莫斯估计，大型科技公司阻止了99%以上的视频上传，“这不足以让人无法找到。”