新西兰大屠杀显示了在线用户如何找到共享暴力视频的方法

周五在新西兰两座清真寺进行的大屠杀，并不是向世界直播的第一场暴力犯罪的互联网广播，但它表明，尽管有多年的投资，但阻止血腥镜头在网上传播仍然是科技公司的主要挑战。

根据路透社看到的一份副本，一名袭击者通过他的Facebook个人资料对基督城的大屠杀进行了17分钟的直播。Facebook表示，在受到新西兰警方的警告后，它删除了该流。

但几个小时后，视频中的视频仍保留在Facebook、Twitter和Alphabet Inc的YouTube上，以及Facebook拥有的Instagram和WhatsApp上。它也可以在文件共享网站上找到，例如位于新西兰的Mega.nz。

想要传播材料的人们已经采取行动，在几分钟之内迅速将视频重新包装并分发到许多应用程序和网站上。

Facebook，Twitter，YouTube和Mega周五表示，他们正在采取行动删除这些副本。

直播的其他暴力犯罪包括泰国2017年的一名父亲，他在Facebook上广播自己杀死了女儿。经过一天多的时间和370,000的观看次数，Facebook删除了该视频。

在美国，一名有特殊需要的18岁男子在芝加哥遭到袭击，伴随着反白人的种族嘲讽，2017年，以及同年在俄亥俄州克利夫兰对一名男子的致命枪击事件。直播。

Facebook是全球最大的社交媒体网络，在全球每月约有23亿名用户，在过去三年中，其安全和安保团队的规模增加了两倍，以30,000人员，以更快地响应令人反感的内容报道。它还专注于开发人工智能系统，以捕获材料，而无需用户首先报告。

但是，另一个淫秽视频的病毒传播范围使周五全球各地的政客都得出了相同的结论: 科技公司正在失败。

随着大屠杀视频的继续传播，新西兰前总理海伦·克拉克 (Helen Clark) 在电视讲话中表示，公司在删除仇恨言论方面进展缓慢。

“这是怎么回事？” 她说，指的是枪手直播17分钟的能力。“我认为这将增加世界各地对社交媒体平台进行更有效监管的呼吁。”

至少有些人预计Facebook会遭受后果。

金融数据网站Investing.com的分析师克莱门特·蒂博特 (Clement Thibault) 表示，Facebook “为今天的可怕攻击提供了一个平台，无疑将因促进这种攻击的传播而受到质疑。”

该公司去年的利润率下降了，因为它花了很多时间来应对这一挑战，股票分析师正准备对其盈利能力进行进一步的短期打击，无论法规是否实现，尽管广告商的选择相对较少。

Facebook股价周五收盘下跌2.5。

逃避检测

Facebook停止了基督城直播后，它告诉主持人删除有关攻击的任何副本或免费评论。

根据路透社看到的一封电子邮件，Facebook指示印度的内容版主说: “所有赞美、支持和代表攻击和肇事者的内容都应该从我们的平台上删除。”

打算共享暴力视频的用户采取了几种方法。路透社审查的副本显示，一些用户已经录制了在自己的手机或计算机上播放的视频，以创建具有与原始数字指纹不同的新版本，以逃避公司的检测系统。其他人分享了枪手直播中的较短部分或屏幕截图。枪击事件从路透社审查的17分钟视频开始约6分钟。首先是袭击者开车去清真寺。

在互联网讨论论坛Reddit上，用户制定了策略，以避免主持人的行为，将彼此定向到尚未采取行动的视频应用程序，并通过消息传递应用程序发送素材。

除了对用户对副本的投诉采取行动外，YouTube周五还表示，它正在尝试使用自动工具来识别副本，该工具可根据视频的标题和描述，视频的特征来查找本质上可能是暴力的视频。用户上传它和镜头中的对象。

删除材料的精确匹配无法在YouTube和Facebook上再次上传。

Facebook表示，它也依靠用户投诉和人工智能系统来识别暴力镜头并将其发送给主持人。

根据路透社审查的一份副本，它还使用音频技术来检测克赖斯特彻奇的广播录像，在录像中可以听到枪声并在攻击者的汽车中播放音乐。

专门研究检测系统的研究人员和企业家表示，他们感到惊讶的是，在攻击发生后的最初几个小时内，用户能够绕过Facebook的工具。

总部位于加利福尼亚州尔湾的审核技术公司Webpurify的首席执行官Joshua Buxbaum表示，Facebook和其他服务可以利用图像识别或其他类型的AI以其他方式识别副本。

Buxbaum说: “考虑到他们的预算，我肯定会认为他们有能力根除这些视频。”

专家表示，两家公司可以将其检测工具和删除流程设置为更具侵略性，但YouTube和Facebook表示，他们希望小心，不要删除来自新闻机构或具有新闻价值的敏感视频。

另请阅读新西兰的恐怖袭击: 在基督城清真寺遇难的人中有五名印第安人

多个国家的政客表示，社交媒体公司需要提高警惕。

正在竞选总统的美国民主党参议员科里·布克 (Cory Booker) 在新罕布什尔州的一次竞选活动中说: “这是一个让你为仇恨提供平台的案例。”“这是不可接受的，它不应该发生，它应该被更快地拆除。”

英国内政部长萨吉德·贾维德在推特上说，“够了。”