各国希望禁止 “武器化” 社交媒体。那会是什么样子？

达米恩·凯夫

如果直播需要政府许可，并且视频只能在延迟七秒钟后才能在线播放，该怎么办？

如果Facebook，YouTube和Twitter被视为传统的发布者，希望在发布之前对所有帖子，评论和图片进行审核，该怎么办？还是像波音或丰田一样，对其产品的安全及其造成的伤害负责？

想象一下，如果科技高管因未能审查仇恨和暴力而被判入狱，互联网会是什么样子。

这些是澳大利亚和新西兰正在讨论的提案，因为两国的政客都在努力解决民众对新西兰克赖斯特彻奇两座清真寺3月50人大屠杀的愤怒。枪手被认为是澳大利亚白人民族主义者，在网上分发了一份宣言，然后在Facebook上播放了部分大规模枪击事件。

如果两国向前迈进，这可能是全球社交媒体时代的分水岭。没有一个成熟的民主国家能够如此接近地对在线交流实施如此广泛的限制，对变革的需求既利用并加剧了全球日益增长的挫败感，而这个行业几乎仍然完全受美国法律和硅谷的自由主义规范的影响。

澳大利亚总理斯科特·莫里森 (Scott Morrison) 周六表示: “大型社交媒体公司有责任采取一切可能的行动，确保他们的技术产品不会被凶残的恐怖分子利用。”“这不应该只是做正确的事情。应该是法律。”

政府干预的推动-本周将在澳大利亚提出一项法案-反映出与美国相比，对言论限制更开放的国家的愤怒激增，以及对被视为更担心其业务的遥远公司的不耐烦。模式比当地的担忧。

正在考虑的各种法规有先例。在中国，世界上最复杂的互联网审查制度扼杀了几乎所有政治辩论以及仇恨言论和色情内容，但并没有阻止赚取可观利润的本土科技公司的崛起。

在澳大利亚或新西兰，没有人建议应该使用这种模式。但是频谱的另一端-即时用户生成内容的24/7集市-对世界这一地区的人们来说也越来越不可接受。

新西兰总理杰辛达·阿德恩 (Jacinda Ardern) 认为，必须有一个中间立场，并且需要某种国际共识，以防止平台仅将公共保护限制在某些国家。

“最终，我们都可以在当地推广良好的规则，但这些平台是全球性的，” 她周四表示。

即使在美国，由于研究表明社交媒体的算法和设计将人们进一步推向极端主义，即使平台受到《通信体面法》的保护，这也使他们免于承担其托管内容的责任，因此挫败感一直在加剧。

一些社交媒体公司开始表示，他们愿意接受更多的监督和指导。

在周六《华盛顿邮报》的一篇专栏文章中，Facebook首席执行官马克·扎克伯格 (Mark Zuckerberg) 呼吁政府帮助制定有害在线内容，选举完整性，隐私和数据可移植性的基本规则。

他写道: “从互联网上删除所有有害内容是不可能的，但是当人们使用数十种不同的共享服务时 -- 所有这些都有自己的政策和流程 -- 我们需要一种更加标准化的方法。”

与此同时，Facebook和其他主要平台坚称，他们正在通过人工智能和版主的混合，尽其所能。

YouTube的母公司Google-拒绝对澳大利亚和新西兰的提案发表评论-已聘请10,000名审稿人将有争议的内容删除。Facebook也表示将雇用数万名员工来处理发现和删除违反其规则的内容。

这些规则可能会越来越严格。周三，Facebook宣布将禁止白人民族主义内容，因为 “白人民族主义和分离主义不能有意义地与白人至上和有组织的仇恨团体分开。”

但是批评家说这太少了，太晚了。

新西兰首席审查员戴维·尚克斯 (David Shanks) 在周日的一封电子邮件中表示，Facebook “一段时间以来一直注意到他们在这一领域的政策和执法无效。”自从克赖斯特彻奇 (Christchurch) 发生清真寺谋杀案以来，尚克斯 (Shanks) 将拥有或分发袭击视频和嫌疑人的宣言定为犯罪。

专家表示，社交媒体公司仍然认为，应该允许用户在没有事先审查的情况下发布材料。管理广播的通信法律或适用于电影和视频游戏的评级系统都不会影响社交媒体，从而建立了一种无摩擦的，广告驱动的商业模式，以鼓励尽可能多的内容创作 (和消费)。

从业务角度来看，该系统工作。在YouTube上，每分钟上传500小时的视频。2016年，Facebook表示，观众每天观看10000万小时的视频，而Twitter每天处理5亿条推文，或几乎每秒6,000条。

“在这些平台上发表的演讲越多，他们就能赚更多的钱，” 斯坦福大学博士生、数据与社会研究人员丽贝卡·刘易斯 (Rebecca Lewis) 说，他在YouTube上研究了激进模式。“多说话多获利多。”

欧洲已经在努力控制所有人的自由。周二，欧洲议会通过了一项法律，将使公司对侵犯版权的上传内容承担责任。它遵循了严格的隐私法，通用数据保护法规和德国的在线仇恨言论法，即《网络执法法》，这两项法律均于去年生效。

对于长期以来一直认为其平台应被视为中立的聚集地而不是内容仲裁者的社交媒体庞然大物，法律代表了重大挫折。

特别是仇恨言论法正在新西兰和澳大利亚进行密切研究。

它试图让平台对不删除在德国 “明显非法” 的内容负责，包括儿童色情制品、纳粹宣传和纪念品。系统地未能在24小时内删除非法内容的公司将面临最高5000万欧元 (约合5600万美元) 的罚款。

澳大利亚官员周六表示，他们还计划处以高额罚款。

然而，尚不清楚仅靠更严厉的处罚就可以解决。

专家认为，一个问题是被禁止的帖子，照片和视频继续在网上徘徊。到目前为止，平台已部署的人类节制和人工智能的结合还不足以监视和排出有毒物质的沼泽。

“自动化并不像这些政府希望的那样先进，” 罗格斯大学 (Rutgers University) 数据与社会 (Data & Society) 研究员、博士生罗宾·卡普兰 (Robyn Caplan) 说。

“这是一个错误，” 她补充说，“把这些东西称为 '人工智能'，因为它让我们认为它们比它们聪明得多。”

同时，由于法律的原因，包括讽刺杂志在内的合法观点表达已被删除。

卡普兰说: “当我们画这些线时，我们必须非常小心和细致入微。”

她补充说，即使是对直播的批评 -- Facebook表示正在认真对待 -- 也需要仔细考虑，因为 “直播带来了很多好处”，包括透明度和对警察的审查。

澳大利亚和新西兰的官员正在努力解决这些问题。在上周与Facebook、谷歌和Twitter的高管会面后，澳大利亚立法者周六表示，新法案将使社交媒体平台不 “迅速删除令人憎恶的暴力材料” 成为刑事犯罪，可判处三年监禁。

他们明确表示，科技界的例外主义自我形象需要结束。

司法部长克里斯蒂安·波特 (Christian porter) 表示: “播放此类材料的主流媒体将危及他们的执照，没有理由对社交媒体平台进行任何不同的对待。”

新西兰隐私专员约翰·爱德华兹 (John Edwards) 表示同意，但指出了一个不同的例子: 波音737 Max飞机在两次坠机事故后在全球范围内停飞，据信这与软件问题有关。

他说: “我想说，Facebook在其直播服务中缓和有害内容的能力代表了一个软件问题，这意味着该服务应该被暂停。”“我认为这是正确的做法。”