在用户报告之前，Facebook通过人工智能发现了极端主义内容

该公司表示，Facebook的人工智能正变得越来越善于将恐怖分子的内容拒之门外。如今，Facebook全球政策管理负责人莫妮卡·比克特 (Monika Bickert) 和反恐政策负责人布莱恩·菲什曼 (Brian Fishman) 表示，如今，该公司的AI在任何用户标记之前就已检测到与伊斯兰国和基地组织相关的内容Facebook删除的99%。

他们说，在某些情况下，该软件能够阻止内容发布。高管们警告说，Facebook的自动化解决方案仍然不完善。他们说: “一个旨在从一个恐怖组织中查找内容的系统可能对另一个恐怖组织不起作用，因为他们的宣传语言和风格存在差异。”结果，Facebook表示已将精力集中在IS和基地组织上，“这些恐怖组织构成了全球最大的威胁。”高管们表示，Facebook希望最终扩展其自动化工具，以针对其他更注重地区的恐怖组织的内容。

Facebook在全球范围内受到越来越多的政府的批评，这些政府担心该社交网络为恐怖分子的宣传和招募提供了平台。英国首相特蕾莎·梅 (Theresa May) 在对社交媒体公司的攻击中特别直言不讳，并试图召集其他民主国家的领导人对这些科技企业施加更大的监管。作为回应，Facebook已与微软公司，Twitter公司和Google的YouTube (Alphabet inc. 的前身) 联手成立了全球互联网论坛，以打击恐怖主义。该小组帮助公司协调打击恐怖分子内容的努力，并与较小的技术公司分享见解。恐怖组织越来越多地转向更新，规模较小的社交网络，因为它们已被Facebook，Twitter和YouTube等网站踢出。

该论坛还为科技公司提供了一个场所，让他们经常被敌对的政府听到他们的观点。Bickert和Fishman说，仍然需要人类来整理用于训练Facebook AI软件的恐怖帖子，视频和照片的数据库。他们说，还需要人类专家来审查自动化工具做出的决定。Facebook正在雇用更多的语言学家，学者，前执法人员和前情报分析师来担任这些职务。

伦敦国王学院国际暴力极端主义和政治激进研究中心的负责人彼得·诺伊曼 (peter Neumann) 表示，近年来，主要社交媒体平台上的恐怖分子内容急剧下降。他说，人工智能有很大的潜力，但他警告说，“人工智能只有你给机器提供的数据一样好，人类审稿人仍然很重要，以识别细微差别和背景。”他说，恐怖组织越来越多地转向较小的平台，例如消息服务Telegram，该平台使用端到端加密，并且更难进行监视。