在YouTube的数字游乐场上，一扇大门向恋童癖者敞开

作者: 马克斯·费希尔和阿曼达·陶布

当她10岁的女儿和一个朋友上传了一段自己在后院游泳池玩耍的视频时，克里斯蒂安·C对此一无所知。“这段视频是无辜的，没什么大不了的，” 住在里约热内卢郊区的克里斯蒂安说。

几天后，她的女儿分享了令人兴奋的消息: 该视频有成千上万的观看次数。不久之后，它就上升到了400,000个-一个孩子和她的朋友穿着两件式泳衣的视频的惊人数字。克里斯蒂安说: “我又看了这段视频，我被观看次数吓到了。”她有理由这样做。

一组研究人员发现，YouTube的自动推荐系统-通过建议用户下一步应该观看什么来驱动该平台数十亿次观看的大部分观看次数-已经开始向观看其他青春期前，部分穿着衣服的孩子的视频的用户显示视频。

研究人员说，YouTube从其档案中整理了这些视频，有时会拔出不知情家庭的无害家庭电影。在许多情况下，其算法会在用户观看色情主题内容后将其转介给视频。

还请阅读Google服务器中断对YouTube，Gmail，Snapchat的影响，因为它们都下降了

结果是专家说将儿童性别化的视频目录。哈佛大学伯克曼·克莱因互联网与社会中心的三名研究人员之一乔纳斯·凯泽 (Jonas Kaiser) 说: “是YouTube的算法连接了这些频道。” 他在研究YouTube在巴西的影响时偶然发现了这些视频。“这是可怕的事情。”

在公司被告知存在恋童癖问题几个月后，YouTube的系统宣传了克里斯蒂安女儿的视频。在2月，《连线》和其他新闻媒体报道说，捕食者正在使用YouTube视频的 “带孩子” 评论部分来指导其他恋童癖者。

那个月，YouTube称这个问题 “令人深感担忧”，禁止对许多有孩子的视频发表评论。但是仍然存在的推荐系统已经将数十个这样的视频收集到一个新的且易于查看的存储库中，并将其推送给广大观众。

YouTube从未着手为对儿童有性兴趣的用户提供服务-但最终，Kaiser说，其自动化系统设法通过他称之为 “令人不安的要点” 的建议让他们继续观看。用户不需要寻找儿童的视频就可以观看它们。该平台可以引导他们完成一系列建议。

因此，观看色情视频的用户可能会被推荐为明显年轻的女性，然后是穿着童装挑衅的女性的视频。最终，一些用户可能会看到5岁或6岁的女孩穿着泳衣，穿衣服或分开的视频。

就其本身而言，每个视频都可能是完全无辜的，例如由孩子制作的家庭电影。任何暴露的帧都是短暂的，并且看起来是偶然的。但是，组合在一起，它们的共享功能变得显而易见。“我真的很害怕，” 克里斯蒂安说。“害怕像这样的视频属于这样的类别。”《纽约时报》保留了该家庭的姓氏，以保护其隐私。

当《泰晤士报》警告YouTube，其系统正在向似乎出于对儿童的性兴趣的人们分发家庭视频时，该公司删除了一些，但留下了许多其他视频，其中包括一些显然是通过虚假帐户上传的视频。

推荐系统本身也立即发生了变化，不再将一些揭秘视频链接在一起。YouTube表示，这可能是对其算法进行例行调整的结果，而不是故意改变政策。

YouTube的信任与安全产品总监詹妮弗·奥康纳 (Jennifer O'Connor) 表示，该公司致力于消除其平台上对儿童的剥削，并且自2月以来一直在不断努力改善执法。“保护孩子是我们的首要问题，” 她说。

但是，YouTube尚未做出研究人员说可以防止这种情况再次发生的一项更改: 关闭其对儿童视频的推荐系统，尽管该平台可以自动识别此类视频。

该公司表示，由于建议是最大的流量驱动因素，因此删除建议将伤害依赖这些点击的 “创作者”。它确实表示，它将限制对其认为将儿童置于危险之中的视频的建议。

在兔子洞里

YouTube将其推荐系统描述为人工智能，该系统正在不断学习哪些建议将使用户保持关注。该公司表示，这些建议推动了70% 的观点，但该公司没有透露系统如何做出选择的细节。

一些研究发现，研究人员称之为 “兔子洞效应”: 他们说，该平台将观众引导到越来越多的极端视频或主题，这些视频或主题被认为可以吸引他们。例如，观看一些有关化妆的视频，您可能会被推荐使用病毒式化妆视频。观看有关骑自行车和YouTube的剪辑可能暗示令人震惊的自行车比赛撞车事故。

凯撒 (Kaiser) 和他的研究人员Yasodara c ó rdova和Adrian Rauchfleisch着手测试巴西的效果。服务器打开了视频，然后按照YouTube的热门建议进行了下一步的观看。运行此实验数千次使他们能够追踪类似地铁地图的内容，以了解平台如何引导用户。

他们还遵循了YouTube在频道上的建议，这些频道是视频摄制者作品的页面。尽管YouTube表示很少点击这些内容，但他们提供了一种方法来控制平台如何建议视频所产生的任何统计噪声。

当他们遵循有关性主题视频的建议时，他们注意到他们说的话使他们感到不安: 在许多情况下，视频变得更加怪异或极端，并更加强调青年。例如，女性讨论性的视频有时会导致女性穿着内衣或母乳喂养的视频，有时会提到她们的年龄: 19,18，甚至16。

一些妇女从 “糖爸爸” 那里募捐，或者暗示他们裸体的私人视频。单击几下后，有些人在青春期前摆出更明显的姿势，穿着童装。从那里开始，YouTube会突然开始推荐年轻和部分穿着衣服的孩子的视频，然后几乎无休止的视频主要来自拉丁美洲和东欧。

科尔多瓦 (c ó rdova) 也研究了在线色情内容的传播，她说她意识到正在发生的事情。任何inpidual视频都可能是非性的，也许是由想要在家人之间分享家庭电影的父母上传的。

但是YouTube的算法，部分是通过向寻求揭示或暗示儿童图像的用户学习，将视频视为人们在不同旅程中的目的地。非凡的观看次数 (有时为数百万) 表明，该系统已经为视频找到了观众，并使观众保持了参与度。

一些研究人员认为，当涉及到某些材料时，参与某些利益也有可能鼓励他们。伦敦心理学家斯蒂芬·布卢门撒尔 (Stephen Blumenthal) 说: “它非常强大，人们会被卷入其中。” 他以异常的性兴趣和行为对待人们。

心理学家说，YouTube通过显示儿童视频以及更多主流性内容，以及显示视频的高观看次数，有可能侵蚀对恋童癖的禁忌。普渡大学的心理学家马库斯·罗杰斯 (Marcus Rogers) 说: “你把它正常化了。” 他对儿童色情制品进行了研究。

YouTube说没有兔子洞效应。产品总监奥康纳 (O'Connor) 说: “我们不清楚我们的推荐引擎是否一定会将您带到一个方向或另一个方向。”不过，她说，“当谈到孩子时，我们只是想对我们的建议采取更保守的立场。”

处于危险中的儿童

研究人员说，大多数查看性化图像的人都将其保留。但YouTube上的一些视频包括这些年轻人社交媒体账户的链接。罗杰斯说: “很多积极参与与孩子聊天的人非常非常善于培养这些孩子发布更多的性照片或从事性活动，并进行录像。”

YouTube不允许13岁以下的儿童拥有频道。该公司表示将积极执行该政策。对于父母来说，没有简单的解决方案，组织Stop It Now的负责人珍妮·科尔曼 (Jenny Coleman) 说，该组织打击对儿童的性剥削。她说: “即使是最小心的家庭也可能陷入有害或犯罪的困境。”

在报道这篇文章时，当《泰晤士报》可以在视频中找到孩子父母的联系信息时，它联系了可以帮助他们的当地组织。在一个这样的组织联系了来自巴西的母亲克里斯蒂安 (Christiane) 之后，她主动提出讨论自己的经历。

愤怒，她正在努力吸收发生的事情。她为告诉丈夫什么而烦恼。她对YouTube的做法表示困惑。她担心如何保持女儿的安全，女儿现在正在向城市规模的观众展示。“我唯一能做的，” 她说，“就是禁止她在YouTube上发布任何东西。”