
分析伤害背后的意图以便阻止伤害发生
了解用户分享儿童剥削性内容的方式和动机对于打击这类行为至关重要。
分析伤害背后的意图以便阻止伤害发生。
了解用户分享儿童剥削性内容的方式和动机对于打击这类行为至关重要。我们针对举报的违规内容进行了深入的分析,以便进一步完善我们的应对措施。运用这次研究获得的数据,我们部署了多项工具,并实施了新的计划,旨在减少这类不良内容的分享行为。
针对 Facebook 和 Instagram 向美国国家失踪与受虐儿童援助中心 (NCMEC) 提交的举报,我们对比较有代表性的两个月进行了分析,结果如下:
换句话说,许多举报都可以归结到仅仅几段内容上。这有助于我们更准确地了解侵害动机,从而避免侵害的再次发生。本着这一目标,我们与包括 NCMEC 在内的儿童剥削防范专家合作,共同制定了一项基于研究结果的分类方法。这项分类方法有助于我们对分享这些内容的用户的表面动机进行归类。
我们评估了 2020 年 7-8 月和 2021 年 1 月因上传儿童性虐待内容 (CSAM) 被我们向 NCMEC 举报的 150 个帐户。根据我们估算,其中有超过 75% 并没有表现出恶意(即:并非有意要伤害某个孩子)。这些帐户的分享动机似乎是出于其他原因,例如愤怒或者低级趣味。虽然这项研究代表了我们对儿童剥削内容的最佳理解,但不应将这些发现视为对儿童安全生态系统的精确衡量。我们将继续努力去解读这类行为的动机。
我们基于这些研究成果制定的针对性解决方案包括设置 Facebook 弹窗来减少恶意的内容搜索。当用户对儿童剥削相关词汇发起搜索时将出现警告。它将为儿童侵权者提供来自儿童保护组织的引导教育资源,并就查看违规内容的后果分享相关信息。
我们还设置了一项安全警告,用于提醒并非出于伤害儿童的动机而分享这类内容的用户。这项功能旨在提醒此前分享过包含儿童剥削内容的网络热梗的用户,警告其分享这些内容会伤害他人,也违反了我们的政策,并会导致法律后果。
此外,我们也正在与公共意识专家合作推广我们的“请为保护儿童尽一份力”宣传活动。无论出于什么原因,转发这类内容都是违法的,并会对儿童再次造成伤害。用户可以通过举报这类内容来阻止进一步的伤害发生。
我们将继续努力加深对侵害动机的认知,力求彻底杜绝这种严重的侵害行为。无论对于我们的公开平台还是私信功能,我们都将继续致力于打造更多针对性的解决方案。