Comprendre comment et pourquoi les personnes partagent des contenus délictueux sur les mineurs pour lutter contre ceux-ci. Nous avons réalisé une analyse minutieuse et approfondie des contenus illégaux signalés afin d’élaborer une réponse adéquate. Les données obtenues au cours de cette enquête sont utilisées pour déployer des outils et lancer de nouveaux programmes visant à réduire le partage de ces contenus abjects.

Nous avons analysé deux mois de signalements représentatifs émis par Facebook et Instagram à l’attention du National Center for Missing and Exploited Children (NCMEC). Voici ce que nous avons découvert :

• Plus de 90 % de ces contenus étaient identiques ou visuellement semblables à des contenus déjà signalés auparavant.
• Des copies de six vidéos seulement représentaient plus de la moitié des contenus en lien avec l’exploitation d’enfants que nous avions signalés au cours de cette période.

Autrement dit, quelques éléments de contenu seulement sont à l’origine de nombreux signalements. C’est ainsi que nous avons pu cerner l’importance de comprendre l’intention dans la prévention de la récidive. Dans cette optique, nous avons collaboré avec des experts reconnus dans le domaine de l’exploitation des enfants, dont le NCMEC, pour élaborer une taxonomie basée sur la recherche. Cette taxonomie nous permet de catégoriser les intentions apparentes d’une personne lorsqu’elle partage ce genre de contenu.

Nous avons évalué 150 comptes que nous avions signalés au NCMEC pour importation de contenu pédopornographique durant les mois de juillet et d’août 2020 ainsi que de janvier 2021. Nous estimons que plus de 75 % d’entre eux ne présentaient pas d’intention malveillante (c’est-à-dire qu’ils ne comptaient pas s’en prendre à un enfant). Il semblait plutôt que ces comptes partageaient ce type de contenu pour d’autres raisons, notamment pour choquer ou faire de l’humour déplacé. Bien que cette étude représente le meilleur de notre connaissance, ces résultats ne doivent pas être considérés comme une mesure précise de l’écosystème de sécurité des enfants. Notre travail sur la compréhension de l’intention se poursuit.

Ces conclusions nous ont permis d’élaborer des solutions ciblées, notamment le déploiement d’une fenêtre contextuelle sur Facebook visant à réduire les recherches malveillantes de contenu. Cet avertissement s’affiche lorsqu’une personne recherche des termes en lien avec l’exploitation des enfants. Il propose au délinquant des ressources de déjudiciarisation issues d’organisations de protection de l’enfance, ainsi que des informations sur les conséquences du visionnage de contenu illicite.

Nous avons par ailleurs déployé une alerte de sécurité pour informer les personnes qui partagent ces contenus sans intention de s’en prendre à un enfant. La fonctionnalité est conçue pour alerter les utilisateurs qui ont partagé des mèmes viraux avec du contenu montrant l’exploitation des enfants. Elle avertit que le partage de ce contenu va à l’encontre de nos politiques et qu’il expose l’internaute à une réponse pénale.

En outre, nous collaborons avec nos experts en sensibilisation du public pour promouvoir notre campagne Contribuez à la protection des enfants. Peu importe la raison, le partage de ce contenu est illégal et constitue une double peine pour la victime. En choisissant plutôt de signaler le contenu, les utilisateurs peuvent empêcher d’autres préjudices.

Parce qu’une seule victime est déjà de trop, nous nous efforçons sans cesse de cerner les intentions à l’œuvre. Nous continuons de déployer de nouvelles solutions ciblées, à la fois sur nos plateformes publiques et dans notre messagerie privée.