Il est essentiel de comprendre comment et pourquoi les gens partagent du contenu abusif à l’encontre des enfants pour lutter contre celui-ci. Nous avons mené une étude approfondie du contenu illégal signalé afin de mieux savoir comment y réagir. Les données tirées de cette recherche sont utilisées pour déployer des outils et lancer de nouveaux programmes qui réduisent le partage d’un tel matériel odieux.

Nous avons analysé des rapports de deux mois significatifs provenant de Facebook et d’Instagram envoyés au Centre national pour les enfants disparus et exploités (National Center for Missing and Exploited Children, NCMEC). Voici ce que nous avons trouvé :

• Plus de 90 % de ce contenu était le même que le contenu signalé précédemment, ou lui ressemblait.
• Des copies de seulement six vidéos représentaient plus de la moitié du contenu montrant l’exploitation sexuelle d’enfants que nous avons signalé pendant cette période.

En d’autres mots, seuls quelques éléments de contenu ont causé la génération de plusieurs rapports. Cela nous a permis de constater qu’une meilleure compréhension de l’intention aiderait à prévenir la revictimisation. En tenant compte de cette information, nous avons collaboré avec de grands spécialistes en exploitation des enfants, y compris le NCMEC, afin d’élaborer une taxonomie appuyée par la recherche. Cette taxonomie nous a aidés à catégoriser l’intention apparente d’une personne à partager un tel contenu.

Nous avons évalué 150 comptes, que nous avons signalés au NCMEC pour avoir téléversé du matériel d’exploitation sexuelle des enfants en juillet et en août 2020, ainsi qu’en janvier 2021. Nous avons estimé que plus de 75 % du contenu n’était pas partagé dans l’intention de nuire (c.-à-d., qu’il n’était pas partagé dans l’intention de causer du tort à un enfant). Les personnes titulaires de ces comptes semblaient plutôt le partager pour d’autres raisons, par exemple pour montrer leur indignation ou faire une blague douteuse. Bien que cette étude représente notre meilleure compréhension du phénomène, ces résultats ne devraient pas être considérés comme une mesure précise de l’écosystème favorisant la sécurité des enfants. Nous poursuivons notre travail pour comprendre l’intention.

Nos solutions ciblées fondées sur ces résultats comprennent le déploiement d’une fenêtre contextuelle sur Facebook visant à réduire le nombre de recherches de contenu dont l’intention est malveillante. L’avertissement apparaît lorsque les personnes effectuent des recherches de mots associés à l’exploitation d’enfants. Il propose des ressources pour les contrevenants à la sécurité des enfants et explique les conséquences de consulter du contenu illégal.

Nous avons également déployé une alerte de sécurité visant à informer les gens qui partagent ce contenu pour d’autres raisons que de nuire aux enfants. La fonctionnalité est conçue pour alerter les utilisateurs qui ont partagé des mèmes viraux de contenu montrant l’exploitation d’enfants. Elle avertit que le partage d’un tel contenu nuit à la victime, contrevient à nos politiques et engendre des conséquences juridiques.

De plus, nous collaborons avec des experts en sensibilisation du public afin de pousser notre campagne « Aider à protéger les enfants ». Peu importe la raison, le repartage de ce contenu est illégal et revictimise l’enfant. En signalant plutôt le contenu, les utilisateurs peuvent aider à prévenir d’autres préjudices.

Puisqu’une seule victime de ces horribles crimes est déjà trop, nous poursuivons notre travail pour comprendre l’intention. Nous continuons à déployer plus de solutions ciblées pour nos plateformes publiques et notre service de messagerie privée.