Sangat penting untuk memahami bagaimana dan mengapa orang membagikan konten eksploitatif anak agar bisa memeranginya. Kami melakukan analisis yang mendalam terhadap konten ilegal yang kami laporkan untuk mendukung tanggapan kami dengan cara terbaik. Data yang dipelajari dari penelitian ini digunakan untuk menerapkan fitur dan meluncurkan program baru untuk mengurangi pembagian materi jahat tersebut.

Selama dua bulan uji coba, kami menganalisis laporan dari Facebook dan Instagram ke National Center for Missing and Exploited Children (NCMEC). Berikut temuan kami:

• Lebih dari 90% konten ini sama dengan, atau secara visual mirip dengan, konten yang dilaporkan sebelumnya.
• Salinan dari enam video saja terbukti menjadi penyebab munculnya lebih dari setengah konten eksploitatif anak yang kami laporkan dalam jangka waktu tersebut.

Dengan kata lain, hanya beberapa konten yang menjadi penyebab dari begitu banyaknya laporan. Hal ini membantu kami menyadari bahwa pemahaman yang lebih baik terhadap niat bisa membantu mencegah reviktimisasi. Dengan mempertimbangkan hal ini, kami bekerja sama dengan para pakar terkemuka di bidang eksploitasi anak, termasuk NCMEC, untuk mengembangkan taksonomi berbasis penelitian. Taksonomi ini membantu kami menggolongkan niat yang sebenarnya dari seseorang dalam membagikan konten semacam itu.

Kami mengevaluasi 150 akun yang kami laporkan ke NCMEC karena mengunggah CSAM (materi pelecehan seksual anak) pada bulan Juli dan Agustus 2020 serta Januari 2021. Kami memperkirakan bahwa lebih dari 75% tidak menunjukkan niat jahat (yaitu tidak berniat untuk menyakiti anak-anak). Sebaliknya, akun-akun ini sepertinya membagikan konten semacam itu karena alasan lain, seperti kemarahan atau humor yang buruk. Meskipun studi ini mewakili pemahaman terbaik kami, temuan ini tidak dapat dianggap sebagai ukuran yang tepat atas ekosistem keselamatan anak. Upaya kami untuk memahami niat masih terus berlanjut.

Solusi bertarget kami yang didasarkan pada temuan ini meliputi penerapan pop-up di Facebook yang bertujuan untuk mengurangi pencarian konten berbahaya. Peringatan ini akan muncul saat pengguna mencari istilah-istilah yang terkait dengan eksploitasi anak. Pop-up ini menawarkan sumber informasi pengalihan pelaku dari organisasi perlindungan dan membagikan informasi tentang konsekuensi ketika melihat konten ilegal.

Kami juga menerapkan peringatan keselamatan untuk memberi tahu pengguna yang membagikan konten ini karena alasan selain menyakiti anak. Fitur ini dirancang untuk memperingatkan pengguna yang telah membagikan meme konten eksploitatif anak yang viral. Fitur ini memperingatkan bahwa tindakan membagikan konten tersebut membahayakan korban, melanggar kebijakan kami, dan terdapat konsekuensi hukum jika membagikan materi ini.

Selain itu, kami bekerja sama dengan para pakar kesadaran publik untuk mendorong kampanye "Bantu Lindungi Anak-Anak" kami. Apa pun alasannya, membagikan ulang konten semacam itu merupakan tindakan ilegal dan justru mereviktimisasi anak. Sebaliknya, dengan melaporkan konten semacam itu, pengguna bisa membantu mencegah bahaya lebih lanjut.

Karena satu korban kejahatan mengerikan ini saja sudah terlalu banyak, upaya kami untuk memahami niat akan terus berlanjut. Kami terus meluncurkan solusi bertarget lainnya untuk platform publik dan pengiriman pesan pribadi kami.