Det är viktigt att förstå hur och varför personer delar innehåll som exploaterar barn för att kunna bekämpa det. Vi har genomfört en djupgående analys av olagligt innehåll som vi har anmält för att på bästa sätt hitta svaret på frågan. Alla data från den här studien används för att utveckla verktyg och lansera nya program som minskar spridningen av sådant stötande material.

Vi har analyserat anmälningar från två representativa månader från Facebook och Instagram till organisationen National Center for Missing and Exploited Children (NCMEC). Våra slutsatser:

• Över 90 % av innehållet var identiskt med, eller påminde visuellt om, innehåll som tidigare har anmälts.
• Kopior av enbart sex videor stod för mer än hälften av det exploaterade innehållet som vi anmälde under den här tidsperioden.

Med andra ord är det bara en liten mängd innehåll som är ansvarigt för alla förekommande anmälningar. Med hjälp av resultatet insåg vi att en större förståelse för avsikten skulle kunna bidra till att förhindra att offren blir utsatta flera gånger om. Med detta i åtanke samarbetade vi med ledande experter inom barnexploatering, däribland NCMEC, för att utveckla en forskningsstödd taxonomi. Den här taxonomin hjälper oss att kategorisera en persons uppenbara avsikt med att dela sådant innehåll.

Vi har utvärderat 150 konton som vi har anmält till NCMEC för uppladdning av CSAM (material om sexuella övergrepp mot barn) i juli och augusti 2020 samt januari 2021. Vi uppskattar att fler än 75 procent inte hade någon ond avsikt (det vill säga att de inte hade för avsikt att skada ett barn). Istället verkade dessa konton dela innehållet av andra anledningar, till exempel för att de var upprörda eller hade dålig humor. Även om den här studien representerar vår orsaksanalys bör resultaten inte betraktas som ett exakt mått på ekosystemet för barnsäkerhet. Vårt arbete med att förstå avsikten pågår löpande.

Våra målinriktade lösningar baserade på resultaten omfattar bland annat användningen av ett popup-fönster på Facebook som syftar till att minska skadliga sökningar efter innehåll. Varningen visas när personer börjar söka efter termer som förknippas med barnexploatering. Popup-fönstret innehåller avledande resurser från organisationer som skyddar barn och informerar om konsekvenserna av att titta på olagligt innehåll.

Vi använder också en säkerhetsvarning för att informera personer som inte har för avsikt att skada ett barn att de är på väg att dela skadligt innehåll. Funktionen är utformad för att varna användare som har delat virala mem med barnexploaterande innehåll. Meddelandet varnar för att sådan delning skadar offret, strider mot våra policyer och att det kan få rättsliga konsekvenser om materialet delas.

Dessutom samarbetar vi med experter på allmänhetens medvetenhet för att driva vår kampanj Hjälp till att skydda barn. Oavsett skäl är det olagligt att dela det här innehållet på nytt för att inte utsätta offret för skada flera gånger om. Genom att anmäla innehållet kan användare istället hjälpa till att förhindra ytterligare skada.

Eftersom ett enda offer för dessa fruktansvärda brott är ett för många fortsätter vårt arbete för att förstå avsikten. Vi fortsätter till exempel att lansera mer målinriktade lösningar för både våra offentliga plattformar och privata meddelanden.