Å forstå hvordan og hvorfor folk deler innhold som utnytter barn er avgjørende i bekjempelsen av det. Vi gjennomførte en inngående analyse av ulovlig innhold vi rapporterer for å orientere oss om dette best mulig og reagere på riktig måte. Data vi lærte om fra denne undersøkelsen blir brukt til å utvikle verktøy og lansere nye programmer som reduserer deling av slikt motbydelig materiale.

Vi analyserte to representative måneder med rapporter fra Facebook og Instagram til National Center for Missing and Exploited Children (NCMEC). Vi oppdaget følgende:

• Over 90 % av dette innholdet var det samme som eller visuelt likt tidligere rapportert innhold.
• Kopier av kun seks videoer sto for over halvparten av innholdet med utnyttelse av barn som vi rapporterte i den aktuelle perioden.

Med andre ord står bare noen få deler av innholdet for mange rapporter. Dette hjalp oss med å innse at en større forståelse av hensikten kan hjelpe oss med å forebygge utnyttelse av ofre på nytt. Med dette målet for øye innledet vi et samarbeid med eksperter innen utnyttelse av barn, deriblant NCMEC, om å utarbeide et forskningsbasert klassifikasjonssystem. Dette klassifikasjonssystemet hjelper oss med å kategorisere en persons åpenbare hensikt med deling av slikt innhold.

Vi vurderte 150 kontoer som vi i løpet av juli og august 2020 og januar 2021 hadde rapportert til NCMEC for opplasting av materiale som viser seksuelle overgrep mot barn. Vi anslår at over 75 % ikke hadde onde hensikter (dvs. hadde ikke intensjon om å skade barn). I stedet delte tilsynelatende disse kontoene materialet av andre årsaker, f.eks. raseri eller dårlig humor. Selv om denne studien per i dag representerer vår beste forståelse, anser vi ikke disse oppdagelsene som en nøyaktig gjenspeiling av økosystemet for barns sikkerhet. Arbeidet vårt for å forstå intensjonene pågår fortsatt.

De målrettede løsningene våre basert på disse funnene inkluderer utvikling av en pop-up-melding på Facebook med formål om redusering av ondsinnede søk etter innhold. Advarselen vises når personer begynner å søke etter termer forbundet med utnyttelse av barn. Popup-meldingen tilbyr gjerningspersonen ressurser fra verneorganisasjoner og informasjon om konsekvensene ved å se ulovlig innhold.

Vi har også utviklet et sikkerhetsvarsel for å informere folk som deler dette innholdet på bakgrunn av andre årsaker enn det å skade barnet. Funksjonen er laget for å varsle brukere som har delt virale memer med innhold som utnytter barn. Det varsler at slik deling skader offeret, at det bryter med retningslinjene våre og at det er juridiske konsekvenser ved deling av slikt materiale.

I tillegg samarbeider vi også med eksperter på offentlig bevissthet for å fremme kampanjen vår «Hjelp å beskytte barn». Uansett årsak er deling av dette innholdet på nytt ulovlig, og det skader barnet igjen. Hvis man heller rapporterer innholdet, bidrar man som bruker til å forebygge ytterligere skade.

Siden selv ett offer av disse forferdelige forbrytelsene er ett for mye, pågår arbeidet vårt for å forstå hensikten. Vi fortsetter med å rulle ut flere målrettede løsninger for både de offentlige plattformene våre og private meldinger.