Sen ymmärtäminen, miten ja miksi lasten hyväksikäyttöä sisältävää sisältöä jaetaan, on ratkaisevan tärkeää tällaisen sisällön torjunnassa. Olemme tehneet perusteellisen analyysin ilmiantamastamme laittomasta sisällöstä, jotta voimme vastata tietojen pohjalta. Tästä tutkimuksesta saatuja tietoja on käytetty työkalujen käyttöönottoon ja uusien ohjelmien käynnistämiseen. Niiden tarkoituksena on vähentää tällaisen vastenmielisen materiaalin jakamista.

Olemme analysoineet NCMEC:lle eli kansalliselle kadonneiden ja hyväksikäytettyjen lasten keskukselle ilmiannettua Facebook- ja Instagram-sisältöä kahden esimerkkikuukauden ajalta. Havaitsimme seuraavaa:

• Yli 90 prosenttia sisällöstä oli samaa tai visuaalisesti samankaltaista kuin aiemmin ilmiannettu sisältö.
• Vain kuuden eri videon kopioista muodostui yli puolet kyseisen ajanjakson aikana ilmiantamastamme lasten hyväksikäyttöön liittyvästä sisällöstä.

Toisin sanoen vain muutama sisältöjulkaisu on vastuussa monista ilmiannoista. Tämä auttoi meitä ymmärtämään, että aikomuksen parempi ymmärtäminen voisi auttaa estämään uhriksi joutumisen. Tätä silmällä pitäen teimme yhteistyötä johtavien lasten hyväksikäytön asiantuntijoiden, mukaan lukien NCMEC:n, kanssa kehittääksemme tutkimukseen perustuvan taksonomian. Tämä taksonomia auttaa meitä luokittelemaan henkilön ilmeisen aikomuksen jakaa tällaista sisältöä.

Arvioimme 150 tiliä, jotka olimme ilmiantaneet NCMEC:lle lasten seksuaaliseen hyväksikäyttöön liittyvän materiaalin lataamisesta heinä- ja elokuussa 2020 ja tammikuussa 2021. Arvioimme, että yli 75 prosentilla ei ollut ilkeää tarkoitusta eli heidän aikomuksensa ei ollut vahingoittaa lasta. Sen sijaan nämä tilit jakoivat sisältöä muista syistä, kuten suuttumuksen tai huonon huumorin takia. Vaikka tämä tutkimus vastaa parasta tietämystämme, näitä havaintoja ei tule pitää lasten turvallisuutta suojaavan ympäristön tarkkana mittana. Työmme ymmärtää aikomusta on jatkuvaa.

Näihin havaintoihin perustuviin kohdennettuihin ratkaisuihimme kuuluu ponnahdusikkunan käyttöönotto Facebookissa. Sen tarkoituksena on vähentää haitallisia sisältöhakuja. Varoitus tulee näkyviin, kun käyttäjät etsivät lasten hyväksikäyttöön liittyviä termejä. Se tarjoaa lapsirikollisille suunnattuja resursseja suojeluorganisaatioilta ja antaa tietoa laittoman sisällön katselun seurauksista.

Olemme myös ottaneet käyttöön turvallisuushälytyksen, jotta voimme jakaa tietoa henkilöille, jotka jakavat tällaista sisältöä muista syistä kuin lapsen vahingoittamiseksi. Ominaisuus on suunniteltu varoittamaan käyttäjiä, jotka ovat jakaneet meemejä lapsia hyväksikäyttävästä sisällöstä. Se varoittaa, että tällainen jakaminen vahingoittaa uhria, on käytäntöjemme vastaista ja että materiaalin jakamisesta seuraa oikeudellisia seurauksia.

Lisäksi teemme yhteistyötä yleisen valistuksen asiantuntijoiden kanssa edistääksemme Auta suojelemaan lapsia -kampanjaamme. Oli syy mikä tahansa, tällaisen sisällön uudelleenjakaminen on laitonta ja tekee lapsesta uhrin. Ilmiantamalla sisällön käyttäjät voivat auttaa estämään ylimääräisiä haittoja.

Työmme aikomuksen ymmärtämiseksi jatkuu, sillä yksikin näiden hirvittävien rikosten uhri on liikaa. Jatkamme kohdennettujen ratkaisujen käyttöönottoa sekä julkisille alustoillemme että yksityisessä viestittelyssä.