Η κατανόηση των μεθόδων και των λόγων για τους οποίους κοινοποιούν οι άνθρωποι περιεχόμενο παιδικής εκμετάλλευσης είναι ζωτικής σημασίας για την καταπολέμηση αυτού του φαινομένου. Διενεργήσαμε μια ενδελεχή ανάλυση του αναφερθέντος παράνομου περιεχομένου, προκειμένου να προσαρμόσουμε την αντίδρασή μας με τον καλύτερο δυνατό τρόπο. Τα στοιχεία που αποκομίσαμε από αυτήν την έρευνα χρησιμοποιήθηκαν για την ανάπτυξη εργαλείων και τη δημιουργία νέων προγραμμάτων που αποσκοπούν στον περιορισμό της κοινοποίησης αυτού του αποτροπιαστικού υλικού.

Αναλύσαμε τις αναφορές του Facebook και του Instagram προς το National Center for Missing and Exploited Children (NCMEC) στη διάρκεια δύο αντιπροσωπευτικών μηνών. Τα συμπεράσματά μας είναι τα εξής:

• Πάνω από το 90% του περιεχομένου ήταν το ίδιο, ή παρόμοιο οπτικά, με περιεχόμενο για το οποίο είχαν υποβληθεί αναφορές στο παρελθόν.
• Πάνω από το μισό περιεχόμενο παιδικής εκμετάλλευσης που αναφέραμε μέσα σε αυτό το διάστημα βασιζόταν σε αντίγραφα μόλις 6 βίντεο.

Με άλλα λόγια, πολλές αναφορές οφείλονταν σε λίγα μόνο στοιχεία περιεχομένου. Αυτό μας βοήθησε να συνειδητοποιήσουμε ότι η καλύτερη κατανόηση της πρόθεσης πίσω από την κοινοποίηση θα μπορούσε να μας βοηθήσει να αποτρέψουμε την εκ νέου θυματοποίηση των παιδιών. Με αυτό το δεδομένο, συνεργαστήκαμε με κορυφαίους ειδικούς σε θέματα εκμετάλλευσης παιδιών, όπως το NCMEC, για να αναπτύξουμε ένα σύστημα ταξινόμησης που βασίζεται στην έρευνα. Αυτό το σύστημα ταξινόμησης μας βοηθά να κατηγοριοποιήσουμε την προφανή πρόθεση ενός ατόμου όταν κοινοποιεί τέτοιου είδους περιεχόμενο.

Αξιολογήσαμε 150 λογαριασμούς τους οποίους αναφέραμε στο NCMEC για ανέβασμα υλικού σεξουαλικής κακοποίησης παιδιών (CSAM) τον Ιούλιο και τον Αύγουστο του 2020 και τον Ιανουάριο του 2021. Εκτιμούμε ότι, στο 75% των περιπτώσεων και άνω, δεν υπήρχε κακόβουλη πρόθεση (δηλαδή, δεν υπήρχε πρόθεση πρόκλησης βλάβης). Αντίθετα, φαίνεται ότι αυτοί οι λογαριασμοί κοινοποίησαν το περιεχόμενο για άλλους λόγους (π.χ. για να εκφράσουν αγανάκτηση ή ως κακόγουστο χιούμορ). Παρότι αυτή η έρευνα μάς έχει προσφέρει καλύτερη κατανόηση, τα ευρήματα δεν θα πρέπει να θεωρείται ότι αποτυπώνουν με ακρίβεια το οικοσύστημα παιδικής ασφάλειας. Η προσπάθειά μας για την κατανόηση της πρόθεσης είναι διαρκής.

Οι στοχευμένες λύσεις μας με βάση αυτά τα ευρήματα περιλαμβάνουν μεταξύ άλλων την ανάπτυξη ενός αναδυόμενου μηνύματος στο Facebook με στόχο τον περιορισμό των κακόβουλων αναζητήσεων για τέτοιο περιεχόμενο. Η προειδοποίηση εμφανίζεται όταν οι χρήστες επιχειρούν να κάνουν αναζήτηση με όρους που σχετίζονται με την παιδική εκμετάλλευση. Παραπέμπει τον παραβάτη σε πόρους από οργανισμούς για την προστασία των παιδιών και παρέχει πληροφορίες σχετικά με τις συνέπειες που έχει η προβολή παράνομου περιεχομένου.

Αναπτύξαμε επίσης μια ειδοποίηση ασφάλειας με στόχο να ενημερώνουμε τους χρήστες που κοινοποιούν αυτό το περιεχόμενο χωρίς πρόθεση να προξενήσουν βλάβη σε παιδιά. Αυτή η λειτουργία αποσκοπεί να προειδοποιήσει τους χρήστες που κοινοποιούν meme με περιεχόμενο παιδικής εκμετάλλευσης, τα οποία έχουν γίνει viral. Προειδοποιεί ότι η κοινοποίηση τέτοιου περιεχομένου προξενεί βλάβη στο θύμα, παραβιάζει τις πολιτικές μας και επισύρει νομικές συνέπειες.

Επίσης, συνεργαζόμαστε με ειδικούς ευαισθητοποίησης του κοινού, για να προωθήσουμε την εκστρατεία μας "Συμβάλετε στην προστασία των παιδιών". Ανεξάρτητα από την πρόθεση, η ανακοινοποίηση αυτού του περιεχομένου είναι παράνομη και θυματοποιεί εκ νέου το παιδί. Αναφέροντας το περιεχόμενο αντί να το κοινοποιήσουν, οι χρήστες μπορούν να αποτρέψουν την περαιτέρω βλάβη.

Επειδή δεν θέλουμε ούτε ένα παιδί να πέσει θύμα αυτών των απαίσιων εγκλημάτων, η προσπάθειά μας για την κατανόηση της πρόθεσης είναι διαρκής. Συνεχίζουμε να αναπτύσσουμε πιο στοχευμένες λύσεις τόσο για τις δημόσιες πλατφόρμες μας όσο και για τις εφαρμογές ανταλλαγής ιδιωτικών μηνυμάτων.