Чтобы бороться с распространением контента, связанного с эксплуатацией детей, необходимо понять, как и почему люди размещают такие материалы. С этой целью мы провели тщательный анализ подобного незаконного контента. Данные нашего исследования были использованы для создания и запуска новых инструментов и программ, сокращающих распространение этих чудовищных материалов.

Мы проанализировали контент, собранный на Facebook и в Instagram в течение двух месяцев для Национального центра по проблемам пропавших без вести и подвергающихся эксплуатации детей. Вот некоторые выводы:

• Более чем 90 % изученных материалов похожи на ранее собранные или идентичны им.
• Более половины незаконного контента, собранного за этот период, представляют собой копии всего шести видео.

Поскольку в большинстве случаев использовались одни и те же несколько единиц контента, для предотвращения дальнейшей эксплуатации важно понять мотивацию людей, размещающих такие материалы. Поэтому в сотрудничестве с NCMEC и другими экспертами по вопросам эксплуатации детей мы разработали исследовательскую классификацию причин, мотивирующих людей распространять подобный контент.

Мы изучили 150 собранных нами для NCMEC аккаунтов, которые размещали материалы, касающиеся сексуального насилия над детьми (Child Sexual Abuse Material, CSAM), в июле – августе 2020 и январе 2021 года. По нашим предположениям, в действиях более 75 % этих аккаунтов отсутствовал злой умысел (т. е. эти люди не намеревались причинить вред ребенку). Они размещали такие материалы по другим причинам, например, чтобы высказать свое возмущение или неудачно пошутить. Это исследование помогает нам лучше понять мотивацию нарушителей, но не дает точных данных, необходимых для обеспечения безопасности детей. Мы продолжаем работать в этом направлении.

Используя полученные сведения, мы разработали специализированные решения. Например, всплывающее окно на Facebook, которое призвано предотвратить злонамеренный поиск незаконного контента. Это предупреждение появляется при поиске терминов, связанных с эксплуатацией детей. В окне содержится информация о последствиях просмотра незаконного контента и предлагаются ресурсы организаций по защите детей, предназначенные для реабилитации правонарушителей.

Кроме того, мы внедрили функцию оповещения для людей, размещающих незаконные материалы без намерения причинить вред ребенку. Речь идет о пользователях, которые публикуют мемы или другой вирусный контент, связанный с эксплуатацией детей. Оповещение сообщает, что такие материалы наносят вред жертвам эксплуатации, а также предупреждает о нарушении правил и юридических последствиях за распространение незаконного контента.

Наконец, в сотрудничестве с экспертами по информированию общественности мы проводим кампанию "Помогите защитить детей". Она призвана объяснить людям, что независимо от их мотивации размещение контента, связанного с эксплуатацией, незаконно и наносит вред детям. На подобные материалы следует жаловаться, чтобы предотвратить дальнейший вред.

Чтобы не допустить ни одного случая эксплуатации детей, мы продолжаем анализировать причины распространения незаконного контента, а также внедрять новые специализированные решения как на общедоступных платформах, так и в сервисах для обмена личными сообщениями.