Chúng tôi cần hiểu rõ cách thức và lý do mọi người chia sẻ nội dung mang tính bóc lột trẻ em để đẩy lùi tình trạng này. Chúng tôi đã tiến hành phân tích chuyên sâu nội dung bất hợp pháp mà mình đã báo cáo để có căn cứ xác đáng nhất khi ứng phó. Chúng tôi dùng dữ liệu thu được từ nghiên cứu này để triển khai công cụ và ra mắt chương trình mới nhằm giảm thiểu tình trạng chia sẻ những nội dung đáng lên án như vậy.

Chúng tôi đã phân tích các báo cáo từ Facebook và Instagram cho Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC) trong 2 tháng tiêu biểu. Dưới đây là những gì chúng tôi tìm hiểu được:

• Trên 90% nội dung này đều giống hoặc có hình ảnh tương tự với nội dung từng bị báo cáo.
• Hơn một nửa nội dung mang tính bóc lột trẻ em mà chúng tôi báo cáo trong khoảng thời gian đó đều là bản sao của 6 video duy nhất.

Nói cách khác, chỉ một vài nội dung là nguyên nhân của nhiều báo cáo. Nhờ kết quả này, chúng tôi nhận ra rằng khi hiểu rõ hơn về ý định, chúng tôi có thể ngăn chặn tình trạng tấn công nạn nhân nhiều lần. Trên tinh thần đó, chúng tôi hợp tác với các chuyên gia hàng đầu về vấn đề bóc lột trẻ em (bao gồm NCMEC) để phát triển hệ thống phân loại dựa trên nghiên cứu. Hệ thống phân loại này hỗ trợ chúng tôi phân nhóm ý định rõ ràng của một người khi chia sẻ loại nội dung nói trên.

Chúng tôi đánh giá 150 tài khoản mà mình đã báo cáo cho NCMEC vì tải lên nội dung lạm dụng tình dục trẻ em (CSAM) trong tháng 7/2020, tháng 8/2020 và tháng 1/2021. Chúng tôi ước tính rằng hơn 75% số tài khoản này không có ý định xấu (nghĩa là không nhằm làm hại trẻ em). Thay vào đó, có vẻ như những tài khoản này chia sẻ vì lý do khác, chẳng hạn như khi giận dữ hoặc đùa cợt theo cách không phù hợp. Mặc dù chúng tôi đã trình bày những hiểu biết sâu sắc nhất của mình trong nghiên cứu, nhưng ta không nên xem các kết luận này là kết quả đo lường chính xác về hệ sinh thái đảm bảo an toàn cho trẻ em. Chúng tôi vẫn đang nỗ lực tìm hiểu về ý định.

Dựa trên những kết luận này, chúng tôi đưa ra các giải pháp mục tiêu, chẳng hạn như triển khai hiệu ứng bật lên trên Facebook nhằm giảm lượt tìm kiếm nội dung độc hại. Cảnh báo này xuất hiện khi mọi người bắt đầu tìm kiếm các thuật ngữ liên quan đến hành vi bóc lột trẻ em. Hiệu ứng bật lên này cung cấp những nguồn thông tin khác về tội phạm xâm phạm trẻ em từ các tổ chức bảo vệ, đồng thời chia sẻ thông tin về hậu quả của hành vi xem nội dung bất hợp pháp.

Chúng tôi cũng đã triển khai cảnh báo an toàn để thông báo cho những người đang chia sẻ nội dung này không vì mục đích làm hại trẻ. Chúng tôi thiết kế tính năng này để cảnh báo người dùng đã chia sẻ ảnh chế nội dung bóc lột trẻ em có tính lan truyền cao. Cảnh báo nói trên cho biết hành vi chia sẻ như vậy sẽ gây hại cho nạn nhân, vi phạm chính sách của chúng tôi và có thể dẫn đến hậu quả pháp lý.

Ngoài ra, chúng tôi đang hợp tác với các chuyên gia về nhận thức của công chúng nhằm thúc đẩy chiến dịch "Góp phần bảo vệ trẻ em". Dù lý do là gì, hành vi chia sẻ lại nội dung này là bất hợp pháp và khiến trẻ trở thành nạn nhân thêm lần nữa. Thay vào đó, người dùng có thể báo cáo nội dung để ngăn chặn mối nguy hại trong tương lai.

Vì không ai đáng phải trở thành nạn nhân của những tội ác khủng khiếp này nên chúng tôi sẽ không ngừng tìm hiểu ý định phía sau hành động đó. Chúng tôi tiếp tục ra mắt thêm giải pháp mục tiêu cho cả nền tảng công khai và tính năng nhắn tin riêng tư.