इस समस्या से निपटने के लिए यह समझना ज़रूरी है कि लोग बच्चों के शोषण से जुड़ा कंटेंट कैसे और क्यों शेयर करते हैं. अपनी प्रतिक्रिया को बेहतर बनाने के लिए हमने रिपोर्ट किए गए गैर-कानूनी कंटेंट का बारीकी से विश्लेषण किया. इस रिसर्च से मिले डेटा का उपयोग हम नए टूल प्रयोग करने और इस तरह के घृणित कंटेंट की शेयरिंग कम करने के लिए बनाए गए नए प्रोग्राम लाॅन्च करने के लिए करते हैं.

हमने Facebook और Instagram से मिली दो महीनों की (प्रतिनिधि) रिपोर्ट का विश्लेषण किया और उसे नेशनल सेंटर फ़ॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन (NCMEC) में सबमिट किया. यहाँ इससे मिली जानकारी दी गई है:

• इसका 90% से भी ज़्यादा कंटेंट, पहले रिपोर्ट किए गए कंटेंट जैसा ही था या उससे मिलता-जुलता दिखाई देता था.
• हमारे द्वारा उस समय रिपोर्ट किए गए बच्चों के शोषण से जुड़े आधे से ज़्यादा कंटेंट के लिए बस छह वीडियो की बनाई गई कॉपियाँ ही ज़िम्मेदार थीं.

दूसरे शब्दों में कहें, तो बस कुछ कंटेंट ही बहुत सी रिपोर्ट के लिए ज़िम्मेदार है. इससे हमें यह समझने में मदद मिली कि अगर इस तरह के कंटेंट को शेयर किए जाने के पीछे के इरादे को समझ लिया जाए, तो एक ही व्यक्ति को बार-बार पीड़ित होने से बचाया जा सकता है. इस बात को ध्यान में रखते हुए, हमने NCMEC सहित इस क्षेत्र के अन्य मुख्य विशेषज्ञों के साथ मिलकर बच्चों के शोषण पर काम किया, ताकि रिसर्च के आधार पर वर्गीकरण पद्धति बनाई जा सके. इस वर्गीकरण पद्धति से ऐसे कंटेंट को शेयर करने के पीछे व्यक्ति के इरादे को कैटेगरी में बाँटने में मदद मिलती है.

हमने जुलाई-अगस्त 2020 और जनवरी 2021 में CSAM (बच्चे के यौन दुर्व्यवहार से जुड़े कंटेंट) अपलोड करने के मामले में NCMEC को जिन 150 अकाउंट की रिपोर्ट की थी, उनका मूल्यांकन किया. हमारा अनुमान है कि 75% से ज़्यादा मामलों में कंटेंट शेयर करने वाले व्यक्ति का इरादा कुछ बुरा करना नहीं था (जैसे कि वे बच्चे को नुकसान पहुँचाना नहीं चाहते थे). इसके बजाय, इन सभी अकाउंट ने किसी और वजह से ऐसा कंटेंट शेयर किया, जैसे कि गुस्सा जताने या भद्दा मज़ाक करने के लिए. जहाँ यह स्टडी इन मामलों को लेकर हमारी समझ को व्यक्त करती है, वहीं इस जाँच-पड़ताल को बच्चों की सुरक्षा से जुड़े सिस्टम का सटीक मूल्यांकन नहीं माना जाना चाहिए. इसके पीछे का इरादा समझने के लिए हम लगातार काम कर रहे हैं.

इन रिसर्च के आधार पर बनाए गए हमारे समाधानों में, दुर्भावना से की गई कंटेंट सर्च को कम करने के उद्देश्य से Facebook पर एक पॉप-अप डिप्लॉय करना शामिल है. जब लोग बच्चे के शोषण से जुड़े शब्द सर्च करते हैं, तो यह चेतावनी दिखाई देती है. बच्चे की सुरक्षा से जुड़े संगठन की ओर से इसका उल्लंघन करने वाले व्यक्ति को उस सर्च से हटाने के लिए रिसोर्स दिए जाएँगे. साथ ही गैर-कानूनी कंटेंट को देखने से जुड़े परिणामों के बारे में जानकारी भी दी जाएगी.

हमने एक सुरक्षा अलर्ट जारी किया है, ताकि बच्चे को नुकसान पहुँचाने के अलावा किसी और कारण से इस कंटेंट को शेयर करने वाले लोगों को जानकारी मिल सके. इस फ़ीचर को उन लोगों को सजग करने के लिए डिज़ाइन किया गया है जिन्होंने बच्चे के शोषण से जुड़े कंटेंट के वायरल मीम को शेयर किया है. यह अलर्ट इन लोगों को ऐसे कंटेंट को शेयर करने पर पीड़ित को होने वाले नुकसान के बारे में बताता है. साथ ही, उन्हें चेतावनी देता है कि ऐसा कंटेंट शेयर करना हमारी पॉलिसीज़ के खिलाफ़ है और इसे शेयर करने से उन्हें कानूनी कार्रवाई का सामना करना पड़ सकता है.

इसके अलावा, हम अपने "बच्चों को सुरक्षित रखने में मदद करें" कैंपेन का विस्तार करने के लिए लोगों में जागरूकता फैलाने वाले एक्सपर्ट के साथ काम कर रहे हैं. वजह जो भी हो, लेकिन इस तरह के कंटेंट को फिर से शेयर करना गैर-कानूनी है और इससे बच्चा बार-बार पीड़ित होता है. इसके बजाय, कंटेंट की रिपोर्ट करके यूज़र आगे होने वाले नुकसान को रोक सकते हैं.

इन भयानक अपराधों की वजह से किसी एक का भी पीड़ित होना सही नहीं है, इसलिए इसके पीछे के इरादे को समझने के लिए हम लगातार काम कर रहे हैं. हम अपने पब्लिक प्लेटफ़ॉर्म और प्राइवेट मैसेजिंग, दोनों जगहों के लिए ज़्यादा लक्षित समाधान बनाना जारी रखेंगे.