बच्चों को सुरक्षित रखने का हमारा काम इंटरनेट के व्यापक हिस्से तक जाता है. बच्चों की सुरक्षा से जुड़ा ईकोसिस्टम बनाने के लिए हम क्रॉस-इंडस्ट्री कोलेबरेशन की अहमियत समझते हैं.

2016 से, हमने गैर-लाभकारी संगठनों (NGO) के साथ नियमित रूप से बच्चों की सुरक्षा से जुड़े हैकाथॉन होस्ट किए हैं. ये ईवेंट इंटरनेट को बच्चों के लिए सुरक्षित जगह बनाने पर फ़ोकस करने वाले कोडिंग और प्रोटोटाइप प्रोजेक्ट पर केंद्रित हैं. इसी तरह, फ़ोटो और वीडियो मैच करने वाली हमारी टेक्नोलॉजी 2019 से ओपन सोर्स रही हैं. इस कोड से टेक्नोलॉजी इंडस्ट्री में वापस योगदान देकर, हम उम्मीद करते हैं कि ज़्यादा कंपनियाँ अपनी सेवाओं को सुरक्षित रख पाएँगी. 2020 में, हमने प्रोजेक्ट प्रोटेक्ट चलाने के लिए पूरी इंडस्ट्री में पार्टनर के साथ कोलेबरेट किया. यह कोलेबरेशन अगले 15 सालों के लिए Technology Coalition के काम को दिशा देने और युवाओं की ऑनलाइन सुरक्षा करने के लिए किया गया है.

कंपनी के अंदर, हम अपने सुरक्षा सलाहकारों के साथ मिलकर काम करते हैं, जिसमें दुनिया भर के एक्सपर्ट और NGO शामिल हैं. हमारी कोशिशों में इंडस्ट्री के जाने-माने तरीके विकसित करना, बच्चों के ऑनलाइन शोषण को रोकने के लिए टेक्नोलॉजी बनाना और उसे शेयर करना, और पीड़ितों को दी जाने वाली सेवाओं को सपोर्ट करना शामिल है.

हमारी कोशिश है कि यूज़र की प्राइवेसी, सुरक्षा और ऑनलाइन जानकारी की एक्सेस को सुरक्षित रखने के अपने तरीकों को हम पारदर्शी रखें और इन मामलों में प्रोएक्टिव रहें. हमारी तिमाही कम्युनिटी स्टैंडर्ड एन्फ़ोर्समेंट रिपोर्ट में ये चीज़ें शामिल हैं:

• हमारे नियमों का उल्लंघन करने वाले कंटेंट के खिलाफ़ हमने जो एक्शन लिए हैं.
• हमारी बाल यौन शोषण, दुर्व्यवहार और नग्नता से जुड़ी पॉलिसी का उल्लंघन करने के लिए हमारे द्वारा हटाए गए कंटेंट के बारे में जानकारी.
• हमारे द्वारा नोटिस किए गए संबंधित ट्रेंड.

हम बच्चों के लिए लगातार नए सुरक्षा टूल बना रहे हैं और अपडेट भी कर रहे हैं. हमने अपनी पॉलिसी का उल्लंघन करने वाले नेटवर्क का पता लगाने और उन्हें हटाने के लिए अपने काम का विस्तार किया है और हमने उल्लंघन करने वाले कंटेंट की रिपोर्ट करना भी आसान बना दिया है. यहाँ कुछ प्रोडक्ट फ़ीचर दिए गए हैं (यूज़र को दिखाई नहीं देते):

• Facebook और Instagram पर संभावित रूप से संदिग्ध वयस्कों की पहचान करने के बाद हम उन्हें टीनएजर अकाउंट का पता लगाने और उनसे कनेक्ट करने से रोकते के लिए काम करते हैं. यह हस्तक्षेप कई अलग-अलग रूप ले सकता है. जैसे:
  • हम युवाओं के अकाउंट को “दोस्त बनाने के सुझाव” से हटाकर ऐसे लोगों को उनके अकाउंट का सुझाव नहीं देंगे.
  • हम उनके लिए युवाओं की पोस्ट पर कमेंट करने की सुविधा भी हटा देते हैं और वे अन्य लोगों की पोस्ट पर युवाओं के कमेंट भी नहीं देख सकते हैं.
  • अगर उन्हें युवा लोगों के यूज़रनेम से सर्च करने पर किसी युवा व्यक्ति का अकाउंट मिल जाता है, तो उनके पास उन्हें दोस्त बनाने या उन्हें फ़ॉलो करने का विकल्प नहीं होगा.

हमारी बच्चों के लिए सुरक्षा पॉलिसी में स्पष्ट तौर पर बताया गया है कि Facebook और Instagram पर किस चीज़ की परमिशन है. अनुचित कैप्शन, हैशटैग या कमेंट के साथ मासूम बच्चों की फ़ोटो शेयर करना उल्लंघन माना जाता है.

हम बच्चों का यौन शोषण करने से जुड़े या उन्हें जोखिम में डालने वाले कंटेंट की परमिशन नहीं देते हैं. इसके बावजूद लोग कभी-कभी बच्चों की यौन फ़ोटो और वीडियो पोस्ट करते हैं. हम जानते हैं कि ऐसे कंटेंट को फिर से पोस्ट करने से बच्चा दोबारा यातना का शिकार हो सकता है, भले ही ऐसा दुर्भावना से न किया गया हो. इस कंटेंट को शेयर करना हमारी पॉलिसी का उल्लंघन माना जाता है, भले ही मंशा कुछ भी हो.

हम ऐसा नया PSA कैंपेन लाॅन्च करने के लिए लोगों में जागरूकता फैलाने वाले एक्सपर्ट के साथ काम कर रहे हैं, जो लोगों को ऑनलाइन आपत्तिजनक फ़ोटो फिर से शेयर करने से रोकने और शेयर करने से पहले सोचने के लिए बढ़ावा देता है. साथ ही, शेयर करने के बजाय, हमसे उनकी रिपोर्ट करने पर ज़ोर देता है.

Meta के सपोर्ट से NCMEC द्वारा बनाया गया Take It Down पोर्टल एक ऐसी सुविधा है जिसकी मदद से आप अपनी उन नग्न, कुछ हद तक नग्न या अश्लील फ़ोटो और वीडियो को हटा सकते हैं जो तब ली गई थीं, जब आपकी उम्र 18* साल से कम थी.

Take It Down, 18 साल से कम उम्र के लोगों की नग्न, कुछ हद तक नग्न या अश्लील फ़ोटो या वीडियो के लिए एक यूनिक डिजिटल फ़िंगरप्रिंट (जिसे हैश वैल्यू कहा जाता है) असाइन करता है. इससे जुड़े ऑनलाइन प्लेटफ़ॉर्म, हैश वैल्यू का उपयोग करके अपनी सेवाओं पर इन फ़ोटो या वीडियो वाली पोस्ट का पता लगा सकते हैं और इस कंटेंट को हटा सकते हैं. यह सब आपके डिवाइस से फ़ोटो या वीडियो को हटाए बिना होता है; सिर्फ़ हैश वैल्यू को Take It Down में अपलोड किया जाएगा और NCMEC को दिया जाएगा. अगर कोई व्यक्ति, इस प्रोग्राम से जुड़ी किसी कंपनी के प्लेटफ़ॉर्म पर मैच करने वाली फ़ोटो पोस्ट करने की कोशिश करता है, तो कंपनी अपने प्लेटफ़ॉर्म पर कंटेंट को रिव्यू करती है और पता लगती है कि क्या यह उनकी पॉलिसी का उल्लंघन करती है और फिर उसके हिसाब से एक्शन लेती है.

हम बच्चों का यौन शोषण करने से जुड़े या उन्हें जोखिम में डालने वाले कंटेंट की परमिशन नहीं देते हैं. बच्चों के यौन शोषण का पता चलने पर हम NCMEC (नेशनल सेंटर फ़ॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन) में इसकी रिपोर्ट करते हैं. NCMEC दुनिया भर में कानून लागू करने वाली संस्थाओं के साथ काम करता है.

ऑनलाइन सुरक्षा समस्याओं से जुड़ी अपनी पॉलिसी के बारे में चर्चा करने व उन्हें बेहतर बनाने और उनके एन्फ़ोर्समेंट के लिए हम बाहरी एक्सपर्ट के साथ भी काम करते हैं.

लोग बच्चों की नग्र फ़ोटो को कई वजह से शेयर करते हैं, जिसमें गुस्सा दिखाना या भद्दा मज़ाक जैसी वजहें भी शामिल हैं. हम जानते हैं कि कभी-कभी लोग अच्छे इरादे से अपने बच्चे की नग्र फ़ोटो शेयर करते हैं. हालाँकि, हम आम तौर पर इन फ़ोटो को हटा देते हैं, क्योंकि अन्य लोग इसका दुरुपयोग कर सकते हैं. इससे अन्य लोगों द्वारा फ़ोटो का फिर से उपयोग करने या गलत तरीके से उपयोग करने की संभावना कम हो जाती है.

कम्युनिटी स्टैंडर्ड में बताया गया है कि ऐप पर किन चीज़ों की परमिशन है और किनकी नहीं. बच्चों के शोषण पर हमारी पॉलिसी इन गाइडलाइन का हिस्सा हैं और इन्हें एक्टिव तरीके से लागू किया जाता है.