आत्महत्या की रोकथाम

Meta में, हम AI को किस तरह बनाते हैं, उसके लिए सुरक्षा सबसे अहम है. हमने यूज़र को आत्महत्या और खुद को चोट पहुँचाने से जुड़े नुकसानदेह कंटेंट से बचाने के लिए कई अहम सुरक्षा उपाय किए हैं. हमारी पॉलिसी के तहत हमारे AI को ऐसा कोई भी कंटेंट जेनरेट करने की सख्त मनाही है जो किसी भी तरह से आत्महत्या या खुद को चोट पहुँचाने की सुविधा देता हो, उन्हें बढ़ावा देता हो या उनका समर्थन करता हो. हमने टीनएजर बच्चों के लिए सुरक्षा के और भी मज़बूत उपाय किए हैं, जिसमें बेहतर कंटेंट फ़िल्टरिंग शामिल है.

हम अपने AI मॉडल को यह पहचानने के लिए ट्रेनिंग देते हैं कि कब कोई व्यक्ति आत्महत्या या खुद को चोट पहुँचाने के बारे में सोच रहा है. अगर ऐसा होता है, तो हमने अपने AI को इस तरह से बनाया है कि वह यूज़र को क्राइसिस हेल्पलाइन और प्रोफ़ेशनल संगठन जैसे भरोसेमंद रिसोर्स पर भेजकर उनकी सुरक्षा को प्राथमिकता दे और उन्हें सपोर्ट करे. जब भी यूज़र हमारे ऐप पर AI के साथ इंटरैक्ट करते हैं, तो यह सुरक्षा लागू होती है. साथ ही, हम मानसिक स्वास्थ्य के एक्सपर्ट की सलाह से उन्हें रिव्यू करके यह पक्का करते हैं कि यह सुरक्षा जितनी हो सके उतनी असरदार हो.

रिसोर्स देना

जब कोई व्यक्ति आत्महत्या के विचार व्यक्त करता है, तो उन तक जल्द से जल्द मदद पहुँचाना बेहद मुश्किल हो सकता है. आत्महत्या की रोकथाम से जुड़े रिसोर्स Facebook और Instagram पर उपलब्ध हैं. जाने-माने मानसिक स्वास्थ्य संगठनों की मदद से तैयार किए गए रिसोर्स और निजी अनुभव वाले लोगों के इनपुट से हमें अपनी प्रतिक्रिया को लगातार बेहतर बनाने में मदद मिलती है.

Instagram पर माता/पिता के लिए नोटिफ़िकेशन

अगर कोई टीनएजर बच्चा कम समय में आत्महत्या या खुद को नुकसान पहुँचाने से संबंधित शब्दों को बार-बार सर्च करने की कोशिश करता है, तो Instagram निगरानी सुविधा का उपयोग करने वाले माता-पिता को इसके बारे में बताता है. बहुत सारे टीनएजर बच्चे Instagram पर आत्महत्या और खुद को नुकसान पहुँचाने से जुड़ा कंटेंट सर्च नहीं करते हैं और जब वे ऐसा करते हैं, तब हमारी पॉलिसी के तहत इन सर्च को ब्लॉक कर दिया जाता है. साथ ही, उन्हें ऐसे रिसोर्स और हेल्पलाइन पर भेजा जाता है जो उन्हें सपोर्ट दे सकते हैं. इन अलर्ट को यह पक्का करने के लिए बनाया गया है कि माता-पिता को पता चले कि उनके टीनएजर बच्चे बार-बार इस कंटेंट को सर्च कर रहे हैं. साथ ही, इन अलर्ट में माता-पिता को अपने टीनएजर बच्चे को सपोर्ट करने के लिए ज़रूरी रिसोर्स भी दिए जाते हैं.

मशीन लर्निंग

मशीन लर्निंग टेक्नोलॉजी का उपयोग करके Meta ने आत्महत्या या खुद को चोट पहुँचाने वाले संभावित कंटेंट की पहचान करने की हमारी क्षमता का विस्तार किया है और कई देशों में हम इस टेक्नोलॉजी का उपयोग ज़रूरतमंद लोगों की समय पर मदद करने के लिए करते हैं. यह टेक्नोलॉजी संभावित परेशानी की पहचान करने के लिए पैटर्न पहचान संकेतों का उपयोग करती है, जैसे कि वाक्यांश और चिंता जताने वाले कमेंट.

हमारी टीम रिपोर्ट की गई पोस्ट, वीडियो और लाइव स्ट्रीम को किस क्रम में रिव्यू करेगी, यह तय करने के लिए हम आर्टिफ़िशियल इंटेलिजेंस का उपयोग करते हैं. इससे यह पक्का होता है कि हम अपनी पॉलिसी को असरदार तरीके से लागू कर सकते हैं और लोग तुरंत रिसोर्स पा सकते हैं. इससे हमारे रिव्यूअर को ज़्यादा ज़रूरी पोस्ट को प्राथमिकता देने और उनका मूल्यांकन करने की सुविधा भी मिलती है, जिससे वे आपातकालीन सेवाओं से तब संपर्क कर सकते हैं, जब हमारी कम्युनिटी के मेंबर को चोट पहुँचने का खतरा हो सकता है. तेज़ी से फ़ैसला लेना ज़रूरी होता है.

रिपोर्ट को प्राथमिकता देने और स्ट्रीमलाइन करने में टेक्नोलॉजी का उपयोग करके, हम कंटेंट को अपनी कम्युनिटी ऑपरेशंस टीम तक पहुँचा सकते हैं. यह टीम तेज़ी से यह फ़ैसला ले सकती है कि पॉलिसी का उल्लंघन किया गया है या नहीं और स्थानीय आपातकालीन बचावकर्मियों से संपर्क किया जाना चाहिए या नहीं. हम अपनी कम्युनिटी को बेहतर सेवा देने के लिए टेक्नोलॉजी में निवेश करते रहेंगे.

पोस्ट की रिपोर्ट करना

Meta यूज़र उन पोस्ट की रिपोर्ट कर सकते हैं जिनसे उन्हें लगता है कि कोई व्यक्ति आत्महत्या करने के बारे में सोच रहा है. हमारी कम्युनिटी ऑपरेशंस टीम के प्रशिक्षित मेंबर इन रिपोर्ट को रिव्यू करेंगे और पोस्ट करने वाले व्यक्ति को सपोर्ट रिसोर्स से कनेक्ट करेंगे. जब हमें लगता है कि किसी व्यक्ति को तुरंत नुकसान पहुँचने का जोखिम है, तो हम पहले बचावकर्मियों/आपातकालीन सेवाओं को अलर्ट करते हैं, ताकि वे स्वास्थ्य की जाँच कर सकें - ये ऐसे एक्शन होते हैं जिनसे लोगों की जान बचाई जा सकती है.

रैपिड टेक्नोलॉजी

संभावित आत्महत्या और खुद को चोट पहुँचाने की पहचान करने के लिए Meta की टेक्नोलॉजी Facebook और Instagram पोस्ट व Facebook और Instagram Live, दोनों में इंटीग्रेट होती है. अगर ऐसा लगता है कि लाइव वीडियो में मौजूद कोई व्यक्ति खुद को चोट पहुँचाने के बारे में सोच रहा है, तो वीडियो को देख रहे लोग उस व्यक्ति से सीधे संपर्क कर सकते हैं या हमें उस वीडियो की रिपोर्ट कर सकते हैं.

चाहे किसी दोस्त या परिवार के सदस्य ने पोस्ट की रिपोर्ट की हो या मशीन लर्निंग द्वारा उसकी पहचान की गई हो, इसका अगला चरण एक ही होता है: रिव्यू करना. कम्युनिटी ऑपरेशंस टीम का मेंबर किसी पॉलिसी का उल्लंघन होने पर या खुद को चोट पहुँचाने का कोई खतरा दिखाई देने पर रिपोर्ट को रिव्यू करता है. गंभीर मामलों में, हम स्वास्थ्य की जाँच करने के लिए आपातकालीन सेवाओं के साथ काम करते हैं. Meta टेक्नोलॉजी की बदौलत, हमने परेशानी से जूझ रहे लोगों तक पहुँचने में बचावकर्मियों की तुरंत मदद की है.

“जब कोई व्यक्ति आत्महत्या की हद तक निराशा जाहिर करता है, तो यही वह पल होता है जब परिवार, दोस्त और यहाँ तक कि Facebook और Instagram को उसे बचाने के लिए बीच में दखल देना पड़ता है. अगर लोग अपनी तकलीफ़ जाहिर नहीं कर पाते हैं या उसे जाहिर करके हटा दिया जाता है, तो ऐसी स्थिति में हम उस व्यक्ति को बचाने का मौका गँवा देते हैं. हम लोगों को चैट करते हुए इसका अंदाज़ा लगाने के लिए और लोगों को उनसे बात करना जारी रखने के लिए प्रशिक्षित करते हैं, क्योंकि हमें पता है कि मुश्किल की इस घड़ी में यह उनकी मदद करने का एक तरीका है. सोशल मीडिया प्लेटफ़ॉर्म से हम यह काम कुछ इस तरह कर सकते हैं, जिससे बहुत से लोग बहुत जल्दी मदद करने के लिए आगे आ सकते हैं.”

-डॉ. डेनियल जे. रिडेनबर्ग, डॉक्टर ऑफ़ साइकोलॉजी, FAPA, एक्ज़ीक्यूटिव डायरेक्टर, Save.org

“मानसिक रोगों और आत्महत्या संबंधी विचारों के बारे में हम खुले तौर पर बात नहीं करते हैं. फिर भी डिप्रेशन और आत्महत्या की रोकथाम के लिए बातचीत करना और जुड़ना बेहद ज़रूरी होता है. Facebook जिन टूल को उपलब्ध करवा रहा है, उनका लक्ष्य आत्महत्या संबंधी विचार जाहिर करने वाले लोग तो हैं ही, साथ ही फ़िक्रमंद दोस्तों या परिवार के सदस्यों को रिसोर्स और वैकल्पिक उपायों व सही हस्तक्षेप करने के बारे में मार्गदर्शन देना भी है.”

-एना चंडी, चेयरपर्सन - ट्रस्टी, The Live Love Laugh Foundation - भारत

“द फ़िनिश एसोसिएशन फ़ॉर मेंटल हेल्थ को खुशी है कि यह Facebook के साथ मिलकर उन लोगों को और उनके करीबी लोगों को मदद व रिसोर्स उपलब्ध कराता है जो असहाय महसूस कर रहे होते हैं और आत्महत्या का खतरा महसूस कर रहे होते हैं. यह मदद उपलब्ध करवाना ज़रूरी है, क्योंकि मुश्किल में होने पर लोग मदद माँगने की ताकत या हिम्मत नहीं जुटा पाते हैं और उन्हें यह भी पता नहीं होता है कि उन्हें मदद की ज़रूरत है. एक्सपर्ट के लिए लोगों द्वारा बोली जाने वाली भाषा में ही रिसोर्स और संपर्क जानकारी जुटाना बेहद ज़रूरी होता है.”

-सातू रप्पना-जॉकिनेन, ऑनलाइन क्राइसिस सर्विसेज़ की मैनेजर, द फ़िनिश एसोसिएशन फ़ॉर मेंटल हेल्थ

“जागरूकता लाने और आत्महत्या की रोकथाम करने वाली कोई भी पहल ऐसे भयावह आँकड़ों को कम करने के लिए बेहद ज़रूरी हैं, जो दिखाते हैं कि हर 45 मिनट में एक ब्राज़ीलियाई व्यक्ति आत्महत्या कर लेता है. कुछ लोग ऐसे संकेतों की पहचान कर पाते हैं कि किसी दोस्त के मन में आत्महत्या का विचार आ रहा है, लेकिन उन्हें यह पता नहीं होता कि उसकी मदद कैसे की जाए. इन मामलों में, Facebook द्वारा ब्राज़ील में लॉन्च किए गए टूल जैसे साधनों से इस उद्देश्य को हासिल करने में प्रत्यक्ष और अप्रत्यक्ष तौर पर मदद मिल सकती है, जिसे CVV ने 50 सालों से भी ज़्यादा समय से अपनाया हुआ है और जो ‘भ्रांतियों’ से बाहर निकलने और इस विषय पर और कदम उठाने हेतु दूसरे संगठनों के लिए मॉडल के तौर पर काम कर रहा है.”

-कार्लोस कोरिया, वॉलंटियर, Centro de Valorização da Vida) - ब्राज़ील