منع الانتحار

في Meta، تُعد السلامة أمرًا أساسيًا في طريقة تطويرنا للذكاء الاصطناعي. لذلك، وضعنا ضمانات قوية للمساعدة في حماية المستخدمين من المحتوى الضار المتعلق بالانتحار وإيذاء الذات، كما تحظر سياساتنا بشكل صارم أنظمة الذكاء الاصطناعي التي نطورها من إنشاء محتوى يسهل أو يشجع أو يروج للانتحار أو إيذاء النفس بأي شكل من الأشكال. كما وضعنا إجراءات أقوى لضمان سلامة المراهقين، بما في ذلك تحسين فلترة المحتوى.

علاوة على ذلك، ندرب نماذج الذكاء الاصطناعي لدينا بحيث تكون قادرة على التعرف على أي شخص يفكر في الانتحار أو إيذاء الذات. فإذا حدث ذلك، فقد صممنا أنظمة الذكاء الاصطناعي لدينا لإعطاء الأولوية لسلامة المستخدمين من خلال توجيه الأشخاص إلى موارد موثوق بها، مثل خطوط المساعدة في الأزمات والمنظمات المهنية؛ حتى يتمكنوا من الحصول على الدعم. تنطبق وسائل الحماية هذه كلما تفاعل المستخدمون مع الذكاء الاصطناعي عبر تطبيقاتنا، كما نراجعها بالتشاور مع خبراء الصحة النفسية للتأكد من فعاليتها قدر الإمكان.

توفير الموارد

عندما يعبِّر شخص ما عن أفكار بشأن الانتحار، فمن المهم أن يحصل على المساعدة في أسرع وقت ممكن. وتتوفر موارد منع الانتحار على فيسبوك وInstagram. تساعدنا الموارد التي تم إعدادها بالتعاون مع منظمات الصحة النفسية الرائدة والمعلومات التي يوفرها الأشخاص الذين مروا بتجارب شخصية على تحسين استجابتنا باستمرار.

إشعارات الوالدين على Instagram

يرسل Instagram إشعارًا إلى الوالدين اللذين يستخدمان ميزة الإشراف إذا حاول المراهق البحث عن مصطلحات ذات صلة بالانتحار أو إلحاق الضرر بالذات بشكل متكرر خلال فترة زمنية قصيرة. لا يحاول الغالبية العظمى من المراهقين البحث عن محتوى الانتحار وإلحاق الضرر بالذات على Instagram، وعندما يحاولون ذلك، تكون سياستنا هي حظر عمليات البحث هذه، وتوجيههم بدلاً من ذلك إلى الموارد وخطوط المساعدة التي يمكن أن تقدم لهم الدعم. وقد تم تصميم هذه التنبيهات للتأكُّد من أن يكون الوالدان على علم إذا ما كان المراهق الخاضع لإشرافهما يحاول البحث عن هذا المحتوى بشكل متكرر، ومنحهما الموارد التي يحتاجان إليها لدعم المراهق.

تعلّم الآلة

تمكنت Meta باستخدام تقنية تعلّم الآلة من توسيع نطاق قدرتنا على تحديد المحتوى الذي ينطوي على احتمالية الانتحار أو إيذاء الذات، ويمكننا استخدام هذه التقنية في العديد من الدول لتقديم المساعدة الفورية للمحتاجين. وتستخدم هذه التقنية إشارات التعرُّف على الأنماط، مثل العبارات والتعليقات المثيرة للقلق؛ لتحديد الاضطرابات المحتملة.

نستخدم الذكاء الاصطناعي لتحديد أولوية الترتيب التي يقوم فريقنا وفقًا لها بمراجعة المنشورات ومقاطع الفيديو وجلسات البث المباشر. يضمن لنا ذلك إمكانية تنفيذ سياساتنا بفعالية وعرض الموارد على الأشخاص بسرعة. يتيح ذلك أيضًا لمراجعينا وضع أولوية للمنشورات العاجلة وتقييمها؛ مما يتيح لهم الاتصال بخدمات الطوارئ عند احتمالية تعرُّض أحد أعضاء مجتمعنا لمخاطر الإيذاء. فالسرعة أمر بالغ الأهمية.

يمكننا تصعيد المحتوى إلى فريق عمليات المجتمع، والذي يمكنه تحديد إذا ما كانت هناك انتهاكات للسياسات وإذا ما كان يجب التوصية بالتواصل مع موظفي خدمات الطوارئ المحلية بشكل أسرع، عن طريق استخدام التكنولوجيا لوضع الأولوية لهذه التقارير وتنظيمها. وسنواصل الاستثمار في التكنولوجيا لخدمة مجتمعنا بشكل أفضل.

الإبلاغ عن المنشورات

يمكن لمستخدمي Meta الإبلاغ عن المنشورات التي يشعرون أنها تشير إلى أن شخصًا ما يفكر في الانتحار. ويقوم الأعضاء المدربون في فريق عمليات المجتمع لدينا بمراجعة هذه التقارير وقد يقومون بتوصيل صاحب المنشور بموارد الدعم. عندما نعتقد بوجود خطر حدوث أذى وشيك، نقوم بتنبيه هيئات الإنقاذ/خدمات الطوارئ أولاً؛ حتى يتمكنوا من التحقق من السلامة، وهي إجراءات أنقذت أرواح الكثيرين.

التكنولوجيا السريعة

تم دمج تكنولوجيا Meta لتحديد حالات الانتحار وإيذاء الذات المحتمل في المنشورات ومقاطع البث المباشر على فيسبوك وInstagram. إذا كان يبدو أن شخصًا ما في فيديو بث مباشر يفكر في إيذاء نفسه، يمكن للأشخاص الذين يشاهدون الفيديو التواصل مع الشخص مباشرةً وإبلاغنا بشأن الفيديو.

سواءً أكان تم الإبلاغ عن المنشور بواسطة أحد الأصدقاء أو أفراد العائلة أو تم تحديده من خلال تعلّم الآلة، فإن الخطوة التالية واحدة في جميع الحالات، وهي المراجعة. حيث يراجع أحد أعضاء فريق عمليات المجتمع البلاغ للتحقق من وجود خطر وشيك بإيذاء الذات أو انتهاك السياسات. وفي الحالات الخطيرة، نعمل مع خدمات الطوارئ لإجراء زيارة للاطمئنان على حالة الشخص. وبفضل تقنية Meta، نجحنا في مساعدة جهات الاستجابة الأولى على الوصول إلى الأشخاص الذين يواجهون أزمات بسرعة.

"عندما يعبر شخص ما عن مروره بمحنة تجعله يفكر في الانتحار، يتيح هذا الفرصة للعائلة والأصدقاء، بل ولفيسبوك وInstagram بالتدخل. إذا لم يتمكن الأشخاص من مشاركة آلامهم، أو قاموا بمشاركتها ثم تمت إزالة مشاركتهم، نكون بهذا قد أضعنا فرصة لإنقاذ حياة شخص. نقوم بتدريب الأشخاص على الاستماع لهذا في المحادثات والسماح للأشخاص بمواصلة الحديث؛ لأننا نعلم أن التعبير عن النفس يعد إحدى الطرق لمساعدتهم على مواجهة الأزمة. تتيح لنا منصات وسائل التواصل الاجتماعي القيام بذلك على نحو يمكّن الكثير من الأشخاص من المساعدة بسرعة كبيرة."

-دانيال ج. ريدنبرج، طبيب نفسي، FAPA، المدير التنفيذي لمؤسسة Save.org

"الأمراض النفسية والتفكير في الانتحار ليست من الأمور التي نتحدث عنها بشكل منفتح. على الرغم أن التحدث والتواصل من الأمور بالغة الأهمية التي تساعد على منع الاكتئاب والانتحار. تستهدف الأدوات التي يطرحها فيسبوك الأشخاص الذين يعبرون عن التفكير في الانتحار، بالإضافة إلى توجيه الأصدقاء أو أفراد العائلة القلقين بشأنهم إلى الموارد والبدائل وسبل التدخل المناسبة".

-آنا شاندي، رئيسة أمناء مؤسسة The Live Love Laugh Foundation - الهند

"يسر الجمعية الفنلندية The Finnish Association for Mental Health العمل مع فيسبوك لتقديم الدعم والموارد للأشخاص الذين يشعرون بالضعف ويكونون عرضة لخطر الإقدام على الانتحار، وكذلك الأشخاص القريبون منهم. إن توفير هذا الدعم أمر مهم، لأن الأشخاص الذين يمرون بأزمة لا تكون لديهم في كثير من الأحيان القوة أو الشجاعة اللازمة لطلب المساعدة، بل ويمكن أن يجدوا صعوبة في إدراك أنهم بحاجة إلى مساعدة. كما أن إتاحة الموارد ومعلومات الاتصال بالخبراء باللغة التي يتحدث بها الأشخاص أمر بالغ الأهمية."

-ساتو رابانا جوكينين، مدير خدمات الأزمات عبر الإنترنت، The Finnish Association for Mental Health

"أي مبادرة تساعد على رفع مستوى الوعي ومنع الانتحار هي أمر ضروري لتقليل الأرقام المفجعة المسجلة بالإحصاءات والتي تظهر وفاة برازيلي كل 45 دقيقة. يستطيع بعض الأشخاص التعرف من خلال الإشارات على أن أحد الأصدقاء يفكر في الانتحار، لكنهم لا يعرفون كيف يمكنهم المساعدة. في هذه الحالات، يمكن لأدوات مثل الأداة التي طرحها فيسبوك في البرازيل أن تساعد بشكل مباشر وغير مباشر في هذه القضية التي تبنتها مؤسسة CVV لأكثر من 50 عامًا وأن تكون نموذجًا للمنظمات الأخرى للتغلب على "المحظورات" واتخاذ مزيد من الإجراءات في هذه المسألة."

-كارلوس كوريا، متطوع في Centro de Valorização da Vida (CVV) - البرازيل