การป้องกันการฆ่าตัวตาย

ที่ Meta ความปลอดภัยคือสิ่งสำคัญที่เราคำนึงถึงในการพัฒนา AI เราวางมาตรการป้องกันที่แข็งแกร่งเพื่อช่วยปกป้องผู้ใช้จากเนื้อหาที่เป็นอันตรายเกี่ยวกับการฆ่าตัวตายและการทำร้ายตัวเอง และนโยบายของเราก็ห้ามไม่ให้ AI ของเราสร้างเนื้อหาใดๆ ที่เอื้ออำนวย ส่งเสริม หรือสนับสนุนการฆ่าตัวตายหรือการทำร้ายตัวเองโดยเด็ดขาด ไม่ว่าในรูปแบบใดก็ตาม นอกจากนี้ เรายังใช้มาตรการด้านความปลอดภัยที่เข้มงวดยิ่งกว่าสำหรับวัยรุ่น ซึ่งรวมถึงการกรองเนื้อหาที่มีประสิทธิภาพมากขึ้น

เราฝึกโมเดล AI ให้สามารถระบุได้ว่ามีคนคิดฆ่าตัวตายหรือทำร้ายตัวเอง ด้วยเหตุนี้ เราจึงได้ออกแบบ AI ของเราให้คำนึงถึงความปลอดภัยของผู้ใช้เป็นอันดับแรก โดย AI จะนำทางผู้ใช้ไปยังแหล่งข้อมูลที่เชื่อถือได้ เช่น สายด่วนช่วยเหลือในภาวะวิกฤตและองค์กรผู้เชี่ยวชาญ เพื่อให้ผู้ใช้เหล่านั้นสามารถรับความช่วยเหลือได้ มาตรการป้องกันเหล่านี้จะทำงานทุกครั้งที่ผู้ใช้โต้ตอบกับ AI ในแอพต่างๆ ของเรา และเราก็ตรวจสอบมาตรการป้องกันเหล่านี้ด้วยการหารือกับผู้เชี่ยวชาญด้านสุขภาพจิต ทั้งนี้ก็เพื่อให้มาตรการป้องกันมีประสิทธิภาพมากที่สุด

การจัดหาแหล่งข้อมูล

เมื่อมีคนแสดงออกว่ามีความคิดเกี่ยวกับการฆ่าตัวตาย การให้ความช่วยเหลือโดยเร็วที่สุดคือสิ่งสำคัญอย่างยิ่ง เรามีแหล่งข้อมูลเกี่ยวกับการป้องกันการฆ่าตัวตายให้บริการอยู่บน Facebook และ Instagram โดยแหล่งข้อมูลที่เราพัฒนาร่วมกับองค์กรด้านสุขภาพจิตชั้นนำและข้อมูลจากผู้ที่มีประสบการณ์ตรงสามารถช่วยให้เราปรับปรุงการรับมือต่อปัญหาให้ดีขึ้นได้อย่างต่อเนื่อง

การแจ้งเตือนสำหรับผู้ปกครองบน Instagram

Instagram จะแจ้งให้ผู้ปกครองที่ใช้การดูแลบัญชีทราบหากบุตรหลานวัยรุ่นพยายามสืบค้นคำที่เกี่ยวข้องกับการฆ่าตัวตายหรือการทำร้ายตัวเองซ้ำๆ ภายในระยะเวลาอันสั้น วัยรุ่นส่วนใหญ่ไม่ได้พยายามค้นหาเนื้อหาเกี่ยวกับการฆ่าตัวตายและการทำร้ายตัวเองบน Instagram แต่ในกรณีเช่นนั้น นโยบายของเราคือจะบล็อกการค้นหาเหล่านี้แล้วนำทางวัยรุ่นไปยังแหล่งข้อมูลและสายด่วนช่วยเหลือที่ให้ความช่วยเหลือได้แทน การแจ้งเตือนเหล่านี้ออกแบบมาเพื่อให้แน่ใจว่าผู้ปกครองจะรับทราบหากบุตรหลานวัยรุ่นพยายามสืบค้นเนื้อหานี้ซ้ำๆ และเพื่อมอบแหล่งข้อมูลที่จำเป็นในการให้ความช่วยเหลือบุตรหลานวัยรุ่น

แมชชีนเลิร์นนิ่ง

การใช้เทคโนโลยีแมชชีนเลิร์นนิ่งช่วยให้ Meta เพิ่มขีดความสามารถในการตรวจจับเนื้อหาที่มีแนวโน้มเกี่ยวข้องกับการฆ่าตัวตายหรือการทำร้ายตัวเอง รวมถึงเรายังสามารถใช้เทคโนโลยีนี้เพื่อมอบความช่วยเหลือแก่ผู้ที่ต้องการความช่วยเหลือได้อย่างทันท่วงทีในหลายประเทศอีกด้วย เทคโนโลยีนี้ใช้สัญญาณการจดจำรูปแบบ เช่น วลีและความคิดเห็นเกี่ยวกับการแสดงความกังวล เพื่อระบุว่าบุคคลหนึ่งๆ อาจกำลังเผชิญกับความทุกข์อยู่

นอกจากนี้ เรายังใช้ปัญญาประดิษฐ์เพื่อจัดลำดับความสำคัญของโพสต์ วิดีโอ และสตรีมสดที่ถูกรายงานเข้ามาให้ทีมของเราตรวจสอบอีกด้วย ซึ่งช่วยทำให้มั่นใจได้ว่าเราจะสามารถบังคับใช้นโยบายของเราอย่างมีประสิทธิภาพและส่งแหล่งข้อมูลให้กับผู้คนได้อย่างรวดเร็ว อีกทั้งยังช่วยให้ผู้ตรวจสอบของเราให้ความสำคัญและประเมินโพสต์ที่มีความเร่งด่วนมากกว่า รวมถึงติดต่อบริการฉุกเฉินเมื่อสมาชิกในชุมชนของเราอาจเสี่ยงต่ออันตรายได้อย่างทันท่วงที ทั้งนี้ก็เพราะความเร็วเป็นเรื่องสำคัญ

การใช้เทคโนโลยีเพื่อจัดลำดับความสำคัญและปรับปรุงรายงานเหล่านี้ทำให้เราสามารถส่งต่อเนื้อหาไปยังทีม Community Operations ซึ่งสามารถตัดสินใจได้อย่างรวดเร็วว่าเนื้อหาที่ส่งมานั้นมีการละเมิดนโยบายหรือไม่ และควรแนะนำให้ติดต่อหน่วยกู้ภัยฉุกเฉินในพื้นที่หรือไม่ เราจะลงทุนกับเทคโนโลยีอย่างต่อเนื่องเพื่อดูแลชุมชนของเราให้ดียิ่งขึ้น

การรายงานโพสต์

ผู้ใช้ของ Meta สามารถรายงานโพสต์ที่ตนเห็นว่า มีสัญญาณบ่งชี้ว่ามีคนกำลังคิดที่จะฆ่าตัวตายได้ จากนั้นสมาชิกที่ได้รับการฝึกอบรมจากทีม Community Operations ของเราจะตรวจสอบรายงานเหล่านี้และอาจเชื่อมต่อผู้โพสต์เข้ากับแหล่งข้อมูลความช่วยเหลือ เมื่อเราคิดว่ามีความเสี่ยงที่จะเกิดอันตราย เราจะแจ้งเจ้าหน้าที่หน่วยกู้ภัย/บริการฉุกเฉิน เพื่อให้สามารถดำเนินการตรวจสอบความปลอดภัย (การดำเนินการเพื่อช่วยชีวิต) ได้

เทคโนโลยีที่ทันการณ์

เทคโนโลยีที่ใช้ในการระบุแนวโน้มการฆ่าตัวตายและการทำร้ายตัวเองของ Meta นั้นได้ผสานการทำงานอยู่ทั้งในโพสต์บน Facebook และ Instagram รวมถึงใน Facebook Live และ Instagram Live ด้วย หากดูเหมือนว่าคนในวิดีโอถ่ายทอดสดกำลังจะทำร้ายตัวเอง คนที่รับชมวิดีโอสามารถติดต่อบุคคลนั้นโดยตรงและรายงานวิดีโอมาที่เราได้

ไม่ว่าบุคคลที่รายงานโพสต์นั้นจะเป็นเพื่อนหรือสมาชิกในครอบครัวที่เป็นกังวล หรือแมชชีนเลิร์นนิ่งตรวจจับได้ โพสต์เหล่านั้นจะถูกส่งไปยังขั้นตอนการตรวจสอบเหมือนกันทั้งหมด จากนั้นสมาชิกของทีม Community Operations จะตรวจสอบรายงานเพื่อมองหาความเสี่ยงที่จะเป็นการทำร้ายตัวเองหรือการละเมิดนโยบาย ในกรณีที่สถานการณ์ร้ายแรง เราจะทำงานร่วมกับบริการฉุกเฉินเพื่อให้ดำเนินการตรวจสอบความปลอดภัย ต้องขอขอบคุณเทคโนโลยีของ Meta ที่ทำให้เราสามารถช่วยให้เจ้าหน้าที่หน่วยกู้ภัยเข้าถึงผู้ที่กำลังเผชิญกับความทุกข์ได้อย่างรวดเร็ว

"เมื่อมีคนแสดงความทุกข์ใจจนอาจนำไปสู่การฆ่าตัวตาย ครอบครัว เพื่อน หรือแม้แต่ Facebook และ Instagram จะมีโอกาสยื่นมือเข้าไปช่วยเหลือ หากผู้คนไม่สามารถแชร์ความเจ็บปวดได้ หรือแชร์แล้วลบออก เราก็จะพลาดโอกาสที่จะช่วยชีวิตพวกเขาไป เราฝึกให้เจ้าหน้าที่รับฟังความเจ็บปวดนี้ในการสนทนา และปล่อยให้ผู้ที่มีความทุกข์ระบายความรู้สึก เพราะเรารู้ว่านี่คือวิธีเดียวที่จะช่วยให้พวกเขาผ่านวิกฤตนี้ไปได้ แพลตฟอร์มโซเชียลมีเดียช่วยให้เราดำเนินการได้ด้วยการติดต่อขอรับความช่วยเหลือจากหลายๆ ฝ่ายได้อย่างรวดเร็วมาก"

-Daniel J. Reidenberg, Psy.D., FAPA, กรรมการบริหาร, Save.org

"ความเจ็บป่วยทางจิตและความคิดเกี่ยวกับการฆ่าตัวตายไม่ใช่สิ่งที่เราจะพูดถึงได้อย่างเปิดเผย แต่การพูดคุยและเชื่อมต่อถึงกันถือเป็นสิ่งสำคัญอย่างยิ่งที่จะช่วยป้องกันภาวะซึมเศร้าและการฆ่าตัวตาย เครื่องมือที่ Facebook กำลังเปิดตัวนั้นมุ่งเป้าไปที่ผู้ที่แสดงความคิดที่จะฆ่าตัวตาย และยังแนะนำให้เพื่อนหรือสมาชิกในครอบครัวที่เป็นกังวลเข้าถึงแหล่งข้อมูลและทางเลือกอื่นๆ รวมถึงวิธีเข้าไปช่วยเหลืออย่างเหมาะสมด้วย"

-Anna Chandy, ประธาน - Trustees, The Live Love Laugh Foundation - อินเดีย

"Finnish Association for Mental Health มีความยินดีอย่างยิ่งที่จะร่วมมือกับ Facebook เพื่อให้ความช่วยเหลือและให้แหล่งข้อมูลสำหรับผู้ที่รู้สึกอ่อนแอและเสี่ยงต่อการฆ่าตัวตาย รวมทั้งคนใกล้ชิดด้วย การมีความช่วยเหลือนี้ไว้เป็นสิ่งสำคัญ เนื่องจากเมื่ออยู่ในภาวะวิกฤต ผู้คนมักไม่กล้าหรือกลัวที่จะขอความช่วยเหลือ และคนภายนอกอาจไม่รู้ว่าผู้คนเหล่านั้นกำลังต้องการความช่วยเหลือ ดังนั้นการมีแหล่งข้อมูลและข้อมูลการติดต่อของผู้เชี่ยวชาญในภาษานั้นๆ จึงเป็นสิ่งสำคัญ"

-Satu Raappana-Jokinen, ผู้จัดการฝ่าย Online Crises Services, The Finnish Association for Mental Health

"โครงการริเริ่มที่จะช่วยปลุกจิตสำนึกและป้องกันการฆ่าตัวตายเป็นส่วนสำคัญในการลดสถิติอันน่าเศร้าที่แสดงให้เห็นว่าทุกๆ 45 นาทีจะมีชาวบราซิลเสียชีวิต 1 คน บางคนสามารถจับสัญญาณได้ว่าเพื่อนกำลังคิดจะฆ่าตัวตายแต่ไม่รู้ว่าจะช่วยเหลืออย่างไรดี ในกรณีเหล่านี้ เครื่องมือที่เหมือนกับที่ Facebook เปิดตัวในบราซิลนั้นสามารถช่วยเหลือกรณีที่ CVV รับมือมากว่า 50 ปีได้ทั้งในทางตรงและทางอ้อม และยังเป็นต้นแบบให้องค์กรอื่นๆ ในการขจัดแนวคิดที่ห้ามพูดถึงเรื่องการฆ่าตัวตายและสามารถจัดการปัญหานี้ต่อไปได้"

-Carlos Correia, อาสาสมัคร, Centro de Valorização da Vida - บราซิล