מניעת התאבדויות

בפיתוחי ה-AI של Meta, הבטיחות ניצבת במרכז. יצרנו הגנות חזקות כדי להגן על משתמשים מפני תוכן מזיק בנושא התאבדות ופציעה עצמית, והמדיניות שלנו אוסרת במפורש על מודלי ה-AI שלנו ליצור תוכן שמאפשר התאבדות או פציעה עצמית, מעודד אותם או תומך בהם בכל צורה שהיא. חיזקנו את אמצעי הבטיחות עבור מתבגרים, כולל סינון תוכן משופר.

אנחנו מכשירים את מודלי ה-AI שלנו לזהות מתי מישהו שוקל להתאבד או לפגוע בעצמו. במקרה כזה, פיתחנו את מודלי ה-AI שלנו כך שיתעדפו את בטיחות המשתמשים ויפנו אנשים למשאבים מהימנים – כמו קווי תמיכה במצבי משבר וארגונים מקצועיים – שיעניקו להם תמיכה. ההגנות האלה פועלות בכל פעם שמשתמשים מקיימים אינטראקציה עם AI באפליקציות שלנו, ואנחנו בודקים אותן יחד עם מומחים בתחום בריאות הנפש כדי לוודא שהן יעילות ככל האפשר.

מתן משאבים

כאשר מישהו מביע מחשבות על התאבדות, הגשת עזרה במהירות האפשרית יכולה להיות עניין קריטי. משאבים למניעת התאבדות זמינים בפייסבוק ובאינסטגרם. משאבים שפותחו בעזרת ארגונים מובילים לבריאות הנפש ומשוב מבעלי ניסיון אישי עוזרים לנו להמשיך ולשפר את התגובה.

התראות להורים באינסטגרם

אינסטגרם מודיעה להורים שמשתמשים בפיקוח אם המתבגרים שלהם מנסים לחפש שוב ושוב מונחים הקשורים להתאבדות או לפגיעה עצמית בפרק זמן קצר. רוב המתבגרים לא מנסים לחפש תוכן בנושא התאבדות ופגיעה עצמית באינסטגרם, וכשהם עושים זאת, המדיניות שלנו היא לחסום את החיפושים האלה ובמקום זאת להפנות אותם למשאבים ולקווי תמיכה שיכולים להציע להם תמיכה. התראות אלה מיועדות לוודא שהורים יהיו מודעים לכך שהמתבגרים שלהם מנסים לחפש תוכן כזה שוב ושוב, ולספק להם את המשאבים הדרושים כדי לתמוך במתבגרים שלהם.

למידת מכונה

באמצעות טכנולוגיות של למידת מכונה, Meta הרחיבה את יכולתה לזהות תוכן שאולי עוסק בהתאבדות ובפגיעה עצמית, ובמדינות רבות אנחנו יכולים להשתמש בטכנולוגיות הללו כדי להשיג עזרה לאנשים במצוקה תוך זמן קצר. הטכנולוגיה הזו משתמשת באותות לזיהוי דפוסים, כגון משפטים ותגובות שמעוררים חשש, לצורך זיהוי מצוקה אפשרית.

אנחנו משתמשים בבינה מלאכותית כדי לתעדף את הסדר שבו הצוות שלנו בודק דיווחים על פוסטים, סרטונים והזרמות בשידור חי. זה מבטיח שנוכל לאכוף את המדיניות שלנו באופן אפקטיבי ולספק משאבים לאנשים במהירות. זה גם מאפשר לבודקים שלנו לתעדף ולבחון פוסטים דחופים ולפנות לשירותי החירום כאשר ייתכן שחברי הקהילה שלנו נמצאים בסכנת פגיעה. מהירות היא קריטית במצבים שכאלה.

בזכות השימוש שאנחנו עושים בטכנולוגיה כדי לתעדף ולייעל את הדיווחים, אנחנו יכולים להעביר את התוכן לצוות הפעולות הקהילתיות, שיכול להחליט במהירות אם אלה הפרות של המדיניות ואם כדאי להמליץ על פנייה לשירותי החירום המקומיים. נמשיך להשקיע בטכנולוגיות כדי לשרת טוב יותר את הקהילה שלנו.

דיווח על פוסטים

משתמשי Meta יכולים לדווח על פוסטים שלדעתם מעידים על כך שמישהו חושב על התאבדות. חברי צוות הפעולות הקהילתיות, שהוכשרו לכך במיוחד, יבדקו את הדיווחים, ובמידת הצורך יפנו למחבר הפוסט כדי להציע משאבי תמיכה. כאשר אנחנו חושבים שקיים סיכון מיידי לפגיעה, אנחנו מתריעים בפני שירותי החירום כדי שהם יוכלו לערוך בדיקת רווחה – הפעולות האלה מצילות חיים.

טכנולוגיה מהירה

הטכנולוגיות של Meta לזיהוי מקרים אפשריים של התאבדות ופגיעה עצמית משתלבות בפוסטים בפייסבוק ובאינסטגרם וכן בפייסבוק בשידור חי ובאינסטגרם בשידור חי. אם נראה שמישהו בסרטון בשידור חי שוקל פגיעה עצמית, הצופים יכולים לפנות ישירות לאדם זה ולדווח לנו על הסרטון.

אם הפוסט מדווח על ידי חבר או בן משפחה מודאג, או מזוהה באמצעות למידת מכונה, בכל מקרה השלב הבא יהיה שלב הבדיקה. חבר בצוות הפעולות הקהילתיות יבדוק את הדיווח על סיכון מיידי לפגיעה עצמית או להפרת המדיניות. במקרים חמורים, אנחנו עובדים יחד עם שירותי החירום כדי לערוך בדיקת רווחה. הודות לטכנולוגיות של Meta, עזרנו לצוותי החירום להגיע לאנשים במצוקה.

"כאשר מישהו מבטא מצוקה אובדנית, הוא נותן לחברים ולבני משפחה, ואפילו לפייסבוק ולאינסטגרם, הזדמנות להתערב. אם אנשים לא יכולים לשתף כאב, או אם הם משתפים ואז מסירים שיתוף כזה, אנחנו מחמיצים הזדמנות להציל חיים של מישהו. אנחנו מכשירים אנשים לחפש את זה בשיחות ולאפשר לאנשים להמשיך לדבר כי אנחנו יודעים שזו אחת הדרכים לעזור להם לעבור את המשבר. פלטפורמות של מדיה חברתית מאפשרות לנו לעשות את זה בדרך שמגייסת אנשים רבים לעזרה במהירות רבה."

-דניאל ג'. רידנברג, פסיכולוג‎, ‏FAPA, מנהל, Save.org

"אנשים נמנעים מלדבר בפתיחות על מחלות נפש ועל מחשבות אובדניות. אבל הדיבור על כך ויצירת הקשר הם כלים מרכזיים במניעת דיכאון והתאבדות. הכלים שפייסבוק פורסת מיועדים לאנשים שמבטאים מחשבות אובדניות, וגם מפנים חברים או בני משפחה מודאגים למשאבים, לאלטרנטיבות ולטיפולים מתאימים."

-אנה צ'אנדי, יו"ר חבר הנאמנים, The Live Love Laugh Foundation - הודו

"האגודה הפינית לבריאות הנפש שמחה לעבוד עם פייסבוק כדי לספק תמיכה ומשאבים לאנשים שמרגישים פגיעים ונמצאים בסיכון להתאבדות, ולאנשים הקרובים אליהם. חשוב לאפשר זמינות לתמיכה כזו כי בשעת משבר, אנשים בדרך חלשים או מיואשים מדי מכדי לבקש עזרה, ולפעמים אפילו לא מבינים שהם זקוקים לעזרה. קיים צורך חיוני ביותר להציע לאנשים האלה משאבים ופרטים ליצירת קשר עם מומחים בשפת האם שלהם."

-סאטו רא'אפנה-יוקינן, מנהל Online Crises services, האגודה הפינית לבריאות הנפש

"לכל יוזמה שעוזרת להגביר את המודעות ולמנוע התאבדות יש תפקיד חשוב בצמצום הסטטיסטיקה הטרגית שמראה שכל 45 דקות מת אדם אחד בברזיל. לפעמים אנשים יכולים לזהות סימנים שחבר חושב על התאבדות אבל לא יודעים איך לעזור. במקרים כאלה, כלים כמו הכלי שפייסבוק השיקה בברזיל יכולים לעזור באופן ישיר ועקיף לפתור את הבעיה הזו ש-CVV מתמודדת איתה כבר יותר מ-50 שנה, ולשמש מודל לארגונים אחרים כדי להתגבר על נושאי 'טאבו' אחרים ולאמץ שיטות פעולה נוספות בנושא."

-קרלוס קורייאה, מתנדב, Centro de Valorização da Vida – ברזיל