自殺防治
我們非常重視用戶在我們平台的安全和安適。自 2006 年起，我們便與自殺防治專家合作，為 Meta 社群提供支援。
總覽
Meta 提供技術平台，協助用戶取得資源，並與可提供協助的專家取得聯繫。我們的心理健康資源中心提供一系列專業心理健康祕訣和教學。您可以找到與自殺、焦慮、抑鬱、管理安適狀態等相關的實用工具，幫助您自己和您身邊的人。
自殺防治資源
當事人
朋友
我們的自殺防治工作
多虧有 Meta 協助建立的關係，我們可以協助為陷於痛苦情緒的用戶與可提供支援的朋友和學識豐富的專家取得聯繫。在全球，每 40 秒就有一人因自殺而過世。在 15 到 29 歲這個族群，自殺是高居第二的死亡原因。建立有意義的人際連結，是防治自殺的最佳工具。我們希望 Meta 能成為協助的解決方案。
自 2006 年起，也就是 Facebook 於 2004 年創立後的兩年，我們便與自殺防治和安全領域專家合作，為 Meta 旗下應用程式的社群提供支援。我們持續定期與這些專家諮詢，並不斷學習最新的研究和最佳作法，以確保無論何時社群的安全與安適都是我們最優先的考量。
我們的政策
我們非常重視社群的安全，在專家的建議下，我們制定了政策，以規範 Facebook 和 Instagram 允許和禁止的內容。我們不容許用戶讚頌或宣揚自殘或自殺，也會移除自殺和自殘的虛構描述，以及展示相關方法或素材的內容。但是，我們希望用戶可以在 Facebook 和 Instagram 分享自身經驗、尋求相互扶持，以及喚起大眾對這類問題的關注，因此我們允許用戶討論自殺和自殘議題。在允許用戶分享內容討論這類問題的經驗同時，我們會運用技術來避免推薦這些內容。我們也會向嘗試搜尋自殺或自殘相關字詞的用戶顯示提供支援的訊息，且當我們發現有人發佈這類問題時，我們會提供資源並將他們導向至能提供協助的當地機構。
我們持續與全球專家合作，致力於在為用戶提供分享經驗和尋求支持的空間，以及保護他人免於看到潛在有害內容之間取得平衡。
自殺和自殘（SSI）的 AI 保護協定
Meta 在開發 AI 時以安全為核心。我們建立了嚴密的防護措施，協助保護用戶不受到有關自殺和自殘的有害內容侵擾，我們的政策也嚴禁 AI 生成任何形式的內容來協助、鼓勵或支持自殺或自殘的行為。我們針對青少年採用了更加嚴密的安全措施，包括加強篩選內容。
我們訓練 AI 模型辨識用戶是否有自殺或自殘的傾向。為此，我們設計 AI 時會以用戶的安全為第一考量，引導用戶取得值得信賴的資源（例如危機求助專線和專業的組織），以確保戶獲得支援。每當用戶在我們的應用程式與 AI 互動時，就會啟用這些保護措施，而且我們會在諮詢心理健康專家時審查這些措施，以確保措施能發揮最大成效。
我們如何運作：
提供資源
為避免自殺憾事發生，我們應協助有自殺傾向的人及早取得援助。Facebook 和 Instagram 皆提供自殺防治資源。這些資源是由頂尖心理健康組織製作，並參考相關用戶的個人經驗，協助我們持續改善回應的方式。
Instagram 家長通知
如果家中青少年短時間內頻繁試圖搜尋自殺或自殘相關字詞，Instagram 會通知已啟用監護功能的家長。絕大多數青少年並不會在 Instagram 上嘗試搜尋自殺和自殘內容。但若發生此情形，系統將根據我們的政策封鎖這些搜尋結果，並改為引導他們前往可提供協助的資源和求助專線。這類通知是為了確保家長能掌握家中青少年是否重複嘗試搜尋這類內容，並為他們提供支援青少年所需的相關資源。
機器學習
藉由使用機器學習技術，Meta 大幅提升了辨識可能為自殺或自殘內容的能力，並得以在許多國家／地區運用此技術來為需要的用戶即時提供協助。這項技術運用模式識別訊號（例如相關的詞語和留言）來識別可能的自殺傾向。
此外，我們運用人工智慧將回報的貼文、影片和直播串流影片排定優先順序，以便團隊成員依序審查。這麼做能確保我們有效地執行我們的政策，快速提供資源給用戶。這也讓審查人員能優先處理及評估更緊急的貼文，從而在我們的社群成員可能有風險時，聯絡緊急救護服務。因為速度是救人的關鍵。
我們運用技術來排定回報的優先順序及簡化回報流程，將內容向上呈報給我們的社群經營團隊，他們能快速決定回報內容是否違反政策，以及是否要建議聯絡當地緊急救護單位。我們將會持續開發各種技術，為社群提供更優質的服務。
回報貼文
Meta 用戶可回報發現某人透露自殺念頭的貼文。我們受過專業訓練的社群經營團隊成員會審查這些回報案件，並可能聯絡發佈者以提供援助資源。若我們認為回報內容有迫切的傷害風險，我們會通知緊急應變／緊急救護服務人員，以便他們進行安危檢查，透過這些行動拯救性命。
快速的技術
Facebook 和 Instagram 的貼文以及 Facebook 和 Instagram Live 皆整合了 Meta 技術，以識別可能的自殺和自殘內容。如果有人在直播影片中透露自殘念頭，觀眾可以直接與直播者聯絡，並向我們回報此影片。
無論貼文是由擔心的家人朋友或經由機器學習識別回報，下一個步驟同樣都是審查。社群經營團隊的成員會審查該貼文，瞭解是否有迫切的自殘風險或違反政策。若情況嚴重，我們會與緊急救護服務合作進行安危檢查。多虧有 Meta 技術，我們得以協助緊急應變人員迅速聯絡處於危機的用戶。
使用心得
「只要有人顯露出自殺念頭，此機制就能協助其親朋好友或甚至 Facebook 及 Instagram 適時介入處理。如果身陷低潮的人無處訴說痛楚，或嘗試訴說後又將貼文刪除，我們可能會就此錯失拯救生命的機會。我們訓練工作人員學會聆聽人們訴苦，並鼓勵對方盡量說出心聲，因為這是幫助他們度過難關的一種方式。而社群媒體平台是我們工作上的最佳夥伴；有了它，我們才有辦法集結各界人士提供即時援助。」
- FAPA（佛羅里達醫師助理學院）執行總監，Save.org，心理學博士 Daniel J. Reidenberg
「對一般人來說，精神疾病與自殺念頭並不適合公開談論。然而，聊天和人際交流對於預防憂鬱症和自殺行為極為重要。Facebook 新推出的幾項工具不僅為有自殺傾向的用戶提供支援，也協助感到憂慮的親朋好友找到適當資源與其他應對方式，並在適當時機介入處理。」
-Trustees, The Live Love Laugh Foundation（印度）會長 Anna Chandy
「我們很高興能與 Facebook 攜手合作，為感到無助且有自殺傾向的人及其親友提供協助和資源。提供這些支援非常重要，因為一般人在陷入低潮時，通常缺乏力量或勇氣求助他人，甚至不曉得自己其實需要幫助。因此，我們必須參考專家建議打造平易近人的表達方式，為民眾提供相關資源和聯絡資料。」
- Finnish Association for Mental Health 網路危機處理服務經理，Satu Raappana-Jokinen
「只要是有助於提高社會關注和預防自殺的計畫，都能減少悲劇的發生次數；統計數據顯示，每 45 分鐘就有一名巴西人自殺身亡。有的人發現朋友有自殺傾向，卻不知如何提供協助。這種情況下，Facebook 推出的工具就能在巴西派上用場；這些工具能以直接和間接的方式協助 CVV 落實 50 多年來所抱持的理念，而其克服『禁忌』問題與積極行動的作法，更成為其他組織效法的典範。」
-Centro de Valorização da Vida（巴西）志工，Carlos Correia
