分析傷害背後的意圖以防止傷害發生

瞭解人們如何及為何分享兒童剝削內容是打擊這類行為的關鍵。

分析傷害背後的意圖以防止傷害發生。

瞭解人們如何及為何分享兒童剝削內容是打擊這類行為的關鍵。我們針對我們回報的非法內容執行了深入分析,以便為我們的回應提供最完善的資訊。從這類研究中得到的資料會用來部署相關工具及發起新計畫,以降低這類惡意內容的分享次數。

我們從 Facebook 和 Instagram 向美國國家失蹤與受虐兒童援助中心(NCMEC)通報的資料中,分析了兩個具代表性月份的通報內容。以下是我們的分析結果:

  • 此內容超過 90% 與先前遭到檢舉的內容相同或看起來很相似。
  • 我們在該期間通報的兒童剝削內容超過半數來自僅僅六部影片的複製內容。

換句話說,僅有少部分的內容就構成了大量的通報內容。這幫助我們更深入瞭解背後的意圖,並且有助於防止再次傷害。有了這層認識後,我們與兒童剝削的頂尖專家合作(包括 NCMEC),發展出以研究資料為基礎的分類法。此分類法能幫助我們針對用戶分享這類內容的明顯意圖進行分類。

我們針對在 2020 年 7 月和 8 月以及 2021 年 1 月期間,由我們向 NCMEC 回報上傳 CSAM(兒童性虐待內容)的 150 個帳號進行評估。我們估計有超過 75% 的帳號並未表現出惡意意圖(亦即無意傷害兒童)。這些帳號看起來是基於其他原因分享這類內容,例如表達憤怒或是自以為幽默。儘管這項研究能幫助我們深入理解犯罪意圖,但這些結果仍不應視為足以準確衡量兒童生態系統的安全性。我們仍會繼續運用各種方式來瞭解犯罪意圖。

根據這些研究結果得出的針對性解決方案,包括在 Facebook 上部署彈出視窗以減少對內容的惡意搜尋。該警告會在用戶開始搜尋和兒童剝削有關的字詞時顯示。警告中會提供來自兒童保護機構的兒童犯罪者轉向資源,並分享瀏覽非法內容可能導致哪些後果的相關資訊。

我們也部署了安全警告,將資訊提供給分享這類內容而無意傷害兒童的用戶。這項功能設計旨在警示已分享兒童剝削內容瘋傳迷因的用戶。警示內容說明這類分享行為會傷害被害者,除了違反我們的政策外,分享這類內容也會有相關的法律後果。

此外,我們也與公共意識專家合作以推動「協助保護兒童」宣導活動。不論基於任何理由,分享這類內容皆屬違法行為,且會對兒童造成再次傷害。用戶只要改為檢舉這類內容,便能協助防止進一步傷害。

這類可怕犯罪行為不該有任何受害者,我們仍會不斷瞭解當中的意圖。我們會持續針對旗下兩個公開平台和私人訊息功能推出更具針對性的解決方案。