自殺の防止

Metaでは、AIの開発を進めるうえで安全を最重要事項として考えています。Metaは、自殺と自傷行為に関する有害なコンテンツから利用者を守るために強固な安全策を構築しました。また、Metaのポリシーでは、自殺や自傷行為をいかなる形でも可能にしたり、促したり、支持したりするコンテンツをAIが生成することを厳格に禁じています。コンテンツフィルタリングの強化など、ティーン向けの安全対策をさらに強化しました。

MetaのAIモデルは、自殺や自傷行為を検討している可能性があるコンテンツを認識するようにトレーニングされています。そのようなコンテンツが認識された場合、MetaのAIは、利用者の安全を優先し、信頼できるリソース(緊急支援ヘルプラインや専門組織など)に案内してサポートを受けられるようにします。このような保護機能は、利用者がMetaのアプリでAIとやり取りする際はいつでも適用されます。また、メンタルヘルスの専門家と相談してこれらの機能をレビューし、最大限の効果を発揮するよう努めています。

リソースの提供

自殺をほのめかしている人には一刻も早く救いの手を差し伸べなければなりません。自殺防止に関するリソースは、FacebookとInstagramで入手できます。Metaはメンタルヘルスの代表的な団体と協力し、自殺未遂を経験した人の意見を取り入れて作成されたリソースを活用して、対応を改善し続けています。

Instagramの保護者向けお知らせ

Instagramでは、短期間に自殺や自傷行為に関連する用語を繰り返し検索しようとしたティーンの保護者に、ペアレンタルコントロールを使用して通知しています。ティーンのほとんどは、Instagramで自殺や自傷行為に関するコンテンツを検索しようとしません。検索しようとした場合には、弊社のポリシーに従ってその検索をブロックし、サポートを提供するリソースやヘルプラインに誘導します。このアラートは、ティーンがこのようなコンテンツを繰り返し検索しようとしていることを保護者が認識し、ティーンをサポートするために必要なリソースを提供することを目的としています。

機械学習

Metaは機械学習技術を利用して、自殺や自傷行為をほのめかすコンテンツを特定する機能を強化しました。この技術により、多くの国で援助を必要としている人をタイムリーに助けることができます。機械学習は、心配の言葉やコメントといったパターン認識シグナルを利用して、悩みの兆候を識別します。

また、Metaでは人工知能を活用して、報告された投稿、動画、ライブストリーミングの審査の優先順位を決定しています。これにより、Metaのポリシーを効率的に施行し、利用者に迅速にリソースを提供できます。さらに、緊急性の高い投稿を優先して評価することで、Metaコミュニティのメンバーに危険が差し迫っていると判断したときに審査担当者が緊急サービスに連絡することができます。このような場面での迅速な対応は極めて重要です。

テクノロジーを利用した報告の優先順位付けと合理化により、対象のコンテンツをコミュニティオペレーションチームに報告し、ポリシー違反の有無や現地の緊急サービスへの連絡を勧めるかどうかといった判断をいち早く下せるようになりました。このように弊社は、Metaコミュニティの安全確保を図るため、さまざまなテクノロジーに継続的に投資しています。

投稿の報告

Metaの利用者は、投稿者が自殺を考えていると思われる投稿を報告できます。報告された投稿はコミュニティオペレーションチームの専門スタッフによって審査され、場合によってはその投稿者に連絡を取り、サポートリソースを提供しています。差し迫った身体的危害の恐れがあると思われる場合は、ファーストレスポンダーや緊急サービスに通報し、様子を見に行ってもらうことができます。その結果、命が救われたことがあります。

迅速な対応を実現するテクノロジー

自殺や自傷行為の兆候を特定するMetaのテクノロジーは、FacebookとInstagram両方の投稿とライブ配信に組み込まれています。自傷行為をほのめかしているライブ動画を見た人は、配信者に直接連絡して手を差し伸べるか、Metaにその動画を報告することができます。

心配している友達や家族によって投稿が報告された場合でも、機械学習によって投稿が特定された場合でも、次のステップは同じく審査です。差し迫った身体的危害の恐れやポリシー違反がないか、コミュニティオペレーションチームのメンバーが報告を審査します。深刻なケースでは、緊急サービスと連携して、様子を見に行ってもらいます。Metaのテクノロジーを利用することで、ファーストレスポンダーが悩みを抱えている人にスピーディに接触できます。

「人が自殺をほのめかしたとき、その人の家族や友達、またFacebookとInstagramはそれを行動に移すことを思いとどまらせることができます。苦しんでいる人が心の痛みを共有できない、あるいは共有された心の痛みが削除されるようでは、私たちは人の命を救える機会を失っていることになります。私たちは、会話を通じて悩みに耳を傾けたり、悩みを打ち明けることを促したりできることは、危険な状態にある人を救う1つの手段だと考えています。そのため、こうしたサポートを提供できるようスタッフをトレーニングしています。ソーシャルメディアプラットフォームは、そうした支援を多くの人々に極めて迅速に提供することを可能にしてくれています」

- Save.org、エグゼクティブディレクター、FAPA、Daniel J. Reidenberg博士(心理学)

「人は心の病や自殺についてオープンに話そうとしません。しかし、そのことについて話したり、人とつながることは、精神的苦痛を和らげ、自殺を防ぐうえで非常に重要なことです。Facebookが展開しているツールは、自殺をほのめかしている当人だけでなく、その人のことを心配している友達や家族も適切なリソースや選択肢、サポートに導くことができます」

- The Live Love Laugh Foundation (インド)、理事長、Anna Chandy氏

「The Finnish Association for Mental Healthは、Facebookと連携して、精神的に傷つきやすく自殺の恐れがある人と、その人のことを心配している友達や家族にサポートやリソースを提供できることを光栄に感じています。このようなサポートを利用できるようにすることは重要です。なぜなら、危険な状態にある人は助けを求めるための余力や勇気を持ち合わせていない場合や、助けが必要なことを容易に受け入れることができない場合が多々あるからです。リソースや専門家の連絡先情報を各種言語で利用できるようにしておくことも重要です」

- The Finnish Association for Mental Health、オンラインクライシスサービス担当マネージャー、Satu Raappana-Jokinen氏

「ブラジルでは45分に1人が自殺で命を絶っています。このような悲しい統計結果を改善するには、自殺に関する意識を高めて自殺防止を図るイニシアチブが必要不可欠です。友達が自殺を考えているかもしれないと察知できても、どのように救いの手を差し伸べればよいのかわからない場合もあります。Facebookがブラジルで展開しているようなツールは、50年以上にわたってCVVが大事にしてきた理念を直接的にも間接的にも支えることができます。また、こうしたツールを利用することで、私たちは規範的な存在として、他の団体がタブーを克服して自殺防止への取り組みをさらに推し進めることができるよう後押しすることができます」

- Centro de Valorização da Vida (ブラジル)、ボランティア、Carlos Correia氏