性的脅迫および性的描写がある画像の不正利用への対処

弊社のポリシーとその施行

Metaでは、性的描写がある画像のシェア、またはシェアするという脅迫など、他人を搾取するコンテンツや行為に対して厳格なルールを定めています。このルールに違反していると思われるコンテンツを見つけた人がそのコンテンツを報告することを推奨し、プライベートな画像がシェアされている場合に使用する専用の報告オプションを用意するとともに、このようなコンテンツを認識し次第、対処できるよう尽力しています。

Metaには性的脅迫に対処するための専門チームがあり、このような行為に関連したパターンを特定したり、自動システムを構築し、性的脅迫を行っているアカウントを一度に検出して削除したりしています。また、犯人を調査して排除し、必要に応じて警察やNational Center for Missing and Exploited Children (NCMEC)などの機関に報告する専任チームもあります。MetaはNCMECやInternational Justice Missionなどのパートナーと協力して、世界中の法執行機関がこの種の事件を識別、調査、対応するためのトレーニングを支援しています。

望まない連絡を防ぐしくみ

Metaでは、特に成人とティーンの間での望まない連絡を防ぐことによって、性的脅迫から利用者を保護するよう努めています。これにはさまざまな方法があります。

• 16歳未満(一部の国では18歳未満)のティーンがInstagramに参加する際、そのアカウントは自動的に非公開に設定されます。また、ティーンがフォローしていない利用者がそのティーンをタグ付けまたはメンションしたり、そのティーンのコンテンツをデフォルトでリール動画のリミックスやガイドに含めたりすることはできません。これらは、若い利用者が見知らぬ成人や接触を望んでいない成人から連絡を受け取ることがないようにするのに最適な方法の例です。非公開アカウント(ティーンも成人も利用可能)を使って、性的脅迫の手段として利用され得る友達リストやフォローリストを他の利用者から見えないようにすることもできます。
• 18歳以上の成人の利用者がInstagramやMessengerで自分とつながっていないティーンとプライベートチャットを開始できないように制限しています。
• フォローしていない人、またはつながっていない人に送信できるメッセージリクエストは、テキストのみのメッセージに制限されます。受信者がチャットリクエストを承認するまでは、メッセージリクエストで画像、動画、ボイスノートを送信することはできません(11月25日午後2時30分(米国太平洋標準時)に、最新のポリシーを反映するように更新されました)。
• また、16歳未満(一部の国では18歳未満)のティーンのデフォルトのメッセージ設定を厳格化しました。この設定では、ティーンがInstagramやMessengerでフォローしていない人やつながっていない人が、そのティーンにメッセージを送信したり、そのティーンをグループチャットに追加したりすることはできません。これは、ティーンが「知らない人からプライベートメッセージが届かなくなる」と安心できるようにすることを意図したものです。
• テクノロジーを活用して不審な成人を識別し、その成人がティーンのアカウントを見つけたり、フォローしたり、やり取りできないようにします。また、このような成人にはティーンのアカウントをおすすめしません。

利用者への情報提供の方法

Metaは、一部の成人とやり取りしているティーンに情報を提供します。

• 不審なアカウントがティーンをフォローしようとしたら知らせ、注意を促します。
• 過去に不審な振る舞いがある成人とメッセージでやり取りしている場合に、そのことをプロアクティブプロンプトや安全通知でティーンに知らせます。例えば、ある成人が大量の友達申請を18歳未満の利用者に送信している場合、受信側のメッセージ内で警告を伝えるとともに、ブロックする、報告する、制限するという選択肢を提供します。

専門家とのパートナーシップ

世界中で性的脅迫に対処するため、Metaは専門家であるパートナーと協力し、長年にわたってこの課題に取り組んできました。

• Thornとの協力の下、2017年にStop Sextortionを立ち上げ、提携を通じてそのリソースをMetaの「安全に利用するために」に反映し、60以上の言語に翻訳しました。また、ThornのNoFiltrブランドとも提携して教材を作成しました。これらのリソースは、性的描写がある画像に関する恥ずかしさや偏見を減らし、このような画像をシェアしてしまった場合や性的脅迫を受けている場合に、助けを求めて問題を解決できるようにするためのものです。
• MetaはLanternプログラムの創設メンバーでもあります。このプログラムはTech Coalitionが運営し、子どもの安全に関するポリシーに違反しているアカウントや行為についてのシグナルをテクノロジー企業が共有できるようにするものです。Metaはこのプログラムを背後で支える技術的インフラストラクチャをTech Coalitionに提供し、その保守を続けています。参加企業はこの情報を利用して独自のプラットフォーム上で調査を実施し、措置を講じることができます。これは非常に重要です。性犯罪者は1つのプラットフォームだけを利用するわけではないからです。そのため、この問題に対処するには協力が必要です。
• MetaはStopNCII.orgがGlobal Network of Partnersを拡大できるよう、引き続きサポートしています。このネットワークは世界各地の100を超える犯罪被害者支援団体や非営利団体に広がっており、性的脅迫および性的描写がある画像の不正利用について、防止キャンペーンを実施したり、被害者に支援を提供したりしています。