オンラインでの児童の保護
Metaにとって、児童の保護は常に最優先事項です。
概要
Metaでは、若い利用者をオンラインで保護するために、3つの柱からなる業界最先端のアプローチを策定しました。まず、被害の発生自体を防ぐことに焦点を当てます。これは、子どもの搾取を固く禁じるポリシーの適用と、最先端の保護ツールの開発によって行います。次に、危害につながる可能性のあるコンテンツを報告しやすい環境を整え、報告を受けた場合は対策を講じます。さらに、世界中の専門家や業界パートナーと協力して、若い利用者を保護するためのMetaのツールを常時更新していきます。
児童の保護に関するエコシステムの構築
子どもの安全を守るためのMetaの取り組みは、より広範なインターネットの世界へと拡大しています。子どもの安全に関するエコシステムの構築には、業界を超えた協力が有効であると認識しています。
2016年以降、MetaはNGOと共同で、子どもの安全に関するハッカソンを定期的に開催してきました。これらのイベントでは、インターネットを子どもにとってより安全な場所とすることを目的に、プロジェクトのコーディングやプロトタイプ作成が行われました。また、Metaの写真・動画マッチング技術は2019年よりオープンソースになっています。このコードによってテクノロジー業界に貢献することで、より多くの会社がサービスを安全に保てるようになることを願っています。2020年には、業界パートナー各社と提携して、Project Protectを立ち上げました。この提携は、オンラインで若い利用者を保護し、今後15年間のTechnology Coalitionの活動の指針とするためのものです。
社内では、世界中の専門家やNGOなどの安全アドバイザーと緊密に連携しています。Metaの取り組みとしては、業界のベストプラクティスの作成、オンラインでの子どもの搾取に対抗するためのテクノロジーの開発と共有、被害者を支援するためのサービスなどの活動があります。
技術的介入の推進
搾取的なコンテンツに対抗するためには、利用者がそのようなコンテンツをシェアする方法や理由について理解することが重要です。Metaはこうしたコンテンツを慎重かつ徹底的に分析し、研究に役立てています。
このデータから得られた結果を踏まえて、これらの不適切なコンテンツのシェアを抑制することを目的としたツールの導入や新しいプログラムのリリースを行っています。例えば、悪意あるコンテンツ検索を抑制することを目的とした検索介入を導入しています。
Instagramでは、アンバーアラートを試験的に運用し、利用者が自分の地域で行方不明の子どものお知らせを見たりシェアしたりできるようにしました。2015年以来、Facebookのアンバーアラートは、当局による行方不明の子どもの捜索に貢献してきました。
説明責任と施行に関するレポート
Metaでは、オンラインでの利用者のプライバシー、セキュリティ、情報へのアクセスの保護を、オープンかつ積極的な方法で行うよう努めています。Metaの四半期ごとのコミュニティ規定施行レポートには次の内容が含まれます。
- Metaのルールに違反したコンテンツに対して講じた対策。
- 児童に対する性的搾取、虐待、児童のヌードに関するポリシーへの違反として削除したコンテンツの量に関する情報。
- 観察された関連傾向。
児童性的虐待コンテンツを止める
Metaでは、児童保護のための新しいツールの更新と開発を常に行っています。また、Metaのポリシーに違反するネットワークの検出と削除にも手を広げるとともに、違反コンテンツを報告しやすい環境を整えてきました。製品の機能としては以下のようなものがあります(利用者には表示されません)。
- FacebookやInstagramで不審な可能性がある成人を特定すると、その人が10代の利用者のアカウントを見つけたり連絡したりできないようにします。この介入はさまざまな形で行われます。以下はその例です。
- その人の[知り合いかも]で若い利用者のアカウントが表示の対象外となり、おすすめされなくなります。
- 若い利用者の投稿にコメントできなくなり、他の利用者の投稿に若い利用者がつけたコメントが表示されなくなります。
- ユーザーネームで検索して若い利用者のアカウントを見つけても、友達追加やフォローもできなくなります。
Metaの子どもの安全に関するポリシーでは、FacebookとInstagramで許可されることを明確に述べています。本来であれば何の問題もない子どもの画像に、不適切なキャプションやハッシュタグ、コメントをつけてシェアすることも違反に含まれます。
子どもの保護にご協力ください
Metaは、子どもを性的に搾取するコンテンツや子どもを危険にさらすコンテンツを禁止しています。しかし時折、子どもの性的な画像や動画を投稿する利用者がいます。たとえ悪意がなくても、そのようなコンテンツを再投稿すれば、子どもをさらに傷つけてしまうことがわかっています。意図にかかわらず、こうしたコンテンツをシェアすることはMetaのポリシーに違反します。
Metaは社会認識の向上の専門家と協力して、こうした画像をオンラインで再シェアする前によく考え、代わりにMetaに報告するよう促す新しいPSAキャンペーンをリリースしています。
報告することで、児童セクシュアルハラスメントコンテンツの拡散を防ぎ、児童を害から守ることができます。
業界を超えたパートナーシップを通じて児童の性的虐待コンテンツの拡散に対抗する
MetaのサポートによってNCMECが作成したTake It Downポータル を利用すると、18歳未満のオンラインのヌード、一部ヌード、または性的に露骨な内容を含む写真や動画の削除を促進できます。*
Take It Downは、18歳未満のヌード、一部ヌード、または性的に露骨な内容を含む写真や動画に対し、ハッシュ値と呼ばれる固有のデジタルフィンガープリントを割り当てるしくみを備えています。オンラインプラットフォームに参加することがハッシュ値の利用につながり、サービス上のこうした画像や動画を含む投稿が検出され、そのコンテンツが削除される可能性があります。その際、画像や動画はデバイスから一切移動させる必要はなく、ハッシュ値のみがTake It Downにアップロードされ、NCMECに提供されます。参加企業のプラットフォームで一致する画像を投稿しようとする利用者がいれば、その企業がプラットフォームでコンテンツを審査してポリシー違反をチェックし、必要な対応を行います。
*自分自身が18歳以上で、性的描写を含む画像や動画がシェアされたり再シェアされたりする心配がある場合は、StopNCII.orgを通じて、さらなる拡散を防止する対策を取ることができます。
Metaのポリシー
Metaは、子どもを性的に搾取するコンテンツや子どもを危険にさらすコンテンツを禁止しています。Metaで明らかな子どもの性的搾取が見つかった場合は、米国NCMEC (National Center for Missing and Exploited Children)に報告します。NCMECは世界各地の法執行機関と連携しています。
また、オンラインでの安全性の問題について、外部専門家と連携し、ポリシーとその運用方法に対する議論を重ねて改良に取り組んでいます。
利用者が子どもの裸の画像をシェアするのには、怒りや不適切なユーモアなどさまざまな理由があります。利用者が善意で自分の子どもの裸の画像をシェアすることもあります。しかし、Metaは通常、こうした画像を削除します。これは第三者による児童虐待の可能性があるためです。これにより、画像の再利用や不正流用を防止することができます。
コミュニティ規定には、アプリで許可されることと許可されないことが定められています。子どもの搾取に関するMetaのポリシーはそうしたガイドラインの一部であり、積極的に施行されています。
関連リソース
フォローする
