児童の保護には、全世界での包括的な対応が求められます。業界、法執行機関、政府、市民社会、家族による継続的なアクションが必要です。弊社では、オンラインでの子どもの性的搾取撲滅を目指す団体であるTechnology Coalition - Fighting Child Sexual Abuseなどとの協力を進めています。

弊社は世界中の主要なインターネットの安全に関する組織と連携しています。その取り組みとしては、業界のベストプラクティスの作成、オンラインでの子どもの搾取に対抗するためのテクノロジーの開発と共有、被害者を支援するためのサービスなどの活動が挙げられます。

以下に、これまでのコラボレーションの一部を紹介します。

• 写真および動画照合テクノロジーのオープンソース化

2019年に、写真および動画照合テクノロジーを2つ開発しました。これらはPDQとTMK+PDQFとして知られ、同一またはほぼ同一の写真や動画を検出できます。このテクノロジーを含む一連のツールが、有害なコンテンツの検出に活用されています。

このオープンソースのツールによって、業界のパートナー、開発者、非営利団体が不適切なコンテンツを特定できるようになります。さまざまな有害コンテンツの「ハッシュ」(またはデジタル指紋)を共有することもできます。ツールでは、双方向の通信にハッシュ共有システムを採用しているため、さらに強固なシステムを構築することができます。

• Aselo: 最新テクノロジーの子ども向けヘルプラインへの活用

2020年より、弊社ではTech Mattersのプロジェクト「Aselo」を支援しています。Aseloは、世界中の子ども向けヘルプラインをサポートし、危険な状況にある子どもたちが利用しやすくなるようテクノロジーの開発に努めています。Tech Mattersは、危険対応時のヘルプラインに関するコミュニケーション業務をまとめるオープンソースのコンタクトセンタープラットフォームを構築しています。このツールを利用することで、人々、特に子どもたちが必要な支援を得るための、音声、SMS、ウェブチャット、WhatsApp、Messengerなどを活用したアクセスポイントが一層増えることになります。

• 子どもの安全に関するハッカソンの開催

弊社では、非営利団体のパートナーと共同で2016年以来、子どもの安全に関するハッカソンを定期的に開催してきました。参加者として業界全体からエンジニア、データサイエンティスト、デザイナーが集結しました。参加者によって、インターネットを子どもにとってより安全な場所とすることを目的としたプロジェクトのコーディングやプロトタイプ作成が行われました。

• Report Removeのリリース

2020年に、弊社では英国児童愛護会(NSPCC)および英国政府と共同でインターネット監視財団(IWF)を試験的に運用しました。このツールは、未成年者が自分自身で作成した性的に露骨な写真を報告できるものです。

• アンバーアラートの強化

Facebookでは2015年に、Instagramでは2022年にアンバーアラートを導入しています。このアラートは、家族や関係機関による行方不明の子どもの捜索を支援するものです。この機能は20か国以上で使われています。地域の警察によってアンバーアラートが有効にされている捜索対象領域にいる場合、アラートが表示されます。これには行方不明となっている子どもの写真、説明、誘拐された場所などの関連情報が含まれます。

このアラートを友達にシェアして情報を広めることで、人助けをしたいという気持ちを喚起し、捜索活動に協力することができます。特に重要となる最初の数時間は、注意して探している人が多いほど、行方不明の子どもを発見できる可能性は高くなります。目標は、最も協力しやすい場所にいる人にこのようなアラートを配信しやすくすることです。

Technology Coalitionは15年前、オンラインでの子どもの性的搾取と虐待に対抗するために業界のリーダーが集結して結成されました。

2020年、FacebookはGoogleとMicrosoftのほかに15の企業が集うメンバーの一員として加わり、Project Protect: A plan to combat online child sexual abuse(インターネット上の児童への性的虐待に立ち向かうための計画)を始動させました。このプロジェクトでは、新たな決意のもとにTechnology Coalitionによる投資が行われたことで、範囲と影響を拡大する形で、オンラインでの児童の保護に関する活動を今後数年間にわたって行うことになりました。Project Protectでは、技術革新、共同行動、独立研究、情報と知識の共有、透明性と説明責任という5つの主要な分野に重点が置かれています。

Thornは、子どもたちを性的虐待から守るテクノロジーを構築する非営利団体です。

MetaはThornと協力し、stopsextortion.comの開発に努めてきました。これはMetaの「安全に利用するために」に反映され、その影響範囲を拡大し、世界中の言語で提供されています。さらに、Thornとともに青少年向けのプログラムであるNoFiltrに取り組み、性的描写がある画像のシェアに伴う屈辱感を和らげ、偏見を減らす教材を作成しました。こうした取り組みは、青少年がオンラインで有害な行為の被害を受けた場合に、助けを求めて問題を解決できるようにするためのものです。

子どもたちにとってインターネットを安全な場所に保つというミッションに取り組むうえで、全米行方不明・被搾取児童センター(NCMEC)は主要なパートナーであり続けています。2019年以降、弊社は全米行方不明・被搾取児童センター(NCMEC)の事例管理ツールのアップデートに協力してきました。国際法執行機関がレポートの受領、選別、管理、整理をする際の支援を共同で行っています。

弊社との数年に渡る協力について、全米行方不明・被搾取児童センター(NCMEC)は次のように述べています。

「全米行方不明・被搾取児童センターは、2006年よりFacebookと連携し、オンライン上の児童性的虐待マテリアルを減少させ、このような問題が発生した場合には必ずCyberTiplineへの報告が行われるようにするための取り組みを行ってきました。この間、Facebookは常に意欲的にリーダーシップを発揮し、すべての利用者にとってインターネットがより安全な場所となるための闘いを積極的に指導する役割を果たしてきました。驚くほど大量のコンテンツが削除されましたが、この事実によって、子どもの性的搾取が世界的な問題であり、グローバルな多角的ソリューションが必要であることを改めて痛感しました。」


NCMEC COO、Michelle C. DeLaune氏