NCIIパイロットの歴史
Metaは、公にされたくない画像が弊社のテクノロジー内外でシェアされるかもしれないという利用者の懸念を払拭したいと考えています。そこで、公開許可のない性的描写がある画像(NCII)による虐待を防ぎ、そのようなコンテンツを弊社のテクノロジーから排除するため、NCIIパイロットを作成しました。NCIIパイロットはすでに活動を終了しています。
沿革
2018年、複数の国際的なNGOが連携してNCIIパイロットを開始し、公にされたくない画像の拡散を阻止できるように、被害を恐れる人々を支援しました。NCIIパイロットによって、人々は問題が発生する前に、訓練を受けたMetaのチームにコンテンツを報告し、許可なくシェアされた画像や動画は確認・削除されました。専門知識を持つ世界中のパートナーが、地域に合わせたサポートとサービス、そしてリソースを提供しました。
StopNCII.orgへの進化
NCIIパイロットが目指すのは、利用者が画像による性的虐待を容易に阻止できるようにすることです。この目標の重要性は、プログラムの開始時点と変わっていません。2021年に、NCIIパイロットの取り組みはStopNCII.orgに統合されました。StopNCII.orgは、公にされたくない画像のシェア・再シェアを防ぐためのテクノロジーを使用している無償のプラットフォームです。StopNCII.orgを運営しているのは、SWGfLに参加しているRevenge Porn Helplineです。SWGfLは世界的に知られた慈善団体で、すべての人に害が及ぶことなくテクノロジーの恩恵が行き渡らなければならないと考えています。
Metaのテクノロジーでは、引き続き不適切なコンテンツを報告できます。報告されたコンテンツがコミュニティ規定に違反している場合、Metaはそのコンテンツを削除します。Metaは写真のマッチング技術を利用して、問題のある画像が弊社のテクノロジーで拡散されることも防いでいます。
NCIIパイロットのパートナー
NCIIパイロットの開始時にはパートナー5団体からの協力があり、参加するパートナーはその後も増えています。現在は70団体を超えるグローバルパートナーがStopNCII.orgを支援しています。
NCIIパイロットは、以下の国際パートナー団体の支援を受けています。
NCIIパイロットパートナーからの声
「今回の新しいプロセスにより、画像による性的虐待で被害を受けた多くの方々が安心感を得られるとともに、有害なコンテンツがプラットフォームから大幅に減るでしょう。また、今回の取り組みが、同様のアクションを他のソーシャルメディア企業に促し、不適切な利用を許さない堅固たるオンライン環境の構築を目指して、私たちが一丸となれることを期待しています」
– The Revenge Porn Helpline、英国
「Center for Social ResearchはFacebookと連携して、インド国内のさまざまな大学キャンパスで#SocialSurfingワークショップを開催し、安全なコミュニティの構築に取り組んできました。今回の新たなNCIIツールは、非常に有益なものです。公にしたくない写真を無許可でシェアされることの多い女性にとっては、特に役立つことでしょう」
– Center for Social Research、インド
「当団体のセーフティネットテクノロジーチームには、公にされたくない画像が恐怖や屈辱を与える手段として家庭内暴力の加害者によって拡散されている、という報告が被害者本人やその支援者の方々から毎日寄せられています。私たちは、家庭内暴力およびストーカー行為を阻止するとともに、暴力の被害者を含むすべての人々にとって安全なソーシャルメディア空間を構築するため、Facebookが実践しているリーダーシップを称賛します。第一線で活躍する支援者を対象にNNEDVが調査を行ったところ、公にされたくない画像を投稿されたことによって深刻なダメージを受けた被害者の方々の支援に、地域支援団体の半数以上(55%)が現在取り組んでいるということがわかりました」
– National Network to End Domestic Violence、米国
「Facebookが新たなツールを導入したことで、テクノロジー業界におけるオンライン虐待への対策がさらに厳格化されることになります。Facebookは、合意のないポルノに対する戦いにおいて、すばらしいリーダーシップとイノベーションを再び示してくれたのです。私たちは、Facebookと連携して、すべての人々のプライバシー、尊厳、安全の確保に向けて継続的に取り組むことができることを、誇りに感じています」
– Cyber Civil Rights Initiative、米国