プラットフォームの利用者の安全を守り、本人確認を行うために、画像の顔認識技術をどのように利用しているか

更新:5週間前

Metaは、顔認識技術を使用して、Metaのプラットフォーム上で公人・著名人の画像が詐欺目的で不正使用されているかどうかを確認しています。またアカウントにアクセスできなくなったユーザーの本人確認や、暴力行為や児童性的搾取に関するポリシーの違反コンテンツ検出にもこの技術を使用しています。この記事では、Metaがこの技術を使用する方法と、この技術が、詐欺行為に利用される画像の人物や、本人確認を行う利用者のアカウント上の写真に写っている人に及ぼす影響について説明します。

顔認識技術を使用する理由

詐欺師は、公人・著名人や人目を引く人物の画像を使って人々を詐欺に誘い込むことがよくあります。詐欺師は「有名人ベイト」広告を投稿したり、ページやプロフィールになりすまして利用者を欺こうとしたりしますが、このような詐欺行為は弊社のポリシーに違反しており、コミュニティにとって有害です。

また、利用者のアカウントに何者かが許可なくアクセスしたと思われる場合や、利用者がアカウント所有者本人であることを確認する必要がある場合、セルフィー動画を使用した本人確認をお願いすることがあります。その際、利用者は、顔認識技術を使用してセルフィー動画とアカウントの写真を比較することを選択できます。

ハッカーや詐欺師はMetaのシステムを回避する方法を常に模索しています。そのため、Metaでは詐欺行為を検出し、人々をだませないようにする方法を常に調整し、強化しています。弊社では最近、画像を不正利用する詐欺行為の削減やアカウント所有者の本人確認のために、顔認識技術(顔分析の自動化手法)を導入しました。これにより、なりすましなどの詐欺行為をより正確かつ迅速に検出し、防止することができます。また、利用者ができるだけ早く簡単にアカウントを再開できるようにするためにも役立ちます。特定の状況においては、暴力行為や児童性的搾取に関するポリシーに違反するコンテンツを特定し、適切な措置を講じるために、顔認識技術を利用することがあります。

しくみ

顔認識技術を使用する際、自動化システムを使用して、公人・著名人の写真、ユーザーのセルフィー動画、またはその他の公開コンテンツから埋め込みを作成します。埋め込みとは、顔の視覚的特性を表す数値です。

詐欺を検出するには、それらの埋め込みを、詐欺の可能性があるコンテンツ内の画像(有名人ベイトの可能性がある広告内の画像など)と比較して、公人・著名人の顔かどうかを確認します。システムによって一致が検出された場合、画像が詐欺目的で不正使用されていないかを確認します。画像が詐欺目的で不正利用されていることが確認された場合、違反しているコンテンツをページやプロフィールから削除します。

利用者の本人確認を行う場合は、セルフィー動画から作成された埋め込みと、FacebookやInstagramのプロフィールにアップロードされた写真(Facebookの過去のプロフィール写真を含む)を比較し、同じ人物であることを確認します。システムによって一致が確認されると、利用者の本人確認が完了し、アカウントへのアクセスを再開することができます。

暴力行為や児童性的搾取に関するポリシーに違反しているコンテンツを検出するために、公開画像から作成された埋め込みと、Metaのプラットフォームにアップロードされたコンテンツを比較します。システムで一致が検出された場合、コミュニティ規定に従って対策を講じることがあります。

公人・著名人や本人確認を行う利用者以外の人にはどのような影響があるか

詐欺行為において、また、ユーザーの身元確認に使用する写真や、暴力行為や児童性的搾取に関するポリシーに違反していないかを審査するためのコンテンツにおいても、時折他の人物の画像が使用されることがあります。こうした限定的な状況において、弊社は付帯的および一時的に、画像の人物の身元を確認せずにこうした画像を処理することがあります。

これは、顔認識技術を利用して詐欺行為を検知したり、ユーザーの本人確認を行ったり、暴力行為や児童性的搾取に関するポリシーに違反するコンテンツを検知するために必要なプロセスです。例えば、詐欺行為を検出する際、有名人ベイト広告で不正利用されている公人・著名人とともに写っている人物の画像を処理することがあります。

この技術を使用する目的は、画像に含まれる顔を、公人・著名人、正当なアカウント所有者、または暴力行為や児童性的搾取の加害者の顔とを照合することです。画像に写っている他の人物を特定することは目的としていません。

このような他の人物に関連する埋め込みは保存されず、比較が行われた後、システムから削除されます。また、Metaは他の技術的措置を用いて、顔認識技術を使用する画像の数を制限しています。Metaは、暴力行為や児童性的搾取に関するポリシーに違反するコンテンツや詐欺行為の効果的な検出とそれに対する措置の実施以外の目的で埋め込みを使用することはありません。

Metaプライバシーポリシーには、利用者の権利やMetaによる利用者情報の使用方法が記載されています。これらの対策は、Metaのプラットフォームの安全性、保全性、セキュリティを向上させるための取り組みの一環です。弊社には、弊社プラットフォーム上のスパム、不審なアクティビティ、規約やポリシーへの違反、有害または不適切なコンテンツ、その他の好ましくない体験を検出、防止、対処するなど、有害な行為を継続的に撲滅するという利益があります。

あなたが公人・著名人であり、弊社が顔認識技術を使用してあなたの画像の不正使用を防止している方法について詳しく知りたい場合は、こちらのヘルプセンター記事をご覧ください。

あなたがFacebookまたはInstagramの利用者であり、弊社が顔認識技術を使用してアカウントへのアクセス再開を支援する方法について詳しく知りたい場合は、こちらのヘルプセンター記事をご覧ください。