我们如何利用人脸识别技术进行图片分析,以保障平台用户安全和验证用户身份
我们将人脸识别技术用于检测公众人物和知名人士的肖像是否在我们平台上被滥用于实施诈骗行为,在用户失去账户访问权限时验证用户身份,或者检测违反我们有关暴力事件或儿童性剥削政策的内容。本文将阐明我们如何使用这项技术,以及这项技术对以下人员的影响:其肖像可能出现在相关内容中或想要验证身份的用户的照片中。
我们为什么使用人脸识别技术
诈骗分子经常使用公众人物和知名人士的图片来引诱用户陷入骗局。这些诈骗行为,例如诈骗分子发布“名人诱饵”广告或试图假冒公共主页或个人主页来欺骗用户,违反了我们的政策并会危害我们的社群。
此外,若我们怀疑某用户的账户遭他人未经授权登录,或者我们需要用户确认其是账户的真实所有者时,我们可能会要求该用户使用自拍视频进行身份验证。随后,用户可选择使用人脸识别技术来对比自拍视频与账户照片。
黑客或诈骗分子会不断试图寻找手段绕过我们的系统,因此我们也在持续完善和改进诈骗行为检测机制,确保能阻止其危害用户。我们近期引入了人脸识别技术(一种自动人脸分析方法),来帮助减少滥用肖像的行为和加强对账户持有者身份的验证。这项技术有助于我们更快、更准确地检测并阻止欺诈或冒充等诈骗行为。此外,该技术还有助于用户尽可能快速、便捷地找回账户。在有限场景下,我们还可能使用人脸识别技术来帮助识别违反我们有关暴力事件或儿童性剥削政策的内容,以便及时采取适当措施。
运作方式
- 在使用人脸识别技术时,我们会通过自动系统从公众人物的照片、用户自拍视频或其他可公开访问的内容中生成嵌入值。嵌入值是一种代表人物面部视觉特征的数值。
- 为检测诈骗行为,我们会将这些嵌入值与疑似诈骗内容中的肖像(如疑似名人诱饵广告中的肖像)进行比对,以确认面孔是否属于某位公众人物。如果系统检测到匹配,我们将核实该肖像是否被滥用于诈骗他人。经确认肖像确实被用于实施诈骗后,我们将移除涉事公共主页和个人主页中的违规内容。
- 为了验证用户身份,我们会对比根据用户自拍视频生成的嵌入值与上传到其 Facebook 个人主页或 Instagram 主页的照片,包括在 Facebook 使用过的所有历史头像,以确认是否为同一人。若系统确认匹配,则用户身份验证成功,可恢复账户的访问权限。
- 为了检测违反我们有关暴力事件或儿童性剥削政策的内容,我们会将从公开图片中生成的嵌入值与上传到我们平台的内容进行对比。如果系统检测到匹配内容,我们可能会根据社群守则对该内容采取适当措施。
这项技术对公众人物和身份验证用户之外的其他人有何影响?
有时候,其他无关人员的肖像也会出现在诈骗内容或我们用于验证用户身份的照片中,或者出现在我们为确认其是否违反我们有关暴力事件或儿童性剥削政策而审核的内容中。在此类有限场景下,我们可能会偶尔临时性地处理这些肖像,但不会进行身份识别。
在使用人脸识别技术检测诈骗内容、验证用户身份或者检测违反我们有关暴力事件或儿童性剥削政策的内容时,这是我们工作流程中的必要环节。举例而言,在检测诈骗行为时,我们不仅需要处理“名人诱饵”广告中肖像被滥用的公众人物的肖像,还可能需要处理出现的无关人员的肖像。
这项技术旨在通过面部特征比对,验证图片中的人物面部是否与公众人物、真实账户持有者或违反我们有关暴力事件或儿童性剥削政策的做恶者的面部相匹配。我们不会重点关注图片中其他无关人员的身份。
我们不会存储与这些无关人员相关的嵌入值,并且会在比对完成后将相关数据从我们的系统中删除。我们还会借助其他技术措施来减少需要运用该技术处理的图片数量。除帮助提升检测和打击诈骗行为以及违反我们有关暴力事件或儿童性剥削政策的内容的能力,我们不会将嵌入值用于其他任何目的。
Meta 隐私政策解释了您享有的权利以及我们如何使用您的信息。这些措施是我们为促进平台安全和诚信所采取的一部分举措。持续打击各种有害行为关乎我们自身的核心利益,这包括检测、预防及处理垃圾信息、可疑活动、违反我们条款或政策的行为、有害或不当内容,以及平台上的其他不良体验。
如果您是公众人物,并希望详细了解我们如何利用人脸识别技术来保护您的肖像不被滥用,请参阅这篇帮助中心文章。
如果您是 Facebook 或 Instagram 用户,并希望详细了解我们如何利用人脸识别技术来帮助您重获账户访问权限,请参阅这篇帮助中心文章。