Como estamos usando a tecnologia de reconhecimento facial em imagens para manter as pessoas seguras nas nossas plataformas e confirmar a identidade
Usamos a tecnologia de reconhecimento facial para verificar se imagens de figuras públicas e indivíduos de destaque estão sendo usadas indevidamente em golpes nas nossas plataformas, para confirmar a identidade de usuários quando eles perdem o acesso às próprias contas ou para detectar conteúdo que viola nossas políticas sobre exploração sexual infantil ou eventos de violência. Este artigo explica como usamos essa tecnologia e como ela afeta outras pessoas em que as imagens podem aparecer nesses golpes ou em fotos nas contas de usuários que desejam confirmar a identidade.
Por que usamos a tecnologia de reconhecimento facial
Em geral, os golpistas usam imagens de figuras públicas e indivíduos famosos para induzir as pessoas a participar de golpes. Esses tipos de golpes, como quando pessoas mal-intencionadas postam anúncios de "isca de cliques com celebridades" ou tentam enganar usuários por meio da falsificação de identidade de Páginas ou perfis, violam nossas políticas e prejudicam nossa comunidade.
Além disso, se suspeitarmos que alguém acessou a conta de um usuário sem permissão ou se precisarmos que um usuário confirme que é o verdadeiro proprietário da conta, poderemos solicitar que ele confirme a própria identidade usando uma selfie de vídeo. Ele pode optar por usar a tecnologia de reconhecimento facial para comparar a selfie de vídeo com as fotos da conta.
Hackers ou golpistas regularmente tentam encontrar maneiras de burlar nossos sistemas. Por isso, estamos constantemente adaptando e aprimorando as formas como detectamos golpes e impedimos que eles enganem as pessoas. Recentemente, introduzimos a tecnologia de reconhecimento facial (um método automatizado de análise facial) para ajudar a reduzir golpes que usam imagens indevidamente e para confirmar a identidade dos titulares de contas. Isso nos ajuda a detectar e interromper golpes como fraude ou falsificação de identidade de forma mais rápida e precisa. Também nos ajuda a fazer com que os usuários voltem a acessar as próprias contas da forma mais rápida e fácil possível. Em circunstâncias limitadas, também podemos usar tecnologias de reconhecimento facial para ajudar a identificar conteúdo que não segue nossas políticas sobre exploração sexual infantil ou eventos de violência. Assim, poderemos tomar as medidas apropriadas.
Como funciona
- Quando usamos a tecnologia de reconhecimento facial, trabalhamos com um sistema automatizado para criar representações com base em fotos de figuras públicas, na selfie de vídeo de um usuário ou em outro conteúdo de acesso público. Uma representação é um valor numérico que representa as características visuais de um rosto.
- Em seguida, comparamos essas representações com imagens em potenciais conteúdos de golpe, como imagens em possíveis anúncios de celebridades, para confirmar se os rostos pertencem a uma figura pública. Se o sistema detectar uma correspondência, verificaremos para confirmar se a imagem está sendo usada indevidamente para enganar as pessoas. Se confirmarmos que a imagem está sendo usada indevidamente para enganar pessoas, removeremos o conteúdo ou as Páginas e os perfis violadores.
- Para confirmar as identidades dos usuários, comparamos as representações criadas com base na selfie de vídeo de um usuário com as fotos carregadas nos perfis do Facebook ou do Instagram, incluindo fotos do perfil anteriores no Facebook, para confirmar que pertencem à mesma pessoa. Se o sistema confirmar uma correspondência, a identidade do usuário será confirmada e ele poderá recuperar o acesso à conta.
- Para detectar conteúdo que não segue nossas políticas sobre exploração sexual infantil ou eventos de violência, comparamos as representações criadas com base em imagens públicas com o conteúdo carregado nas nossas plataformas. Se o sistema detectar uma correspondência, poderemos tomar medidas contra esse conteúdo de acordo com nossos Padrões da Comunidade.
Como isso afeta as pessoas que não são figuras públicas e usuários que confirmam a identidade?
Às vezes, imagens de outras pessoas também aparecem em golpes e nas fotos que usamos para confirmar a identidade dos usuários ou no conteúdo que analisamos para confirmar se ele viola nossas políticas sobre exploração sexual infantil ou eventos de violência. Nessas circunstâncias limitadas, podemos processar essas imagens de forma acidental e temporária, mas sem reconhecer as identidades.
Essa é uma parte necessária do nosso processo quando usamos a tecnologia de reconhecimento facial para detectar golpes ou confirmar as identidades dos usuários ou detectar conteúdo que não segue nossas políticas sobre eventos de violência ou exploração sexual infantil. Por exemplo, quando detectamos golpes, podemos processar uma imagem de alguém em um anúncio de isca de celebridade junto com a figura pública cuja imagem está sendo usada indevidamente.
O objetivo de usar essa tecnologia é tentar corresponder os rostos na imagem ao rosto da figura pública, ao verdadeiro titular da conta ou aos infratores de eventos de violência ou exploração sexual infantil. Não nos concentramos em identificar as outras pessoas na imagem.
Não armazenamos as representações relacionadas a essas outras pessoas. Elas são excluídas dos nossos sistemas após a comparação. Também adotamos outras medidas técnicas para limitar o número de imagens em que usamos essa tecnologia. Não usamos as representações para nada além de ajudar a garantir a detecção eficaz de, e a aplicação contra, golpes e conteúdos que violem nossas políticas sobre eventos violentos ou exploração sexual infantil.
A Política de Privacidade da Meta explica seus direitos e como usamos suas informações. Essas medidas fazem parte dos nossos esforços para promover a segurança e a integridade nas nossas plataformas. Temos interesse em continuar combatendo comportamentos prejudiciais, o que inclui identificar, prevenir e lidar com spam, atividades suspeitas, violações das nossas políticas, conteúdos prejudiciais ou inadequados e outras experiências negativas nas nossas plataformas.
Se você é uma figura pública e deseja saber mais sobre como usamos a tecnologia de reconhecimento facial para proteger sua imagem contra o uso indevido, consulte este artigo da Central de Ajuda.
Se você é um usuário do Facebook ou do Instagram e deseja saber mais sobre como usamos a tecnologia de reconhecimento facial para ajudar a recuperar o acesso à sua conta, consulte este artigo da Central de Ajuda.