Slik bruker vi teknologi for ansiktsgjenkjenning på bilder for å beskytte folk på plattformene våre og for å bekrefte identiteter
Vi bruker teknologi for ansiktsgjenkjenning til å sjekke om bilder av offentlige og høyprofilerte personer misbrukes i svindelforsøk på plattformene våre, til å bekrefte brukeres identitet når de mister tilgang til kontoene sine, eller til å oppdage innhold som er i strid med retningslinjene våre om voldshendelser eller seksuell utnyttelse av barn. Denne artikkelen forklarer hvordan vi bruker denne teknologien, og hvordan den påvirker andre på bilder som kan medvirke i slikt innhold, eller på bilder på kontoene til brukere som vil bekrefte identiteten sin.
Derfor bruker vi teknologi for ansiktsgjenkjenning
Svindlere bruker ofte bilder av offentlige og høyprofilerte personer for å lokke folk til å tro på svindel. Denne typen svindelforsøk, for eksempel når svindlere publiserer annonser med kjendiser som agn eller forsøker å lure brukere ved å utgi seg for å være andres sider eller profiler, er i strid med retningslinjene våre og skader fellesskapet vårt.
Hvis vi i tillegg mistenker at noen har fått tilgang til en brukers konto uten tillatelse, eller hvis vi har behov for at en bruker bekrefter at hen er den ekte kontoinnehaveren, kan vi be hen om å bekrefte identiteten sin ved hjelp av en videoselfie. Deretter kan hen velge å bruke teknologi for ansiktsgjenkjenning for å sammenligne videoselfien med bilder på kontoen hens.
Hackere eller svindlere prøver regelmessig å finne måter å omgå systemene våre på, så vi tilpasser og forbedrer stadig metodene våre for å oppdage svindelforsøk og hindre dem i å lure folk. Vi har nylig introdusert teknologi for ansiktsgjenkjenning (en automatisert metode for ansiktsanalyse) for å redusere forekomsten av svindelforsøk som misbruker bilder, og for å bekrefte identiteten til kontoinnehavere. Dette hjelper oss med å oppdage og forebygge svindelforsøk som bedrageri eller identitetstyveri raskere og mer nøyaktig. Det hjelper oss også med å få brukere tilbake på kontoene sine så raskt og enkelt som mulig. I enkelte begrensede tilfeller kan vi også bruke teknologi for ansiktsgjenkjenning til å identifisere innhold som er i strid med retningslinjene våre om voldshendelser eller seksuell utnyttelse av barn, slik at vi kan iverksette passende tiltak.
Slik fungerer det
- Når vi bruker teknologi for ansiktsgjenkjenning, bruker vi et automatisert system til å opprette vektorrepresentasjoner basert på offentlige personers bilder, brukeres videoselfier eller annet offentlig tilgjengelig innhold. En vektorrepresentasjon er en numerisk verdi som representerer de visuelle egenskapene til et ansikt.
- Vi identifiserer svindel ved å sammenligne disse vektorrepresentasjonene med bilder som brukes i mulige svindelforsøk, for eksempel svindelannonser der bilder av kjendiser brukes som agn, for å bekrefte at ansiktene tilhører en offentlig person. Dersom systemet finner en match, sjekker vi om bildet blir brukt til å svindle folk. Hvis vi bekrefter at bildet blir brukt til å svindle folk, fjerner vi innholdet på sidene eller profilene som bryter retningslinjene.
- Vi bekrefter brukernes identiteter ved å sammenligne vektorrepresentasjonene som er opprettet basert på brukeres videoselfier, med bildene som er lastet opp på Facebook- eller Instagram-profilene deres, deriblant eventuelle tidligere profilbilder på Facebook, for å bekrefte at de tilhører samme person. Hvis systemet finner en match, er brukerens identitet bekreftet, og hen kan få tilgang til kontoen sin igjen.
- Vi identifiserer innhold som er i strid med retningslinjene våre om voldshendelser eller seksuell utnyttelse av barn, ved å sammenligne vektorrepresentasjonen som er opprettet basert på offentlige bilder, med innhold som er lastet opp på plattformene våre. Hvis systemet finner en match, kan vi gripe inn mot dette innholdet i samsvar med fellesskapsstandardene våre.
Hvordan påvirker dette andre enn offentlige personer og brukere som bekrefter identiteten sin?
Noen ganger vises også bilder av andre personer i svindelforsøk, i bilder vi bruker til å bekrefte brukeres identitet, eller i innhold vi går gjennom for å finne ut om det er i strid med retningslinjene våre om voldshendelser eller seksuell utnyttelse av barn. I slike sjeldne tilfeller kan det hende at vi tilfeldig og midlertidig behandler disse bildene, men uten å gjenkjenne identiteten deres.
Dette er en nødvendig del av prosessen vår når vi bruker teknologi for ansiktsgjenkjenning til å oppdage svindel, bekrefte brukeres identiteter eller oppdage innhold som er i strid med retningslinjene våre om voldshendelser eller seksuell utnyttelse av barn. Når vi for eksempel oppdager svindelforsøk, kan vi behandle et bilde av noen i en kjendisagn-annonse sammen med den offentlige personen som har fått bildet sitt misbrukt.
Formålet med å bruke denne teknologien er å prøve å matche ansiktene på bildet med ansiktet til den offentlige personen, den ekte kontoinnehaveren eller gjerningspersonene som står bak voldelige hendelser eller seksuell utnyttelse av barn. Vi fokuserer ikke på å identifisere de andre personene på bildet.
Vi lagrer ikke vektorrepresentasjonene relatert til disse andre personene, og de slettes fra systemene våre etter at sammenligningen har funnet sted. Vi bruker også andre tekniske tiltak for å begrense antallet bilder vi bruker denne teknologien på. Vi bruker ikke vektorrepresentasjonene til noe annet enn å sørge for effektiv identifisering og håndhevelse av svindel og innhold som er i strid med retningslinjene våre om voldshendelser eller seksuell utnyttelse av barn.
Metas retningslinjer for personvern forklarer rettighetene dine og hvordan vi bruker informasjonen din. Disse tiltakene er en del av innsatsen vår for å fremme trygghet, integritet og sikkerhet på plattformene våre. Det er i vår interesse å fortsette å bekjempe skadelig atferd, inkludert å oppdage, forhindre og håndtere spam, mistenkelig aktivitet, brudd på betingelsene eller retningslinjene våre, skadelig eller upassende innhold og andre dårlige opplevelser på plattformene våre.
Hvis du er en offentlig person og vil finne ut mer om hvordan vi bruker teknologi for ansiktsgjenkjenning til å beskytte bildet ditt mot misbruk, kan du lese denne artikkelen i hjelpesenteret.
Hvis du er en Facebook- eller Instagram-bruker og vil finne ut mer om hvordan vi bruker teknologi for ansiktsgjenkjenning til å hjelpe deg med å få tilgang til kontoen din igjen, kan du lese denne artikkelen i hjelpesenteret.