Hoe we gezichtsherkenningstechnologie gebruiken voor afbeeldingen om mensen veilig te houden op onze platforms en om identiteit te bevestigen
We gebruiken gezichtsherkenningstechnologie om te controleren of beeltenissen van bekende personen en prominenten worden misbruikt in scams op onze platforms, om de identiteit van gebruikers te bevestigen als ze geen toegang meer hebben tot hun accounts of om content te detecteren die in strijd is met ons beleid inzake schendende gewelddadige gebeurtenissen of seksuele uitbuiting van kinderen. In dit artikel leggen we uit hoe we deze technologie gebruiken en welke impact deze heeft op andere mensen van wie de beeltenissen mogelijk worden gebruikt in de content of in foto's op de accounts van gebruikers die hun identiteit willen bevestigen.
Waarom we gezichtsherkenningstechnologie gebruiken
Oplichters gebruiken vaak afbeeldingen van bekende personen en prominenten om mensen in een scam te laten trappen. Dit soort scams, waarbij oplichters bijvoorbeeld advertenties plaatsen die clickbait met beroemdheden ('celeb bait') bevatten of gebruikers proberen te misleiden door pagina's of profielen na te bootsen, is in strijd met onze richtlijnen en is schadelijk voor onze community.
Als we vermoeden dat iemand zonder toestemming toegang heeft verkregen tot het account van een gebruiker of als we een gebruiker moeten vragen om te bevestigen dat diegene de echte accounteigenaar is, kunnen we diegene vragen hun identiteit te bevestigen met een videoselfie. Diegene kan er vervolgens voor kiezen om gezichtsherkenningstechnologie te gebruiken om hun videoselfie te vergelijken met de foto's van hun account.
Hackers en oplichters proberen regelmatig manieren te vinden om onze systemen te omzeilen. Daarom passen we de manieren waarop we scams detecteren en voorkomen dat mensen worden opgelicht voortdurend aan. We hebben onlangs gezichtsherkenningstechnologie (een geautomatiseerde methode voor gezichtsanalyse) geïntroduceerd om scams die misbruik maken van afbeeldingen te verminderen en om de identiteit van accounthouders te bevestigen. Zo kunnen we scams zoals fraude of imitatie sneller en nauwkeuriger opsporen en stoppen. Ook kunnen we hiermee gebruikers zo snel en makkelijk mogelijk weer toegang geven tot hun account. In beperkte gevallen kunnen we ook gezichtsherkenningstechnologie gebruiken om content te identificeren die in strijd is met ons beleid inzake schendende gewelddadige gebeurtenissen of seksuele uitbuiting van kinderen, zodat we passende maatregelen kunnen treffen.
Hoe het werkt
- Wanneer we gezichtsherkenningstechnologie gebruiken, gebruiken we een geautomatiseerd systeem om gezichtsvectoren te maken van foto's van bekende personen, een videoselfie van een gebruiker of andere openbaar toegankelijke content. Een gezichtsvector is een numerieke waarde die de visuele kenmerken van een gezicht vertegenwoordigt.
- Vervolgens vergelijken we die vectoren met afbeeldingen in content die mogelijk een scam is, zoals afbeeldingen in advertenties die mogelijk celeb-bait bevatten. Zo gaan we na of de gezichten bij bekende personen horen. Als het systeem een overeenkomst vindt, controleren we deze om te bevestigen of de afbeelding wordt misbruikt om mensen op te lichten. Als we vaststellen dat de afbeelding wordt misbruikt om mensen op te lichten, verwijderen we de schendende content op pagina's en profielen.
- Om de identiteit van gebruikers te bevestigen, vergelijken we de gezichtsvectoren die zijn gemaakt op basis van een videoselfie van een gebruiker met de foto's die zijn geüpload naar hun Facebook- of Instagram-profiel, waaronder eventuele eerdere profielfoto's op Facebook, om te bevestigen dat ze van dezelfde persoon zijn. Als het systeem een overeenkomst bevestigt, wordt de identiteit van de gebruiker bevestigd en kan diegene weer toegang krijgen tot het account.
- Voor het detecteren van content die in strijd is met ons beleid inzake schendende gewelddadige gebeurtenissen of seksuele uitbuiting van kinderen, vergelijken we de vectoren die zijn gemaakt op basis van openbare afbeeldingen met content die is geüpload op onze platforms. Als het systeem een overeenkomst detecteert, kunnen we maatregelen nemen tegen deze content in overeenstemming met onze richtlijnen voor de community.
Welke invloed heeft dit op mensen anders dan bekende personen en gebruikers die hun identiteit bevestigen?
Soms worden ook afbeeldingen van andere mensen weergegeven in scams en in de foto's die we gebruiken om de identiteit van gebruikers te bevestigen, of in de content die we beoordelen om te bevestigen of deze in strijd is met ons beleid inzake schendende gewelddadige gebeurtenissen of seksuele uitbuiting van kinderen. In deze beperkte omstandigheden kunnen we deze afbeeldingen incidenteel en tijdelijk verwerken, maar zonder de identiteit van de betreffende personen te herkennen.
Dit is een noodzakelijk onderdeel van ons proces als we gezichtsherkenningstechnologie gebruiken om scams te detecteren, om de identiteit van gebruikers te bevestigen of om content te detecteren die in strijd is met ons beleid inzake schendende gewelddadige gebeurtenissen of seksuele uitbuiting van kinderen. Als we bijvoorbeeld scams detecteren, kunnen we een afbeelding van iemand in een advertentie met celeb-bait verwerken naast de bekende persoon van wie de beeltenis wordt misbruikt.
Het doel van het gebruik van deze technologie is om de gezichten op de afbeelding te koppelen aan het gezicht van de bekende persoon of de werkelijke accounteigenaar of aan de gezichten van daders van schendende gewelddadige gebeurtenissen of seksuele uitbuiting van kinderen. We richten ons niet op het identificeren van andere mensen op de afbeelding.
We slaan de gezichtsvectoren van deze andere mensen niet op en ze worden uit onze systemen verwijderd nadat de vergelijking heeft plaatsgevonden. We gebruiken ook andere technische maatregelen om het aantal afbeeldingen te beperken waarop we deze technologie toepassen. We gebruiken de gezichtsvectoren niet voor iets anders dan het effectief detecteren van en handhaven tegen scams en content die in strijd is met ons beleid inzake schendende gewelddadige gebeurtenissen of seksuele uitbuiting van kinderen.
In het Privacybeleid van Meta worden je rechten en de manier waarop we je gegevens gebruiken uitgelegd. Deze maatregelen zijn onderdeel van onze inspanningen om veiligheid, integriteit en beveiliging op onze platforms te bevorderen. Het is in ons belang om schadelijk gedrag te blijven bestrijden, waaronder het detecteren, voorkomen en aanpakken van spam, verdachte activiteiten, schendingen van onze voorwaarden of beleidsregels, schadelijke of ongepaste content en andere slechte ervaringen op onze platforms.
Als je een bekende persoon bent en meer informatie wilt over hoe we gezichtsherkenningstechnologie gebruiken om je beeltenis te beschermen tegen misbruik, raadpleeg dan het Helpcentrum-artikel.
Als je een Facebook- of Instagram-gebruiker bent en meer informatie wilt over hoe we gezichtsherkenningstechnologie gebruiken om je te helpen opnieuw toegang te krijgen tot je account, raadpleeg dan het Helpcentrum-artikel.