Jak pomocí technologie rozpoznávání obličejů u obrázků zajišťujeme bezpečnost lidí na platformách a potvrzujeme totožnost
Technologii rozpoznávání obličejů používáme k ověření, jestli na našich platformách nedochází ke zneužívání obrázků veřejně známých osobností a lidí, o kterých se hodně mluví, a pak k ověření totožnosti uživatelů, kteří přišli o přístup ke svým účtům. Umožňuje nám taky detekovat obsah, který porušuje zásady ohledně násilné činnosti porušující předpisy nebo sexuálního zneužívání dětí. V článku se dozvíte, jak danou technologii používáme a jak se dotýká lidí, jejichž obrázky se můžou objevit v obsahu nebo ve fotkách na účtech uživatelů, kteří si chtějí potvrdit totožnost.
Proč používáme technologii rozpoznávání obličejů
Podvodníci, kteří chtějí přimět lidi k interakci se svým podvodným obsahem, k tomu často využívají obrázky veřejně známých osobností a lidí, o kterých se hodně mluví. Takové podvody, jako jsou reklamy zneužívající popularitu celebrit (celeb-bait) nebo pokusy podvodníků vydávat se přes stránku nebo profil za někoho jiného a oklamat tak uživatele, jsou v rozporu se zásadami a škodí komunitě.
Kromě toho platí, že pokud máme podezření, že se k uživatelskému účtu dostal někdo bez povolení, nebo pokud od uživatele potřebujeme potvrdit, že je skutečným vlastníkem účtu, můžeme ho požádat o potvrzení totožnosti pomocí videoselfie. Uživatelé si můžou vybrat, jestli chtějí použít technologii rozpoznávání obličejů, která porovnává jejich videoselfie s fotkami na jejich účtu.
Hackeři a podvodníci se neustále snaží naše systémy obejít. Proto neustále upravujeme a vylepšujeme způsoby, jak podvody odhalovat a neumožnit podvodníkům, aby klamali lidi. Nedávno jsme zavedli technologii rozpoznávání obličejů (automatizovanou metodu analýzy obličejů). Cílem je omezit počet podvodů, při kterých se zneužívají obrázky, a potvrdit totožnost držitelů účtů. Pomáhá nám to rychleji a přesněji odhalovat a blokovat podvody, jako jsou podvodná jednání nebo vydávání se za někoho jiného. Taky díky ní můžeme uživatelům co nejrychleji obnovit přístup k účtům. Za určitých omezených okolností můžeme technologie rozpoznávání obličejů využít taky k identifikaci obsahu, který porušuje zásady ohledně násilné činnosti porušující předpisy nebo sexuálního zneužívání dětí. Můžeme tak podniknout patřičná opatření.
Jak to funguje
- Když používáme technologii rozpoznávání obličejů, pomocí automatizovaného systému vytvoříme z fotek veřejně známých osobností, z videoselfie uživatele nebo z jiného veřejně dostupného obsahu embeddingy. Embedding je číselná hodnota, která zachycuje vizuální charakteristiky obličeje.
- Výsledné embeddingy pak porovnáváme s obrázky v potenciálně podvodném obsahu, třeba v reklamách, u kterých je podezření na zneužívání popularity celebrity (celeb-bait). Určujeme tak, jestli jde o tvář veřejně známé osobnosti. Tím se snažíme zachytit případné podvody. Pokud systém najde shodu, zkontrolujeme, jestli se obrázek zneužívá ke klamání lidí. Pokud zjistíme, že se obrázek zneužívá ke klamání lidí, obsah nebo stránky a profily porušující zásady odebereme.
- Při ověřování totožnosti uživatelů porovnáváme embeddingy vytvořené z videoselfie uživatele s fotkami, které uživatel nahrál na svůj profil na Facebooku nebo Instagramu. Využíváme taky všechny předchozí profilové fotky na Facebooku. Zjišťujeme tak, jestli všechny patří stejnému člověku. Pokud systém shodu potvrdí, totožnost uživatele je potvrzená. Uživatel si tak může účet znovu aktivovat.
- Při detekci obsahu, který porušuje zásady ohledně násilné činnosti porušující předpisy nebo sexuálního zneužívání dětí, porovnáváme embeddingy vytvořené z veřejných obrázků s obsahem nahrávaným na naše platformy. Pokud systém zjistí shodu, můžeme proti danému obsahu v souladu se zásadami komunity podniknout odpovídající opatření.
Jaký to má vliv na lidi, kteří nepatří mezi veřejně známé osobnosti a uživatele potvrzující svou totožnost?
Někdy se obrázky jiných lidí objevují taky v podvodech, na fotkách, které používáme k potvrzení totožnosti uživatelů, nebo v obsahu, který kontrolujeme kvůli ověření, jestli porušuje zásady týkající se násilné činnosti porušující předpisy nebo sexuálního zneužívání dětí. V těchto omezených případech můžeme dané obrázky neúmyslně a dočasně zpracovávat, aniž bychom rozpoznávali totožnost daných lidí.
Jde o nezbytnou součást našeho procesu, kdy technologii rozpoznávání obličejů používáme k odhalování podvodů, potvrzování totožnosti uživatelů nebo detekování obsahu, který porušuje zásady týkající se násilné činnosti porušující předpisy nebo sexuálního zneužívání dětí. Když třeba odhalíme podvod, můžeme zpracovat obrázek člověka z reklamy s celebritou (celeb-bait) a porovnat ho s obrázkem veřejně známé osobnosti, jehož zneužití se snažíme zabránit.
Technologie má za cíl pokusit se spárovat tvář na obrázku s tváří veřejně známé osobnosti, pravého vlastníka účtu nebo pachatele násilné činnosti porušující předpisy nebo sexuálního zneužívání dětí. Nezaměřujeme se na identifikaci dalších lidí na obrázku.
Embeddingy související s dalšími lidmi neukládáme a po porovnání se z našich systémů odstraní. Počet obrázků, u kterých technologii používáme, omezujeme i dalšími technickými opatřeními. Embeddingy nepoužíváme k žádným jiným účelům než k zajištění efektivní detekce podvodů a obsahu, který porušuje zásady ohledně násilné činnosti porušující předpisy nebo sexuálního zneužívání dětí, a k prosazování opatření proti nim.
V zásadách společnosti Meta ohledně ochrany osobních údajů se dozvíte, jaká máte práva a jak používáme vaše informace. Tato opatření jsou součástí našeho úsilí o podporu bezpečnosti, integrity a zabezpečení na našich platformách. Je v našem zájmu dál bojovat proti škodlivému chování. To zahrnuje odhalování, prevenci a řešení spamu, podezřelých aktivit, porušení našich smluvních podmínek a zásad, škodlivého nebo nevhodného obsahu a dalších nežádoucích jevů na našich platformách.
Pokud jste veřejně známá osobnost a chcete se dozvědět víc o tom, jak používáme technologii rozpoznávání obličejů k ochraně vašeho obrazu před zneužitím, přečtěte si příslušný článek v Centru nápovědy.
Pokud jste uživatel Facebooku nebo Instagramu a chcete se dozvědět víc o tom, jak používáme technologii rozpoznávání obličejů, abychom vám pomohli znovu získat přístup k účtu, přečtěte si příslušný článek v Centru nápovědy.