Náš přístup k ochraně dětí se opírá o tři složky: prevence, kontrola a reakce. Přizpůsobujeme ho na míru každé technologii, ať už mluvíme o veřejných profilech na Facebooku, nebo o zprávách do Directu na Instagramu. Snažíme se taky získat lepší představu, proč lidé na našich platformách materiály zobrazující sexuální zneužívání dětí sdílejí. Pomůže nám to vyvinout efektivní a cílená technologická řešení.

V našich službách, které slouží k posílání soukromých zpráv, využíváme kombinaci nástrojů pro prevenci a detekci škodlivého obsahu a reakci na něj. V Messengeru a chatech na Instagramu máme funkci, která teenagery varuje, když se dají do řeči s dospělým, kterého nejspíš neznají. Dáváme jim tak možnost podniknout určité kroky, než na zprávu odpoví. Na WhatsAppu máme taky vlastní funkce a nastavení, které pomáhají předcházet zneužívání.

Navíc jsme přidali nové nástroje a zdroje, které pomůžou rodičům a teenagerům ve VR a na Instagramu.

Kromě toho technologií pro detekci vyhledáváme, odebíráme a nahlašujeme závadný obsah. Používáme třeba nástroje, které hledají shody v obrázcích. Průběžně kontrolují nahrávaný obsah a vyhledávají materiály, které by potenciálně mohly představovat sexuální zneužívání dětí.

Dalším pokrokem je nasazení umělé inteligence a strojového učení. S nimi dokážeme odhalit nejrůznější škodlivý obsah, jako je zveřejňování dětské nahoty, nežádoucí interakce mezi dospělými a teenagery a potenciální „grooming“ (získávání důvěry za účelem sexuálního zneužívání).

Tyhle a další související iniciativy pořád rozvíjíme. Přečtěte si víc o naší snaze chránit mladé lidi ve veřejném i soukromém prostoru na internetu.