Bekämpning av sexuell utpressning och missbruk av intima bilder

Våra policyer och verkställighet

Vi har strikta regler mot innehåll eller beteenden som utnyttjar personer, däribland att dela eller hota med att dela någons intima bilder. Vi uppmuntrar alla att anmäla innehåll som de anser bryter mot våra regler och vi har ett särskilt anmälningsalternativ specifikt framarbetat för tillfällen där någon delar privata bilder. När vi blir medvetna om sådant innehåll arbetar vi för att vidta åtgärder.

Vi har specialiserade team som arbetar med att bekämpa sexuell utpressning. Vi har identifierat mönster som förknippas med detta beteende och utvecklat automatiserade system som upptäcker och tar bort dessa konton i stor skala. Vi har också särskilda team som undersöker och tar bort dessa brottslingar och anmäler dem till myndigheter, däribland brottsbekämpande myndigheter och National Center for Missing and Exploited Children (NCMEC), när så är lämpligt. Vi samarbetar bland annat med NCMEC, International Justice Mission och andra partner för att utbilda brottsbekämpande myndigheter runt om i världen så att de får bättre förutsättningar att identifiera, utreda och hantera den här typen av fall.

Hur vi förhindrar oönskad kontakt

Vi arbetar för att skydda personer från sexuell utpressning genom att förhindra oönskad kontakt, särskilt mellan vuxna och tonåringar. Vi gör detta på flera olika sätt:

• Vi ställer automatiskt in konton för tonåringar under 16 år (och under 18 år i vissa länder) som privata när de går med i Instagram. Personer som tonåringar inte följer kan inte tagga eller nämna dem, eller använda deras innehåll i reels-remixer eller vägledningar som standard. Dessa är några av de bästa metoderna för att förhindra att unga personer hör från vuxna som de inte känner, eller som de inte vill ha kontakt med. Privata konton, som är tillgängliga för både tonåringar och vuxna, förhindrar också andra från att se vänlistor och vilka personer kontot följer, vilket kan användas som påtryckningsmedel av personer som försöker utöva sexuell utpressning.
• Vi begränsar vuxna över 18 år från att inleda privata chattar med tonåringar som de inte har kopplingar till på Instagram och Messenger.
• Vi begränsar meddelandeförfrågningar från personer som inte är följare, eller redan har en koppling till dem, till ett endast utgöras av textmeddelanden. Andra kan inte skicka bilder, videor eller röstanteckningar i meddelandeförfrågningar förrän mottagaren godkänner förfrågan om att chatta. (Uppdaterad 25 november kl. 14:30 PT för att spegla våra senaste policyer.)
• Vi introducerar även striktare inställningar för standardmeddelanden för tonåringar under 16 år (och under 18 år i vissa länder). Det innebär att tonåringar inte kan ta emot meddelanden eller läggas till i gruppchattar av någon som de inte följer eller känner på Instagram och Messenger. Detta är utformat för att hjälpa tonåringar att känna sig ännu mer säkra på att de inte ska bli kontaktade av personer som de inte känner i sina privata meddelanden.
• Vi använder teknik för att identifiera och hindra potentiellt misstänkta vuxna från att hitta, följa och interagera med tonårskonton, och vi rekommenderar inte tonårskonton till dessa vuxna.

Hur vi utbildar personer

Vi utbildar tonåringar när de interagerar med vissa vuxna.

• Vi meddelar tonåringar när ett potentiellt misstänkt konto har försökt följa dem och uppmuntrar unga användare att vara mer försiktiga.
• Vi har proaktiva uppmaningar, eller säkerhetsmeddelanden, som meddelar unga personer när en vuxen som har uppvisat ett potentiellt misstänkt beteende interagerar med dem i meddelanden. Om en vuxen till exempel skickar en stor mängd vänförfrågningar till personer under 18 år varnar vi mottagarna i deras meddelanden och ger dem möjlighet att blockera, anmäla eller begränsa kontakten med den vuxna personen.

Expertpartnersamarbeten

Vi samarbetar med expertpartner för att bekämpa sexuell utpressning runt om i världen och har varit engagerade i det här arbetet i många år.

• Vi samarbetade med Thorn för att lansera Stoppa sexuell utpressning under 2017 för att anpassa dessa resurser till vårt Säkerhetscenter och översätta dem till över 60 ytterligare språk. Vi samarbetade återigen med deras varumärke NoFiltr för att skapa utbildningsmaterial. Resurserna är utformade för att minska skammen och stigmatiseringen kring intima bilder. Syftet är att uppmuntra tonåringar att söka hjälp och ta tillbaka kontrollen om de har delat sådana bilder eller blivit utsatta för sexuell utpressning.
• Meta är också grundande medlem i Lantern-programmet som hanteras av Tech Coalition. Programmet gör det möjligt för teknikföretag att dela signaler om konton och beteenden som bryter mot deras barnsäkerhetspolicyer. Vi försåg Tech Coalition med den tekniska infrastrukturen som ligger bakom programmet och fortsätter att underhålla den. Deltagande företag kan använda dessa uppgifter för att genomföra undersökningar på sina egna plattformar och vidta åtgärder. Detta är oerhört viktigt eftersom vi vet att förövare inte begränsar sig till en enda plattform. Därför måste vi samarbeta för att ta itu med det här problemet tillsammans.
• Meta fortsätter att stödja StopNCII.org i utvecklingen av Global Network of Partners med över 100 brottsofferförespråkare och ideella organisationer runt om i världen som driver förebyggande kampanjer och ger stöd till personer som har blivit utsatta för sexuell utpressning och missbruk av intima bilder.