Seksuaalisella sisällöllä kiristämisen ja intiimien kuvien väärinkäytön torjunta
Seksuaalisella sisällöllä kiristäminen tarkoittaa sitä, että joku uhkaa paljastaa intiimejä kuvia sinusta, jotta hän saa sinut tekemään jotakin vastoin tahtoasi. Intiimien kuvien jakaminen ilman lupaa tai niiden jakamisella uhkailu on Metan käytäntöjen vastaista. Kenenkään ei pitäisi koskaan joutua kokemaan seksuaalisella sisällöllä kiristämistä. Pyrimme estämään tällaisen käyttäytymisen, ja kun tulemme tietoisiksi sellaisesta, ryhdymme toimiin. Tällä sivulla on tietoa siitä, miten taistelemme tällaista väärinkäyttöä vastaan ja miten voit ryhtyä välittömiin toimiin, jos näin tapahtuu sinulle.
Metan työ seksuaalisella sisällöllä kiristämistä vastaan
Jos joku yrittää käyttää henkilökohtaista intiimiä kuvaa uhkauksena saada sinut tekemään jotain, mitä et halua tehdä, kuten lähettämään rahaa tai lisää kuvia tai olemaan sukupuoliyhteydessä, kyseessä on rikos, jota kutsutaan seksuaalisella sisällöllä kiristämiseksi. Olemme kehittäneet suojatoimia ja teknologiaa, jotka auttavat estämään ja torjumaan tällaista väärinkäyttöä ja estämään kyseisenlaisia rikollisia aiheuttamasta vahinkoa.
Käytäntöjemme ja sääntöjemme toimeenpano
Meillä on tiukat säännöt, jotka kieltävät henkilöitä hyväksikäyttävän sisällön tai käyttäytymisen. Tämä sisältää intiimien kuvien jakamisen tai niiden jakamisella uhkaamisen. Kannustamme kaikkia ilmiantamaan näkemänsä sisällön, jonka he uskovat rikkovan sääntöjämme. Meillä on erityinen ilmiantovaihtoehto, jota voit käyttää, jos joku jakaa yksityisiä kuvia. Kun saamme tietoomme tällaisen sisällön, pyrimme ryhtymään toimiin.
Meillä on erikoistuneita tiimejä, jotka työskentelevät seksuaalisella sisällöllä kiristämisen torjumiseksi. Olemme tunnistaneet tällaiseen käyttäytymiseen liittyviä malleja ja kehittäneet automaattisia järjestelmiä, jotka havaitsevat ja poistavat kyseiset tilit laajassa mittakaavassa. Meillä on myös erityisiä tiimejä, jotka tutkivat ja poistavat kyseisenlaiset rikolliset ja ilmiantavat heidät tarvittaessa viranomaisille, kuten lainvalvontaviranomaisille ja National Center for Missing and Exploited Children- eli NCMEC-järjestölle. Teemme yhteistyötä NCMEC:n ja International Justice Missionin kaltaisten kumppaneiden kanssa auttaaksemme lainvalvontaviranomaisia ympäri maailmaa tunnistamaan ja tutkimaan tällaisia tapauksia ja reagoimaan niihin.
Ei-toivottujen yhteydenottojen estäminen
Pyrimme suojelemaan käyttäjiä seksuaalisella sisällöllä kiristämiseltä estämällä ei-toivottuja yhteydenottoja erityisesti aikuisten ja nuorten välillä. Teemme tämän monin eri tavoin:
- Määritämme automaattisesti alle 16-vuotiaiden ja tietyissä maissa alle 18-vuotiaiden nuorten tilit yksityisiksi, kun he liittyvät Instagramiin. Oletusarvoisesti emme myöskään salli henkilöiden, joita nuoret eivät seuraa, merkitä tai mainita nuoria tai sisällyttää näiden sisältöä kelojen remiksauksiin tai oppaisiin. Nämä ovat joitakin parhaista tavoista estää nuoria kuulemasta aikuisilta, joita he eivät tunne tai joista he eivät halua kuulla. Sekä nuorten että aikuisten saatavilla olevilla yksityisillä tileillä estetään myös muita käyttäjiä näkemästä kaveri- ja seurantalistoja, joita käyttäjät voivat käyttää vipukeinona yrittäessään kiristää muita seksuaalisella sisällöllä.
- Estämme yli 18-vuotiaita aikuisia aloittamasta yksityisiä keskusteluja sellaisten nuorten kanssa, joihin heillä ei ole yhteyttä Instagramissa tai Messengerissä.
- Sallimme käyttäjien lähettää vain tekstiä sisältäviä viestejä henkilöille, jotka eivät seuraa heitä tai joihin heillä ei ole yhteyttä. Käyttäjät eivät voi lähettää kuvia, videoita tai äänimuistiinpanoja viestipyynnöissä ennen kuin vastaanottaja hyväksyy keskustelupyynnön. (Päivitetty uusimpien käytäntöjemme mukaiseksi 25. marraskuuta klo 14.30 PT-aikaa.)
- Olemme myös ottaneet käyttöön tiukemmat viestien oletusasetukset alle 16-vuotiaille (joissakin maissa alle 18-vuotiaille) nuorille. Näin ollen kukaan, jota nuoret eivät seuraa tai johon he eivät ole muodostaneet yhteyttä Instagramissa ja Messengerissä, ei voi lähettää viestejä nuorille tai lisätä heitä ryhmäkeskusteluihin. Tämä on suunniteltu auttamaan nuoria tuntemaan olonsa entistä varmemmaksi siitä, että he eivät kuule yksityisviesteissään henkilöistä, joita he eivät tunne.
- Käytämme teknologiaa tunnistaaksemme ja estääksemme mahdollisesti epäilyttäviä aikuisia löytämästä, seuraamasta ja olemasta vuorovaikutuksessa nuorten tilien kanssa, emmekä suosittele nuorten tilejä kyseisenlaisille aikuisille.
Käyttäjien kouluttaminen
Koulutamme nuoria, kun he ovat vuorovaikutuksessa tiettyjen aikuisten kanssa.
- Ilmoitamme nuorille, kun mahdollisesti epäilyttävä tili on yrittänyt seurata heitä, ja kehotamme nuoria käyttäjiä olemaan varovaisempia.
- Meillä on ennakoivia kehotteita eli turvallisuusilmoituksia, jotka ilmoittavat nuorille, kun mahdollisesti epäilyttävää käyttäytymistä osoittanut aikuinen on vuorovaikutuksessa heidän kanssaan viestien välityksellä. Jos aikuinen esimerkiksi lähettää suuren määrän kaveripyyntöjä alle 18-vuotiaille, ilmoitamme siitä vastaanottajille näiden viesteissä ja annamme heille mahdollisuuden estää, ilmiantaa tai rajoittaa aikuisen.
Asiantuntijakumppanuudet
Olemme sitoutuneet työskentelemään asiantuntijakumppaneiden kanssa seksuaalisella sisällöllä kiristämisen torjumiseksi ympäri maailmaa, ja olemme omistautuneet tälle työlle jo monien vuosien ajan.
- Työskentelimme Thornin kanssa Stop Sextortionin julkaisemiseksi vuonna 2017 ja teimme yhteistyötä heidän kanssaan mukauttaaksemme kyseiset resurssit turvallisuuskeskukseemme, ja käänsimme ne yli 60 muulle kielelle. Teimme uudelleen yhteistyötä heidän NoFiltr-brändinsä kanssa laatiaksemme koulutusmateriaaleja. Nämä resurssit on suunniteltu vähentämään intiimeihin kuviin liittyvää häpeää ja leimautumista sekä antamaan nuorille mahdollisuuden hakea apua ja ottaa tilanne takaisin hallintaan, jos he ovat jakaneet intiimejä kuvia tai kokevat seksuaalisella sisällöllä kiristämistä.
- Meta on myös Tech Coalitionin hallinnoiman Lantern-ohjelman perustajajäsen. Ohjelman avulla teknologiayritykset voivat jakaa signaaleja tileistä ja käyttäytymismalleista, jotka rikkovat yritysten lasten turvallisuutta koskevia käytäntöjä. Toimitimme Tech Coalitionille ohjelman takana olevan teknisen infrastruktuurin ja jatkamme sen ylläpitoa. Osallistuvat yritykset voivat käyttää näitä tietoja suorittaakseen tutkimuksia omilla alustoillaan ja ryhtyäkseen toimiin. Tämä on erittäin tärkeää, koska tiedämme, että ahdistelijat eivät rajoita toimintaansa yhteen alustaan, joten meidän on tehtävä yhteistyötä tämän ratkaisemiseksi.
- Meta jatkaa StopNCII.org:n tukemista tämän maailmanlaajuisen kumppaniverkoston laajentamisessa. Maailmanlaajuiseen verkostoon kuuluu yli sata uhrien puolestapuhujaa ja voittoa tavoittelematonta järjestöä, jotka järjestävät ehkäisykampanjoita ja tarjoavat tukea seksuaalisella sisällöllä kiristämisen ja intiimien kuvien väärinkäytön uhreille.
Työkalut ja resurssit
Instagram ja Facebook ovat NCMEC:n Take It Down -alustan perustajajäseniä. Alusta estää ennakoivasti nuorten intiimien kuvien, mukaan lukien tekoälyn luoman sisällön, leviämistä verkossa. Annoimme NCMEC:lle taloudellista tukea Take It Downin kehittämiseen luomamme StopNCII.org-alustan menestyksen pohjalta. Kyseinen alusta auttaa aikuisia pysäyttämään intiimien kuviensa leviämisen verkossa. Olemme tuoneet sekä Take It Downin että StopNCII:n helposti saataville sovelluksissamme, kun käyttäjät ilmiantavat mahdollisesti sääntöjä rikkovaa sisältöä.
Olemme myös kehittäneet tapoja auttaa käyttäjiä hallitsemaan omaa kokemustaan. Käyttäjät voivat esimerkiksi valita, kuka voi lähettää heille viestejä, ja estää kaikki, joista he eivät halua kuulla. Kannustamme käyttäjiä myös ilmiantamaan sisällön, jonka he uskovat rikkovan sääntöjämme, ja kehotamme nuoria ilmiantamaan asianmukaisina hetkinä eli esimerkiksi silloin, kun he estävät jonkun.
Olemme kehittäneet yli 30 työkalua ja ominaisuutta, jotka auttavat tukemaan nuorten ja perheenjäsenten turvallisuutta sovelluksissamme. Näihin lukeutuvat vanhemmille ja huoltajille kehitetyt valvontatyökalut sekä seksuaalisella sisällöllä kiristämistä koskevat erikoiskoulutus ja resurssit. Jokainen, joka etsii tukea ja tietoa seksuaalisella sisällöllä kiristämiseen liittyen, voi tutustua koulutus- ja tietoisuusresursseihimme, esimerkiksi Stop Sextortion -resursseihin, jotka on kehitetty Thornin kanssa.
Loppu seksuaalisella sisällöllä kiristämiselle
Seksuaalisella sisällöllä kiristämisen vastaiset resurssit auttavat tukea ja tietoa etsiviä. Ne tarjoavat välittömiä toimia, joihin voit ryhtyä, jos sinä itse tai kaverisi kokee sellaista. Lisäksi ne sisältävät asiantuntijavinkkejä nuorille, vanhemmille ja huoltajille.
Uhkien ja luvatta jaettujen intiimien kuvien ilmiantaminen Metalle
Voit ilmiantaa itseäsi kuvaavia alastonkuvia tai seksuaalisia kuvia tai videoita tai uhkauksia jakaa kyseisiä kuvia tai videoita sovelluksissamme tai teknologioissamme estääksesi niiden uudelleenjakamisen. Tiimimme tarkistavat ilmiantoja 24/7 yli 70 kielellä ja ryhtyvät toimiin, jos sisältö tai käyttäytyminen on sääntöjen vastaista. Lue ohjeet ilmiantamiseen alla olevista linkeistä:
Itseään esittävän alastonkuvan tai -videon tai seksuaalisen kuvan tai videon jakamisen estäminen verkossa
Jos sinulla on alastonkuva tai seksuaalinen kuva tai video itsestäsi, saatavilla on työkaluja, joiden avulla voit estää sen jakamisen tai uudelleenjakamisen verkossa:
- Jos olet kuvassasi tai videossasi yli 18-vuotias, käytä StopNCII.org-sivustoa.
- Jos olet kuvassasi tai videossasi alle 18-vuotias, käytä TakeItDown.NCMEC.org-sivustoa.
Toimintaperiaate
StopNCII.org – yli 18-vuotiaat
Jos sinulla on intiimi kuva tai video, joka on otettu, kun olit yli 18-vuotias, ja olet huolissasi siitä, että se voidaan jakaa tai jakaa uudelleen verkossa, voit ryhtyä toimiin osoitteessa StopNCII.org sen leviämisen estämiseksi.
Työkalu käyttää hajautustekniikkaa, joka määrittää kuvalle yksilöllisen hajautusarvon eli numeerisen koodin ja luo näin turvallisen digitaalisen sormenjäljen. StopNCII.orgiin osallistuvat teknologiayritykset saavat hajautusarvon ja voivat käyttää sitä havaitakseen, onko joku jakanut tai yrittääkö joku jakaa kyseisiä kuvia niiden omilla alustoilla.
Kuvien leviämisen estäminen verkossa
Pyrimme kehittämään toimintaamme alalla käyttäjien suojaamiseksi jakamiemme signaalien osalta uusilla toimilla, joilla autamme poistamaan ilman suostumusta julkaistuja intiimejä kuvia ja videoita internetistä. Aikuiset voivat jo jakaa intiimien kuviensa hajautusarvoja StopNCII.org:lle estääkseen niiden jakamisen verkossa ilman heidän suostumustaan. Alamme pian jakaa suojatusti Meta-sovelluksista poistamiemme intiimien kuvien ja videoiden hajautusarvoja muiden yritysten kanssa StopNCII.org-palvelun kautta, jotta voimme estää kyseisten kuvien uudelleenjakamisen eri alustoilla verkossa, vaikka joku ei olisi aiemmin ladannut hajautettua kuvaa itse StopNCII.org-palveluun.
Huomautus: on tärkeää, että aikuiset jatkavat tapauksen luomista osoitteessa StopNCII.org, sillä otamme tämän uuden eri alojen välisen toimintatavan käyttöön vaiheittain.
Take It Down – alle 18-vuotiaat
Haluamme myös, että nuorilla olisi turvallisia ja positiivisia verkkokokemuksia. Olemme kehittäneet jo kymmenen vuotta työkaluja ja käytäntöjä, jotka on suunniteltu heidän suojaamiseksi. Olemme Tech Coalitionin Lantern-ohjelman perustajajäsen. Ohjelman avulla teknologiayritykset voivat jakaa signaaleja hyväksikäyttävistä tileistä ja käyttäytymismalleista, kuten seksuaalisella sisällöllä kiristämisestä.
Jos sinulla on itseäsi esittävä alastonkuva tai -video tai seksuaalinen kuva tai video, joka on otettu, kun olit alle 18-vuotias, ja olet huolissasi siitä, että se voidaan jakaa tai jakaa uudelleen verkossa, voit ryhtyä toimiin osoitteessa TakeItDown.NCMEC.org sen leviämisen estämiseksi.
StopNCII.orgin tapaan Take It Down määrittää yksilöllisen hajautusarvon eli numeerisen koodin kuvallesi tai videollesi yksityisesti ilman, että kuva tai video koskaan poistuu laitteestasi tai kukaan voi katsella sitä. Kun lähetät hajautusarvon NCMEC:lle, kaltaisemme yritykset voivat käyttää kyseisiä hajautusarvoja estääkseen sisällön julkaisemisen sovelluksissamme tulevaisuudessa.
Tämä vaihtoehto on tarkoitettu
- alle 18-vuotiaille nuorille, jotka ovat huolissaan siitä, että heidän alastonkuvansa tai -videonsa on julkaistu tai julkaistaan verkossa
- nuoren puolesta toimiville vanhemmille tai luotetuille aikuisille
- aikuisille, jotka ovat huolissaan heistä alle 18-vuotiaana otetuista alastonkuvista.
