NCII 파일럿 연혁
Meta에서는 그 누구도 성적 수치심을 느낄 만한 자신의 이미지가 Meta 테크놀로지 안팎에서 공유될 수 있다는 두려움을 갖지 않도록 지원하고자 합니다. Meta는 합의되지 않았으며 당사자가 성적 수치심을 느낄 만한 이미지(NCII)의 악용을 방지하고 Meta 테크놀로지에서 이러한 콘텐츠를 퇴출하기 위해 NCII 파일럿을 출범시켰습니다. NCII 파일럿은 더 이상 운영되지 않습니다.
연혁
2018년에 여러 국제 NGO들과의 협력을 바탕으로 출범한 NCII 파일럿은 잠재적인 피해자들이 성적 수치심을 느낄 만한 자신의 이미지가 공유되는 것을 방지하도록 지원했습니다. NCII 파일럿을 통해 사람들이 선제적으로 콘텐츠를 Meta의 훈련받은 팀에 신고하면 담당 팀이 당사자의 허락 없이 공유된 이미지와 동영상을 검토하여 삭제할 수 있었습니다. 세계 각지의 전문 파트너들이 현지화된 지원 서비스와 리소스를 제공했습니다.
StopNCII.org의 출범
사용자가 손쉽게 이미지 기반 성범죄를 막을 수 있도록 지원한다는 NCII 파일럿의 목표는 지금도 이 프로그램이 처음 출범했을 때와 마찬가지로 굳건합니다. 2021년에는 NCII 파일럿의 활동들이 당사자가 성적 수치심을 느낄 만한 이미지의 공유 또는 재공유를 방지하도록 고안된 기술을 사용하는 무료 플랫폼인 StopNCII.org로 통합되었습니다. StopNCII.org는 누구나 피해 없이 기술을 활용할 수 있어야 한다고 믿는 국제적인 자선 단체인 SWGfL의 Revenge Porn Helpline에서 운영합니다.
지금도 누구나 Meta 테크놀로지에서 악성 콘텐츠를 신고하면 Meta는 커뮤니티 규정을 위반하는 신고된 콘텐츠를 삭제합니다. 이에 더해 사진 매칭 기술을 사용하여 Meta 테크놀로지에서 악성 이미지를 공유하려는 추가적인 시도를 차단합니다.
NCII 파일럿 파트너
5개 파트너사가 NCII 파일럿의 출범을 지원했으며, 이후 더 많은 파트너들이 동참했습니다. 현재 전 세계 70여 개 파트너사가 StopNCII.org를 지원하고 있습니다.
NCII 파일럿은 다음과 같은 국제 파트너 단체들의 지원을 받아 출범했습니다.
NCII 파일럿 파트너 추천사
"이 새로운 절차를 통해 이미지를 기반으로 한 성적 학대의 수많은 피해자들이 안심할 수 있으며 Meta 플랫폼 내의 유해한 콘텐츠의 양이 크게 줄어들 것입니다. 이러한 조치로 다른 소셜 미디어 업체가 비슷한 조치를 취하도록 유도하고 학대를 적대시하는 안전한 온라인 환경을 함께 만들어갈 수 있길 바랍니다."
– 영국 The Revenge Porn Helpline
"Center for Social Research는 인도의 여러 대학 캠퍼스에서 #SocialSurfing 워크샵을 통해 안전한 커뮤니티를 구축하기 위해 Facebook과 파트너십을 맺고 있습니다. 새로운 NCII 도구는 특히 성적 수치심을 느낄 만한 사진이 동의 없이 공유되는 경우가 많은 여성들에게 매우 유용할 것이라 생각합니다."
– 인도 Center for Social Research
"Safety Net Technology 팀이 가정폭력 희생자와 이들을 돕는 활동가에게 매일 듣는 이야기는 가해자가 공포심을 주고 수치심을 유발하기 위해 피해자의 사적인 사진을 퍼뜨렸다는 이야기입니다. 가정폭력과 스토킹 가해자를 저지하고 소셜 미디어를 폭력 생존자를 비롯한 모든 사람에게 안전한 공간으로 만드는 데 앞장서는 Facebook의 노력에 박수를 보냅니다. NNEDV가 일선에서 활동하는 폭력 피해자 보호 활동가를 대상으로 설문조사를 진행한 결과에 따르면 지역 단체의 절반 이상(55%)이 지원하고 있는 가정폭력 피해자의 사례는 가해자가 큰 피해를 줄 목적으로 피해자의 사적인 이미지를 게시한 경우입니다."
– 미국 National Network to End Domestic Violence
"이 새로운 도구를 통해 Facebook은 온라인 학대에 대한 기술 업계의 대응 기준을 높였습니다. Facebook은 합의되지 않은 포르노 퇴치를 위한 노력에서 리더십과 혁신을 다시 한번 보여주었습니다. 저희는 모든 사용자의 사생활을 보호하고 존엄성과 안전을 지키기 위해 지속적으로 노력하는 Facebook과 파트너가 된 것을 자랑스럽게 생각합니다."
– 미국 Cyber Civil Rights Initiative