어린이 보호 문제에는 전 세계적 차원의 포괄적 대응이 요구됩니다. 그리고 업계와 사법당국, 정부, 시민 사회, 가정 단위의 지속적인 행동이 요구됩니다. 저희는 온라인상에서 아동 대상 성적 학대의 뿌리를 뽑는 일에 전념하는 Technology Coalition - Fighting Child Sexual Abuse와 같은 단체와 협업을 이어나가고 있습니다.

저희는 전 세계의 선도적인 인터넷 안전 단체들과도 손을 잡았습니다. 이러한 협업을 통해 업계 모범 사례를 개발하고, 온라인상의 아동 학대 행태를 퇴출하기 위한 기술을 개발하여 공유하고, 피해자 서비스를 지원하는 등 많은 활동을 펼치고 있습니다.

지금까지 진행한 협업 활동 중 몇 가지를 소개합니다.

• 사진 및 동영상 매칭 기술 오픈 소스로 공개

2019년에 저희는 두 가지 오픈 소스 사진 및 동영상 매칭 기술을 개발했습니다. PDQ와 TMK+PDQF라고 하는 이러한 기술은 동일하거나 거의 동일한 사진과 동영상을 감지합니다. 이러한 기술은 저희가 유해한 콘텐츠를 감지하는 데 사용하는 도구 모음에 포함되어 있습니다.

이 오픈 소스 도구 덕분에 업계 파트너와 개발자들, 비영리 단체에서 악성 콘텐츠를 식별할 수 있습니다. 여러 유해한 콘텐츠 유형의 '해시'(디지털 지문)를 공유할 수도 있습니다. 이 도구 덕분에 다양한 해시 공유 시스템이 서로 소통할 수 있기 때문에 훨씬 더 효과적인 시스템을 만들 수 있습니다.

• Aselo: Bringing Modern Technology to Child Helplines

저희는 2020년부터 Tech Matters의 Aselo 프로젝트를 지원하고 있습니다. Aselo는 전 세계 어린이 상담 기관을 지원하는 기술을 개발하고 위기 상황에 놓인 어린이들이 그러한 기술을 쉽게 이용할 수 있도록 합니다. Tech Matters는 위기 대응 상담 기관들의 통신 업무를 통합하는 오픈 소스 문의 센터 플랫폼을 만들었습니다. 이 도구 덕분에 많은 사람, 특히 어린이들은 음성, SMS, 웹 채팅, WhatsApp, Messenger 등 훨씬 더 다양한 접근 지점을 통해 필요한 도움을 받을 수 있게 될 것입니다.

• 어린이 안전 해커톤 주최

저희는 비영리 단체 파트너들과 함께 2016년부터 정기적으로 어린이 안전 해커톤을 주최하고 있습니다. 이 이벤트를 통해 업계 전반의 엔지니어, 데이터 과학자, 디자이너들을 한자리에 모으고 있습니다. 참가자들은 어린이들이 안전하게 이용할 수 있는 인터넷 환경을 만드는 데 중점을 둔 프로젝트를 코드화하고 관련 프로토타입을 만들게 됩니다.

• Report Remove 시작

2020년에 저희는 NSPCC(National Society for the Prevention of Cruelty to Children) 및 영국 정부와 협업하여 IWF(Internet Watch Foundation)를 시범 운영하였습니다. 이 도구 덕분에 미성년자들이 스스로 만든 노골적인 성 묘사가 포함된 이미지를 신고할 수 있습니다.

• 앰버 경고 확대

앰버 경고는 Facebook의 경우 2015년, Instagram의 경우 2022년에 도입되었습니다. 앰버 경고는 가정과 당국이 실종 아동을 무사히 찾는 데 도움이 됩니다. 이 기능은 20개가 넘는 국가에서 적용되고 있습니다. 현지 사법당국이 앰버 경고를 발령한 지정 수색 지역에 있는 사람들은 이 경고를 확인할 수 있습니다. 경고에는 실종 아동의 사진, 설명, 유괴 장소, 기타 관련 정보가 포함됩니다.

사람들은 경고를 친구들과 공유하여 실종 사건을 알리고 돕고자 하는 마음을 모을 수 있습니다. 실종 사건에서 특히 중요한 첫 몇 시간 동안 더 많은 사람이 실종 아동을 찾아보도록 하면 실제로 그 아동을 찾을 확률이 높아집니다. 그래서 가장 큰 도움을 줄 수 있는 사람들에게 이러한 경고를 보여주는 것을 목표로 삼았습니다.

15년 전, 온라인상의 아동 성적 학대 및 아동 학대 행태를 퇴출하기 위해 업계 리더들이 모여 Tech Coalition을 결성했습니다.

2020년에는 Facebook이 Google, Microsoft를 포함한 15개의 다른 회원 기업들과 함께 온라인상의 아동을 대상으로 한 성적 학대에 맞서 싸우기 위한 프로젝트인 Project Protect: A plan to combat online child sexual abuse를 시작했습니다. 이 프로젝트를 통해 Tech Coalition은 온라인에서 아이들을 보호하고 앞으로 나아갈 길을 찾기 위한 활동 범위와 영향을 확장하겠다는 약속을 새롭게 하고 투자도 계획했습니다. Project Protect는 기술 혁신, 집단 행동, 독립적 리서치, 정보 및 지식 공유, 투명성 및 책임이라는 5가지 핵심 영역에 집중합니다.

Thorn은 아동을 대상으로 한 성적 학대를 막기 위한 기술을 개발하는 비영리 단체입니다.

Meta는 Thorn과 함께 stopsextortion.com을 개발했습니다. 이러한 영향력이 전달되어 전 세계인이 이용할 수 있도록 번역본을 안전 센터에 포함했습니다. 또한, Thorn의 NoFiltr 청소년 프로그램으로 성적 수치심을 느낄 만한 이미지 공유로 인한 수치심과 선입견을 극복하도록 돕는 교육 자료를 작성하였습니다. 이러한 협업은 청소년들이 부정적인 교류를 경험했을 때 주변에 도움을 요청하고 주도권을 되찾을 수 있도록 격려하는 목적으로 설계되었습니다.

NCMEC(National Center for Missing and Exploited Children)는 어린이들이 계속해서 안전하게 이용할 수 있는 인터넷 환경을 만든다는 Meta의 사명을 다하는 데 큰 역할을 하고 있는 파트너입니다. 저희는 2019년부터 NCMEC(National Center for Missing and Exploited Children)와 함께 이 단체의 사례 관리 도구를 업데이트하고 있습니다. 이는 국제 사법당국이 신고 사례를 접수, 분류, 관리하고 정리할 수 있도록 돕기 위한 조치입니다.

지난 수 년간 Meta와 함께 협업한 단체에서 전하는 메시지입니다.

"NCMEC는 온라인상의 아동을 대상으로 한 성적 학대가 포함된 자료를 줄이고 사례 발생 시 저희 CyberTipline에 신고가 되도록 하기 위해 2006년부터 Facebook과 협업하고 있어요. 그동안 Facebook은 모든 사람이 안전하게 이용할 수 있는 인터넷 환경을 만들기 위한 싸움에서 주도적 리더가 될 의지는 물론 통솔력도 꾸준히 증명했습니다. 삭제된 콘텐츠의 양이 놀라울 수 있지만 이는 아동 대상 성적 학대가 다각적 글로벌 솔루션을 필요로 하는 전 세계적 문제임을 상기시켜 줍니다."


미셸 C. 드론(Michelle C. DeLaune), NCMEC 최고 운영 책임자