소셜 게임 플랫폼 상에서 아동과 대화할 경우 19초 이내에 고위험 그루밍 상황으로 치달을 수 있어
AI가 아동 성학대물 생성에 사용돼
위프로텍트 글로벌 얼라이언스(WeProtect Global Alliance)가 ‘제4차 글로벌 위협 평가 보고서(Global Threat Assessment Report)’를 발표했다.
보고서에 따르면 2019년 이후 아동 성학대물 신고 사례가 87% 증가했으며 전 세계 신고 건수가 3200만 건을 넘어섰다(미국 국립 아동 실종·착취 방지센터(NCMEC) 자료). 이 같은 결과는 급증하는 위협으로부터 전 세계 어린이를 보호하기 위한 다각적 공조와 대응이 시급함을 보여준다.
이 보고서는 2023년 어린이들이 온라인에서 마주하고 있는 위협에 대한 중요한 통찰을 제공한다. 또한 보고서에 따르면 2020년부터 2022년까지 스스로 생성한 7~10세 아동의 성 착취물이 360%나 급증했다(인터넷감시재단(Internet Watch Foundation) 자료).
충격적인 것은 소셜 게임 플랫폼에서 아동과 대화할 경우 19초 이내에 고위험 그루밍 상황으로 이어질 수 있다는 점이다. 평균 그루밍 시간은 45분에 불과했다. 아동과 성인이 쉽게 어울릴 수 있는 소셜 게임 환경과 가상 선물 교환 및 공개 순위 시스템은 이 같은 위험을 크게 증가시키고 있다.
연구에 따르면 금전적 성 착취가 크게 증가했다. 피해 사례는 2021년 139건에서 2022년 1만 건 이상으로 치솟았다. 여기에는 가해자가 어린이를 그루밍하고 조종해 자신의 성적 이미지와 동영상을 공유하도록 한 다음 금전적 이득을 갈취하는 행위가 포함돼 있다. 상당수 갈취범은 온라인에서 어린 소녀로 가장하고 주로 소셜 미디어를 통해 15~17세 소년들에게 접근한다. 이로 인해 어린이들이 스스로 목숨을 끊는 비극적 사례가 잇따라 발생하고 있다.
신기술도 아동이 온라인에서 직면하는 위협을 높이고 있다. 2023년 초부터 가해자가 생성형 인공지능(AI)을 이용해 아동 성학대물을 제작하고 아동을 착취하는 사례가 증가하고 있다. 쏜(Thorn)에 따르면 범죄자 커뮤니티 샘플에서 공유되는 아동 성학대물 가운데 사실적인 컴퓨터 생성 이미지(CGI)로 제작된 콘텐츠는 1% 미만이지만 그 양이 2022년 8월 이후 지속적으로 증가하는 추세다. 지난달 호주에서는 세계 최초로 빅테크 기업에 대해 AI 솔루션이 아동 성학대에 대한 딥페이크 이미지와 동영상을 생성하는 데 사용될 수 없도록 막을 수 있는 조치를 취하라는 규제가 마련됐다.
이동수 한국 방송통신심의위원회(KCSC) 디지털성범죄심의국장은 “기술이 발전하고 사람들이 온라인 공간에 더 많이 접근하게 되면서 아동 성 학대 및 착취물이 국경을 초월해 유포되고 있으며, 개별 규제 노력에 어려움이 가중되고 있다. 어린이들의 온라인 안전을 강화하기 위해 국제 협력을 선도하는 위프로텍트 글로벌 얼라이언스의 노력에 지지를 표한다”며 “또한 온라인 안전을 담당하는 규제 기관이 한자리에 모여 단합된 목소리를 낼 수 있기를 바란다. 이를 통해 글로벌 커뮤니티는 ‘2023 글로벌 위협 평가 보고서’ 내용에 기술된 글로벌 사회적 책임의식을 수용해 온라인 공간에서 어린이들을 보호할 수 있을 것이다. 2008년부터 시작된 방심위의 폭넓은 온라인 콘텐츠 규제 경험이 보다 강화된 온라인 안전 조치를 마련하는 데 기여할 수 있으리라 확신한다. 방심위는 위프로텍트 글로벌 얼라이언스와 함께 어린이를 위해 더 안전한 온라인 공간을 조성하는 데 최선을 다하고자 한다”고 말했다.
이안 드레넌(Iain Drennan) 위프로텍트 글로벌 얼라이언스 전무는 “이번 최신 보고서는 어린이들이 온라인에서 직면하고 있는 위협의 규모를 보여준다. 전 세계에서 온라인을 통해 이뤄지는 아동 성착취와 학대는 즉각적인 관심과 조치를 시급히 요구한다. 새로운 기술력은 기존의 위험을 더욱 악화시키고 있으며, 한국의 상황도 다르지 않다. 어린이의 안전은 타협할 수 없는 것이다. 더 많은 어린이가 피해를 입지 않도록 정부, 온라인 서비스 제공 업체, 자선단체 및 기업이 각자 노력을 강화하는 한편, 서로 협력해 변화를 주도하고 어린이를 보호해야 한다”고 밝혔다.
댓글0