그 숫자는 엄청나지만 전문가들은 우리가 보고 있는 것은 시작에 불과하다고 말합니다. AI가 생성한 아동 성적 학대 자료(CSAM)가 기록적인 수준에 도달함에 따라 연구자들은 이 기술이 더 유해한 콘텐츠를 생산할 뿐만 아니라 아동을 대상으로 하는 방식을 근본적으로 바꾸고 있다고 경고합니다. 생존자가 어떻게 다시 피해자가 되는가; 연구원들이 얼마나 압도당하는지.
연구원들은 이미 인터넷에서 CSAM을 제거하느라 바빴습니다. 그러나 생성 AI를 사용하면 이러한 문제가 더욱 악화됩니다. 온라인 아동 성적 학대 이미지 근절을 위한 유럽 최대 핫라인인 인터넷 감시 재단(IWF)은 2025년에 AI로 생성된 아동 성적 학대 동영상이 260배 증가했다고 기록했습니다. 전년도의 13개 동영상에서 3,443개로 늘어났습니다. 이 주제를 수년간 연구해 온 연구자들은 폭발이 놀라운 일이 아니라고 말합니다. 그러나 이는 경고입니다.
온라인 아동 성 착취에 맞서기 위한 기술을 개발하는 비영리 단체인 Thorn의 연구 및 전략적 통찰력 담당 부사장인 Melissa Stroebel은 “우리가 보는 모든 숫자는 빙산의 일각입니다.”라고 말했습니다. “선제적으로 탐지되거나 보고된 내용에 관한 것입니다.”
이러한 증가는 생성 AI가 더욱 빠르고 저렴해지고 악의적인 행위자에게 더 쉽게 접근할 수 있게 된 직접적인 결과입니다. Thorn은 이러한 도구가 어린이를 대상으로 하는 무기로 사용되는 세 가지 뚜렷한 방식을 확인했습니다.
첫 번째는 역사적 학대의 생존자들을 다시 피해자로 만드는 것입니다. 2010년에 학대를 당했고 그 사진이 10년 넘게 온라인에 유포된 소년은 이제 완전히 새로운 피해에 직면해 있습니다. 범죄자들은 AI를 사용하여 기존 이미지를 가져와 개인화하고, 기록된 학대 장면에 자신을 삽입하여 새로운 자료를 생성합니다.
Stroebel은 Fortune과의 인터뷰에서 “크리스마스 사진을 놓친 할머니에게 포토샵을 할 수 있는 것과 마찬가지로 나쁜 배우들도 신원이 확인된 어린이의 장면과 기록에 포토샵을 할 수 있습니다”라고 말했습니다. 이러한 과정은 학대를 극복하기 위해 수년을 보냈을 생존자들에게 새로운 피해를 야기합니다.
두 번째는 순진한 이미지를 무기로 사용하는 것이다. 학교 축구팀 웹사이트에 올라온 어린이 사진은 이제 잠재적인 학대 자료가 되었습니다. 널리 사용되는 인공 지능 도구를 사용하면 범죄자는 완전히 양성적인 이미지를 몇 분 만에 성적으로 학대하는 자료로 바꿀 수 있습니다. Thorn은 또한 청소년이 자신이 초래하는 피해의 심각성을 완전히 이해하지 못한 채 동급생에 대한 모욕적인 이미지를 만드는 P2P 사례도 기록하고 있습니다.
세 번째이자 가장 체계적인 영향은 이미 압도된 보고 채널에 가해지는 압력입니다. 국립실종착취아동센터(National Center for Missing and Exploited Children)는 매년 수천만 건의 CSAM 신고를 접수합니다. 이제 AI가 새로운 소재를 생성할 수 있는 속도는 새로운 긴급성을 부담하고 생성하는 극적인 결과를 낳습니다. 새로운 이미지가 도착하면 연구자들은 그것이 현재 위험에 처한 어린이를 나타내는지 아니면 AI가 생성한 이미지인지 확인해야 합니다.
Stroebel은 “이러한 사례는 분류하고 대응하는 데 도움이 되는 매우 중요한 정보입니다.”라고 말했습니다. AI로 생성된 콘텐츠는 그러한 결정을 훨씬 더 어렵게 만들지만 당국은 실시간으로 촬영한 이미지와 AI가 생성한 이미지의 사례를 동일한 방식으로 보고하고 처리한다고 덧붙였습니다.
기술은 또한 가장 자주 반복되는 어린이 안전 지침 중 일부를 위험할 정도로 구식으로 만들었습니다. 수년 동안 어린이들은 착취에 대한 기본적인 보호 조치로 이미지를 온라인으로 공유하지 말라고 경고해 왔습니다. 그 조언은 더 이상 유효하지 않습니다. Thorn의 자체 연구에 따르면 청소년 17명 중 1명은 개인적으로 딥페이크 이미지 남용을 경험했으며, 8명 중 1명은 공격을 받은 사람을 알고 있는 것으로 나타났습니다. 성착취 피해자들은 이제 자신들이 촬영한 적이 없는 이미지, 자신과 똑같은 이미지를 전송받고 있습니다.
Stroebel은 “더 이상 어린이가 악용하기 위해 이미지를 공유할 필요가 없습니다.”라고 말했습니다.
탐지 측면에서 알려진 남용 파일의 지문 역할을 하는 기존 해싱 기술은 합성으로 생성된 각 이미지가 기술적으로 새롭기 때문에 AI 생성 콘텐츠를 식별할 수 없습니다. 예를 들어 자유의 여신상처럼 잘 알려진 사진을 찍으세요. 저 조각상 사진에는 지문이 찍혀 있습니다. 이제 확대하고, 좀 더 확대하고, 다시 확대하여 픽셀의 음영을 0.1% 변경한다고 가정해 보겠습니다. 그 변화는 인간의 눈에는 감지되지 않을 가능성이 높습니다. 그러나 해당 사진의 지문은 이제 완전히 새로운 것입니다. 즉, 해싱 기술이 해당 사진을 해당 픽셀만큼 떨어져 있는 동일한 사진으로 인식하지 못한다는 의미입니다.
이전에는 기존 해싱 기술을 사용하여 CSAM으로 알려진 사진과 1픽셀 차이가 나면 기술이 이를 감지하지 못했습니다. 그러나 이미지를 알려진 파일과 일치시키는 것이 아니라 이미지에 포함된 내용을 평가하는 분류 기술은 이제 완전히 놓칠 수 있는 콘텐츠를 탐지하는 데 필수적입니다.
부모들에게 Stroebel의 메시지는 긴급하고 명확합니다. 대화는 기다릴 수 없으며 기존 경고를 넘어서야 합니다. 아이가 앞으로 나오면 첫 번째 반응은 회의적이어서는 안 됩니다. “우리의 임무는 ‘당신은 안전한가요? 그리고 당신이 다음 단계로 나아갈 수 있도록 어떻게 도와줄까요?’입니다.”
