펜실베이니아의 한 명문 사립학교에서 인공지능을 사용해 반 친구들의 가짜 누드 사진을 만든 10대 2명이 수십 명의 피해자들이 그 이미지가 자신에게 미치는 충격적인 영향을 설명한 후 수요일 보호관찰을 받았습니다.
당시 소년들의 나이는 14세였습니다. 그들은 이번 달에 18세 미만 소녀 최소 59명과 지금까지 신원이 확인되지 않은 다른 피해자들의 모습이 포함된 약 350장의 이미지를 촬영했다고 인정했습니다.
당국은 소년들이 2023년과 2024년에 학교 사진, 앨범, 인스타그램 채팅, 틱톡, 페이스타임에서 소녀들의 이미지를 가져와 누드나 성행위를 보여주는 성인의 이미지로 변형했다고 말했습니다.
100명 이상의 Lancaster Country Day School 학생과 학부모가 법정에 나와 피해자들이 포르노 사진에서 자신의 얼굴을 식별해야 하는 상황이 미치는 영향에 대해 형사에게 설명하는 것을 들었습니다. 펜실베니아의 청소년 소송 절차는 일반적으로 닫혀 있지만 판사가 이를 열어 지역 사회가 보고 들을 수 있는 드문 기회를 제공했습니다.
그들은 그 결과를 설명했습니다. 불안 발작, 자신감 상실, 학업에 집중하지 못함, 이미지가 언젠가 예상치 못한 방식으로 나타날 것이라는 두려움.
한 피해자는 레너드 브라운 판사에게 “그들이 왜 이런 짓을 했는지 결코 이해할 수 없다”며 “내 결백을 무너뜨렸다”고 말했다.
한 젊은 여성은 브라운에게 “이러한 감정을 계속해서 언급하는 것은 참으로 참기 힘든 일”이라고 말했습니다. 또 다른 한 명은 피고인 중 한 명이 “거짓 공감”을 표현했다고 비난하면서 눈물을 삼켰고, 소녀들은 그에게 자신의 고통을 털어놓았지만, 그가 이미지 제작 및 유포에 참여했다는 사실이 알려지기 전이었습니다. 또 다른 친구는 친구들이 모두 전학을 했고, “동네를 돌아다닐 때도 트라우마 치료가 필요했다”고 말했다.
두 청년은 변호사와 부모 옆에서 소아성애자, ‘병들고 뒤틀린’ 변태라고 불리는 등 항상 냉담한 태도를 유지했습니다.
그들은 판사에게 논평할 기회를 여러 번 거부했고 판사는 소년들 중 누구도 책임을 지거나 사과하는 것을 듣지 못했다고 말했습니다.
피고인 중 한 사람의 변호인인 하이디 프리즈(Heidi Freese)는 “이것은 관련된 모든 사람에게 불행하고 길고 힘든 과정이었습니다.”라고 말했습니다. “이 사건의 혐의에는 매우 흥미로운 근본적인 법적 문제가 있었으며, 다른 사건에서는 다른 날짜에 결정될 것입니다.”
브라운은 각 사람에게 60시간의 사회봉사를 수행하고 피해자들과 접촉하지 않으며 불특정 금액의 배상금을 지불하라고 명령했습니다. 브라운은 추가적인 법적 문제가 없다면 2년 후에 사건이 기각될 수 있다고 말했다.
브라운은 형을 선고하면서 만약 그들이 성인이라면 주 교도소에 보내질 가능성이 높다고 말했습니다. 그는 “이번 기회를 빌어 스스로를 성찰해야 한다”고 말했다.
펜실베이니아 사건의 해결은 테네시주의 10대 3명이 Elon Musk의 xAI를 고소하면서 회사의 Grok 도구가 그들의 실제 사진을 노골적으로 성적인 이미지로 변형시켰다고 주장한 지 며칠 만에 나왔습니다. 고등학생들은 미성년자로서 유사하게 피해를 입은 수천 명의 사람들이 소송에서 주장하는 바를 대변하기 위해 집단 소송 지위를 구하고 있습니다.
2024년 펜실베니아 스캔들은 학생 시위, 학교 지도자의 퇴사, 두 십대에 대한 형사 고발을 촉발시켰습니다.
피해자 중 최소 10명을 변호하는 필라델피아 변호사 나딤 베자르(Nadeem Bezar)는 화요일 “학교와 이러한 딥페이크의 생성 및 유포에 책임이 있다고 믿는 다른 사람을 상대로” 소송을 제기하기를 희망한다고 말했습니다.
그는 아직 사진을 본 적이 없지만 학교가 정확히 언제, 어디서, 어떻게 알았는지, 아이들이 이러한 이미지를 어떻게 생성했는지, 어떤 플랫폼을 사용하여 이미지를 생성했는지, 어떻게 배포했는지 법적 절차를 통해 결정될 것이라고 말했습니다.
AI가 접근 가능하고 강력해짐에 따라 전국의 국회의원들은 딥페이크를 금지하는 법안을 통과시켰습니다.
도널드 트럼프 대통령은 지난해 동의 없이 딥페이크를 포함한 은밀한 이미지를 게시하는 것을 불법으로 규정하고 웹사이트와 소셜 미디어 플랫폼이 피해자에게 통보한 후 48시간 이내에 그러한 자료를 삭제하도록 요구하는 테이크 잇 다운법(Take it Down Act)에 서명했습니다.
소비자 옹호 단체인 퍼블릭 시티즌(Public Citizen)에 따르면 현재 46개 주에 딥페이크에 관한 법률이 있으며, 나머지 4개 주(알래스카, 미주리, 뉴멕시코, 오하이오)에는 법률이 도입되었습니다.
___
뉴저지 주 해든필드의 AP 통신 작가 Geoff Mulvihill과 뉴햄프셔 주 콩코드의 Holly Ramer가 기고했습니다.
