Elon Musk의 플랫폼에 대한 영국의 조사
월요일, 영국의 온라인 안전 규제 기관인 Ofcom은 여성과 어린이를 대상으로 한 성적인 딥페이크의 증가에 대해 플랫폼에 대한 공식 조사를 개시했다고 발표했습니다.
xAI의 Grok은 사용자가 이러한 유형의 이미지를 생성할 가능성을 훨씬 낮추겠다고 지난 주 말에 회사가 부과한 제한에도 불구하고 여전히 여성과 어린이를 대상으로 한 수천 개의 성적인 딥페이크를 제작하고 있는 것으로 보입니다.
“Grok이 합의되지 않은 불법적인 은밀한 이미지와 아동 성적 학대 자료를 생성하고 공유하는 데 사용된다는 보고가 있습니다.
만약에
그러나 조사가 불법 콘텐츠, 특히 아동 성적 학대 자료에 초점을 맞추고 있는 반면, 전문가들은 집행 조치가 검열과 표현의 자유를 둘러싼 지정학적 싸움으로 재구성될 위험이 있다고 경고합니다.
X는 이미 해당 이미지로 인해 말레이시아와 인도네시아에서 일시적으로 차단되었습니다. 그러나 영국의 금지 위협에 대해 머스크는 영국 정부가 “파시스트”라고 비난했으며 장관들은 단순히 “검열에 대한 어떤 변명이라도 원한다”고 주장했습니다.
X는 Fortune의 논평 요청에 즉시 응답하지 않았습니다. xAI는 “레거시 미디어 거짓말”이라는 자동 메시지로 응답했습니다.
Ofcom이 플랫폼을 금지하기로 결정하면 London School of Economics의 정치 커뮤니케이션 전문 부교수인 Nick Anstead는 Fortune과의 인터뷰에서 “언론의 자유에 대한 더 광범위한 대화에 수사적으로 이를 채택하려는 시도”가 있을 것이라고 예상했습니다.
“우리는 이미 이 이야기가 전개되는 것을 보았고, 왜 그런 일이 일어났는지에 대한 실제 내용과 그 계기는 논쟁에서 사라질 것입니다.”라고 그는 말했습니다.
표현의 자유를 위한 투쟁
영국 정치인들은 Ofcom이 플랫폼을 차단하기로 결정하면 기꺼이 지원할 의사가 있음을 밝혔지만, 독립 규제 기관이 내리는 결정과 거리를 두기 위해 노력하기도 했습니다.
영국 기술부 장관 리즈 켄달(Liz Kendall)은 지난 주 온라인 안전법(Online Safety Act)에 “영국 법률 준수를 거부할 경우 영국 서비스에 대한 접근을 차단할 수 있는 권한이 포함되어 있다”고 밝혔으며, 오프컴이 이러한 권한을 사용하기로 결정하면 정부의 전폭적인 지지를 받게 될 것이라고 밝혔다.
Anstead는 “최근 며칠 동안 TV에서 이것이 Ofcom 문제라고 말하는 정부 장관이 있었다는 것은 매우 주목할 만합니다”라고 말했습니다. “이미 이 규제 기관에 넘겨줌으로써 정치 무대에서 약간 제외되었습니다.”
데이비드 래미(David Lammy) 영국 외무장관은 JD 밴스(JD Vance) 미국 부통령도 성적인 AI 딥페이크, 특히 어린이를 대상으로 한 딥페이크가 “완전히 용납될 수 없다”는 점에 동의한다고 밝혔습니다. Lammy는 지난주 워싱턴에서 열린 회의에서 Grok이 Vance와 함께 여성과 어린이의 노골적인 이미지를 만드는 데 사용되는 것에 대한 우려를 제기했으며 Vance가 영국의 입장에 동의했다고 말했습니다.
그러나 합의되지 않은 은밀한 이미지, 아동 성적 학대 자료 등의 콘텐츠를 금지하는 영국의 온라인 안전법은 미국과 영국 사이에서 특히 논쟁거리가 되어 왔습니다. Vance는 작년 2월 뮌헨 보안 회의에서 유럽의 온라인 안전 표준이 정치적 발언을 억제한다고 경고하면서 반복적으로 비판했습니다.
트럼프 행정부는 미국의 관점을 검열하도록 기술 기업에 압력을 가한 혐의로 지난 12월 유럽인 5명의 미국 입국을 금지하는 등 유럽의 검열에 맞서 여러 조치를 취했습니다. 또한 의회 의원들은 EU의 디지털 서비스법(DSA)과 같은 법에 따라 헌법에 따라 보호되는 미국인의 발언을 검열하려는 외국의 노력에 반대하는 결의안을 제출했으며 국무부는 유럽의 일부 미국 대사관에 DSA 측면에 반대하도록 로비를 지시했습니다.
Grok은 계속해서 성적인 딥페이크를 제작합니다.
여성은 특히 나체 또는 합의되지 않은 성적 시나리오를 보여주는 AI 조작 이미지의 표적이 되었으며, 많은 피해자는 X가 불만 사항을 무시하고 콘텐츠를 온라인에 남겼다고 보고했습니다. 연구원들은 Grok을 X에 통합함으로써 이러한 유형의 이미지에 대한 전례 없는 배포 시스템이 만들어졌다고 말합니다. Bloomberg 보고서에 따르면, 분석에 따르면 Grok은 시간당 약 6,700개의 성적으로 노골적인 이미지 또는 “나체” 이미지를 생성했으며 성적인 콘텐츠가 Grok의 전체 생산량의 85%를 차지했습니다.
이에 대해 머스크는 다른 AI 챗봇과 디지털 도구가 그록과 같은 방식으로 이미지를 편집할 수 있다고 주장했으며 영국이 그의 플랫폼을 독점하고 있다고 비난했습니다.
대변인은 “우리는 표현의 자유에 대한 권리를 전적으로 보장한다”고 덧붙였다.
