Elon Musk의 xAI는 Grok AI 챗봇의 이미징 기능을 유료 가입자에게만 제한했습니다. 이는 실제 여성과 어린이의 합의되지 않은 성적인 이미지를 생성하는 데 사용된다는 광범위한 비난에 따른 것입니다.
Grok은 금요일에 X를 통해 “이미지 생성 및 편집은 현재 유료 가입자에게만 제한되어 있습니다”라고 발표했습니다. 제한은 대다수의 사용자가 더 이상 해당 기능에 액세스할 수 없음을 의미합니다. 파일에 신용 카드 정보가 있는 검증된 유료 가입자도 여전히 그렇게 할 수 있지만 이론적으로는 이 기능이 오용되는 경우 더 쉽게 식별할 수 있습니다.
그러나 전문가, 규제 기관 및 피해자들은 새로운 제한 조치가 현재 널리 퍼져 있는 문제에 대한 해결책이 아니라고 말합니다.
영국의 딥페이크 전문가인 헨리 에이더(Henry Ajder)는 포춘과의 인터뷰에서 “허위 정보를 제공하고 임시 결제 방법을 사용하는 것이 얼마나 쉬운지를 고려할 때 사용자 세부 정보와 결제 방법을 제공하면 가해자를 식별하는 데 도움이 될 것이라는 주장도 설득력이 없습니다.”라고 말했습니다. “여기서의 논리도 반응적입니다. 콘텐츠가 생성되면 위반자를 식별하는 데 도움이 되지만 모델 자체에 대한 중요한 정렬이나 제한을 나타내지는 않습니다.”
영국 정부는 BBC가 보도한 성명에서 이 조치가 피해자들에 대한 “모욕”이라고 설명했습니다. 영국 총리 대변인은 금요일 기자들에게 이번 변화는 “단순히 불법 이미지 생성을 가능하게 하는 인공지능 기능을 프리미엄 서비스로 바꾸는 것”이라고 말했습니다.
“이제 시간이 됐어.
X의 대변인은 새로운 제한 사항을 “조사”하고 있다고 말했습니다. xAI는 “레거시 미디어 거짓말”이라는 자동 메시지로 응답했습니다.
지난 주 동안 실제 여성들이 대규모 공격을 받았고 사용자들은 동의 없이 사진을 조작하여 옷을 벗거나 비키니를 입은 인물을 배치하거나 성적으로 노골적인 시나리오에 배치했습니다. 일부 피해자들은 이러한 추세에 의해 침해당하고 불안함을 느꼈다고 보고했으며, 많은 사람들은 X에 대한 신고가 응답되지 않았고 이미지가 플랫폼에 계속 게시되었다고 말했습니다.
연구원들은 다른 AI 로봇과 달리 Grok이 기본적으로 X 플랫폼에 전달 시스템을 내장하고 있기 때문에 Grok이 이미지를 생성하고 공유하는 규모는 전례가 없는 것이라고 말했습니다.
보수적인 평론가이자 머스크의 자녀 중 한 명의 어머니인 애슐리 세인트 클레어(Ashley St. Clair)도 이 이미지에 영향을 받은 사람들 중 하나였습니다. 세인트 클레어는 포춘과의 인터뷰에서 사용자들이 자신의 X 프로필 이미지를 자신이 미성년자임을 보여주는 일부 사진을 포함하여 자신의 X 프로필에 있는 노골적인 AI 생성 사진으로 변환하고 있다고 말했습니다. 이미지에 반대하고 미성년자에 대한 딥페이크에 대한 우려를 표명한 후 St Clair는 X가 그에게 알리거나 월 8달러의 요금을 환불하지 않고 확인된 유료 구독자 상태를 삭제했다고 말했습니다.
Ashley St Clair는 최근 제한 사항에 대해 “유료 사용자로만 제한하는 것은 이 문제를 두 배로 줄여 피해자가 당국에 신고하여 이러한 사람들을 추적하는 데 자원을 사용하도록 과도한 부담을 안겨줄 것임을 보여줍니다”라고 말했습니다. “역시 돈을 노리는 일이군요.”
St Clair는 Fortune과의 인터뷰에서 자신에게 전달된 계정 중 상당수가 이미 확인된 사용자라고 말했습니다. “전혀 효과적이지 않습니다.”라고 그녀는 말했습니다. “이것은 Grok의 이미지에 대한 추가 경찰 조사의 미리 보기일 뿐입니다.”
규제 압력
Grok의 기능을 제한하려는 움직임은 전 세계 규제 기관의 압력이 커지는 가운데 이루어졌습니다. 영국의 키어 스타머(Keir Starmer) 총리는 해당 콘텐츠가 “부끄럽고” “역겹다”고 설명하면서 플랫폼을 완전히 금지할 의향이 있음을 밝혔습니다. 인도, 말레이시아, 프랑스의 규제 당국도 조사에 착수했습니다.
목요일에 유럽연합 집행위원회는 다음과 같이 명령했습니다.
전문가들은 새로운 제한이 규제 당국의 우려를 충족시키지 못할 수도 있다고 말합니다. Ajder는 “이 접근 방식은 Grok의 라인업 문제의 근본 원인을 해결하지 못하는 무뚝뚝한 도구이며 규제 당국에게는 충분하지 않을 것입니다”라고 말했습니다. “유료 사용자에게 기능을 제한한다고 해서 이 콘텐츠의 생성이 중단되는 것은 아닙니다. 1개월 구독은 확실한 해결책이 아닙니다.”
미국에서는 사용자가 생성한 콘텐츠에 대한 책임으로부터 온라인 제공업체를 보호하는 통신품위법(Communications Decency Act) 제230조와 같은 기존 법률도 시험대에 오르게 될 가능성이 높습니다. 미국 상원 의원 Ron Wyden, Edward J. Markey, Ben Ray Luján은 Grok을 사용하여 “대규모 여성과 어린이의 합의되지 않은 성적인 이미지”를 생성했다는 주장에 따라 Apple과 Google에 “App Store에서 Apps X 및 Grok을 즉시 제거”할 것을 촉구하는 성명을 발표했습니다. 국회의원들은 해당 이미지가 “불안하고 불법일 가능성이 있다”며 머스크가 문제를 해결할 때까지 해당 앱을 사용할 수 없어야 한다고 말했습니다.
미국-이슬람 관계 협의회(CAIR)는 또한 그록이 “저명한 무슬림 여성을 포함해 어린이와 여성의 성적으로 노골적인 이미지”를 생성하는 것을 방지할 것을 촉구했습니다.
스탠포드 인간 중심 인공 지능 연구소의 Riana Pfefferkorn은 이전에 Fortune과의 인터뷰에서 AI가 생성한 이미지에 대한 책임이 모호하다고 말했습니다. 그는 “처음으로 플랫폼 자체가 성인과 미성년자 모두에 대한 동의 없는 포르노를 대규모로 생성하는 상황에 처해 있다”고 말했다. “책임 관점과 홍보 관점에서 볼 때 CSAM 법률은 여기서 가장 큰 잠재적인 책임 위험을 초래합니다.”
머스크는 이전에 “불법 콘텐츠를 만들기 위해 Grok을 사용하는 사람은 누구나 불법 콘텐츠를 업로드한 것과 동일한 결과를 겪게 될 것”이라고 밝혔습니다. 그러나 해당 계정이 어떻게 책임을 지게 될지는 아직 명확하지 않습니다.
