200개가 넘는 아동 옹호 단체와 전문가들은 부모와 규제 당국이 외면하고 있는 동안 품질이 낮고 알고리즘으로 제작된 비디오가 어린 두뇌를 재배치하고 수백만 달러를 긁어 모으고 있다고 주장하면서 YouTube가 AI로 생성된 ‘쓰레기’를 아동용 플랫폼에서 완전히 금지할 것을 요구하고 있습니다.
아동 옹호 단체인 Fairplay가 주최하고 YouTube CEO Neal Mohan과 Google CEO Sundar Pichai에게 보낸 공개 서한에는 135개 이상의 조직이 서명했습니다. 서명자에는 미국 교사 연맹(American Federation of Teachers)과 미국 상담 협회(American Counseling Association)는 물론 불안한 세대(The Anxious Generation)의 저자인 조나단 하이트(Jonathan Haidt)와 같은 저명한 연구자도 포함되었습니다. 편지의 저자들은 유튜브가 AI가 어린이들에게 접근하는 것을 막는데 실패했을 뿐만 아니라 AI를 통해 적극적으로 이익을 얻고 있다고 말합니다.
Fairplay의 Young Children Thrive Offline 프로그램 디렉터인 Rachel Franz는 Fortune과의 인터뷰에서 “AI가 생성한 동영상은 YouTube가 플랫폼에서 어린이와 소통할 때 이미 겪고 있는 수많은 문제를 확대한 것에 불과합니다.”라고 말했습니다. “이 AI 현상을 해결하는 것이 중요하지만 AI와 반드시 관련되지 않은 방식으로 사용자가 더 많은 시간을 보내도록 플랫폼이 설계된 방식에 대해 YouTube를 비판하는 것도 마찬가지로 중요합니다.”
도대체 ‘AI 둔화’란 무엇일까?
이 용어는 YouTube와 같은 플랫폼에 범람하는 대량 생산, AI 생성 비디오의 물결을 의미합니다. 콘텐츠는 제작 비용이 저렴하고 종종 기이하거나 무의미하며 젊은 시청자(또는 실제로 모든 시청자)의 관심을 사로잡도록 설계되었습니다. 그리고 독자 여러분, 비디오는 이상합니다. 불쾌한 계곡 미학에서 반복적인 작업을 수행하는 만화 동물입니다. 혼란스러운 정보가 포함된 가짜 “교육” 비디오 또는 순수한 목적이 없는 최면 루프. New York Times는 2월 조사에서 이 현상을 기록했으며 YouTube가 어린이를 위한 안전하고 엄선된 공간으로 마케팅한 플랫폼인 YouTube Kids에 이러한 동영상이 삽입되어 있음을 발견했습니다.
“AI로 생성된 많은 콘텐츠는 실제로 어린이, 특히 이제 막 충동 조절 능력을 키우기 시작한 어린 어린이의 주의를 끌기 위해 설계되었으며 현실을 왜곡하고 혼란을 야기하며 어린이가 주변 세계를 이해하는 방식에 영향을 미칠 수 있습니다.”라고 유아기 발달에 대한 배경 지식을 갖고 있는 Franz는 말했습니다. “이것은 그 자체로는 육아 문제가 아닙니다. 플랫폼은 어린 사용자가 피할 수 없는 방식으로 AI 콘텐츠를 지속적으로 권장합니다.”
재정적 인센티브는 놀랍습니다. Fairplay는 어린이를 대상으로 하는 최고의 AI 채널이 연간 425만 달러 이상의 수익을 올렸으며 일부 제작자는 “참여적이고 줄거리가 없는 AI 콘텐츠”에서 얻은 수익을 공개적으로 광고하고 있음을 발견했습니다. 편지에서는 플랫폼이 이러한 동영상 제작자에 대한 금전적 인센티브를 제거할 때까지 어떤 정책도 충분하지 않다고 주장했습니다.
“8세 미만 어린이를 위한 YouTube 동영상의 약 5%만이 정말 높은 품질입니다. 그리고 그 중 5%는 정말 높은 품질인지에 대한 논쟁이 있습니다.”라고 Franz는 말했습니다. 그러나 YouTube는 이 수치가 표준 정책에 어긋난다고 간주합니다.
유튜브 대변인 부트 불윙클(Boot Bullwinkle)은 성명을 통해 “우리는 앱의 AI 생성 콘텐츠를 소수의 고품질 채널로 제한하는 등 유튜브 키즈 콘텐츠에 대한 높은 기준을 갖고 있다”고 밝혔다. “우리는 또한 부모들에게 채널을 차단할 수 있는 옵션을 제공합니다. YouTube에서는 AI 콘텐츠의 투명성을 우선시하고 자체 AI 도구에서 콘텐츠에 라벨을 지정하며 제작자에게 현실적인 AI 콘텐츠를 공개하도록 요구합니다. 우리는 생태계가 발전함에 따라 최신 상태를 유지하기 위해 항상 접근 방식을 발전시키고 있습니다.”
그것을 해결하는 방법
연합은 아동 발달에 관한 연구를 통해 이것이 특별한 문제가 아니라고 주장합니다. 성인조차도 AI 생성 콘텐츠를 올바르게 식별하는 데 어려움을 겪을 수 있으며, 이를 올바르게 인식하는 경우는 약 50%에 불과합니다. 더 걱정스러운 점은 반복적으로 노출되면 사람들이 인공지능 이미지가 가짜라는 말을 듣더라도 실제처럼 인식할 가능성이 높아진다는 것입니다. 두뇌가 여전히 현실의 기본적인 도식을 구축하고 있는 어린 아이들의 경우, 시간이 지남에 따라 피해가 더욱 심해집니다.
Fairplay의 요구는 구조적인 것이지 장식적인 것이 아닙니다. 연합에서는 플랫폼 전체에서 모든 AI 생성 콘텐츠에 명확하게 라벨을 지정할 것을 YouTube에 요청합니다. YouTube Kids에서 AI 생성 콘텐츠를 완전히 금지합니다. YouTube의 주요 플랫폼에서 AI가 생성한 ‘아동용’ 콘텐츠를 금지합니다. Fairplay는 YouTube가 알고리즘이 18세 미만 사용자에게 AI 콘텐츠를 추천하는 것을 중단하길 원합니다. 기본적으로 비활성화되어 있는 AI 콘텐츠를 비활성화하는 부모 스위치를 도입합니다. 어린이를 대상으로 한 AI 제작 콘텐츠에 대한 모든 투자를 중단하세요.
이번 소송은 Google의 AI Futures Fund가 지원하는 AI 기반 어린이 엔터테인먼트 스튜디오인 Animaj에 대한 YouTube의 투자를 직접적으로 겨냥합니다. “YouTube는 기본적으로 Animaj를 구매하여 아기에게 해를 끼치는 데 투자하고 있습니다.”라고 Franz는 말했습니다.
Bullwinkle이 Fortune에 보낸 성명에서 대변인은 YouTube가 일정을 제공하지는 않았지만 YouTube Kids를 위한 전용 AI 태그를 개발하고 있음을 확인했습니다. YouTube CEO Neal Mohan은 이미 연례 서신에서 ‘AI 폐기물 관리’를 최우선 과제 중 하나로 언급했습니다. “저품질 AI 콘텐츠의 확산을 줄이기 위해 우리는 스팸 및 클릭베이트 퇴치에 매우 성공적인 확립된 시스템을 적극적으로 구축하고 품질이 낮고 반복적인 콘텐츠의 확산을 줄이는 데 주력하고 있습니다.”라고 적혀 있습니다.
Bullwinkle은 또한 Times 기사에 언급된 15개 채널이 YouTube Kids에 없으며 플랫폼이 아동 안전 정책을 위반한 동영상을 삭제했다고 언급했습니다. 그러나 프란츠에게는 이것만으로는 충분하지 않습니다.
“어린이에게 잠재적으로 해를 끼칠 수 있는 일을 하는 예로 일부 채널을 지적하는 것은 개별 연구자의 몫이 되어서는 안 되며, 이것이 YouTube가 플랫폼 출시를 결정하는 기초가 되어야 합니다. 우리가 Elsagate에서 본 것은 당시 YouTube가 플랫폼과 수백 개의 다른 채널에서 150,000개의 동영상을 삭제했다는 것입니다.”라고 Franz는 말했습니다. 그는 YouTube와 YouTube Kids에 있는 수천 개의 동영상이 겨울왕국의 Elsa 및 Peppa Pig와 같은 친숙한 어린이 캐릭터를 사용하여 노골적인 폭력, 성적인 주제 및 약물 사용이 포함된 매우 충격적인 콘텐츠를 숨기고 필터를 우회하고 어린 아이들에게 다가가기 위해 ‘교육’ 및 ‘재미’와 같은 알고리즘 친화적인 태그로 위장한 2017년 스캔들을 언급했습니다.
“그래서 우리는 YouTube가 이러한 동영상을 대규모로 모니터링, 추적 및 제거할 수 있는 능력을 가지고 있다는 것을 알고 있습니다. 하지만 지금은 임시방편적인 접근 방식을 취하고 있으며, 언론 보도를 받는 채널은 그들이 뭔가 조치를 취할 채널인 것처럼 보입니다.”라고 Franz는 계속 말했습니다. “그러나 그것은 전반적인 문제를 해결하지 못합니다.”
