OpenAI는 1월 20일 화요일 미국에서 조용하지만 중요한 보안 개선 사항을 발표했습니다. 이는 ChatGPT 사용자가 18세 미만일 가능성이 있는 시기를 식별하도록 설계된 연령 예측 시스템의 형태로 제공됩니다.
이 시스템은 미성년자의 생성 AI 오용과 충분한 보호 장치 부족에 대한 정책 입안자, 부모 및 교육자 사이의 증가하는 우려를 반영합니다.
오늘날 십대의 안전은 대화의 최전선에 있습니다. 특히 생성 AI가 성적인 이미지를 생성하고 신체 수치심을 나타내는 수단으로 사용되기 때문에 더욱 그렇습니다. 일부 청소년은 챗봇을 ‘친구’로 사용하기도 하며, 이로 인해 일부 부모와 보호자는 OpenAI가 청소년에게 해롭다고 주장하기도 합니다.
특히 호주는 이미 16세 미만 어린이의 소셜 미디어 사용을 금지했으며, 미국의 몇몇 주에서는 학교에서의 전화 사용을 금지하고 있습니다.
2025년 8월, 자살한 16세 소년의 부모인 Matt와 Maria Raine은 OpenAI를 상대로 소송을 제기했습니다(경고: 소송에는 자해에 대한 설명이 포함되어 있습니다). ChatGPT는 아들 Adam이 자살 방법을 탐색하는 데 도움을 주고 심지어 그가 자살 유서를 작성하는 데 도움을 주었다고 주장했습니다.
OpenAI는 이러한 주장을 반박하고 AI 기능의 오용을 주장하는 동시에 향상된 보안 조치를 발표했습니다.
ChatGPT에는 주간 활성 사용자가 7억 명이 넘습니다.
셔터스톡
최근에는 Elon Musk의 Grok 챗봇이 440만 개의 이미지를 생성한 후 뉴스에 등장했습니다. 뉴욕타임스에 따르면 그는 그 중 약 180만 장의 성적인 여성 이미지를 공개적으로 공유했다고 한다.
젊은 사용자를 위해 ChatGPT를 더욱 안전하게 만들기 위한 일련의 개선 사항 중 이 기능은 매우 실용적입니다.
최근 OpenAI 블로그 게시물에 따르면 ChatGPT는 종종 소셜 미디어 회사의 논쟁거리였던 자체 보고된 연령에만 의존하는 대신 사용 패턴 및 상호 작용 유형과 같은 행동 및 계정 수준 신호를 사용하여 사용자가 미성년자인지 여부를 추정합니다.
또한 사용자의 보고된 연령과 함께 사용자가 온라인에서 활동하는 시간을 모니터링하여 사용자의 연령을 식별합니다.
18세 미만 사용자에게는 어떤 변화가 있나요?
ChatGPT는 사용자가 18세 미만임을 발견하면 청소년 안전 지침에 따라 유해한 콘텐츠에 노출되지 않도록 자동으로 보호 조치를 적용합니다.
여기에는 사용자가 다음 콘텐츠에 노출되지 않도록 검열하는 것이 포함됩니다.
성적, 로맨틱 또는 폭력적인 역할극 자해 표현 극단적인 미적 기준, 건강에 해로운 다이어트 또는 신체 수치심을 조장하는 콘텐츠 미성년자의 위험한 행동을 조장하는 바이러스 챌린지
OpenAI가 미성년자 보호를 위한 안전 프로토콜 도입에 대한 의견을 표명했습니다. 2025년 9월, 샘 알트만(Sam Altman)은 “십대 안전, 자유, 개인 정보 보호”를 출판했으며, 여기서 알트만은 연령 예측 시스템에 대해 이야기했습니다.
더 많은 기술주:
Morgan Stanley, 이벤트 이후 Micron에 대한 놀라운 가격 목표 설정 Nvidia의 중국 칩 문제는 대부분의 투자자가 생각하는 것과 다릅니다. Quantum Computing으로 1억 1천만 달러의 움직임이 예상됨 Morgan Stanley, Broadcom에 대한 놀라운 가격 목표 발표 Apple 분석가가 과감한 2026년 주식 목표 설정
새로운 안전 지침의 일환으로 OpenAI는 보호를 강화하고 성인의 주의 깊은 모니터링을 보장하기 위해 자녀 보호 기능도 도입했습니다. 부모는 자녀가 ChatGPT를 사용할 수 없는 조용한 시간을 설정할 수 있습니다. 또한 모델 훈련의 작동 방식을 맞춤화하고 “시스템이 심각한 고통의 징후를 감지하는 경우” 경고를 받을 수 있습니다.
실수로 18에 배치되었고 경험이 부족한 사용자의 경우 쉽게 되돌릴 수 있는 옵션이 있습니다. ChatGPT는 안전한 제3자 신원 확인 서비스인 Persona를 사용합니다. 이를 통해 사용자는 셀카를 업데이트하고 전체 액세스 권한을 복원할 수 있습니다.
유럽 연합에서는 규제 요구 사항으로 인해 이 기능이 앞으로 몇 주 안에 출시될 예정입니다.
이번 보안 업데이트는 OpenAI가 비영리 조직으로만 남아야 한다는 원래 사명을 포기했다고 비난한 Elon Musk의 새로운 비판 속에 나왔습니다. Altman은 이러한 주장을 Musk가 “손으로 선택한” 것이라고 공개적으로 일축했습니다.
OpenAI는 액세스, 보안 및 확장성의 균형을 맞추려면 현재 구조와 비즈니스 모델의 지속적인 변경이 필요하다고 주장합니다.
관련 항목: 트럼프의 다보스 메시지는 소비자에게 비용이 많이 드는 변화를 암시합니다.
