AI 감시 그룹의 주장에 따르면 OpenAI가 최신 코딩 모델을 출시하면서 캘리포니아의 새로운 AI 안전법을 위반했을 수 있다고 합니다.
위반 시 회사는 잠재적으로 수백만 달러의 벌금을 물게 될 수 있으며, 이 사건은 새로운 법률 조항에 대한 선례가 되는 첫 번째 테스트가 될 수 있습니다.
OpenAI 대변인은 Fortune과의 인터뷰에서 OpenAI가 “SB 53을 포함한 국경 보안법을 준수한다고 확신한다”고 말하면서 감시 기관의 입장에 대해 이의를 제기했습니다.
논란은 지난주 공개된 OpenAI의 최신 코딩 모델인 GPT-5.3-Codex에 집중되어 있습니다. 이 모델은 AI 기반 코딩 분야에서 선두를 되찾기 위한 OpenAI의 노력의 일환이며, OpenAI가 게시한 벤치마크 데이터에 따르면 OpenAI와 Anthropic과 같은 경쟁사 모델의 이전 버전보다 코딩 작업에서 눈에 띄게 더 높은 성능을 보여줍니다. 그러나 이 모델은 전례 없는 사이버 보안 문제도 제기했습니다.
CEO인 Sam Altman은 이 모델이 OpenAI가 모델 출시에 사용하는 내부 위험 평가 시스템인 회사의 Readiness Framework에서 “높은” 사이버 보안 위험 범주에 도달한 최초의 모델이라고 말했습니다. 이는 OpenAI가 본질적으로 모델을 인코딩할 수 있을 만큼 충분히 분류하여 잠재적으로 심각한 사이버 피해를 촉진할 수 있는 것으로 분류한다는 것을 의미합니다. 특히 자동화되거나 대규모로 사용될 경우 더욱 그렇습니다.
AI 감시 그룹인 프로젝트 마이다스(Project Midas)는 OpenAI가 새로운 고위험 모델의 출시로 인해 현재 캘리포니아 법에 따라 법적 구속력이 있는 자체 안전 약속을 이행하지 못했다고 주장합니다.
1월에 발효된 캘리포니아의 SB 53은 주요 AI 회사가 모델에 대한 치명적인 위험(50명 이상의 사망 또는 10억 달러 이상의 재산 피해를 초래하는 사고로 정의)을 예방하는 방법을 자세히 설명하는 자체 안전 프레임워크를 게시하고 시행하도록 요구합니다. 또한 이러한 회사가 규정 준수에 대해 오해의 소지가 있는 진술을 하는 것을 금지합니다.
OpenAI 보안 프레임워크에는 AI가 악의적으로 행동하고 기만적으로 행동하거나 보안 연구를 방해하거나 실제 기능을 숨기는 등의 행위를 하는 것을 방지하도록 설계된 고위험 사이버 보안 모델을 위한 특별한 보호 장치가 필요합니다. 그러나 프로젝트 마이다스(Project Midas)는 “고위험” 사이버 보안 임계값을 활성화했음에도 불구하고 OpenAI가 구현되기 전에 구체적인 오정렬 보호 조치를 구현하지 않은 것으로 보인다고 밝혔습니다.
OpenAI는 Readiness Framework의 문구에 대한 Project Midas의 해석이 올바르지 않다고 밝혔습니다. 또한 프레임워크의 문구가 “모호”하며 회사가 GPT-5.3-Codex와 함께 게시한 보안 보고서의 성명을 통해 해당 프레임워크의 문구의 의도를 명확히 하려고 노력했다고 밝혔습니다. OpenAI는 해당 보안 보고서에서 장기간 독립적으로 작동할 수 있는 능력인 장거리 자율성과 “함께” 높은 사이버 위험이 발생할 때만 추가 보호 조치가 필요하다고 밝혔습니다. 회사는 GPT-5.3-Codex에 이러한 자율성이 부족하다고 믿기 때문에 보호 장치가 필요하지 않다고 말합니다.
대변인은 “GPT-5.3-Codex는 공개된 시스템 카드에 자세히 설명된 대로 전체 테스트 및 거버넌스 프로세스를 완료했으며 대리 평가를 기반으로 한 장거리 자율성 기능을 입증하지 않았으며 보안 자문 그룹을 포함한 내부 전문가의 판단으로 확인되었습니다”라고 말했습니다. 그러나 회사는 또한 모델의 장거리 자율성을 평가할 수 있는 확실한 방법이 부족하므로 더 나은 평가 방법을 개발하기 위해 노력하면서 이 지표의 지표로 작용할 수 있다고 믿는 테스트에 의존하고 있다고 밝혔습니다.
그러나 일부 보안 연구자들은 OpenAI의 해석에 의문을 제기했습니다. Encode의 국무부 부사장이자 법무 자문위원인 Nathan Calvin은 다음과 같이 말했습니다.
Project Midas는 또한 OpenAI가 모델에 추가 측정에 필요한 자율성이 부족하다는 것을 확실하게 증명할 수 없다고 주장합니다. 왜냐하면 회사의 이전 덜 발전된 모델이 이미 자율 작업 수행에 대한 글로벌 벤치마크에서 1위를 차지했기 때문입니다. 비록 규칙이 불명확하더라도 OpenAI가 모델을 출시하기 전에 규칙을 명확히 했어야 한다는 것이 그룹의 주장입니다.
Project Midas의 창립자인 Tyler Johnston은 잠재적인 위반이 “SB 53 세트의 바닥이 얼마나 낮은지를 고려하면 특히 당혹스럽습니다. 기본적으로 선택한 자발적인 안전 계획을 채택하고 이에 대해 정직하게 의사소통하고 필요에 따라 변경하되 위반하거나 거짓말을 하지 마십시오.”라고 말했습니다.
조사가 개시되고 혐의가 정확한 것으로 판명되면 SB 53은 위반에 대해 상당한 처벌을 허용하며, 이는 위반의 심각성과 기간에 따라 수백만 달러에 달할 수 있습니다. 캘리포니아 법무장관실의 한 대표는 Fortune과의 인터뷰에서 법무부가 “새롭게 떠오르는 AI 분야의 투명성과 안전성을 높이기 위해 제정된 법률을 포함하여 우리 주의 법률을 집행하는 데 전념하고 있다”고 말했습니다. 그러나 그들은 부서가 잠재적이거나 진행 중인 조사에 대해 논평하거나 확인하거나 거부할 수 없다고 말했습니다.
2월 10일 업데이트: 이 이야기는 캘리포니아의 AI 법률을 준수한다고 믿는 OpenAI의 진술을 이야기에서 더 높은 수준으로 이동하기 위해 업데이트되었습니다. OpenAI가 감시 그룹의 주장에 이의를 제기하고 있음을 분명히 하기 위해 헤드라인도 변경되었습니다. 또한, GPT-5.3-Codex 보안 보고서에 있는 OpenAI의 진술은 회사가 준비 프레임워크에서 모호한 언어라고 말하는 내용을 명확히 하기 위한 것임을 명확히 하기 위해 이야기가 업데이트되었습니다.
