Sam Altman은 금요일 오후 전체 회의에서 OpenAI 직원들에게 스타트업의 AI 모델과 도구를 사용하기 위해 미국 전쟁부와 가능한 거래가 나타나고 있다고 회의에 참석한 소식통과 Fortune이 본 회의 요약에 따르면 말했습니다. 아직 계약이 체결되지 않았습니다.
이 회의는 피트 헤그세스(Pete Hegseth) 전쟁장관과 OpenAI 라이벌인 앤트로픽(Anthropic) 사이의 갈등이 대중의 비난으로 촉발된 일주일 말에 열렸고, 펜타곤 및 연방 정부와의 앤트로픽의 계약이 더 광범위하게 종료되면서 끝났습니다.
Altman은 정부가 OpenAI가 자체 “보안 스택”(즉, 강력한 AI 모델과 실제 사용 사이에 있는 기술, 정치, 인간 제어의 계층화된 시스템)을 구축하도록 허용할 의향이 있으며, 모델이 작업 수행을 거부하면 정부는 OpenAI가 해당 작업을 수행하도록 강요하지 않을 것이라고 말했습니다.
OpenAI는 기술적 보호 조치가 구현되는 방법, 어떤 모델이 어디에 배포되는지에 대한 제어를 유지하고 “에지 시스템”이 아닌 클라우드 환경으로 배포를 제한합니다. (군사적 맥락에서 엣지 시스템은 항공기와 드론을 포함할 수 있는 범주입니다.) 알트만은 직원들에게 정부가 자율 무기 구동에 AI를 사용하지 않고, 국내 대규모 감시를 하지 않으며, 중요한 의사 결정을 내리지 않는 등 OpenAI의 이른바 ‘레드 라인’을 계약에 포함할 용의가 있다고 밝혔습니다.
OpenAI와 전쟁부는 논평 요청에 즉시 응답하지 않았습니다.
소식통에 따르면 OpenAI의 국가 안보 정책 책임자인 Sasha Baker와 OpenAI의 정부 국가 안보 책임자인 Katrina Mulligan도 OpenAI에서 연설했습니다. 그 관계자 중 한 명은 Anthropic CEO이자 공동 창립자인 Dario Amodei가 “부서가 분개한” 블로그 게시물을 게시하는 것을 포함하여 전쟁부 지도부를 불쾌하게 했기 때문에 Anthropic 및 정부와의 관계가 무너졌다고 말했습니다.
보안 문제로 OpenAI를 떠난 사람들이 설립한 회사인 Anthropic은 Palantir와의 파트너십을 통해 배포된 모델이 국방부에서 사용하도록 승인된 유일한 주요 상용 AI 제조업체였습니다. 그러나 Anthropic 경영진과 국방부는 Anthropic이 기술 사용에 부과하고자 하는 제한 사항을 두고 며칠 동안 논쟁을 벌였습니다. 이러한 제한은 본질적으로 Altman이 국방부가 OpenAI 기술을 사용하면 충족할 것이라고 말한 것과 동일합니다.
Anthropic은 국방부 관계자가 AI 모델을 “모든 합법적인 목적”으로 사용할 수 있어야 한다고 주장했음에도 불구하고 국내 대량 감시 또는 완전 자율 무기와 같은 사용을 제한하는 Claude 모델에서 보호 장치를 제거하라는 국방부의 요구를 거부했습니다. 피트 헤그세스(Pete Hegseth) 전쟁장관을 포함한 미 국방부는 앤트로픽(Anthropic)에 이를 따르지 않을 경우 최대 2억 달러 상당의 계약을 잃을 수 있다고 경고했습니다. Altman은 이전에 OpenAI가 AI의 특정 군사적 사용을 제한하는 데 있어 Anthropic의 “제한선”을 공유한다고 말했으며, OpenAI가 미국 정부와 협상하더라도 현재 Anthropic과 국방부 사이에 공개적으로 펼쳐지고 있는 동일한 핵심 긴장에 직면하고 있음을 강조했습니다.
OpenAI의 개입은 트럼프 대통령이 연방 정부가 Anthropic과의 협력을 중단할 것이라고 발표한 직후에 이루어졌으며, AI 모델을 두고 정부와 회사와의 충돌이 극적으로 확대되었습니다.
“나는 미국 정부의 모든 연방 기관에 Anthropic 기술의 모든 사용을 즉시 중단하라고 지시하고 있습니다. 우리는 그것을 필요로 하지도 않고 원하지도 않으며 다시는 그들과 거래하지 않을 것입니다!” 트럼프는 트루스 소셜(Truth Social)에 올린 글에서 이렇게 말했다. Anthropic의 Claude 모델을 사용하는 전쟁부 및 기타 기관은 6개월의 단계적 폐지 기간을 갖게 될 것이라고 그는 말했습니다.
소식통에 따르면 OpenAI 회의에서 직원들은 리더십에 대한 거래에서 가장 어려운 측면은 외국 감시에 대한 우려이며 AI 기반 감시가 민주주의를 위협할 것이라는 심각한 우려가 있다는 말을 들었습니다. 그러나 회사 리더들은 또한 정부가 국제적으로 적들을 감시할 것이라는 현실을 인정하고 국가 보안 담당자들이 국제 감시 능력 없이는 “일을 할 수 없다”는 주장을 인정하는 것처럼 보였습니다. 중국이 이미 해외 반체제 인사를 표적으로 삼기 위해 인공 지능 모델을 사용하고 있음을 보여주는 위협 정보 보고서가 언급되었습니다.
