미 국방부 고위 관계자에 따르면, 국방부가 인류 AI에 의존한 것은 궁극적으로 극적인 분열로 이어진 충격적인 폭로였다고 합니다.
부서의 연구 및 엔지니어링 차관이자 최고 기술 책임자인 Emil Michael은 All-In 팟캐스트의 금요일 에피소드에서 대중 논쟁을 불러일으킨 사건에 대해 자세히 설명했습니다.
지난 1월 초 미국의 베네수엘라 공습으로 독재자 니콜라스 마두로(Nicolás Maduro)를 체포한 후, Anthropic은 Palantir에게 자사의 AI가 작전에 사용되었는지 물었습니다. Anthropic은 이 연구를 일상적인 것으로 규정한 반면, Pentagon과 Palantir는 이를 접근에 대한 잠재적인 위협으로 해석했습니다.
“젠장, 만약 이 소프트웨어가 충돌하고, 가드레일이 올라가고, 이런 다음 싸움에서 거부가 일어나서 우리 사람들을 위험에 빠뜨리면 어쩌지?” 마이클은 회상했다. “그래서 나는 헤그세스 장관에게 가서 이런 일이 일어날 것이라고 말했습니다. 이는 우리가 잠재적으로 다른 대안이 없는 소프트웨어 공급업체에 너무 의존하고 있다는 사실을 국방부 지도층 전체에게 중요한 순간과 같았습니다.”
최근까지 Anthropic의 Claude는 기밀 환경에서 승인된 유일한 AI 모델이었습니다. 샌프란시스코에 본사를 둔 이 스타트업은 애국심을 갖고 미국을 방어하려고 노력하지만 자사의 AI가 대규모 국내 감시나 자율 무기에 사용되는 것을 허용하지 않을 것이라고 밝혔습니다.
미 국방부는 법적 시나리오에서 AI를 사용할 것이라고 주장했으며 이러한 제한을 넘어서는 회사 제한을 존중하는 것을 거부했습니다.
지난주 합의에 실패한 후, 도널드 트럼프 대통령은 연방 정부에 Anthropic 사용을 중단하라고 명령하고 국방부에 이를 단계적으로 중단할 수 있는 6개월의 시간을 주었습니다. 피트 헤그세스(Pete Hegseth) 국방장관도 이 회사를 공급망 위험으로 지정했는데, 이는 계약업체가 이 회사를 군사 업무에 사용할 수 없음을 의미합니다.
현재 군부는 미국이 이란과 전쟁을 벌이는 동안 계속해서 Anthropic을 사용하고 있는데, AI는 전투기가 빠른 속도로 잠재적 표적을 식별하는 데 도움이 되기 때문입니다.
Michael은 팟캐스트에 출연하는 동안 악의적인 개발자가 모델을 “중독”하여 군대에 효과가 없게 만들거나, 의도적으로 환각을 일으키도록 훈련시키거나, 지시를 따르지 말라고 지시할 수 있다는 우려를 제기했습니다.
그런 다음 그는 OpenAI에 연락하여 결국 Anthropic과 유사한 거래에 도달했습니다. Elon Musk의 xAI도 기밀 그룹에 포함되었으며, 미 국방부는 Google의 AI도 기밀 설정에 허용하도록 노력하고 있습니다.
마이클은 “나는 편견이 없다”고 말했다. “나는 그들 모두를 사랑합니다. 중복이 필요하기 때문에 그들에게 정확히 같은 용어를 제공하고 싶습니다.”
그는 Anthropic이 부서에 “깊이 자리잡게” 된 반면 다른 AI 회사는 전향적으로 배치된 엔지니어를 제공하여 기업 고객을 공격적으로 추구하지 않았다는 점을 인정했습니다.
펜타곤과 인류학 사이의 분쟁은 국방 기관과 군사 혁신에 뿌리를 두고 있지만 이후 자사의 기술이 전쟁에 사용되는 것을 비꼬는 실리콘 밸리 사이의 문화 충돌을 부각시켰습니다.
실제로 OpenAI의 최고 로봇 공학 엔지니어는 Anthropic이 제기한 것과 동일한 우려를 언급하며 토요일 회사에서 사임을 발표했습니다.
“이것은 쉬운 결정이 아니었습니다. AI는 국가 안보에 중요한 역할을 합니다. 그러나 사법 감독 없이 미국인을 감시하고 인간의 승인 없이 치명적인 자율성을 갖는 것은 그들이 받은 것보다 더 많은 심의를 받을 가치가 있는 라인입니다.”라고 Caitlin Kalinowski는 X와 LinkedIn에 게시했습니다.
