Anthropic과 국방부와의 2억 달러 계약은 Anthropic이 Nicolás Maduro의 1월 급습 중 국방부가 Claude AI 모델을 사용하는 것에 대한 우려를 제기한 후 공중에 떠 있습니다.
숀 파넬 미 국방부 대변인은 포춘지에 보낸 성명에서 “육군부와 Anthropic의 관계를 검토 중”이라고 밝혔다. “우리나라는 우리 파트너들이 어떤 전투에서든 군인들이 승리할 수 있도록 기꺼이 도와줄 것을 요구합니다. 궁극적으로 이것은 우리 군대와 미국 국민의 안전에 관한 것입니다.”
The Hill에 따르면 최근 몇 주 동안 Anthropic 고위 관리가 Palantir 최고 경영진에게 접근하여 Claude가 이번 습격에 어떻게 이용되었는지 물은 후 긴장이 고조되었다고 합니다. Palantir 경영진은 이 접근 방식을 공습에서 해당 모델을 사용하는 것을 승인하지 않는 것으로 해석하고 교환 세부 사항을 국방부에 보냈습니다. (트럼프 대통령은 군이 공습 중에 적의 장비를 “작동하지 않게” 만드는 “디커플러” 무기를 사용했다고 말했습니다.)
Anthropic 대변인은 Fortune에 보낸 성명에서 “Anthropic은 전쟁부와 특정 작전에 Claude를 사용하는 것에 대해 논의한 적이 없습니다”라고 말했습니다. “또한 엄격한 기술 문제에 대한 일상적인 논의 외에는 업계 파트너와 이에 대해 논의하거나 우려를 표명하지 않았습니다.”
이 분쟁의 중심에는 국방 작전에서 AI 모델을 사용할 수 있는 방법을 결정하는 계약상의 장벽이 있습니다. Anthropic CEO Dario Amodei는 AI의 사용 및 규제에 대한 엄격한 제한을 지속적으로 옹호해 왔으며 심지어 안전과 이익의 균형을 맞추는 것이 어렵다는 점을 인정했습니다. 몇 달 동안 회사와 국방부는 Claude가 군사 작전에 어떻게 사용될 수 있는지에 대해 논쟁적인 협상을 벌였습니다.
국방부 계약에 따라 Anthropic은 국방부가 미국인에 대한 대량 감시를 위해 인공 지능 모델을 사용하거나 완전 자율 무기에 기술을 사용하는 것을 허용하지 않습니다. 회사는 또한 자사 기술을 “살상” 또는 “운동” 군사 응용 분야에 사용하는 것을 금지했습니다. 마두로 공습 중 총격 사건에 직접적으로 관여하는 것은 해당 조항을 위반할 가능성이 높습니다.
정부 계약을 맺은 AI 기업(OpenAI, Google, xAI 포함) 중에서 Anthropic은 Claude를 국방부의 기밀 네트워크에서 승인된 유일한 주요 언어 모델로 두는 수익성 있는 위치를 차지하고 있습니다.
Anthropic은 Fortune에 보낸 성명에서 이러한 입장을 강조했습니다. “Claude는 당사의 사용 정책에 따라 DoW를 포함하여 정부 전반에 걸쳐 다양한 정보 관련 사용 사례에 사용됩니다.”
회사는 성명에서 “미국 국가 안보를 지원하기 위해 프론티어 AI를 사용하기 위해 최선을 다하고 있다”고 밝혔습니다. “우리는 작업을 계속하고 이러한 복잡한 문제를 해결하는 방법에 대해 전쟁부와 선의로 생산적인 대화를 나누고 있습니다.”
Palantir, OpenAI, Google 및 xAI는 논평 요청에 즉시 응답하지 않았습니다.
AI가 전쟁에 나선다
국방부가 AI를 작전에 통합하려는 노력을 가속화했지만 xAI만이 “모든 합법적인 목적”으로 해당 모델의 사용을 허용했고 나머지는 사용 제한을 유지했습니다.
Amodei는 정부 규제가 없는 상황에서 OpenAI와 Google의 보안 대안으로 Anthropic을 제공하면서 사용자 보호에 대해 몇 달 동안 경고해 왔습니다. 그는 지난 11월 “몇몇 회사가 내린 이러한 결정에 대해 매우 불편함을 느낀다”고 말했다. 앤트로픽은 규제 완화를 계획하고 있다는 소문이 돌았지만, 이제 회사는 방위산업에서 완전히 퇴출될 가능성에 직면해 있습니다.
미 국방부 고위 관계자는 Axios 국방장관 Pete Hegseth가 Anthropic을 군 공급망에서 제거할 계획에 “가까웠으며” 군과 거래하려는 사람은 누구나 회사와의 관계를 끊도록 강요하고 있다고 말했습니다.
고위 관계자는 “그들을 풀어내는 것은 큰 골칫거리가 될 것이며 우리는 그들이 우리에게 이런 식으로 행동하도록 강요한 대가를 치르게 할 것”이라고 말했다.
군수품 공급 위험 문제로 간주되는 것은 일반적으로 외국의 적에게만 부여되는 특별한 지정입니다. 가장 가까운 선례는 2019년 국가 안보를 이유로 정부가 화웨이를 금지한 것이다. Anthropic의 경우, 소식통은 Axios에 국방부 관계자들이 한동안 샌프란시스코에 본사를 둔 회사와 싸움을 모색해 왔다고 말했습니다.
국방부의 발언은 정점에 도달한 공개 분쟁의 가장 최근 사례입니다. 정부는 기업이 모델에 윤리적 한계를 설정하도록 하는 것은 불필요하게 제한적이며 많은 수의 회색 영역으로 인해 기술이 쓸모 없게 될 것이라고 주장합니다. 미 국방부가 AI 활용 확대를 위해 AI 하청업체와 계속 협상을 벌이는 가운데, 공개 논쟁은 AI 활용을 누가 지시할 것인지를 둘러싼 대리전으로 변하고 있다.
