금요일, 국방부의 요구에 맞서 굳건히 맞서기 위해 경쟁사인 Anthropic을 공개적으로 지지한 지 불과 몇 시간 만에 OpenAI CEO인 Sam Altman은 자신의 회사가 국방부와 자체 합의에 도달했다고 발표했습니다. 이러한 움직임은 미국 정부가 Anthropic을 “공급망 위험”으로 지정하는 매우 특이한 조치를 취한 직후에 이루어졌습니다.
OpenAI의 결정은 많은 AI 연구자들과 기술 정책 전문가들로부터 비판을 불러일으켰습니다. 비록 OpenAI가 Anthropic이 계약에서 원했지만 미 국방부가 거부했던 미국 시민 감시 및 치명적인 자율 무기에 대한 감시 거래에서 한계를 달성했다고 밝혔음에도 불구하고 말입니다.
주요 논쟁점 중 하나는 국내 대규모 감시였습니다. 전문가들은 고급 AI가 분산되어 있고 개별적으로 무해한 데이터(예: 개인의 위치, 재정, 검색 기록 등)를 수집하고 이를 자동으로 규모에 맞게 개인의 삶에 대한 포괄적인 그림으로 조립할 수 있다고 오랫동안 경고해 왔습니다. Anthropic CEO Dario Amodei는 이러한 유형의 AI 기반 대규모 감시가 사람들의 “기본적 자유”에 심각하고 새로운 위험을 초래하며 “법이 아직 빠르게 성장하는 AI의 능력을 따라잡지 못했다”고 말했습니다.
그러나 OpenAI는 블로그 게시물을 통해 자사의 기술이 대규모 국내 감시나 직접적인 자율 무기 시스템에 사용되지 않기로 국방부와 합의했다고 밝혔지만, Anthropic이 포기하기를 거부한 두 가지 엄격한 제한 때문에 일부 법률 및 정치 전문가들은 법의 격차 가능성에 대해 의문을 제기했습니다.
논쟁의 일부는 미국인 데이터에 대한 대규모 분석의 모호한 합법성을 중심으로 전개됩니다. 이는 대량 감시와 구별할 수 없는 것처럼 보이더라도 현행 미국 법령에 따라 합법적입니다.
민주주의 및 기술 센터(Center for Democracy and Technology)의 정책 담당 부사장인 사미르 자인(Samir Jain)은 “현재 미국 법에 따라 정부 당국이 데이터 브로커 및 기타 제3자로부터 상업적으로 이용 가능한 정보를 구매하는 것은 합법적입니다.”라고 말했습니다. “대량의 데이터를 구입하고 AI가 이를 분석하도록 허용하면 사실상 그 과정을 통해 미국인에 대한 대규모 감시에 참여할 수 있습니다. 현재는 법으로 제한되거나 금지되지 않습니다.”
OpenAI는 자사의 “레드 라인”이 구축할 기술 시스템은 물론 국방부와의 계약 언어를 통해 적용된다고 밝혔습니다. 회사가 게시한 블로그에 따르면, 이 계약은 국방부가 “해당 법률, 운영 요구 사항, 잘 확립된 보안 및 감독 프로토콜에 따라 모든 합법적인 목적으로” AI를 사용할 수 있도록 허용하는 동시에 미국인의 개인 정보에 대한 무제한 모니터링을 명시적으로 금지합니다.
문제는 “합법적”이라고 간주되는 것이 바뀔 수 있다는 것입니다. OpenAI 계약은 기존 법률과 국방부 정책을 대상으로 하지만 이러한 정책은 향후 변경될 수 있습니다. Jain은 “그들이 발표한 내용 중 어떤 것도 이러한 정책이 향후 변경되는 것을 막을 수 없습니다”라고 말했습니다.
일부 비평가들은 기존 정보 당국이 OpenAI가 금지한다고 주장하는 감시 형태를 이미 허용하고 있다고 주장합니다. Techdirt 블로그의 창립자인 Mike Masnick은 소셜 미디어에 이 거래가 “국내 감시를 절대적으로 허용한다”고 썼으며 정보 기관이 우연히 획득한 미국인의 데이터를 포함할 수 있는 미국 외부의 통신을 정보 기관이 수집할 수 있도록 허용하는 오랜 권한인 행정 명령 12333을 지적했습니다.
토론의 일부는 다양한 국가 안보 활동을 규율하는 미국 법률의 특정 부분에 중점을 둡니다. 미군의 행동은 일반적으로 미국 연방법 제10조의 적용을 받습니다. 여기에는 군사작전을 지원하기 위해 국방정보국과 미국 사이버사령부가 수행하는 작업이 포함됩니다. 그러나 DIA의 업무 중 일부는 일반적으로 정보 수집 및 비밀 활동을 규율하는 미국법의 다른 부분인 미국법 제50조에 속합니다. 중앙정보국(CIA)과 국가안보국(National Security Agency)의 업무도 일반적으로 Title 50에 속합니다. 가장 민감한 Title 50 활동 중 일부, 특히 은밀한 활동은 주로 무대 뒤에서 이루어지며 대통령의 결정이 필요합니다.
주말에 게시된 블로그 게시물에서 OpenAI는 국방부와의 거래에 대한 자세한 설명을 공유했으며, 유명한 OpenAI 연구원 Noam Brown의 소셜 미디어 게시물에 따르면 회사의 국가 안보 파트너십 책임자인 Katrina Mulligan은 OpenAI의 계약이 비평가들의 주요 우려 원인인 정보 커뮤니티가 수행한 Title 50 작업을 다루지 않는다고 Brown에게 말했습니다. OpenAI 담당자는 Fortune의 논평 요청에 즉시 응답하지 않았습니다.
그러나 법학자들은 Title 10과 Title 50 활동 간의 구분이 점점 모호해지고 있다고 지적했습니다. 실제로 두 가지 모두 매우 유사해 보일 수 있으며 두 가지 모두 외국 행위자에 대한 데이터 분석이나 패턴 추적이 포함될 수 있습니다. 그러나 이러한 중복은 OpenAI와 같은 회사에 회색 영역을 만듭니다. Title 50 작업을 금지하는 계약은 DIA와 같은 Title 10 기관이 AI를 사용하여 상업적으로 이용 가능하거나 분류되지 않은 데이터 세트를 분석하는 것을 자동으로 방지하지 않습니다.
“그들이 자신의 시스템을 Title 50 활동에 사용할 수 없다고 말하면 AI 시스템을 사용할 수 있는 활동 범위가 좁아집니다.”라고 Jain은 말했습니다. “그러나 그것은 문제를 해결하지 못합니다.”
