Peter Thiel은 2024년에 AI가 “수학을 하는 사람들에게는 사람이라는 단어보다 훨씬 더 나쁜 것 같습니다”라고 간결하게 말했습니다. 아마도 불과 2년 후 Palantir의 공동 창업자인 CEO인 Alex Karp가 자신이 멍청하다고 생각하는 사람들을 묘사하기 위해 확실히 화려한 언어를 사용할 것이라고는 예상하지 못했을 것입니다.
Karp는 a16z American Dynamism Summit에서 연설하면서 “실리콘 밸리가 우리가 모든 사람의 사무직 일자리를 빼앗을 것이라고 생각하고… 군대를 망칠 것이라고 생각한다면, 그것이 우리 기술의 국유화로 이어지지 않을 것이라고 생각한다면 당신은 뒤처진 것”이라고 말했습니다. “당신의 IQ가 160이기 때문에 특히 지능이 저하될 수 있습니다.”
Karp는 AI 세계를 휩쓴 주제에 대해 다음과 같이 논평했습니다. AI 기업은 어떤 역량으로 정부와 협력해야 합니까? 자세히 살펴보면 국방부와 완전히 별개인 두 회사(Anthropic 및 OpenAI) 간의 분쟁이 Karp의 불만을 촉발한 이유를 설명합니다.
a16z의 총괄 파트너인 Katherine Boyle은 “서방을 방어하는 AI”라는 제목의 브레이크아웃 세션을 진행했습니다.
이에 대해 Karp는 다음과 같이 지적했습니다. “실리콘 밸리가 우리가 모든 사람(예: 주로 함께 성장할 수 있는 민주당 사람들, 엘리트 학교에 다녔거나 한 당에 거의 엘리트인 학교에 다녔던 고등 교육을 받은 사람들)에게서 사무직 일자리를 빼앗을 것이라고 생각한다면 군대를 고소하게 될 것입니다. 그것이 우리 기술의 국유화로 이어질 것이라고 생각하지 않는다면 당신은 시대에 뒤떨어진 것입니다.”
오. 그렇다면 Karp 씨를 괴롭히는 것은 무엇입니까?
이것이 Palantir에 영향을 미치는 이유
Karp는 자신의 주장을 전달하기 위해 덜 공격적인 언어를 선택할 수도 있었지만 Palantir에게 매우 개인적인 민감한 사항을 건드리고 있었습니다. 그는 “모든 사람의 일자리를 동시에 빼앗는 기술을 가질 수는 없다”고 말하면서 군대를 망치는 것으로 인식됐다. Palantir에게는 그 긴장이 추상적이지 않습니다. 이는 실제 운영상의 위기일 수도 있습니다.
Anthropic, OpenAI, Google 및 xAI와 같은 회사는 국방부와 계약을 체결했으며 각 회사는 서비스 약관을 위반할 수 있는 환경에서 기술을 사용할 수 있는지 여부를 제한했습니다. 국방부는 이러한 제한을 제거하고 대신 “모든 합법적인 목적”으로 인공지능 기술을 사용하도록 허용하기 위해 인공지능 회사와 협상을 진행해 왔습니다. Karp는 해당 요청을 도덕적 한계선으로 취급하는 회사에 대해 인내심이 거의 없습니다.
그는 정상회담에서 “미군과 경찰 사이에는 차이가 있다”고 말했다. 그는 “모든 사람들이 생각하는 것과는 달리 팰런티어는 감시 반대 회사”라고 말하면서 반지의 제왕에 나오는 모든 것을 감시하는 감시 장치의 이름을 딴 회사가 근본적으로 감시 사업에 속한다는 주장을 일축했습니다. 모든 기술 전문가는 이것이 사실이라는 것을 알고 있지만 속담 “온라인 사용자”는 단순히 잘못된 생각을 가지고 있다고 Karp는 주장했습니다. “그래서 나는 참여하고 싶지 않은 모든 대화에 참여하게 됩니다.”
Anthropic CEO Dario Amodei는 “모든 합법적인 목적” 조항을 “양심적으로” 지지할 수 없다고 말한 것으로 유명합니다. 그런 다음 정부는 군사 공급망에 대한 위험으로 간주된다는 위협으로 Anthropic을 위협한 후 OpenAI와 계약을 체결하여 OpenAI의 도구를 기밀 임무에 사용했습니다. (Anthropic은 미 국방부와 다시 협상 중인 것으로 알려졌으며 미 국방부는 Anthropic의 Claude Opus가 이란에 대한 역사적인 미국-이스라엘 군사 공격 준비의 핵심임을 확인했습니다.)
Palantir의 경우 이러한 일련의 이벤트는 추상화가 아니라 직접적인 운영 위협입니다. Palantir의 주력 AI 플랫폼(AIP)은 동급 최고의 프론티어 모델을 방어 및 인텔리전스 워크플로우에 연결하는 것을 기반으로 구축되었습니다. Claude Opus는 가장 유능한 모델 중 하나이며 고위험 환경에서의 깊이 있는 추론과 신뢰성으로 높이 평가됩니다. Anthropic이 군사 공급망에 대한 위험으로 블랙리스트에 등록되거나 서비스 약관에 따라 Palantir가 운영되는 기밀 환경에서 Anthropic이 효과적으로 제외된다면 Palantir는 가장 강력한 AI 엔진 중 하나에 대한 액세스를 잃게 됩니다. 계약 중간에 대체 모델을 중심으로 플랫폼을 재구성해야 할 것입니다. 이는 미션 크리티컬 신뢰성을 브랜드 약속으로 삼는 회사에 비용이 많이 들고 평판에 손상을 주는 일입니다.
Karp는 “다시 말하지만 커튼 뒤에는 많은 미묘함이 있습니다”라고 인정했습니다. “저는 그 미묘한 부분, 즉 무엇을 구현할 수 있는지, 어디에 구현할 수 있는지에 대해 깊이 관여해 왔습니다.”
더 넓은 경제 상황
Karp는 문제가 되는 것은 특정 국방부 계약이나 회사의 정치적 결정을 훨씬 넘어서는 것이라고 주장했습니다. 그는 “우리 산업에 대한 위험은 사람들이 동의하는 단 한 가지, 즉 비용을 지불하지 않고 우리 산업에 종사하는 사람들을 국유화해야 하는 유명한 말굽 효과가 있다는 것”이라고 경고했습니다.
카프에 따르면, AI 기업이 군복무를 거부하면서 사무직 근로자의 생계를 박탈한다면 좌파와 우파가 모두 기술로 전환하는 포퓰리즘적 융합은 불가피해질 것이라고 한다. 다시 그는 그 노동자들이 누구인지 지적했습니다. “주로 당신이 성장할 수 있는 민주적 방식의 사람들, 즉 한 정당을 위해 엘리트 학교에 다녔거나 거의 엘리트 학교에 다녔던 고도로 교육받은 사람들.”
그러한 두려움은 이미 Karp의 주장에 긴박성을 부여하는 경제적 규모로 구체화되고 있습니다. 전문가들은 사무직 근로자의 수명이 단축되는 AI 최후의 날 시나리오가 임박해 대부분의 직원을 실업자로 만드는 불안정한 요인에 대해 경고합니다. 이것은 단순히 공황을 유발하는 아이디어가 아닙니다. 이는 대규모 시장 격변을 촉발한 바이러스성 Citrini Research 실험과 같은 실제 결과를 가져옵니다.
Karp의 견해에 따르면, 정부는 AI 기업이 이미 가지고 있는 권한을 축적하고 비정부적이고 자율적인 감독 역량으로 계속 운영하는 것을 허용하지 않을 것이며, 더욱이 정부 자체에 사용 조건을 지시하는 것도 허용하지 않을 것입니다. “여기가 길이 가는 곳이에요.” 그는 간단하게 말했다. Palantir와 같은 회사가 자신의 위치, 계약 및 플랫폼을 강화하는 최첨단 AI 모델에 대한 액세스를 유지하는 유일한 방법은 요청 시 정부 규칙을 따르는 것입니다. Palantir의 경우 테이블에서 자리를 잃는 것이 단지 나쁜 광학을 의미하는 것은 아닙니다. 이는 핵심 제품을 작동시키는 기술적 입력을 상실한다는 것을 의미합니다.
불과 한 달 전 Karp가 Palantir의 최근 분기 실적에서 “기업 또는 기술 성과 역사상 진정으로 상징적인 성과 중 하나”라고 불렀던 성과를 달성한 회사에게는 극적인 전환이 될 것입니다.
