엔비디아는 크리스마스 이브에 AI 칩 스타트업 그로크(Groq)로부터 기술을 라이선스하고 공동 창업자이자 CEO인 조나단 로스(Jonathan Ross)를 포함한 대부분의 팀을 데려오는 200억 달러 규모의 계약을 깜짝 발표했습니다. 이는 Nvidia가 더 이상 AI 배포의 다음 큰 단계에 GPU가 유일한 유용한 칩이 될 것이라고 가정하지 않는다는 것을 암시하는 움직임이었습니다. 즉, 쿼리에 응답하고 코드를 생성하는 것부터 이미지 분석(추론으로 알려진 프로세스)에 이르기까지 모든 작업을 수행하도록 이미 훈련된 AI 모델을 실행하고 이를 대규모로 수행하는 것입니다.
Groq과의 거래는 Cerebras, D-Matrix 및 SambaNova(인텔이 인수 계약을 체결한 것으로 알려짐)를 포함하여 자체 AI 칩을 구축하는 다른 스타트업뿐만 아니라 영국 기반 칩 스타트업 Fractile과 같은 신규 플레이어의 입지를 강화합니다. 또한 애널리스트, 창업자, 투자자에 따르면 Etched, Fireworks, Baseten과 같은 AI 추론 소프트웨어 플랫폼 스타트업의 가치를 강화하고 2026년 인수 목표를 더욱 매력적으로 만들었습니다.
Cambrian-AI Research의 창립자이자 수석 분석가인 Karl Freund는 Microsoft가 지원하는 D-Matrix를 지적했습니다. D-Matrix는 지난 달 평가액 20억 달러로 2억 7,500만 달러를 모금했습니다. Groq과 마찬가지로 D-Matrix는 AI 모델을 실행할 때 속도와 효율성을 높이기 위해 Nvidia GPU의 유연성 중 일부를 교환하는 데 중점을 둡니다. “D-Matrix는 현재 꽤 행복한 스타트업이라고 확신합니다.”라고 Freund는 말했습니다. “다음 라운드에서는 훨씬 더 높은 평가를 받을 것으로 생각됩니다.”
또 다른 추론 중심 칩 회사인 Cerebras도 좋은 위치에 있는 것으로 보입니다. 단일 실리콘 조각에서 매우 큰 모델을 실행하도록 설계된 플레이트 크기의 “웨이퍼 규모” 칩으로 유명한 Cerebras는 초기 지연 후 기업공개(IPO)를 신청했습니다. 프로인드는 이 회사가 점점 잠재적인 인수 대상으로 여겨지고 있다고 말했습니다. “IPO가 더 비싸질 때까지 기다리고 싶지는 않을 것입니다”라고 그는 말했습니다. “그런 관점에서 볼 때, 세레브라스는 지금 잘하고 있습니다.”
Nvidia-Groq 거래로 시장 방향이 명확해졌습니다.
이들 회사의 경영진은 Nvidia의 움직임이 시장의 방향을 명확히 하는 데 도움이 되었다고 말합니다. D-Matrix의 CEO인 Sid Sheth는 Fortune과의 인터뷰에서 “(Nvidia-Groq 거래가) 성사되었을 때 우리는 ‘마침내 시장이 이를 인식했다’고 말했습니다.”라고 말했습니다. “Nvidia가 실제로 한 일은 다음과 같습니다. 좋아요, 이 접근 방식은 승리하는 접근 방식입니다.”
그리고 Cerebras의 CEO인 Andrew Feldman은 다음과 같이 썼습니다. 그러나 Groq 거래에는 그 해자가 더 이상 존재하지 않는다고 Feldman은 썼습니다. “이는 성장하는 업계 현실을 반영합니다. 추론 시장이 세분화되고 속도가 특징이 아닌 새로운 범주가 등장했습니다. 이는 전체 가치 제안입니다. GPU와 다른 칩 아키텍처를 통해서만 달성할 수 있는 가치 제안입니다.”
그럼에도 불구하고 모든 추론 칩 스타트업이 동등하게 이익을 얻을 것이라고 모든 사람이 확신하는 것은 아닙니다. Menlo Ventures의 파트너인 Matt Murphy는 칩 부문은 높은 자본 요구 사항과 오랜 기간으로 인해 벤처 투자자들에게 여전히 어려운 분야라고 말했습니다. 머피는 “많은 벤처 캐피탈리스트들이 10~15년 전에 칩 투자를 중단했다”고 말했다. “자본 집약적입니다. 제품을 출시하는 데 수년이 걸리고 결과를 예측하기 어렵습니다.”
즉, 그는 PyTorch를 구축한 엔지니어로 가득 찬 창립 팀 덕분에 지난 10월 40억 달러 가치로 2억 5천만 달러를 투자한 AI 추론 플랫폼인 Fireworks를 기술적인 이점을 갖춘 스타트업으로 꼽았습니다. 그러나 그는 현재의 열정이 진정한 기술 차별화를 어느 정도 반영하는지는 아직 불분명하다고 덧붙였습니다. 그는 “현재 일어나고 있는 것처럼 보이는 모든 보트를 끌어올리는 조류와 비교하여 누가 정말로 중요한 것을 가지고 있는지 말하기 어렵다”고 말하면서 이제 부문 전반에 걸친 통합 가능성이 점점 더 높아진다고 덧붙였습니다.
신규 진입자는 진정한 파괴를 추구합니다.
그러나 AI 하드웨어 세계의 베테랑 중 적어도 한 명은 오늘날의 추론 중심 스타트업도 실제로는 파괴적이지 않다고 주장합니다.
Databricks의 전 AI SVP이자 모자이크ML의 창립자인 Naveen Rao는 최근 Databricks를 떠나 Unconventional AI를 시작했습니다. Unconventional AI는 지난 달 Andreessen Horowitz와 Lightspeed Ventures가 이끄는 대규모 4억 7,500만 달러 규모의 시드 라운드를 확인했습니다. 리뷰: Groq, D-Matrix 및 Cerebras와 같은 회사는 오늘날 시장에서 좋은 위치에 있지만 여전히 동일한 디지털 컴퓨팅 패러다임 내에서 최적화하고 있습니다.
Nvidia의 Groq 거래를 통해 더 빠르고 효율적인 추론에 대한 수요가 검증된 후, 오늘날의 AI 스택에 딱 맞는 스타트업이 갑자기 훨씬 더 가치 있게 보입니다. Rao는 컴퓨팅을 재창조했기 때문이 아니라 컴퓨팅 내에서 작업하기 때문이라고 주장합니다. 비전통적인 AI는 실리콘 자체의 물리적 동작을 활용하는 새로운 하드웨어를 구축하고 적응하도록 신경망을 재설계하는 보다 급진적인 경로를 따르고 있습니다.
“우리는 80년 동안 동일한 기본 기계인 디지털 숫자 기계를 만들어 왔습니다.”라고 그는 말했습니다. “그러나 전체 컴퓨팅 주기의 2% 이상을 차지하는 워크로드는 없었습니다.” 그는 상황이 변하고 있다고 설명했습니다. 몇 년 안에 모든 컴퓨팅의 95%가 AI에 사용될 것입니다.
그런 관점에서 볼 때, 오늘날 만들어진 기계와는 완전히 다른 기계를 만드는 것이 중요하다고 그는 말했습니다. 그러나 Rao는 이러한 노력이 결실을 맺기까지 5년 이상이 걸릴 수 있으며 현재의 추론 붐을 활용하려는 의도는 없다고 말했습니다.
이 이야기는 원래 Fortune.com에 게재되었습니다.
