주요 재생 가능 에너지 개발업체에서 근무하는 동안 Varun Sivaram은 인공 지능과 데이터 센터의 증가가 그리드 상호 연결 대기 시간이 길어짐에도 불구하고 새로운 발전 구축을 앞지르고 있음을 깨달았습니다.
Sivaram은 Fortune과의 인터뷰에서 “나는 여기서 벗어날 수 없다는 것을 깨달았습니다. 우리에게는 현명한 수요가 필요했습니다”라고 말했습니다.
이러한 요구를 해결하기 위해 Sivaram은 데이터 센터의 네트워크 유연성을 개발하기 위해 Emerald AI라는 소프트웨어 회사를 설립했습니다. 이를 통해 매년 가장 덥거나 가장 추운 날에 네트워크의 최대 부하 수요가 발생하는 시점에 AI 운영에 해를 끼치지 않고 전력 소비를 본질적으로 줄일 수 있습니다.
에너지 효율성을 높이는 것 외에도 AI 공장과 전력 생산이 그리드에 연결되는 시간을 가속화하는 동시에 업계 용어인 99.999% 신뢰성을 유지하는 것이 목표입니다.
네트워크 대기열을 빠르게 통과하기 위해 현재 Lightning Lane으로 알려진 Disney FastPass 접근 방식을 호출해 보겠습니다.
“우리는 이를 유연한 화물 고속 차선이라고 부릅니다.” Sivaram이 디즈니 언급을 웃으며 정정하면서 말했습니다.
Emerald AI의 제안은 Nvidia의 재정적 지원과 지원을 빠르게 얻었으며, 이는 회사의 AI 소프트웨어 성장과 배포를 가속화하는 데 도움이 되었습니다. 그는 “AI를 위한 AI”라고 말했다.
3월 31일, Emerald AI는 Nvidia의 NVentures, Eaton, GE Vernova, Radical Ventures, Salesforce, Samsung, Siemens 등과 IQT, CIA 및 기타 미국 정보 기관의 벤처 캐피털 기관을 포함한 2,500만 달러 규모의 전략적 자금 조달 라운드를 완료했다고 발표했습니다. 이번 라운드는 Energy Impact Partners가 주도했습니다. 이로써 Emerald 창립 이후 16개월 만에 총 자금이 6,800만 달러에 달하게 되었습니다.
지난 주 Emerald와 Nvidia는 AES, Constellation Energy, Invenergy, NextEra Energy 및 Vistra를 포함한 미국의 주요 에너지 생산업체와 파트너십을 맺었습니다.
그리고 올해 말 일련의 파일럿이 성공을 거두면 Emerald와 Nvidia는 버지니아에 최초의 상업용 유연 에너지 AI 공장인 Nvidia의 96MW 규모 Vera Rubin AI 공장 연구 센터를 열 예정입니다.
“AI 혁명의 도래는 갑자기 AI 공장의 전력이 충분하지 않기 때문에 이 아이디어가 전성기를 맞이해야 한다는 것을 의미했습니다.”라고 Sivaram은 말했습니다. “역사적으로 데이터 센터는 전력 확보에 문제가 없었습니다. 데이터 센터는 그리드의 5% 미만을 차지했지만 이제 10년 내에 미국 에너지 공급의 25%를 향해 나아가고 있습니다.”
Constellation의 CEO인 Joe Dominguez는 “우리에게는 공급 문제가 없습니다. 피크 문제가 있습니다.”라고 말했습니다.
그리고 에메랄드의 ‘그리드 기반 AI 공장’은 이 문제를 해결하는 것을 목표로 합니다.
엔비디아 패스트 패스
Emerald의 소프트웨어는 AI 공장을 가속화하는 것을 목표로 하고 있지만 Emerald를 가속화한 것은 Nvidia의 초기 지원이었습니다.
Nvidia의 글로벌 파워 부문 수석 총괄 관리자인 Marc Spieler는 “우리는 이것을 상용화하고 더 큰 규모로 출시할 수 있는 기회를 갖게 되어 매우 기쁩니다.”라고 말했습니다. “시범은 매우 성공적이었습니다. 우리는 이것이 그리드에서 더 많은 미개발 전자를 사용하여 더 많은 AI 공장을 그리드에 더 빠르게 가져올 수 있는 잠재력을 열어줄 것이라고 믿습니다.”
장기적인 목표는 유연한 에너지 AI 공장이 효율성 향상을 통해 기존 미국 전력망에서 최대 100기가와트의 추가 용량을 확보하는 것입니다. 맥락상 100기가와트는 약 7,500만 가구에 전력을 공급할 수 있습니다.
그리드 상호 연결 연구에는 수년간의 규제 검토가 필요할 수 있지만 수요가 가장 높은 시기에 에너지 유연성을 제공할 수 있다면 개발자는 거의 즉각적인 그리드 연결을 얻을 수 있다고 Spieler는 Fortune에 말했습니다. “우리의 목표는 가능한 한 많은 네트워크 연결을 확보하고 미터기에 뒤처지지 않고 고립되지 않고 유연하게 되는 것입니다.”라고 그는 말했습니다. “실제로는 이를 규모에 따른 반응성이 매우 높은 수요 반응이라고 생각할 수 있습니다.”
그리고 Nvidia는 Emerald의 잠재력을 기꺼이 지원했습니다. 3월 31일에 발표된 유일한 NVentures 지원과는 거리가 멀습니다. AI가 전력망 연구를 몇 년에서 몇 분으로 압축하는 데 초점을 맞춘 ThinkLabs는 Energy Impact Partners가 주도하는 2,800만 달러 규모의 시리즈 A 자금 조달 라운드를 발표했습니다.
Spieler는 “우리는 생태계 회사입니다. 파트너를 통해 시장에 진출합니다. Fortune 100대 기업인지, Fortune 10대 기업인지, AI 스타트업인지는 중요하지 않습니다.”라고 Spieler는 덧붙였습니다. “올바른 아이디어를 가지고 있고 이를 실행할 수 있는 사람이 있다면 우리는 그들을 지원하고 공백을 메울 것입니다.”
어떻게 작동하나요?
8년 전, Sivaram은 “태양 길들이기: 태양 에너지를 활용하고 지구에 전력을 공급하는 혁신”이라는 책을 썼습니다.
여기에서 그는 더 많은 청정 에너지를 “검색”하기 위해 여러 위치 간에 작업 부하를 이동하는 Microsoft의 작업을 문서화했습니다. 그리고 나중에 Google은 풍력을 최대한 활용하기 위해 밤새 더 많은 컴퓨팅 작업을 이전하기 위해 노력했습니다.
“저는 ‘전자를 비트가 있는 곳으로 이동시키려는 대신 비트가 전자가 있는 곳으로 이동할 수 있다면 좋지 않을까?’라고 생각했습니다. 또는 속도를 늦추거나 일시 중지하는 등 비트를 실질적으로 제어할 수도 있습니다.”라고 Sivaram은 말했습니다.
이 아이디어에서 Emerald Conductor 플랫폼은 계산 유연성과 함께 현장 에너지 자원을 “조정”하여 프로젝트가 더 빠르게 연결되고 전력망을 지원할 수 있도록 했습니다.
그는 “일부 AI 워크로드는 약간 지연될 수 있고 고객은 이에 동의하기 때문에 활용할 수 있는 고유한 유연성이 있다는 것을 발견했습니다”라고 말했습니다. “일부 AI 워크로드는 고객이 허용할 수 있는 대기 시간을 갖고 한 위치에서 다른 위치로 이동할 수 있습니다.
Sivaram은 “그리고 데이터 센터 사이트에는 배터리(스토리지)나 발전기(백업)와 같은 리소스를 채용할 수도 있습니다. Emerald AI는 이러한 다양한 유연성 레버를 모두 채용하여 그리드에 매우 정확한 응답을 제공하는 방법을 찾습니다.”라고 덧붙였습니다.
그리고 테스트와 파일럿을 통해 중요한 고객 작업이 저하 없이 계속 작동했다고 그는 말했습니다. “그들은 100% 성능으로 계속 전진했습니다.”
