이종 실리콘 추론 클라우드 짐렛랩스, 3억 달러 시리즈B 유치

AI 에이전트가 등장하면서 추론(inference) 워크로드가 폭증하고 있지만, 지금의 AI 인프라는 대부분 동일한 GPU를 대량으로 투입하는 방식에 머물러 있다. 골드만삭스는 올해 AI 설비투자 규모가 7,650억 달러에 달하고, 2026~2031년 누적 지출은 7조6,000억 달러에 이를 것으로 전망했다. 다만 하드웨어를 늘리는 것만으로는 에이전트 시대의 속도·효율 요구를 따라잡기 어렵다는 지적이 나온다.

이 문제를 소프트웨어로 풀고 있는 이종(異種) 실리콘 추론 클라우드 짐렛랩스(Gimlet Labs)가 3억 달러 규모의 시리즈B 투자를 유치했다고 밝혔다. 이번 라운드로 기업가치는 30억 달러로 올라섰고, 누적 투자 유치액은 3억9,200만 달러가 됐다.

짐렛랩스는 AI 모델의 추론 과정을 여러 단계로 쪼개 단계별로 가장 적합한 실리콘에 자동 배분하는 오케스트레이션 소프트웨어를 만든다. 입력 전체를 한 번에 처리하는 프리필(prefill) 단계는 병렬 연산에 강한 GPU에, 토큰을 순차 생성하는 디코드(decode) 단계는 메모리 대역폭이 넓은 가속기에 맡기는 식이다. GPU와 SRAM 기반 추론 전용 칩, CPU를 하나의 풀로 묶어 이 작업을 처리하며, 동일한 전력 범위 안에서 기존 GPU 단독 대비 최대 10배의 처리량·응답성 향상을 낸다고 회사는 설명했다. ‘짐렛 클라우드(Gimlet Cloud)’라는 이름의 자체 매니지드 클라우드로도, 고객사 데이터센터에 소프트웨어만 배포하는 방식으로도 제공한다. 엔비디아, AMD, 인텔, Arm 같은 범용 칩 메이커는 물론 세레브라스(Cerebras), 디-매트릭스(d-Matrix) 같은 추론 특화 칩 메이커와도 파트너십을 맺고 이들의 하드웨어를 통합 운용하고 있다.

짐렛랩스는 재인 아스가르(Zain Asgar) CEO를 비롯해 미셸 응우옌(Michelle Nguyen), 오미드 아지지(Omid Azizi), 나탈리 세리노(Natalie Serrino)가 함께 창업했다. 이들은 쿠버네티스 옵저버빌리티 툴을 개발해 2020년 뉴렐릭에 매각한 픽시 랩스 출신 팀이다. 아스가르 CEO는 엔비디아 GPU 아키텍트, 구글 AI 엔지니어링 리드를 거쳐 스탠퍼드대 컴퓨터공학과 겸임교수를 맡고 있다. 짐렛랩스는 지난해(2025년) 10월 스텔스에서 벗어나 첫 소프트웨어를 공개했고, 올해 3월 8,000만 달러 시리즈A를 유치한 바 있다.

이번 시리즈B는 a16z(안드리센 호로위츠)가 주도했다. 기존 주요 투자자인 사파이어벤처스(Sapphire Ventures)가 다시 참여했고, 신규 투자자로 M12(마이크로소프트의 벤처펀드)와 Arm이, 기존 투자자로 멘로벤처스(Menlo Ventures)와 팩토리(Factory)가 이름을 올렸다. a16z의 라구 라구람(Raghu Raghuram) 매니징 파트너 겸 짐렛랩스 이사회 멤버는 AI 수요가 기하급수적으로 느는데 데이터센터와 실리콘 공급은 그 속도를 못 따라가고 있다며, 답은 인프라를 더 쌓는 게 아니라 더 나은 아키텍처라고 말했다. GPU와 특화 가속기를 하나의 시스템처럼 작동시켜 와트당 처리량·응답성·지능을 극적으로 끌어올린 게 짐렛랩스라는 설명이다.

지난 3월 시리즈A 발표 이후 짐렛랩스의 고객사는 세 배로 늘었고, 상위 3위 안에 드는 프런티어 AI 랩과 하이퍼스케일러를 각각 신규 고객으로 확보했다. 짐렛 클라우드의 계약 매출은 이미 수십억 달러 규모에 이르렀고, 관리형 이종 인프라 규모도 수백 메가와트급으로 커지고 있다. 이번 투자금은 이종 실리콘 클라우드 운영 확대와 인력 채용에 쓰일 예정이다. 아스가르 CEO는 추론이 AI 워크로드의 주류가 되고 토큰 수요가 폭발하는 전환점에 왔다며, 짐렛랩스 소프트웨어가 서로 다른 종류의 하드웨어에 걸쳐 워크로드를 지능적으로 쪼개 오케스트레이션하기 때문에 압도적인 성능을 낼 수 있다고 말했다.

AI 추론 인프라 시장은 레이어별로 역할이 나뉜다. 코어위브(CoreWeave)와 람다(Lambda) 같은 네오클라우드는 GPU를 대량 확보해 시간 단위로 빌려주는 임대 사업자다. 그 위에는 베이스텐(Baseten)·모달랩스(Modal Labs)·파이어웍스AI(Fireworks AI)처럼 기업이 AI 모델을 손쉽게 배포·운영하도록 돕는 관리형 추론 플랫폼이 있다. 베이스텐은 엔비디아가 참여한 3억 달러 투자로 기업가치 50억 달러를 인정받았고, 모달랩스는 지난 5월 3억5,500만 달러를 새로 유치하며 기업가치 46억5,000만 달러가 됐다. 파이어웍스AI는 지난해 10월 40억 달러였던 기업가치가 최근 15억 달러 투자 유치로 175억 달러까지 뛰었다. 추론 엔진 레이어에서는 오픈소스 SGLang 기반의 래딕스아크(RadixArk)가 기업가치 4억 달러를 인정받았다.

짐렛랩스는 이들보다 한 단계 더 아래, 즉 서로 다른 실리콘 자체를 어떻게 묶어 오케스트레이션하느냐에 집중한다는 점에서 시장이 다르다. 자체 추론 전용 칩(LPU)을 만드는 그록(Groq)이나 짐렛랩스가 파트너로 삼는 세레브라스·디-매트릭스도 칩 설계사여서 직접 경쟁 상대라기보다는, 특화 가속기가 늘어날수록 이를 통합 운용하는 짐렛랩스 소프트웨어의 가치가 커지는 관계에 가깝다. 다만 CB인사이츠(CB Insights) 등 시장 분석에서는 짐렛랩스를 파이어웍스·투게더AI(Together AI)·오픈라우터(OpenRouter)·모달랩스와 함께 넓은 의미의 ‘AI 추론’ 카테고리로 묶기도 한다. 실제 고객층은 대형 AI 모델 랩과 하이퍼스케일러 위주로, 일반 기업 개발자가 주 고객인 베이스텐·모달랩스와는 결이 다르다는 게 짐렛랩스 측 설명이다.

📌 이 회사, 와우테일과 함께

관련 기사 · AI 추론(Inference) 스타트업 지형도 2026: 학습에서 추론으로 · 에이전트 AI 추론 인프라 ‘짐렛랩스’, 8천만 달러 시리즈A 투자 유치