그록, 6억5천만 달러 유치… 칩 버리고 ‘AI 추론 클라우드’로

AI의 무게중심이 ‘학습’에서 ‘추론(inference)’으로 빠르게 옮겨가고 있다. 모델을 만드는 학습보다, 만들어진 모델을 실제로 돌리는 추론이 훨씬 큰 시장이다. 업계에서는 추론이 학습보다 15~20배 많은 컴퓨팅을 필요로 할 것으로 본다. 그런데 오늘날 대부분의 AI 클라우드는 학습에 맞춰 지어졌고, 추론 전용 시장에서 아직 확실한 1등은 없다.

그록(Groq)은 그 빈자리를 노린다. 2016년 구글의 AI 칩(TPU) 개발에 참여한 엔지니어가 세운 이 회사는 추론에 특화한 전용 칩 ‘LPU(Language Processing Unit)’를 처음 선보였고, 이를 클라우드로 제공하는 그록클라우드(GroqCloud)를 운영해왔다. 현재 북미·유럽·중동·아시아태평양에 13개 데이터센터를 두고 500만 명이 넘는 개발자에게 매주 수조 개의 토큰을 처리해준다.

그록의 진짜 반전은 지난해 말 일어났다. 2025년 12월 엔비디아(NVIDIA)가 그록의 자산을 약 200억 달러에 사들이고 기술을 비독점으로 라이선스하기로 한 것이다. 엔비디아 역사상 최대 규모의 거래였다. 엔비디아는 올해 GTC에서 그록의 추론 기술을 품은 차세대 ‘LPX 플랫폼’을 공개했다. 칩 기술을 사실상 엔비디아에 넘긴 그록은, 이제 그 기술이 담긴 엔비디아 LPX까지 끌어안고 ‘추론 클라우드 운영’이라는 단일 목표에 회사를 다시 맞췄다.

이런 방향 전환의 연장선에서 그록은 6억5천만 달러 규모의 신규 성장 자본을 유치했다고 발표했다. 이번 라운드는 기존 투자자이자 이사회에 몸담은 디스럽티브(Disruptive)와 인피니텀(Infinitum)이 주도했고, 재투자를 택한 기존 투자자들이 참여했다. 그록의 이사회 의장이 리드 투자사 디스럽티브의 수장이기도 한 만큼, 이번 피벗은 투자자가 강하게 주도한 셈이다. 회사는 이번 라운드의 기업가치를 공개하지 않았다. 지난해 9월 7억5천만 달러를 유치할 당시 기업가치는 69억 달러였다.

확보한 자금은 기존 13개 데이터센터를 그록의 최신 추론 기술과 엔비디아 LPX 시스템으로 채우는 데 투입된다. 그록은 2027년 말까지 용량을 200MW 규모로 키울 계획이다.

추론 클라우드 주도권 다툼

‘추론 전용 클라우드’라는 같은 고지를 노리는 경쟁자는 빠르게 늘고 있다.

베이스텐(Baseten)은 요청을 가장 적합한 모델로 라우팅해 추론 비용을 낮추는 플랫폼으로, 최근 130억 달러 가치에 15억 달러 조달을 추진하고 있다. 모달랩스(Modal Labs)는 서버리스 방식으로 46억5천만 달러 가치에 3억5천5백만 달러를 유치하며 ARR 3억 달러를 넘겼다. 그록처럼 추론 전용 칩을 만드는 세레브라스(Cerebras)는 상장으로 55억 달러를 조달하며 상장 첫날 주가가 두 배로 뛰었고, AMD 칩을 앞세운 텐서웨이브(TensorWave)도 3억5천만 달러 시리즈B로 유니콘에 올랐다. 신생 주자인 제너럴 컴퓨트(General Compute) 역시 ‘추론 특화 네오클라우드’를 표방하며 시장에 뛰어들었다.

경쟁사에 대한 자세한 내용은 여기를 참고하시길.

주요 AI 기업들의 투자 관계망에 대한 자세한 내용은 여기를 참고하시길.