엔비디아, 200억 달러에 사들인 그록 기술로 추론 칩 양산

에이전틱 AI는 추론에 두 가지 서로 다른 부담을 준다. 하나는 방대한 문맥을 처리하는 것이고, 다른 하나는 토큰을 아주 낮은 지연으로 뽑아내는 것이다. 에이전트는 하나의 과제를 끝내려고 수백에서 수천 단계의 추론을 거치며 엄청난 양의 토큰을 만들어낸다. 토큰이 초당 몇 개 나오느냐가 곧 에이전트가 얼마나 빨리 생각하고 행동하는지를 결정한다.

엔비디아(NVIDIA)가 이 문제를 겨냥한 추론 전용 가속기 Groq 3 LPX를 전면 양산에 들어갔다고 핫칩스(Hot Chips) 2026에서 발표했다. 베라 루빈(Vera Rubin) 플랫폼의 확장 제품으로, GPU가 학습과 범용 워크로드를 맡고 이 칩이 추론 집약 작업을 나눠 가지는 구조다.

성능 수치는 이렇다. 아티피셜 애널리시스(Artificial Analysis) 벤치마크에서 오픈소스 에이전틱 모델 젬마 4 31B(Gemma 4 31B)를 10만 토큰 문맥으로 돌려 초당 3,400 출력 토큰을 기록했다. 이 모델에서 측정된 역대 최고 속도다. 회사는 코딩 같은 에이전트 작업이 몇 시간에서 몇 분으로 줄고, 가장 가까운 대안 플랫폼 대비 응답성이 4배 빠르다고 설명했다.

200억 달러짜리 라이선스가 제품이 됐다

이 칩의 이름이 왜 ‘Groq’인지가 이 소식의 핵심이다.

그록(Groq)은 구글 TPU 1세대를 직접 설계한 조너선 로스(Jonathan Ross)가 2016년 창업한 회사다. GPU와 달리 결정론적 프로세서 설계와 데이터플로 구조를 채택한 언어처리장치(LPU)로 초고속 추론을 구현해 ‘엔비디아 대항마’로 불렸다. 2025년 9월에는 69억 달러 가치에 7억 5천만 달러를 유치했다.

그런데 2025년 12월 엔비디아가 그록의 자산 대부분을 현금 200억 달러에 라이선스했다. 2019년 멜라녹스(Mellanox) 인수액 70억 달러를 훌쩍 넘는 역대 최대 규모다. 로스를 포함한 주요 경영진이 엔비디아에 합류했다. 젠슨 황은 당시 “재능 있는 직원을 영입하고 그록의 지적재산권을 라이선스하는 것이지, 회사로서 인수하는 것은 아니다”라고 선을 그었다. 이른바 ‘재능 인수(acqui-hire)’ 방식이다.

8개월 만에 그 라이선스가 엔비디아 제품으로 나왔다. LPU 256개를 묶은 랙 스케일 가속기다.

대항마는 이제 고객이 된다

칩 사업의 무게를 덜어낸 그록은 AI 추론 클라우드로 전환했다. 지난 6월 6억 5천만 달러를 유치하며 방향을 틀었고, 이달에는 3억 5천만 달러 시리즈A를 유치했다. 기업가치 35억 달러로, 칩 회사였던 시절의 69억 달러보다 49% 낮다.

Groq 3 LPX를 처음 도입하는 클라우드는 네비우스(Nebius)다. 자사 추론 플랫폼 네비우스 토큰 팩토리(Nebius Token Factory)에 올릴 계획이라고 밝혔다. 다닐라 슈탄(Danila Shtan) CTO는 추론에서 응답성을 실제로 결정하는 단계가 생성 구간이고 Groq 3 LPX가 정확히 그 지점을 가속한다며, 개발자가 이미 쓰는 같은 API로 새 스택 이전 없이 제공하겠다고 밝혔다.

그록은 네비우스 다음 순서다. 엔비디아는 네비우스에 이어 그록이 초기 도입 클라우드에 포함될 예정이라고 밝혔다. 자기가 만들었던 기술로 제작된 엔비디아 제품을 클라우드 사업자로서 도입하는 셈이다. 다만 지난해 라이선스는 비독점 계약이어서 그록이 기술을 잃은 것은 아니다. 칩을 직접 만드는 일에서 물러났을 뿐이다.

두 곳 모두 아직 도입 예정 단계이고, 상용 서비스 시점은 공개되지 않았다.

삼성 파운드리가 4nm로 단독 생산

이 칩의 LPU는 삼성전자 파운드리가 4nm 공정으로 단독 생산한다. 엔비디아 발표문에는 파운드리 언급이 없지만, 젠슨 황이 올해 3월 GTC에서 삼성이 만들고 있으며 “가능한 한 빠르게” 양산을 늘리고 있다고 확인한 바 있다.

국내에서는 이 물량이 삼성 파운드리 실적의 분기점으로 꼽힌다. KB증권은 성과급 충당금 등을 제외하면 3분기에 2022년 이후 4년 만의 흑자 전환이 가능하다고 전망했다. TSMC의 선단 공정 capa가 빡빡한 상황에서 대안 공급처를 찾는 수요를 삼성이 받은 구도다.

추론 가속기 경쟁의 좌표

학습 시장을 엔비디아가 사실상 장악한 것과 달리 추론은 경쟁이 치열하다. 세레브라스(Cerebras)와 삼바노바(SambaNova)가 전용 아키텍처로 속도를 앞세우고, 구글 TPU와 아마존 트레이니움 같은 자체 칩도 있다.

엔비디아가 GPU 계열이 아닌 별도 칩을 사서 제품화한 것은, 추론이 GPU만으로 최적화되지 않는 영역임을 스스로 인정한 신호로 읽힌다. 전용 아키텍처가 필요한 구간이 있다면 그 기술을 외부에서 200억 달러에 사 오는 편이 빠르다고 판단한 셈이다.

이번 랙 플랫폼에는 블루필드-4(BlueField-4) DPU가 들어가고, 베라 CPU 랙과 베라 블루필드-4 STX 스토리지, 스펙트럼-6 SPX 이더넷과 함께 묶여 동작한다. 엔비디아는 칩 7종과 목적별 랙 5종을 아우르는 설계로 베라 루빈을 구성했다고 설명했다.

추론 시장 전반에 대한 자세한 내용은 여기를 참고하시길.

주요 AI 기업들의 투자 관계망에 대한 자세한 내용은 여기를 참고하시길.