AI 칩 시장의 절대 강자 엔비디아가 초고속 AI 추론 기술로 주목받던 스타트업 그로크(Groq)와 200억 달러 규모의 기술 라이선스 계약을 체결했다. 이번 거래는 엔비디아가 2019년 멜라녹스 테크놀로지스(Mellanox Technologies)를 70억 달러에 인수한 것을 훌쩍 뛰어넘는 역대 최대 규모다.

CNBC의 보도에 따르면 엔비디아는 그로크의 자산 대부분을 현금 200억 달러에 라이선스하는 조건으로 합의했다. 다만 그로크의 클라우드 사업인 그로크클라우드(GroqCloud)는 이번 거래에 포함되지 않으며, 그로크는 독립 기업으로 계속 운영된다. 그로크의 조나단 로스(Jonathan Ross) CEO를 비롯한 주요 경영진은 엔비디아에 합류한다.

이번 거래로 그로크는 9월 시리즈 D 라운드에서 평가받았던 69억 달러 대비 약 3배 가까운 밸류에이션을 인정받았다. 그로크는 지난 9월 디스럽티브(Disruptive)가 주도한 라운드에서 7억5000만 달러를 조달하며 69억 달러로 평가받았다. 이에 앞서 8월에는 블랙록 프라이빗 에쿼티 파트너스(BlackRock Private Equity Partners)가 주도한 6억4000만 달러 시리즈 D 라운드로 28억 달러 밸류에이션을 달성하며 유니콘 지위를 확보했다.

엔비디아 대항마 ‘그로크(Groq)’, 69억 달러 가치에 7억5천만 달러 투자유치  

그로크는 구글의 텐서 프로세싱 유닛(TPU) 핵심 설계자였던 조나단 로스가 2016년 설립한 기업이다. 로스는 구글에서 20% 프로젝트로 시작한 TPU의 1세대 칩을 직접 설계하고 구현했으며, 이후 구글 X의 래피드 에벌류에이션 팀에서 알파벳의 새로운 사업부를 발굴했다. 그가 뉴욕대학교에서 딥러닝의 선구자 얀 르쿤(Yann LeCun) 교수 밑에서 공부한 경험도 그로크의 기술적 토대가 됐다.

그로크의 핵심 기술은 언어처리장치(LPU)라고 불리는 AI 가속기 칩이다. LPU는 기존 GPU와 달리 결정론적 프로세서 설계와 데이터플로 아키텍처를 채택해 AI 추론 작업에서 초고속 성능을 구현한다. 특히 메타의 라마2-70B 모델을 실행할 때 초당 100개 이상의 토큰을 생성하는 최초의 API 제공자가 되며 업계의 주목을 받았다. 그로크의 LPU는 80TB/s의 SRAM 대역폭을 자랑하는데, 이는 엔비디아 H100의 10배에 달한다.

엔비디아의 젠슨 황(Jensen Huang) CEO는 직원들에게 보낸 이메일에서 “그로크의 저지연 프로세서를 엔비디아 AI 팩토리 아키텍처에 통합해 더 광범위한 AI 추론 및 실시간 워크로드를 지원할 계획”이라고 밝혔다. 다만 그는 “우리는 재능 있는 직원을 영입하고 그로크의 지적재산권을 라이선스하는 것이지, 그로크를 회사로서 인수하는 것은 아니다”라고 명확히 선을 그었다.

이번 거래는 빅테크 기업들이 최근 선호하는 ‘재능 인수(acqui-hire)’ 방식을 따른다. 형식적으로는 회사를 인수하지 않지만 핵심 인재와 기술을 확보하는 방식이다. 엔비디아는 지난 9월에도 AI 하드웨어 스타트업 엔패브리카(Enfabrica)의 CEO 로찬 산카르(Rochan Sankar)와 직원들을 고용하고 기술을 라이선스하는 데 9억 달러 이상을 지불했다. 메타, 구글, 마이크로소프트 등도 최근 몇 년간 이런 방식으로 AI 인재 확보에 막대한 투자를 해왔다.

• 메타, 스케일AI에 143억 달러 초대형 투자…창립자 알렉산드르 왕 메타 합류 
• 오픈AI의 윈드서프 인수 무산, 구글이 24억 달러에 핵심 인력 영입   

그로크의 시몬 에드워즈(Simon Edwards) CFO가 새로운 CEO로 취임하며 그로크는 독립 기업으로 계속 운영된다. 그로크클라우드는 중단 없이 서비스를 이어가며, 200만 명 이상의 개발자에게 AI 추론 서비스를 제공하고 있다. 그로크는 올해 매출 목표를 5억 달러로 설정했으며, 미국, 캐나다, 중동, 유럽 등에 12개의 데이터센터를 구축했다.

AI 추론 칩 시장은 엔비디아가 AI 모델 훈련 시장을 장악한 것과 달리 경쟁이 치열하다. AMD 같은 전통적 경쟁사뿐 아니라 세러브라스 시스템즈(Cerebras Systems), 삼바노바 시스템즈(SambaNova Systems), 디매트릭스(d-Matrix) 같은 스타트업들이 각자의 차별화된 아키텍처로 시장 진입을 시도하고 있다.

세러브라스는 웨이퍼 스케일 프로세서로 주목받는 기업으로, 지난 9월 11억 달러를 조달하며 81억 달러 밸류에이션을 달성했다. 2024년 9월 IPO를 추진했으나 미국 외국인투자위원회(CFIUS)의 심사로 상장이 지연됐고, 최근 2026년 초 IPO 재추진을 검토 중이다. 세러브라스의 웨이퍼 스케일 엔진(WSE-3)은 90만 개의 코어를 탑재한 세계 최대 단일 칩으로, 대규모 모델 처리에 특화돼 있다.

삼바노바는 재구성 가능한 데이터플로 아키텍처를 채택한 기업으로 2021년 소프트뱅크 비전펀드(SoftBank Vision Fund)가 주도한 시리즈 D 라운드에서 6억7600만 달러를 조달하며 50억 달러로 평가받았다. 블랙록, GIC, 인텔 캐피탈(Intel Capital) 등이 투자했으나, 최근 추가 자금 조달에 실패하면서 매각을 타진하고 있다는 보도가 나왔다. 삼바노바의 SN40L 칩은 16개 칩만으로 초당 100개 이상의 토큰을 생성하며, 라마 3.1 405B 같은 초대형 모델을 단일 랙에서 실행할 수 있다.

디매트릭스는 인메모리 컴퓨팅 기술에 특화된 신생 기업으로, 지난 11월 2억7500만 달러를 조달하며 20억 달러 밸류에이션을 달성했다. 마이크로소프트 벤처펀드 M12가 투자에 참여했으며, 카타르투자청(QIA)과 싱가포르 국부펀드 테마섹(Temasek) 등이 공동 주도했다. 디매트릭스의 코세어(Corsair) 칩은 GPU 기반 시스템 대비 10배 빠른 성능과 3분의 1 수준의 비용을 구현한다고 주장한다.

AI 추론칩 개발 ‘디메트릭스’, 20억 달러 가치에 2.75억 달러 투자유치  

이번 거래는 규제 당국의 심사를 받을 가능성이 높다. 번스타인의 스테이시 라스곤(Stacy Rasgon) 애널리스트는 “비독점 라이선스 계약으로 구조화해 경쟁의 허상을 유지할 수 있지만, 그로크의 리더십과 기술 인재가 엔비디아로 이동한다는 점에서 반독점이 주요 리스크가 될 것”이라고 지적했다. 다만 젠슨 황 CEO가 트럼프 행정부와 강력한 관계를 맺고 있다는 점이 긍정적 요소로 작용할 수 있다고 덧붙였다.

엔비디아는 AI 붐으로 쌓아올린 막대한 현금을 바탕으로 생태계 투자를 확대하고 있다. 2023년 초 133억 달러에 불과했던 현금 및 단기 투자 자산은 2024년 10월 말 기준 606억 달러로 급증했다. 엔비디아는 AI 인프라 기업 크루소(Crusoe), AI 모델 개발사 코히어(Cohere), AI 클라우드 업체 코어위브(CoreWeave) 등에 투자하며 AI 생태계 전반의 영향력을 확대하고 있다.