xAI·구글·MS가 쓰는 AI 추론 엔진 SGLang, 래딕스아크로 공식 출범… 1억 달러 시드

AI 인프라 업계에서 오픈소스 프로젝트가 대형 벤처 기업으로 성장하는 패턴이 이어지고 있다. 이번 주인공은 래딕스아크(RadixArk)다.

래딕스아크는 5일 공식 발표를 통해 1억 달러 시드 라운드를 완료하며 공식 출범을 선언했다. 기업가치는 포스트머니 기준 4억 달러다. 엑셀(Accel)이 주도하고 스파크 캐피털(Spark Capital)이 공동 주도했으며, 엔비디아 벤처스(NVentures), AMD, 샐리언스 캐피털(Salience Capital), HOF 캐피털, 월든 카탈리스트(Walden Catalyst), LDVP, WTT 푸본 패밀리, 미디어텍(MediaTek) 등도 참여했다.

와우테일은 올해 1월, 래딕스아크가 엑셀 주도 라운드에서 4억 달러 기업가치를 인정받았다는 소식을 전한 바 있다. 당시엔 투자 규모와 투자사 구성이 공개되지 않았는데, 이번 공식 발표로 전모가 드러났다.

래딕스아크가 해결하려는 문제는 구조적이다. 오픈AI, 구글, 앤트로픽 같은 최전선 AI 연구소들은 자체적으로 세계 최고 수준의 추론 인프라를 갖추고 있다. 하지만 이 인프라는 철저히 내부 전용이다. 그 밖의 모든 기업은 추론 엔진, 강화학습 프레임워크, 오케스트레이션 레이어를 각자 처음부터 다시 만들어야 한다. AI 서비스가 실제로 사용자에게 답변을 내보내는 순간이 바로 ‘추론’인데, 이 과정을 얼마나 빠르고 저렴하게 처리하느냐가 서비스 경쟁력을 좌우한다. 같은 GPU 한 장으로 얼마나 많은 요청을 동시에 처리할 수 있는지, 그 효율을 극대화하는 것이 추론 최적화의 핵심이다. 모델·하드웨어·사용 사례가 빠르게 다양해질수록 이 중복 투자는 산업 전체의 낭비로 이어진다.

래딕스아크의 답은 ‘한 번 잘 만들어서 모두와 공유한다’는 것이다. 두 개의 오픈소스 프로젝트가 그 기반이다. 추론 엔진 SGLang과 강화학습(RL) 및 포스트트레이닝 프레임워크 마일스(Miles)다.

SGLang은 2023년 UC버클리 스카이 컴퓨팅 랩(Sky Computing Lab)에서 탄생한 오픈소스 추론 엔진이다. 현재 구글, 마이크로소프트, 엔비디아, AMD, 오라클, 링크드인, xAI 등이 프로덕션 환경에서 SGLang을 사용하며 매일 수조 개의 토큰을 처리하고 있다. 마일스는 대규모 MoE(Mixture of Experts) 모델 학습에 초점을 맞춘 RL 프레임워크로, 출시 직후부터 업계 팀들의 채택이 이어지고 있다.

래딕스아크는 SGLang과 마일스를 오픈소스로 계속 발전시키면서, AI를 대규모로 개발하는 팀들을 위한 관리형 인프라 서비스도 함께 제공한다. 오픈소스 저변을 통해 기술 신뢰를 먼저 쌓고, 그 위에 상업 서비스를 얹는 방식이다.

추론 인프라 시장에는 이미 강력한 경쟁자들이 자리잡고 있다.베이스텐(Baseten)은 올해 1월 엑셀·라이트스피드 주도로3억 달러를 유치하며 기업가치 15억 달러를 인정받았다.모달랩스(Modal Labs)는 개발자가 Python 코드 몇 줄로 GPU 클라우드를 즉시 실행할 수 있는 서버리스 AI 인프라 플랫폼으로, 올해 초4억 달러 기업가치를 인정받았다. 흥미롭게도 SGLang과 같은 UC버클리 스카이 컴퓨팅 랩에서 나온 vLLM도인퍼랙트(Inferact)라는 이름의 상업 기업으로 전환해 앤드리슨 호로위츠(Andreessen Horowitz) 주도로1억 5000만 달러를 유치했다. 한 연구실에서 나온 두 오픈소스 프로젝트가 나란히 독립 기업으로 자라난 셈이다.

AI 추론 시장 전반의 지형은AI 추론 지형도에서 확인할 수 있다.

래딕스아크는 이번 자금으로 SGLang과 마일스의 기능을 확장하고, 새로운 모델 아키텍처와 하드웨어 플랫폼 지원을 강화할 계획이다.