베이스텐(Baseten)이 3억 달러 규모의 투자를 유치하며 기업가치 50억 달러를 달성했다. 이번 투자에는 엔비디아가 1억 5천만 달러를 투자하며 참여해 눈길을 끈다. 투자는 인스티튜셔널 벤처 파트너스(Institutional Venture Partners)와 구글의 독립 성장 펀드인 캐피탈G(CapitalG)가 공동 주도했다.

2019년 창업한 베이스텐은 AI 추론 인프라에 특화된 기업이다. AI 추론은 이미 훈련된 머신러닝 모델을 실제 프로덕션 환경에서 구동해 새로운 데이터에 대한 예측과 결과를 생성하는 과정을 말한다. 베이스텐은 기업들이 복잡한 인프라를 직접 구축하지 않고도 머신러닝 모델을 손쉽게 배포하고 실행할 수 있도록 지원한다. 플랫폼은 툴링, 오케스트레이션 소프트웨어, 최적화된 런타임 환경으로 구성돼 있으며, GPU 등 다양한 하드웨어에서 지속적으로 낮은 레이턴시와 높은 가용성을 유지하도록 설계됐다.

베이스텐은 공동창업자 아미르 하그히가트(Amir Haghighat), 투힌 스리바스타바(Tuhin Srivastava), 필립 하우스(Philip Howes), 판카즈 굽타(Pankaj Gupta)가 2019년 설립했다. 이들은 온라인 크리에이터 마켓플레이스 검로드(Gumroad)에서 함께 일하던 동료였다. 당시 데이터 사이언티스트였던 스리바스타바와 하우스는 신용카드 사기 탐지를 위한 머신러닝 분류기를 쉽게 훈련할 수 있었지만, 정작 이를 프로덕션 환경에서 운영하고 고성능으로 확장하는 과정이 가장 어려웠다는 경험에서 창업 아이디어를 얻었다.

하그히가트 CTO는 “우리가 모델을 서빙하는 데 집중한 이유는 검로드에서의 경험 때문이었다. 모델 훈련은 쉬웠지만, 그것을 운영 환경에서 실행하고 빠르게 작동하며 대규모로 확장하는 게 정말 어려웠다”고 밝혔다.

이번 투자에서 엔비디아의 참여는 특히 주목할 만하다. 월스트리트저널은 엔비디아가 “AI 모델이 프롬프트에 응답해 결과를 생성하는 과정인 추론에 집중하는 스타트업들에 점점 더 공격적으로 투자하고 있다”며, “업계가 모델 훈련에서 대규모 모델 구동으로 초점을 옮겨가면서 나타나는 현상”이라고 분석했다. 엔비디아가 자사의 AI 칩을 구매하는 고객사에 투자하는 것을 두고 일각에서는 우려를 제기하기도 한다.

베이스텐은 이번 투자 이전에 총 2억 8,500만 달러를 유치했다. 작년 2월 7,500만 달러를, 3월 4,000만 달러를, 9월에는 1억 5,000만 달러를 유치했다. 기존 투자사로는 본드캐피탈(Bond Capital), 프렘지인베스트(Premji Invest), 컨빅션캐피탈(Conviction Capital), 01어드바이저스(01 Advisors), 그레이록파트너스(Greylock Partners), 스파크캐피탈(Spark Capital), 박스그룹(BoxGroup) 등이 있다.

AI 추론 플랫폼 ‘베이스텐’, 21억 달러 가치에 1.5억 달러 투자유치

AI 추론 시장은 빠르게 성장하고 있다. 시장조사기관 마켓앤마켓츠는 AI 추론 시장이 2025년 1,061억 5,000만 달러에서 2030년 2,549억 8,000만 달러로 연평균 19.2% 성장할 것으로 전망했다. 맥킨지는 2030년까지 추론 워크로드가 전체 AI 워크로드의 절반 이상을 차지할 것으로 예상했다.

베이스텐의 경쟁사로는 투게더AI(Together AI), 파이어웍스AI(Fireworks AI) 등이 있다. 투게더AI는 지난 2월 3억 500만 달러를 유치하며 기업가치 33억 달러를 기록했다. 

AI 업계는 모델 훈련에서 추론으로 무게 중심이 빠르게 이동하고 있다. 딜로이트는 2026년 추론 워크로드가 전체 AI 컴퓨팅의 약 3분의 2를 차지할 것이며, 추론 최적화 칩 시장이 500억 달러 이상으로 성장할 것으로 전망했다. 이는 2023년 3분의 1, 2025년 절반에서 크게 증가한 수치다.

베이스텐은 이번 투자금으로 추론 인프라 확장과 고객 확보에 집중할 계획이다. 현재 패트리온(Patreon), 파이프(Pipe), 스태빌리티AI(Stability AI), 라이터(Writer) 등이 베이스텐의 고객사다.