어떤 AI칩이든 추론 최적화, 인피니티 1,500만 달러 시드 투자유치

엔비디아(NVIDIA)가 AI 가속기 시장의 80%가량을 쥐고 있는 진짜 이유는 칩 성능 자체가 아니라 소프트웨어에 있다. 엔비디아는 20년 넘게 자사 칩에서 AI를 최적으로 돌리는 소프트웨어 생태계 ‘쿠다(CUDA)’를 쌓아왔다. AMD·퀄컴·AWS 같은 경쟁사들의 칩 성능은 업계 표준에 맞먹거나 웃돌지만, 정작 그 하드웨어 위에서 AI 추론을 돌릴 ‘프로덕션급 소프트웨어 스택’을 만드는 데 몇 달에서 몇 년씩 걸리는 게 발목을 잡아왔다. 새 AI 칩이 시장에서 실패하는 건 대개 하드웨어가 약해서가 아니라, 이 소프트웨어가 없어서다.

바로 이 소프트웨어 계층을 겨냥한 곳이 미국의 AI 인프라 스타트업 인피니티(Infinity.inc)다. 어떤 AI 칩이든 추론 작업을 돌릴 수 있게 만드는 소프트웨어를 자동으로 생성해준다. 핵심은 자율 AI 에이전트 ‘이그니션(Ignition)’인데, 칩이 AI 모델을 얼마나 효율적으로 돌리는지를 좌우하는 저수준 연산 커널(kernel)을 사람 커널 엔지니어 없이 자동으로 쓰고, 테스트하고, 최적화한다. 원래 엔지니어 팀이 몇 달에서 몇 년씩 매달리던 이 작업을 며칠로 압축하는 게 목표다. 실제 성능 데이터가 다음 세대 코드를 학습시키는 ‘재귀적 자기개선(RSI)’ 피드백 루프로 시간이 갈수록 효율이 올라간다.

성과도 구체적이다. 인피니티는 Qwen3-8B 모델의 추론 처리량을 하루 만에 초당 34% 이상 끌어올려 널리 쓰이는 vLLM 프레임워크를 앞질렀고, 칩 파트너 디매트릭스(d-Matrix)와의 협업에서는 새 칩에 처음 접근한 지 10시간 만에 이론상 최고 성능의 92%에 도달했으며 10일 만에 프런티어 모델 세 개를 이 칩에서 끝까지 돌려냈다. 흥미로운 건 사업 모델이다. 선불 라이선스 비용을 받는 대신, 자신들이 만들어낸 성능 향상과 비용 절감분을 칩 파트너와 나눠 갖는 성과 공유 방식이다. 이미 칩 설계 파트너십에서 연 수백만 달러 규모의 매출(ARR)을 내고 있다.

창업자 겸 CEO 제러미 닉슨(Jeremy Nixon)은 하버드에서 응용수학·컴퓨터과학·경제학을 전공하고 구글 브레인(Google Brain)에서 연구원으로 일한 인물이다. 2022년 안드레이 카파시(Andrej Karpathy) 등과 함께 샌프란시스코 기반 AI 커뮤니티이자 해커 네트워크인 ‘AGI 하우스(AGI House)’를 공동 설립했는데, 이곳에서 수백 개의 스타트업과 프로젝트가 탄생했다. 뉴욕타임스·포브스에도 AI 미래에 관한 논평이 실린 바 있다.

인피니티는 투어링캐피털(Touring Capital)이 주도한 시드 라운드에서 기업가치 1억 달러(포스트머니)로 1,500만 달러를 유치했다고 밝혔다. 프린시펄벤처파트너스(Principal VC)와 주요 반도체 기업 임원들, 오픈AI(OpenAI)·앤트로픽(Anthropic) 소속 연구자들도 개인 투자자로 참여했다. 새 자금은 이그니션 플랫폼과 엔지니어링 팀 확충, 디매트릭스를 비롯한 칩 파트너와의 협업 가속에 쓰인다. 닉슨 CEO는 “그동안 AI 업계는 소수의 칩만이 AI를 잘 돌릴 수 있다는 인위적 제약 아래 움직여왔다. 오직 엔비디아만이 수십 년간 그 소프트웨어를 만들었기 때문”이라며 “다음 AI 시대는 누가 최고의 칩을 만드느냐가 아니라, 누가 어떤 칩에서든 최신 모델을 초고속으로 돌리느냐로 정의될 것”이라고 말했다. 이번 라운드에 참여한 프린시펄벤처파트너스의 윤송이(Songyee Yoon) 창업자 겸 매니징파트너는 “인피니티는 강력한 AI를 대규모로 저렴하게 만드는, AI 시대의 핵심 과제를 풀고 있다”고 평가했다.

AI 추론 소프트웨어 계층, 뜨거운 격전지

AI 컴퓨팅 지출의 3분의 2가 2026년 추론에 쏠릴 것으로 전망되면서, 추론 소프트웨어 계층을 잡으려는 경쟁도 치열하다. 가장 가까운 경쟁자는 모듈러(Modular)로, 특정 칩 벤더에 종속되지 않는 ‘AI 통합 컴퓨팅 계층’을 표방하며 기업가치 16억 달러에 2억5,000만 달러를 유치했다. 오픈소스 추론 엔진 vLLM 핵심 개발팀이 창업한 인퍼랙트(Inferact)는 시드로만 1억5,000만 달러를 유치하며 기업가치 8억 달러를 인정받았고, 같은 UC버클리 연구실에서 나온 추론 엔진 SGLang을 상용화한 래딕스아크(RadixArk)도 1억 달러 시드를 유치했다. 다만 이들이 주로 GPU 위에서 추론 성능을 끌어올리는 데 집중한다면, 인피니티는 “엔비디아가 아닌 새 칩을 아예 추론 가능하게 만드는” 커널 자동 생성에 특화됐다는 점에서 결이 다르다. AI 추론 스타트업 지형 전반에 대한 자세한 내용은 여기를 참고하시길.