에치드, 103억 달러 가치에 3억 달러 투자 유치

AI 경쟁의 중심이 학습에서 추론으로 빠르게 이동하고 있다. 모델을 한 번 학습시키는 비용도 크지만, 수억 명의 사용자가 매일 AI에 질문하고 답을 받는 추론 과정에는 훨씬 더 많은 컴퓨팅 자원과 전력이 필요하다. 문제는 최첨단 AI 모델을 사용할 수 있는 인구가 아직 전 세계의 1%에도 미치지 못한다는 점이다. AI 이용자를 늘리려면 같은 전력으로 더 많은 토큰을 생성하는 새로운 컴퓨팅 구조가 필요하다.

AI 추론 반도체 스타트업 에치드(Etched)가 3억 달러 규모의 시리즈C 투자 유치에 성공했다. 투자 후 기업가치는 103억 달러로 평가됐다. 지난해 12월 기록한 50억 달러보다 두 배 이상 높아진 수치다.

에치드는 이번 투자를 발판으로 칩 한 장을 판매하는 반도체 회사에서 기가와트급 AI 추론 클러스터를 공급하는 시스템 기업으로 확장한다.

칩부터 냉각까지 함께 설계하는 추론 클러스터

에치드는 최첨단 AI 모델을 위한 컴퓨팅 시스템은 처음부터 추론에 맞춰 다시 설계해야 한다고 본다. 범용 GPU를 조합하는 대신 칩, 패키징, 인쇄회로기판(PCB), 냉각판, 인터커넥트와 소프트웨어를 하나의 시스템으로 함께 설계한다.

회사는 이를 ‘프런티어 추론 클러스터’라고 부른다. 목표는 처리량과 응답 속도 가운데 하나를 포기하지 않으면서 토큰당 비용과 전력 소비를 동시에 낮추는 것이다.

에치드의 출발점은 트랜스포머 모델 전용 주문형 반도체(ASIC) ‘소후(Sohu)’였다. 범용성을 포기하는 대신 대규모언어모델에 주로 사용되는 트랜스포머 연산을 하드웨어에 직접 구현하는 전략이다. 에치드는 앞서 소후 칩 8개로 구성된 서버가 엔비디아 H100 GPU 160개에 해당하는 추론 처리량을 낼 수 있다고 주장했다.

최근 공개한 제품은 이보다 범위가 넓어졌다. 에치드는 첫 번째 랙 규모 시스템이 라마(Llama)와 큐원(Qwen), 딥시크(DeepSeek)뿐 아니라 트랜스포머와 다른 구조를 사용하는 맘바(Mamba)까지 구동한다고 밝혔다. 단일 모델 구조에 특화된 칩에서 다양한 프런티어 모델을 처리하는 클러스터 시스템으로 제품 전략을 확장하고 있는 셈이다.

에치드가 공개한 핵심 기술은 저전압 추론(LVI)과 클러스터 규모 메모리(CSM)이다.

저전압 추론은 칩의 연산 블록을 기존 AI 칩보다 낮은 전압으로 구동해 발열과 전력 소비를 줄이는 기술이다. AI 칩은 사용률이 높아지면 발열 때문에 클럭을 낮춰야 하는데, 에치드는 희소 전문가 혼합 모델을 구동할 때도 최대 연산 성능의 80% 이상을 유지할 수 있다고 주장한다.

클러스터 규모 메모리는 여러 칩에 분산된 HBM과 SRAM을 초저지연 인터커넥트로 연결한다. HBM의 큰 메모리 용량과 SRAM의 빠른 응답 속도를 결합해 대량 처리에 필요한 처리량과 대화형 AI에 필요한 낮은 지연 시간을 함께 확보하려는 접근이다. 다만 현재 공개된 성능 수치는 회사 자체 시험 결과이며, 고객 환경에서의 독립적인 검증은 앞으로 확인해야 한다.

하버드 기숙사에서 시작한 반도체 베팅

에치드는 2022년 하버드를 중퇴한 개빈 우베르티(Gavin Uberti), 크리스 주(Chris Zhu), 로버트 와첸(Robert Wachen)이 설립했다. 생성형 AI가 대중화되기 전부터 AI 서비스의 가장 큰 병목이 학습보다 추론으로 이동하고, 범용 GPU 대신 추론 전용 반도체가 필요해질 것이라는 데 베팅했다.

초기 투자 유치는 쉽지 않았다. 창업팀은 2023년 AI가 전용 반도체를 필요로 하게 될 것이라는 30쪽 분량의 투자 메모를 들고 주요 투자사를 찾았지만 대부분 거절당했다. 이후 2024년 1억2천만 달러 규모의 시리즈A를 유치해 TSMC 생산을 추진했고, 올해 TSMC N4P 공정에서 첫 번째 실리콘 생산에 성공했다.

지난달에는 첫 칩과 랙 규모 시스템을 공개하면서 누적 투자금 8억 달러와 10억 달러가 넘는 고객 계약을 확보했다고 발표했다. 당시 가장 최근 투자에서 인정받은 기업가치는 50억 달러였다. 한 달도 지나지 않아 기업가치가 103억 달러로 높아지면서 에치드는 데카콘에 올라섰다.

현재 직원은 400명 이상이다. 엔비디아와 구글 TPU, 브로드컴, TSMC, SK하이닉스 출신의 반도체·시스템 인력을 영입했다.

세쿼이아 주도…SK하이닉스도 투자

이번 시리즈C는 세쿼이아캐피털(Sequoia Capital)이 주도했다. 앤드리슨호로위츠(Andreessen Horowitz), 제인스트리트(Jane Street), 디퓨전(Diffusion), 아르고(Argo), SK하이닉스(SK Hynix)가 참여했다.

세쿼이아는 투자 전 기업가치를 100억 달러로 책정했다. 여기에 신규 투자금 3억 달러를 더한 투자 후 기업가치가 103억 달러다. 세쿼이아가 주도한 시리즈C 가운데 가장 높은 기업가치라는 게 에치드의 설명이다.

세쿼이아는 에치드가 올해 TSMC 첨단 공정에서 첫 칩의 테이프아웃과 초도 생산에 성공한 뒤 40일 만에 여러 칩을 연결한 클러스터에서 AI 모델을 구동했다고 밝혔다. 초기 고객에게도 제품을 제공하기 시작했다.

SK하이닉스의 참여도 눈에 띈다. 에치드의 시스템은 HBM과 SRAM을 결합한 메모리 구조를 핵심으로 삼고 있다. 세계 최대 HBM 공급사 가운데 하나인 SK하이닉스의 투자는 단순 재무 투자보다 차세대 추론 시스템의 메모리·패키징 공급망을 둘러싼 전략적 협력 가능성에 무게가 실린다. 다만 양사가 구체적인 공급 계약이나 공동 개발 계획을 공개하지는 않았다.

투자금은 생산 확대와 고객 배치에 투입된다. 에치드는 이미 수억 달러 규모의 추론 클러스터 제조에 착수했다. 샌프란시스코 베이 지역 본사에서 약 15분 떨어진 곳에는 8만 제곱피트 규모의 10메가와트 시설을 새로 마련했다. 이곳에서 1세대 시스템을 계속 배치하는 동시에 차세대 제품을 빠르게 시험한다.

대만에는 공급망 협력과 시험을 위한 생산 거점을 열었다. 첫 번째 랙 제품은 올여름 출하할 예정이며, 2027년에는 기가와트급 공급 능력을 확보한다는 목표다.

추론 반도체 경쟁, 칩에서 클러스터로

에치드가 맞붙는 시장에는 엔비디아뿐 아니라 서로 다른 아키텍처를 선택한 추론 반도체 기업들이 포진해 있다.

세레브라스(Cerebras)는 웨이퍼 전체를 하나의 거대한 칩으로 사용하는 웨이퍼 스케일 엔진을 개발했다. 칩 사이의 데이터 이동을 줄여 빠른 학습과 추론을 구현하는 방식이다. 세레브라스는 올해 230억 달러 가치에 10억 달러를 유치하며 대규모 AI 인프라 계약을 확대했다.

그로크(Groq)는 SRAM 중심의 언어처리장치(LPU)로 낮고 예측 가능한 지연 시간을 구현했다. 엔비디아는 지난해 말 약 200억 달러 규모의 비독점 기술 라이선스와 핵심 인력 영입 계약을 체결했다. 이는 추론 전용 아키텍처의 전략적 가치를 보여준 거래였다.

맷엑스(MatX)는 구글 TPU 출신 창업자들이 만든 LLM 전용 반도체 스타트업이다. 에치드처럼 모델과 하드웨어를 함께 최적화하지만 수치 표현과 데이터 이동 구조에서 다른 접근을 택했다. 맷엑스는 올해 5억 달러를 유치해 칩 개발과 생산 준비에 들어갔다.

범용 GPU와 소프트웨어 생태계를 장악한 엔비디아도 가장 강력한 경쟁자다. 추론 전용 ASIC은 특정 워크로드에서 높은 효율을 낼 수 있지만, 모델 구조가 바뀌거나 고객이 다양한 작업을 하나의 인프라에서 처리하려 할 때 범용성이 약점이 될 수 있다. 반대로 모델 사용량과 전력 수요가 지금처럼 급증한다면 추론에 특화된 시스템의 비용 우위는 더욱 커진다.

에치드가 “생산이 곧 제품”이라고 강조하는 이유도 여기에 있다. 반도체 설계만으로는 엔비디아에 도전할 수 없다. 칩을 대량 생산하고, 랙에 조립하고, 냉각과 네트워크를 구성한 뒤 고객 데이터센터에서 안정적으로 운영해야 한다. 103억 달러라는 기업가치는 기술의 가능성뿐 아니라 에치드가 이 복잡한 공급망을 실제 제품으로 전환할 수 있다는 기대를 반영한다.

에치드의 다음 시험대는 올여름 시작되는 첫 제품 출하다. 10억 달러가 넘는 계약 수요를 실제 매출과 안정적인 대규모 배치로 전환하고, 회사가 주장한 처리량과 전력 효율을 고객 환경에서 입증해야 한다. 성공한다면 AI 추론 경쟁의 단위는 개별 GPU에서 칩·메모리·냉각·인터커넥트를 통합한 클러스터 전체로 바뀔 수 있다.

경쟁사를 포함한 AI 추론 시장에 대한 자세한 내용은 AI 추론 스타트업 지형도 2026을 참고하시길.