트랜스포머 모델 전용 칩을 개발하는 AI 반도체 스타트업 에치드(Etched)가 약 5억 달러 규모의 투자를 유치했다. 이번 투자로 에치드의 기업가치는 50억 달러를 기록했고, 누적 투자금은 10억 달러에 육박하게 됐다.

스트라이프(Stripe)가 주도한 이번 투자 라운드에는 억만장자 기업가 피터 틸(Peter Thiel)을 비롯해 포지티브 섬(Positive Sum), 리빗 캐피털(Ribbit Capital)이 참여했다. 피터 틸과 포지티브 섬은 에치드의 기존 투자자이기도 하다. 에치드는 앞서 2024년 6월 1억 2000만 달러 규모의 시리즈A를 유치한 바 있는데, 당시 프라이머리 벤처 파트너스(Primary Venture Partners)와 포지티브 섬이 공동 주도했으며 피터 틸, 전 깃허브 CEO 토머스 도음케(Thomas Dohmke), 크루즈 오토메이션 공동창업자 카일 보그트(Kyle Vogt) 등이 참여했다.

에치드는 2022년 하버드 대학을 중퇴한 가빈 우베르티(Gavin Uberti), 크리스 주(Chris Zhu), 로버트 워헨(Robert Wachen) 세 명이 창업했다. 우베르티는 하버드에서 수학과 컴퓨터 과학을 공부하면서 대규모 언어 모델의 잠재력을 일찍 알아봤다. 창업 전에는 오픈소스 컴파일러 프로젝트인 아파치 TVM에서 일하며 AI 워크로드 최적화를 연구했다. 그러다 동료들을 설득해 칩 스타트업을 시작했고, 세 창업자 모두 피터 틸 펠로우십을 받으며 본격적인 여정을 시작했다.

에치드는 ‘소후(Sohu)’라는 AI 칩을 개발하고 있다. 소후의 핵심은 트랜스포머 모델만 실행하도록 설계된 특화형 칩이라는 점이다. 트랜스포머는 2017년 구글이 발표한 AI 아키텍처로, 문장이나 이미지의 앞뒤 맥락을 파악하는 ‘어텐션(attention)’ 메커니즘을 통해 데이터를 처리한다. 챗GPT, 클로드, 제미니 같은 대규모 언어 모델부터 달리, 스테이블 디퓨전 같은 이미지 생성 모델까지, 현재 AI 서비스 대부분이 트랜스포머 아키텍처를 기반으로 돌아간다. 에치드는 여기에 집중했다. 트랜스포머 외 다른 신경망을 실행하는 데 필요한 하드웨어를 과감히 덜어내고, 트랜스포머 추론에 필요한 매트릭스 연산 패턴을 칩에 직접 새겨 넣었다.

이런 접근 덕분에 소후는 놀라운 성능을 낸다. 에치드 측에 따르면, 소후 칩 8개로 구성된 서버 한 대는 메타의 라마-70B 모델 실행 시 초당 50만 개 이상의 토큰을 생성할 수 있다. 엔비디아 H100 GPU 8개로 구성된 시스템이 초당 약 2만 3000개 토큰을 생성하는 것과 비교하면 20배 이상 빠른 속도다. 우베르티는 “소후 서버 한 대가 H100 GPU 160개를 대체할 수 있다”며 엔비디아의 차세대 블랙웰 아키텍처보다 저렴하고 전력 효율도 높다고 강조했다.

소후는 TSMC의 이머징 비즈니스 그룹과 협력해 4나노미터 공정으로 생산된다. 144GB의 HBM3 메모리를 탑재해 거대한 트랜스포머 모델도 효율적으로 돌릴 수 있다. 에치드는 사이프러스 세미컨덕터와 브로드컴 출신 엔지니어들을 영입해 팀을 꾸렸고, 현재 35명 규모로 운영 중이다.

하지만 에치드의 전략에는 위험도 따른다. 트랜스포머 모델에만 특화된 칩이라는 점이 강점이자 약점이 될 수 있다. 만약 향후 AI가 트랜스포머를 벗어나 다른 방향으로 진화한다면 소후는 무용지물이 될 수 있다. 우베르티는 “그때가 되면 새 칩을 만들면 된다”고 답했지만, 첫 칩을 시장에 내놓는 데만도 수년이 걸린 점을 생각하면 상당한 모험이다.

그럼에도 투자자들은 에치드에 거액을 베팅했다. AI 컴퓨팅 수요가 폭발하는 상황에서 엔비디아의 범용 GPU보다 특정 작업에 최적화된 칩이 더 유리하다는 판단에서다. 골드만삭스는 AI가 2030년까지 데이터센터 전력 수요를 160% 증가시킬 것으로 내다봤는데, 소후처럼 효율이 높은 칩이 이 문제를 풀 실마리가 될 수 있다는 기대가 작용했다.

에치드는 이미 “수천만 달러” 규모의 하드웨어 예약 주문을 확보했다. 곧 출시할 소후 개발자 클라우드를 통해 온라인 체험 환경을 제공하면 추가 판매도 늘어날 전망이다. 우베르티는 “비디오 생성, 오디오 투 오디오, 로보틱스 등 미래 AI 활용 사례들은 소후처럼 빠른 칩이 있어야만 가능하다”며 “AI 기술의 미래는 인프라 확장 가능성에 달려 있다”고 말했다.

AI 칩 시장은 치열한 각축장이다. 엔비디아는 여전히 압도적이다. 이달 초 수요가 계속 늘고 있다며 2026 회계연도 말까지 데이터센터 사업으로만 5000억 달러 이상 벌어들일 것으로 내다봤다. 하지만 도전자들도 만만치 않다. 에치드와 비슷한 시기에 세레브라스도 10억 달러 투자를 논의 중이다. 기업가치는 220억 달러까지 뛸 전망이다. 세레브라스는 웨이퍼 전체를 하나의 거대한 칩으로 만드는 파격적인 방식으로 주목받고 있으며, 최근 오픈AI와 100억 달러가 넘는 계약을 따내며 입지를 더욱 공고히 했다.

그로크(Groq)는 지난해 7억 5000만 달러를 투자받아 기업가치 69억 달러를 인정받았고, 최근 엔비디아와 200억 달러 규모  비독점 라이선싱 계약까지 맺었다. 디매트릭스(D-Matrix)는 지난해 12월 2억 7500만 달러를 유치하며 기업가치 20억 달러를 달성했다. 샘바노바(SambaNova)는 인텔의 인수 대상으로 거론되고 있다.

AI 칩 스타트업들의 진짜 과제는 기술이 아니라 시장에 안착하는 것이다. 미식(Mythic)과 그래프코어(Graphcore) 같은 선배 기업들이 어려움을 겪었고, 2023년에는 AI 칩 벤처 투자가 주춤하기도 했다. 하지만 2024년 이후 투자 심리가 되살아나면서 AI 칩 스타트업들에 다시 자금이 몰리고 있다.

에치드가 엔비디아의 독주 체제에 균열을 낼 수 있을지는 지켜봐야 한다. 하지만 트랜스포머에 올인한 확신, 18개월 앞선 개발, 그리고 피터 틸을 비롯한 막강한 투자자 네트워크는 이 젊은 스타트업이 판을 뒤집을 가능성을 보여준다. 우베르티는 자신만만하다. “엔비디아와 구글, 하이퍼스케일 기업들이 경쟁에 뛰어드는 건 시간문제다. 하지만 너무 늦었다. 우리는 18개월 이상 앞서 있고, 훨씬 빨리 시장에 나갈 것이다.”