AI 데이터센터 네트워킹 시장에 새로운 강자가 등장했다. 업스케일 AI(Upscale AI)가 설립 4개월 만에 2억 달러 규모의 시리즈 A 투자를 유치하며 유니콘 기업에 등극했다고 발표했다. 작년 9월 1억 달러 시드 투자를 유치한 지 불과 4개월 만의 일이다.

이번 투자는 타이거 글로벌(Tiger Global), 프렘지 인베스트(Premji Invest), 조라 이노베이션(Xora Innovation)이 공동 주도했으며, 매버릭 실리콘(Maverick Silicon), 스텝스톤 그룹(StepStone Group), 메이필드(Mayfield), 프로스페리티7 벤처스(Prosperity7 Ventures), 인텔 캐피탈(Intel Capital), 퀄컴 벤처스(Qualcomm Ventures)가 참여했다. 이로써 업스케일 AI의 총 투자 유치 규모는 3억 달러를 넘어섰다.

GPU 연결 칩으로 AI 병목 해결

업스케일 AI는 GPU를 만드는 회사가 아니다. 수백에서 수천 개의 GPU를 서로 연결해주는 네트워크 스위치 칩을 개발한다. ChatGPT 같은 대형 AI 모델을 학습시킬 때 수천 개의 GPU가 동시에 작동하며 끊임없이 데이터를 주고받는다. GPU 성능이 아무리 뛰어나도 이들 간 연결 속도가 느리면 GPU가 대기 상태에 빠지며 전체 시스템 효율이 급격히 떨어진다.

AI 인프라는 크게 컴퓨트(GPU, TPU), 네트워크, 스토리지 레이어로 구성되는데, 업스케일 AI는 컴퓨트와 스토리지 사이의 네트워크 레이어에서 병목현상을 해결한다. 기존 네트워크는 일반 서버와 스토리지를 연결하는 용도였지만, AI는 수천 개 GPU를 하나의 거대한 컴퓨팅 유닛처럼 통합해야 한다는 근본적 차이가 있다.

바룬 카(Barun Kar) CEO는 “이번 투자는 AI 시대를 위한 네트워킹을 근본적으로 재설계하려는 우리의 미션을 가속화한다”며 “세계적 수준의 팀과 강력한 고객 수요를 바탕으로 업계가 기다려온 개방형 AI 네트워킹 플랫폼을 구축할 일생일대의 기회를 맞았다”고 말했다.

팔로알토 네트웍스 출신의 세 번째 도전

업스케일 AI는 연쇄 창업가인 바룬 카와 라지브 케마니(Rajiv Khemani) 회장이 공동 창업했다. 두 사람은 팔로알토 네트웍스(Palo Alto Networks), 이노비움(Innovium), 카비움(Cavium, 마벨에 인수)을 함께 창업하고 이끈 경험이 있다. 100명 이상의 팀은 마벨, 브로드컴, 인텔, 시스코, AWS, 구글 등 주요 인프라 기업 출신 엔지니어들로 구성됐다.

메이필드의 나빈 찻다 매니징 파트너는 “바룬과 라지브와의 세 번째 파트너십을 시작하게 돼 기쁘다”며 “업스케일 AI는 독점 시스템에서 벗어난 개방형 표준 기반 솔루션으로 AI 네트워킹 스택 전체를 재구상하고 있다”고 평가했다.

인피니밴드에서 이더넷으로, 개방형 기술의 역습

AI 네트워킹 시장을 이해하려면 먼저 스케일아웃(scale-out)과 스케일업(scale-up)의 차이를 알아야 한다. 스케일아웃은 여러 랙을 서로 연결하는 것이고, 스케일업은 한 랙 안의 수십 개 GPU를 초고속으로 연결하는 것이다.

스케일아웃 시장에서는 2025년 극적인 전환이 일어났다. 엔비디아가 2019년 인수한 멜라녹스(Mellanox)의 인피니밴드(InfiniBand)는 초저지연과 고대역폭을 자랑하며 AI 백엔드 네트워킹의 80%를 차지했다. 인피니밴드는 슈퍼컴퓨터용으로 설계된 전용 네트워크 기술로, 극단적인 성능이 필요한 초기 AI 데이터센터에서 비용이 비싸도 선택받았다.

하지만 이더넷 진영의 반격이 시작됐다. Ultra Ethernet과 ESUN 같은 새로운 표준이 등장하며 성능 격차를 좁혔고, 개방형 시장이라는 결정적 장점이 부각됐다. 메타, 구글 같은 하이퍼스케일러들은 엔비디아 독점 기술 의존을 꺼렸고, 이더넷은 가격이 저렴하며 일반 IT 엔지니어도 관리할 수 있다. 또한 AI 추론(inference) 비중이 커지면서 학습만큼 극단적인 저지연이 필요 없어진 것도 이더넷에 유리하게 작용했다. 2025년 현재 이더넷이 스케일아웃 시장의 80%를 차지하며 인피니밴드와 완전히 뒤바뀌었다.

흥미로운 점은 이더넷 시장 내에서도 엔비디아가 25.9%의 점유율로 1위를 달리고 있다는 사실이다. 후발주자였던 엔비디아는 Spectrum-X 이더넷 스위치와 BlueField DPU를 결합한 AI 최적화 솔루션으로 시장을 공략했다. 아리스타 네트웍스(Arista Networks)는 18.9%로 2위, 시스코(Cisco)는 자체 Silicon One 칩으로 2026년 AI 인프라 매출 목표를 30억 달러로 상향했다. 엔비디아는 인피니밴드에서는 졌지만, 이더넷으로 갈아타서 또다시 1위 자리를 차지한 셈이다.

스케일업 시장의 새로운 도전자

하지만 스케일업 시장은 여전히 엔비디아가 지배하고 있다. 엔비디아의 NVSwitch는 한 랙 안의 여러 GPU를 하나의 통합 메모리 공간처럼 추상화하는 고속 인터커넥트로, 2024년 출시 이후 대안이 없었다. AMD와 시스코가 도전했지만 아직 성숙하지 못했다.

업스케일 AI가 바로 이 시장에 도전장을 내밀었다. 회사의 핵심 기술인 스카이해머(SkyHammer) 칩은 NVSwitch에 맞서기 위해 처음부터 AI 워크로드만을 위해 설계됐다. 메모리 시맨틱 기반 아키텍처를 사용하며, UALink와 ESUN 같은 개방형 표준을 모두 지원할 예정이다. 제품은 독립형 칩, 완제품 스위치, 전체 랙 솔루션 등 다양한 형태로 제공된다.

카 CEO는 “레거시 시스템을 개조하는 대신 AI 네트워킹에서 진정한 스케일이 무엇을 의미하는지 재상상하고 있다”고 말했다. AMD도 UALink 기반 시스템을 올해 출시 예정이지만, 초기에는 전용 칩 없이 이더넷을 통해 프로토콜을 터널링하는 방식을 사용한다. 브로드컴(Broadcom)은 아리스타에 Tomahawk 칩을 공급하며 스케일아웃을 지원하는 동시에, 자체 스케일업 이더넷(ESUN)도 추진 중이다.

2030년 1000억 달러 시장을 향한 경주

업계는 AI 네트워킹 시장이 2030년까지 연간 1000억 달러 규모로 성장할 것으로 전망한다. GPU 시장과는 별개로 형성되는 시장이다. GPU가 많이 팔릴수록 이들을 연결하는 네트워크 장비도 비례해서 필요하기 때문이다. 특히 스케일업 네트워킹은 “업계가 본 가장 큰 TAM 확장”이 될 것으로 델오로 그룹(Dell’Oro Group)은 분석했다.

타이거 글로벌의 로힛 이라가바라푸 파트너는 “AI가 인프라를 근본적으로 재편하고 있으며, 네트워킹이 그 변화의 중심에 있다”고 말했다. 프렘지 인베스트의 산데시 파트남 매니징 파트너는 “AI 시스템이 확장됨에 따라 인터커넥트 효율성이 성능과 경제성을 결정하는 핵심 동인이 됐다”며 “업스케일 AI의 강점은 스케일업 네트워킹 실리콘에 대한 맞춤형 접근법과 이러한 인프라를 성공적으로 구축한 팀의 경험”이라고 평가했다.

스케일아웃 시장에서 이더넷의 승리는 개방형 표준의 힘을 보여줬다. 이는 업스케일 AI 같은 신생 기업에게도 기회가 됐다. 인피니밴드 독점 시대였다면 불가능했을 도전이다. 업스케일 AI는 올해 안에 첫 제품을 출시하고 AWS, 구글, 메타 같은 하이퍼스케일러와의 협력을 본격화할 계획이다.