AI 네트워킹 코넬리스, 2억500만 달러 투자유치

10만 대 규모 GPU 클러스터를 돌리면 그중 절반 가까운 시간을 GPU가 그냥 데이터를 기다리며 흘려보낸다. 코넬리스(Cornelis)가 공개 데이터를 바탕으로 자체 모델링한 결과, 이렇게 낭비되는 시간은 연간 약 16억8000만 달러어치에 이르고, 전력으로 환산하면 500GWh — 미국 가정 약 4만8000곳이 1년간 쓸 수 있는 양이다. AI 모델과 클러스터가 커질수록 통신 오버헤드와 동기화 지연이 비싼 가속기를 놀리는 셈인데, 그동안 컴퓨트·스토리지·메모리는 워크로드에 맞춰 똑똑해진 반면 네트워킹은 여전히 데이터를 실어 나르는 역할에 머물러 있었다는 게 문제의 핵심이다.

코넬리스는 이 병목을 네트워크 자체에 컴퓨팅을 심어 풀겠다고 나섰다. 회사가 새로 내놓은 ‘액티브 컴퓨트 패브릭(Active Compute Fabric)’은 서버 내부(스케일업)와 서버 간(스케일아웃) 네트워킹을 아우르는 개방형 아키텍처로, 무손실 전송과 패브릭 내 가속, 프로그래머블 컴퓨트를 하나로 묶었다. 데이터가 네트워크를 지나가는 동안 그 위에서 연산을 수행하고, 워크로드 변화에 맞춰 적응하며, 집단 통신(collective operation) 같은 작업을 네트워크가 대신 떠맡는다. GPU를 멈추게 했을 작업이 패브릭 안에서 처리되니 이미 보유한 가속기의 활용률이 그만큼 올라가는 구조다. UALink·ESUN(스케일업)과 얼트라이더넷(Ultra Ethernet, 스케일아웃) 같은 개방형 산업 표준을 따르고, 특정 가속기에 종속되지 않는다.

코넬리스는 원래 인텔의 옴니패스(Omni-Path) 사업부였다. 2020년 인텔이 옴니패스 사업을 접기로 하면서 관련 기술과 인력이 별도 법인으로 분사해 지금의 코넬리스가 됐다. 리사 스펠먼(Lisa Spelman) 최고경영자(CEO)는 인텔에서 20년 넘게 데이터센터 사업을 이끈 인물로, 최근까지 인텔 데이터센터·AI 그룹 부사장 겸 제온(Xeon) 제품 총괄을 맡아 제온을 AI 추론용 칩으로 자리잡게 한 주역이다. 2024년 코넬리스 CEO로 자리를 옮겼고, 이번 발표를 이끌었다. 그는 고객들이 특정 벤더나 아키텍처에 갇히지 않으면서도 완결된 랙 단위 솔루션을 원한다며, AI 인프라가 요구하는 방식대로 개방형 접근을 제공할 기회가 크다고 말했다. AI 인프라가 이제 더 빠른 엔드포인트만으로는 부족한 단계에 왔고, 패브릭이 컴퓨트 시스템의 능동적인 일부가 돼야 한다는 게 그의 진단이다.

이번 발표에서 가장 눈에 띄는 대목은 퀄컴(Qualcomm Technologies)과의 협력이다. 코넬리스와 퀄컴은 패브릭이 그저 데이터만 옮기면 가속기가 놀게 되고, 그 비효율이 추론 경제성에 고스란히 반영된다는 문제의식을 공유한다고 밝혔다. 랙 단위 AI 시스템이 커질수록 네트워크는 나중에 덧붙이는 요소가 아니라 처음부터 설계에 들어가야 할 결정 사항이 된다는 것이다. 퀄컴 데이터센터 사업총괄 겸 수석부사장인 토니 피알리스(Tony Pialis)는 AI 시스템이 계속 커지는 지금 랙 전체에 걸쳐 데이터를 효율적으로 옮기는 일이 연산 자체만큼 중요해졌다고 말했다. 활용률과 AI 경제성을 개선하려면 컴퓨트·메모리·네트워킹을 더 통합적으로 다뤄야 하고, 코넬리스가 그리는 개방형·프로그래머블 패브릭이 이 방향과 맞닿아 있다고 평가했다. 피알리스는 오는 9월 15일 AI 인프라 서밋에서 열리는 스펠먼 CEO의 기조연설에 함께 올라 네트워킹의 역할에 대한 퀄컴의 시각을 나눌 예정이다.

코넬리스는 이날 2억500만 달러 투자 유치 소식도 함께 전했다. 스케일업 네트워킹으로 사업을 넓히고 차세대 제품을 시장에 내놓는 데 쓰일 자금이다. IAG 캐피털 파트너스의 조엘 휘틀리(Joel Whitley) 파트너는 AI용 개방형 표준 스케일업·스케일아웃 네트워킹 시장이 2030년까지 550억 달러 이상 규모로 커질 것으로 보인다며, 결국 네트워크가 AI 인프라 투자 전체의 실질적인 수익률을 좌우하게 될 것이라고 전망했다. 그는 코넬리스가 차별화된 비전과 실행력을 함께 갖춘 팀이라는 점에서 확신을 갖게 됐다며, 이미 여러 세대에 걸쳐 기술을 상용화해온 만큼 AI 인프라의 다음 성장 국면을 잡아낼 위치에 있다고 말했다.

제품은 이미 시장에 나와 있다. 400Gbps급 ‘CN5000’은 현재 출하 중이고, 800Gbps급 차세대 제품 ‘CN6000’은 고객 샘플링을 거쳐 올해 4분기 공급이 확대될 예정이다. 코넬리스는 AI 인프라 서밋 부스에서 CN6000을 시연하고 차세대 스케일업·스케일아웃 로드맵도 처음 공개한다.

경쟁사는

AI 데이터센터 네트워킹은 지금 가장 치열한 전선 중 하나다. 코넬리스가 정면으로 겨누는 상대는 사실상 시장을 장악한 엔비디아(Nvidia)다. 엔비디아의 NV링크(NVLink)·인피니밴드(InfiniBand)는 자사 GPU 생태계 안에서 성능은 뛰어나지만 특정 벤더에 묶이는 폐쇄형 구조라, 코넬리스는 개방형 표준으로 이 지점을 파고든다.

스타트업 쪽에서도 비슷한 싸움이 벌어지고 있다. 넥스트홉 AI(Nexthop AI)는 하이퍼스케일러와 공동설계한 맞춤형 이더넷 스위치로 기업가치 42억 달러를 인정받으며 5억 달러를 유치했고, 에리두(Eridu)도 AI 시대에 맞춘 커스텀 네트워크 스위치를 내세워 2억3000만 달러를 모으며 엔비디아에 도전장을 냈다. 두 회사 모두 스위치 자체의 성능과 커스터마이징에 집중한다면, 셀레스티얼 AI(Celestial AI)는 아예 다른 층위에서 접근한다 — 구리 대신 빛으로 데이터를 주고받는 포토닉 패브릭(Photonic Fabric)으로 GPU와 메모리 사이의 병목을 없애겠다는 전략이다.

이들 대비 코넬리스의 차별점은 스케일업과 스케일아웃을 하나의 개방형 아키텍처로 묶고, 네트워크 자체에 프로그래머블 컴퓨트를 심어 데이터가 지나가는 동안 연산까지 대신 처리한다는 데 있다. 스위치 성능 경쟁이나 광학적 접근에 머무르지 않고, 패브릭을 컴퓨트 시스템의 능동적인 구성요소로 재정의하겠다는 포지셔닝이다.