오픈AI, 첫 자체 추론 칩 ‘할라페뇨’ 공개… 브로드컴과 9개월 만에 완성

AI 빅테크들이 엔비디아(NVIDIA)에 대한 의존을 줄이기 위해 직접 칩을 설계하는 흐름이 거세다. 구글의 TPU, 아마존의 트레이니움에 이어, 이번에는 오픈AI(OpenAI)가 자체 칩 대열에 합류했다.

오픈AI는 반도체 기업 브로드컴(Broadcom)과 함께 개발한 첫 자체 AI 칩 ‘할라페뇨(Jalapeño)’를 공개했다. 오픈AI가 ‘인텔리전스 프로세서(Intelligence Processor)’라 부르는 이 칩은 거대언어모델(LLM) 추론에 특화된 가속기다. 학습된 모델을 실제로 구동하는 추론 단계에 맞춰, 연산 커널부터 메모리 이동, 네트워킹, 서빙 패턴까지 오픈AI 연구진의 노하우를 반영해 밑바닥부터 설계했다.

가장 눈에 띄는 것은 개발 속도다. 할라페뇨는 설계 착수부터 제조 직전 단계인 ‘테이프아웃’까지 단 9개월 만에 완성됐다. 고성능 반도체 역사상 가장 빠른 ASIC 개발 주기로 꼽힐 만하다는 게 회사 설명이다. 비결 중 하나는 오픈AI가 자사 AI 모델을 칩 개발 과정에 투입해 작업을 가속한 것이다. 노광 한도에 육박하는 ‘레티클 크기’의 초대형 칩이지만, 이미 엔지니어링 샘플이 실험실에서 목표 성능·전력으로 머신러닝 워크로드를 돌리고 있다. 여기에는 오픈AI의 코딩 모델 ‘GPT-5.3-코덱스-스파크’도 포함된다. 초기 테스트에서 전력당 성능이 현존 최고 수준을 크게 앞선다는 결과도 나왔다.

할라페뇨는 오픈AI와 브로드컴이 함께 만드는 다세대 컴퓨팅 플랫폼의 첫 단계다. 두 회사는 올해 말 첫 배치를 시작하고, 마이크로소프트(Microsoft) 등과 함께 기가와트(GW)급 데이터센터에 이 칩을 깔아 나갈 계획이다.

왜 직접 칩을 만드나

오픈AI의 칩 자립 시도는 갈수록 커지는 추론 수요와 비용, 그리고 엔비디아 GPU 쏠림에서 비롯된다. 오픈AI는 엔비디아로부터 1000억 달러 규모의 투자를 받고 AMD와 6GW 규모 GPU 계약을 맺는 등 외부 칩 확보에 공을 들여왔지만, 동시에 자체 설계로 추론에 최적화된 ‘맞춤형’ 칩을 손에 쥐려 한다. 같은 물량을 더 적은 전력과 비용으로 처리할 수 있다면, 천문학적인 데이터센터 투자비를 줄일 수 있기 때문이다.

이는 빅테크 전반의 흐름이기도 하다. 구글은 최근 8세대 TPU를 학습용과 추론용으로 쪼개 내놓았고, 아마존·마이크로소프트도 자체 가속기를 키우고 있다. 추론 전용 칩을 만드는 스타트업도 줄을 잇는다. 에치드(Etched)와 구글 TPU 설계자들이 세운 맷엑스(MatX)가 대표적이다.

이 모든 흐름의 숨은 수혜자는 브로드컴이다. 구글 TPU를 비롯해 여러 빅테크의 맞춤형 칩을 위탁 설계·생산해온 브로드컴은 퓨리오사AI와도 3세대 AI 반도체를 함께 개발하는 등, ‘커스텀 실리콘’ 시장의 큰손으로 떠올랐다.

AI 인프라 시장의 칩 경쟁에 대한 자세한 내용은 여기를 참고하시길.

주요 AI 기업들의 투자 관계망에 대한 자세한 내용은 여기를 참고하시길.