업스테이지-다음-퓨리오사AI, 국산 NPU·모델·서비스 잇는 풀스택 소버린 AI 첫 상용화

업스테이지(Upstage)가 포털 다음 운영사 AXZ, AI 반도체 기업 퓨리오사AI(FuriosaAI)와 손잡고 국내 첫 풀스택 소버린 AI 상용화 사례를 구축한다고 15일 밝혔다.

3사는 퓨리오사AI의 NPU 레니게이드(RNGD) 위에서 업스테이지의 거대언어모델(LLM) 솔라(Solar)를 탑재해 다음의 AI 요약 서비스를 구동한다. 인프라부터 모델, 실제 사용자가 체감하는 서비스까지 AI 전 영역을 국산 기술로 연결한 첫 사례다.

AI 요약, 하루 5억 토큰 처리

다음의 AI 요약은 LLM이 웹 문서를 직접 분석해 검색 결과에 대한 종합 답변을 정리해주는 기능이다. 검색창에 키워드를 입력하면 핵심 요약과 근거를 함께 제공하며, 내용이 바뀌면 AI가 자동 반영해 늘 최신 정보를 확인할 수 있다.

AXZ는 LLM의 환각(할루시네이션)을 제어하기 위해 정확한 최신 정보만 전달할 수 있도록 하네스 엔지니어링을 고도화했다. 키워드 검색과 벡터 기반 서치를 조합한 하이브리드 서치를 이용해 솔라 LLM에게 가장 관련성 높은 최신 정보를 전달한다.

퓨리오사AI는 AI 요약 처리를 위해 3개 노드로 하루 5억 개의 토큰을 처리하고 있다. AI 모델을 가속기에 잘 매핑할 수 있는 컴파일러와 최적의 서빙을 위한 엔진 개발 등 하드웨어-소프트웨어를 원천 설계로 구성해 엔비디아 H200과 대등한 성능을 낸다. 퓨리오사AI NPU를 도입했을 때 추론 비용절감 효과는 50% 이상에 달한다.

1인 1에이전트 보급 준비

15일 경기 판교 AXZ 사옥에서는 김성훈 업스테이지 대표, 이건수 AXZ 대표, 백준호 퓨리오사AI 대표가 만나 소버린 AI 확산 방안을 논의했다.

이건수 대표는 “현재 베타 서비스 중인 AI 요약은 전체 질의 규모의 20% 정도를 처리하고 있지만 점진적으로 늘려갈 계획”이라며 “단순 요약을 넘어 쇼핑, 맛집 검색 등 버티컬로 확장하고, 다음을 통해 사용자에게 특화된 1인 1에이전트를 보급할 준비도 하고 있다”고 밝혔다.

백준호 대표는 “고도화된 에이전틱 AI 서비스를 좋은 토큰 가격에 지원할 수 있도록 제품을 확장하고 있다”며 “퓨리오사AI 칩도 세대를 거듭하며 성능과 가성비를 계속 높여 글로벌 반도체 대비 우월한 경쟁력을 확보하겠다”고 말했다. 그는 “이미 양산에 성공적으로 돌입한 레니게이드는 연내 1만 장까지 충분히 공급 가능하다“고 덧붙였다.

김성훈 대표는 솔라의 경쟁력으로 자체적인 소형 모델 설계로 확보한 글로벌 프런티어급 성능과 한국어 특화 역량을 꼽으며 “해외 빅테크 모델에 맞설 수 있는 국산 LLM 성능을 더욱 고도화해 나가겠다”고 밝혔다.