텐센트, 7,700억 파라미터 모델 가중치 공개…미국은 닫고 중국은 연다

텐센트(Tencent)가 차세대 대규모언어모델 Hy4 preview를 공개하고 가중치를 개방했다. 전체 파라미터 7,700억 개에 활성 파라미터 490억 개, 문맥창은 100만 토큰을 넘는다. 전체는 크게 두되 실제 연산에 쓰는 활성 파라미터는 그 6% 남짓으로 묶는 전문가혼합(MoE) 구조로, 모델 크기를 키우면서 추론 비용은 억제하는 설계다.

텐센트는 코딩과 사무 자동화, 게임 개발, 과학 연구 네 영역의 실무 과제를 겨냥했다고 설명했다. 긴 문맥이 필요한 개발 과제의 이해·디버깅·검증 능력을 높였고, 문서와 스프레드시트·프레젠테이션 작성까지 이어지는 사무 흐름을 지원하며, 자연어 요청 하나로 플레이 가능한 게임 프로토타입을 만들어 게임 엔진과 연동할 수 있다고 밝혔다. 모델은 텐센트 클라우드 토큰허브와 오픈라우터(OpenRouter)로 API 접근이 가능하고, 자사 제품 워크버디(WorkBuddy)·코드버디(CodeBuddy)·위안바오·ima에서도 쓸 수 있다.

‘가중치를 푼다’는 것의 의미

AI 모델은 설계도와 가중치로 나뉜다. 설계도는 층을 몇 개 쌓고 어떻게 연결할지를 정한 구조로, 논문에 공개돼 있어 누구나 따라 만들 수 있다. 가중치는 그 설계도의 빈칸을 채우는 숫자 뭉치다. 학습을 통해 조금씩 조정된 값들이고, Hy4의 경우 그 숫자가 7,700억 개다. 설계도만으로는 아무것도 못 하며 지능은 전적으로 이 숫자 안에 있다. 수천억 원어치 연산을 돌려 이 값을 맞추는 과정이 학습이고, 결과물이 가중치 파일이다.

다만 텐센트가 “오픈소스”라고 표현한 것은 엄밀히는 오픈 웨이트(open-weight)다. 허깅페이스에 올라온 tencent/Hy4-preview에는 가중치 파일 131개와 파인튜닝용 스크립트가 들어 있고 라이선스는 상업 이용이 자유로운 아파치 2.0이지만, 사전학습에 쓴 데이터와 학습 레시피는 없다. 완성된 두뇌는 주되 그것을 어떻게 만들었는지는 알려주지 않는 방식이다. 딥시크와 큐원, 라마도 모두 같다.

그럼에도 가중치 공개가 갖는 실질적 의미는 작지 않다. 내려받아 자기 서버에서 돌리면 데이터가 밖으로 나가지 않아 의료·금융처럼 규제가 강한 영역에서 쓸 수 있다. 자기 도메인 데이터로 추가 학습시켜 특화 모델을 만들 수도 있다. 정밀도를 낮춰 가볍게 만드는 작업도 원본 가중치가 있어야 가능한데, 공개 직후 커뮤니티가 이미 GGUF와 MLX 4비트 양자화 버전을 올렸다. 무엇보다 한번 풀린 가중치는 회수할 수 없다. API 제공사가 가격을 올리거나 모델을 단종하거나 특정 국가 접속을 막아도 영향받지 않는다.

반대로 학습 데이터와 레시피가 없으니 처음부터 다시 만들 수는 없다. 개선은 텐센트가 내놓을 다음 버전을 기다려야 한다. 7,700억 파라미터를 돌리려면 여전히 서버급 장비가 필요하고, 어떤 데이터로 학습했는지 검증할 방법도 없다.

자기 모델이 자기 개발에 참여했다

가장 눈에 띄는 대목은 따로 있다. Hy4 preview가 자기 자신의 개발 과정에 참여했다는 것이다.

텐센트는 이 모델이 학습 방법과 데이터 전략, 평가 프레임워크, 저수준 연산자의 자동 최적화에 처음으로 관여했다고 밝혔다. 모델이 접근법을 제안하고 실험을 돌린 뒤 결과를 보고 개선했으며, 그렇게 나온 코드와 로그·피드백이 다음 탐색에 다시 들어갔다는 설명이다. 회사는 이를 “초기 단계의 재귀적 자기개선(recursive self-improvement) 루프”라고 표현했다.

구체적 수치도 내놨다. 모델이 자사 추론 시스템의 병목을 스스로 분석해 연산자 융합과 통신 최적화를 여러 차례 수행한 결과 기준 대비 종단 간 처리량이 31.8% 올랐다는 것이다. 문맥 길이와 동시 처리 수준을 달리해도 일관된 개선이 나왔다고 했다.

재귀적 자기개선은 그동안 미국 프론티어랩이 주로 이야기해온 주제다. 앤트로픽은 로봇 영역에서도 같은 경로를 밟을 것이라고 언급한 바 있다. 중국 대기업이 자사 모델의 자기개선 실적을 구체적 수치와 함께 공개한 것은 이 주제가 더 이상 한쪽의 담론이 아님을 보여준다.

미국은 닫고 중국은 연다

이 발표가 놓인 자리를 보려면 두 진영의 전략 차이를 봐야 한다.

미국 프론티어랩은 가중치를 닫는다. 앤트로픽·오픈AI·구글 모두 최상위 모델의 가중치를 공개하지 않고 API와 자사 앱으로만 판다. 이유는 뒤집으면 나온다. 가중치를 풀면 API 매출이 사라지고, 수천억을 들인 결과물을 경쟁사가 그대로 쓰며, 안전장치를 걷어낸 파인튜닝을 막을 수 없다.

반면 중국 주요 랩은 프론티어급 모델의 가중치를 연다. 딥시크와 알리바바의 큐원, 문샷AI의 키미, 지푸AI의 GLM, 그리고 이번 텐센트의 훈위안이 모두 그렇다. 후발 주자가 생태계를 확보하는 가장 빠른 방법이기 때문이다. 개발자들이 내려받아 쓰기 시작하면 사실상 표준이 되고, 그 위에 얹은 제품과 클라우드로 돈을 번다.

가격 차이도 크다. Hy4 preview의 API 가격은 100만 토큰당 입력 0.834달러, 출력 2.501달러, 캐시 적중 0.042달러다. 클로드 오퍼스 5가 입력 5달러·출력 25달러, 클로드 소네트 5가 2달러·10달러다. 성능이 다른 모델을 가격만으로 비교할 수는 없지만, 가격을 어디에 두려 하는지는 분명히 드러난다.

다만 ‘중국은 다 연다’는 단순화는 사실과 다르다. 알리바바는 중간급 모델은 개방하고 최상위는 API 전용으로 닫는 이중 전략으로 옮겨갔다. 오픈 웨이트는 이념이 아니라 포지셔닝 수단이다. 목적이 달성되면 상단부터 닫힌다.

벤치마크 상대가 말해주는 것

텐센트가 내놓은 성능 근거를 보면 이 시장의 구조가 더 선명해진다.

회사는 사내 블라인드 평가에서 전문가 163명이 203개 엔지니어링 과제를 채점한 결과 Hy4 preview가 4점 만점에 평균 2.99점을 받았다고 밝혔다. 비교 대상은 GLM-5.3(2.92점)과 키미 K3(2.94점)이었다.

둘 다 중국 모델이다. GPT-5.5나 클로드 오퍼스 4.8은 비교표에 없다. 자체 평가라는 점도 감안해야 하지만, 더 중요한 것은 중국 모델들이 서로를 기준점으로 삼는 자체 생태계를 형성했다는 사실이다. 미국 모델과의 격차를 좁혔다고 주장하는 대신 중국 내 순위를 다투는 쪽으로 서술의 무게가 옮겨갔다.

이 생태계에 들어온 자본도 만만치 않다. 딥시크는 창사 이래 첫 외부 투자에서 기업가치 450억 달러를 논의했고, 문샷AI는 6개월 만에 기업가치가 43억에서 200억 달러로 뛰며 20억 달러를 조달했다. 알리바바는 800억 홍콩달러 유상증자 전액을 AI 인프라에 넣기로 했다.

전략의 또 다른 축은 배포 경로다. 텐센트는 Hy4를 코드버디·워크버디와 “깊은 공동 설계”로 개발했고, 소프트웨어 공학과 게임·금융·보안 분야 사내 전문가들과 함께 만든 학습 데이터를 썼다고 강조했다. 미국 랩이 API와 챗봇으로 파는 것과 달리 텐센트는 이미 수억 명이 쓰는 자사 제품에 모델을 바로 꽂는다. 가중치를 풀어도 그 위에 얹힌 제품과 사용자, 데이터 순환은 텐센트에 남는다. 오픈 웨이트가 손해가 아닌 이유다.

이 구도가 한국 AI 업계에 주는 함의는 분명하다. 프론티어급 오픈 웨이트 모델이 계속 나오면 자체 파운데이션 모델을 처음부터 학습시키는 것과 공개 가중치를 가져와 특화하는 것 사이의 계산이 달라진다. 다만 그 선택지를 제공하는 쪽이 중국 기업들이라는 점은 별개의 고려 사항으로 남는다.

텐센트는 Hy4 시리즈의 다음 모델들을 곧 내놓을 계획이라고 밝혔다.