오픈 가중치 770B, 파일 크기는 1.56TB: Hy4 preview는 받을 수 있어도 못 돌린다

텐센트가 8월 28일 Hy4 preview를 공개하면서 가중치까지 같이 풀었다. 총 파라미터 770B, 토큰당 켜지는 건 49B, 문맥 창은 100만 토큰을 넘는다. FP8로 양자화한 판도 함께 올라왔다. Hugging Face에 올라간 파일 전체 크기는 1.56TB다.

API 값은 100만 토큰 기준 입력 0.834달러, 출력 2.501달러, 캐시 적중 0.042달러다. WorkBuddy와 CodeBuddy에서 2주간 무료로 열어 두고 이전 세대인 Hy3 무료 이용은 9월 30일까지 연장했다.

한 줄 정리

받을 수 있는 모델이 하나 더 늘었지만 받아서 돌릴 수 있는 곳은 여전히 데이터센터뿐이다.

한눈에 보기

텐센트가 공개한 자체 블라인드 평가 결과다. 전문가 163명이 엔지니어링 과제 203개를 4점 만점으로 채점했다.

모델	점수
Hy4 preview	2.99
Kimi K3	2.94
GLM-5.3	2.92

1위와 3위 차이가 0.07점이다. 채점자를 부른 쪽은 텐센트다.

오픈 가중치라는 말의 폭이 넓어졌다

지난주 GLM-5.3-Flash가 MIT 라이선스로 풀렸을 때는 단일 GPU 몇 장에 얹는 얘기가 바로 나왔다. Hy4 preview는 그 대화가 성립하지 않는다. 1.56TB를 내려받는 것부터 웬만한 사무실 회선으로는 하루가 걸리고 받아 놓아도 얹을 자리가 없다.

그래서 이 공개는 개인이나 소규모 팀이 쓸 수 있게 됐다는 뜻이 아니다. 클라우드 사업자와 추론 서비스 업체가 이 모델을 자기 인프라에 올릴 수 있게 됐다는 뜻이다. 우리가 만나는 지점은 OpenRouter나 텐센트 클라우드의 가격표다. 실제로 텐센트도 배포 경로를 그렇게 안내한다.

로컬 진영에서 이번 주 실제로 돌아간 모델은 다른 쪽이다. Reddit의 로컬 LLM 커뮤니티에서는 27B급 모델을 16GB짜리 소비자 GPU에 얹는 글이 계속 올라온다. 4비트 양자화로 어디까지 밀어 넣을 수 있는지, 전기 요금이 얼마나 늘었는지 같은 실측이 그 판의 대화다. 770B와 27B 사이의 거리가 오픈 가중치라는 한 단어 안에 들어 있다.

용어를 나눠 두면 판단이 쉬워진다. 가중치를 공개했다는 건 라이선스 얘기고 내가 돌릴 수 있다는 건 하드웨어 얘기다. 둘을 붙여서 읽으면 발표문마다 우리 선택지가 늘어난 것처럼 느껴진다. 실제로 늘어난 건 공급사의 선택지다.

모델이 자기 추론 코드를 고쳤다는 대목

텐센트는 Hy4 preview가 자기 개발 과정에 참여했다고 발표문에 적었다. 훈련 방법, 데이터 전략, 평가 체계, 저수준 연산자 최적화에 모델이 제안을 내고 실험을 돌렸다는 설명이다. 추론 시스템의 병목을 스스로 분석해 연산자 융합과 통신 최적화를 여러 차례 손봤고 전체 처리량이 기준 대비 31.8% 올랐다고 밝혔다.

회사 발표라는 점은 감안하고 읽는 게 맞다. 외부 검증 없이 자사 기준선과 비교한 수치다. 다만 방향은 분명하다. 모델 값을 내리는 일이 이제 칩을 더 사는 것 말고 코드를 다듬는 쪽에서도 일어나고 그 다듬는 일을 모델에 맡기기 시작했다.

이게 우리 청구서에 닿는 경로는 한 다리 건너다. 공급사의 추론 단가가 내려가면 가격표가 내려가거나 같은 값에 더 큰 모델이 들어온다. 지난 몇 달 오픈 모델 가격이 계속 흘러내린 배경에 이런 최적화가 깔려 있다. 반대로 말하면 지금 잡아 둔 단가는 6개월 뒤 기준으로 비싼 값이다. 장기 약정을 길게 거는 쪽이 손해를 보는 국면이 이어진다.

anyAX 관점

2.99 대 2.94 대 2.92. 4점 만점에서 0.07 차이고 채점자는 발표한 회사가 부른 163명이다. 이 표를 근거로 이번 주에 모델을 바꾸면 다음 주에 또 바꾼다. 프런티어 오픈 모델끼리의 성능 차이는 이미 우리 업무에서 체감되지 않는 구간에 들어와 있다.

그러면 무엇으로 고르나. 세 가지가 남는다. 첫째, 100만 토큰에 출력 2.501달러를 우리 실제 사용량에 곱한 값. 캐시 적중이 0.042달러니까 같은 문서를 반복해서 다루는 작업이라면 설계에 따라 청구서가 자릿수로 갈린다. 둘째, 이 모델을 누가 호스팅하고 그 계약이 언제 끝나는가. 1.56TB를 우리가 들 수 없다면 공급사가 내리는 날 우리 서비스도 멈춘다. 셋째, 2주 무료가 끝나는 날 얼마가 되는가.

무료 2주는 좋은 조건이지만 그 2주에 워크플로를 옮겨 놓으면 협상력이 사라진다. Hy3 무료를 9월 30일까지 연장한 것도 같은 문법이다. 시험은 무료 기간에 하고 이전 결정은 유료 가격표를 보고 하는 순서를 지키는 편이 낫다.

콘텐츠나 마케팅 실무에서 이번 발표로 당장 달라지는 건 거의 없다. 다만 문맥 100만 토큰을 정가 1달러 아래 입력값으로 파는 모델이 하나 더 늘었다. 계약서 묶음이나 지난 1년치 회의록을 통째로 던지는 작업의 단가가 다시 한 칸 내려갔다.