2.8조 파라미터 가중치가 7월 27일 무료로 풀린다

이번 주 월요일에는 DeepSeek V4 정식판이 프리뷰 딱지를 떼고 나흘 뒤에는 2.8조 파라미터짜리 모델 가중치가 인터넷에 그냥 풀린다. Moonshot AI의 Kimi K3다. 7월 16일 API로 먼저 나왔고 7월 27일 수정 MIT 라이선스로 가중치가 공개된다. 지금까지 공개된 오픈 웨이트 중 가장 크다.

숫자를 먼저 보자. K3는 전문가 896개 중 토큰당 16개만 켠다. 전체의 약 1.8%다. 컨텍스트는 100만 토큰이고 이미지 이해가 기본으로 붙는다. Arena의 프론트엔드 코드 평가에서 1,679점으로 1위에 올라 Claude Fable 5를 눌렀다. API 가격은 입력 100만 토큰 $3, 출력 $15.

한눈에 보기

다운로드 버튼은 대부분의 사람 것이 아니다

"가중치 공개"라는 말이 "내 맥북에서 돌린다"로 번역되는 경우가 많은데 이번 건은 아니다. 활성 파라미터가 전체의 1.8%뿐이라 추론 연산량은 크기에 비해 가볍지만 가중치는 전량을 메모리에 올려야 한다. MXFP4 계열 4비트 양자화를 걸어도 테라바이트 단위 VRAM이 필요하다. 개인 장비는 물론이고 어지간한 스타트업 사내 서버로도 감당이 안 되는 규모다.

그러니 인디 메이커 입장에서 7월 27일에 실제로 바뀌는 건 하드웨어가 아니다. 서빙 업체들이 이 가중치를 받아 몇 주 안에 토큰 단가를 깎아 내놓는다는 사실이다. 모델을 소유하는 게 아니라 모델의 가격 곡선이 아래로 한 칸 내려온다.

가중치 공개가 개인에게 주는 진짜 선택지는 세 가지 정도로 좁혀진다. 첫째는 여러 서빙 업체가 같은 모델을 팔게 되면서 생기는 단가 경쟁이다. 둘째는 규제나 계약 때문에 데이터를 밖으로 못 내보내는 고객을 상대할 때 온프레미스 견적을 낼 수 있게 되는 것이다. 셋째는 이 모델의 출력을 교사 신호로 써서 훨씬 작은 모델을 자기 도메인에 맞게 길들이는 길이다. 셋 중 1인 규모에서 당장 값이 나오는 건 첫째뿐이고 나머지 둘은 팀과 고객이 붙어야 의미가 생긴다.

진짜 효과는 남의 가격표에서 나타난다

지금 대량 처리 구간의 가격표를 늘어놓으면 상황이 보인다.

Google이 7월 21일 Flash 출력 단가를 $9에서 $7.50으로 내리고 출력 토큰을 17% 덜 쓰게 만든 건 상용 경쟁사만 보고 한 일이 아니다. 아래에서 오픈 웨이트가 밀어 올리고 있어서다. 상용 티어끼리는 $1 단위로 다투는데 다운로드 가능한 모델은 애초에 다른 축에 있다.

숫자를 직접 굴려 보면 체감이 다르다. 하루 3,000건을 처리하는 자동화 파이프라인이 건당 출력 400 토큰을 쓴다고 하자. 한 달이면 출력만 약 3,600만 토큰이다. 전부 출력 $15짜리 모델에 태우면 월 540달러, 같은 호출을 출력 $0.44 구간으로 내리면 월 16달러다. 1인 사업의 손익에서 이 차이는 반올림 오차가 아니라 그달의 실수령액이다.

여기서 갈리는 지점이 하나 더 있다. 자체 호스팅의 총비용에는 GPU 임대료만 있는 게 아니다. 배치 스케줄링, 장애 대응, 모델 업데이트 추적, 컨텍스트 캐시 관리가 전부 사람 시간이다. 1인 SaaS 개발자가 하루를 인프라에 쓰면 그날 제품은 멈춘다. 오픈 웨이트가 좋은 소식인 이유는 직접 돌릴 수 있어서가 아니라 안 돌려도 값이 내려가서다.

anyAX 관점

이번 주에 생긴 실질적 변화는 협상 카드다. K3 가중치가 무료로 풀린 뒤에도 대부분은 여전히 API를 쓸 것이다. 다만 그 API를 파는 쪽이 "안 쓰면 대안 없다"고 말할 수 없게 된다. 출력 $15짜리 모델과 출력 $0.44짜리 모델이 같은 주에 나란히 놓이면 가격은 능력이 아니라 티어를 뜻하게 된다.

그래서 지금 손볼 건 모델 선택이 아니라 라우팅이다. 자기 제품이 하루에 던지는 호출을 종류별로 세어 보자. 분류·태깅·요약·정규화처럼 틀려도 되돌리기 쉬운 작업이 대개 호출 수의 8할을 넘는다. 그건 $0.44 구간으로 내려보내고 코드 생성이나 긴 추론처럼 실패 비용이 큰 작업만 위 티어에 남긴다. 이 분리를 해둔 팀은 다음 주 가격 변동을 그대로 이익으로 흡수하고 한 모델에 통짜로 붙어 있는 팀은 다음 청구서에서 아무것도 못 바꾼다.

라우팅을 붙이는 데 대단한 인프라가 필요한 것도 아니다. 호출 지점 앞에 함수 하나를 두고 작업 종류에 따라 모델 이름만 바꿔 넘기면 된다. 어려운 건 코드가 아니라 판단이다. 어떤 작업이 싼 모델로 내려가도 괜찮은지를 알려면 각 작업의 실패가 실제로 무엇을 망가뜨리는지 세어 봐야 한다. 요약이 조금 어색한 것과 결제 로직이 틀린 것은 같은 오류가 아니다. 이 목록을 한 번 만들어 두면 다음 모델이 나올 때마다 재사용된다.

100만 토큰 컨텍스트도 같은 방식으로 읽어야 한다. 문서 전체를 매번 통째로 밀어 넣을 수 있게 됐다는 건 검색 파이프라인을 안 짜도 된다는 뜻이 아니라 검색을 대충 짜도 결과가 버틴다는 뜻이다. 100만 토큰을 매 호출 채우면 입력만으로 호출당 $3다. 능력이 열린 자리마다 곧바로 청구서가 따라붙는다.

참고

• China's Moonshot AI releases Kimi K3, the largest open-source model ever, rivaling top U.S. systems (VentureBeat)
• China's 2.8-trillion-parameter Kimi K3 beats Claude Fable 5 in Frontend Code Arena benchmark (Tom's Hardware)
• Moonshot AI unveils world's largest open-source AI model as China narrows gap with US rivals (South China Morning Post)
• Kimi K3 Quickstart (Kimi API Platform)