미라 무라티의 씽킹머신스, 첫 오픈 웨이트 모델 냈다: 9,750억 파라미터 중 실제로 쓰는 건 410억뿐

전 오픈AI 최고기술책임자 미라 무라티가 2025년 초 세운 씽킹머신스랩이 7월 15일 첫 자체 모델 Inkling을 냈다. 아파치 2.0 라이선스로 가중치를 통째로 공개했다. 총 파라미터는 9,750억 개지만 토큰 하나를 처리할 때 실제로 켜지는 건 410억 개뿐이다. 씽킹머신스는 이 모델을 스스로 "모든 것에 최강"이라고 내세우지 않는다고 밝혔는데 그 대신 강조한 건 검증 가능성과 커스터마이징이었다.

한눈에 보기

총 파라미터	9,750억
토큰당 활성 파라미터	410억
구조	66층 스파스 MoE 트랜스포머
전문가 수	라우팅 256개 + 공유 2개, 토큰당 6개 활성화
컨텍스트	100만 토큰
사전학습 규모	45조 토큰 (텍스트·이미지·오디오·비디오)
라이선스	Apache 2.0

최강을 노리지 않았다

씽킹머신스는 Inkling을 벤치마크 1위 모델이라고 주장하지 않는다. 대신 개발자가 직접 뜯어보고 배포하고 파인튜닝할 수 있는 베이스를 내놓겠다는 게 목표다. 이 노선은 오픈AI·구글·앤트로픽이 폐쇄형 API로 최고 성능을 다투는 것과 정반대다. 스타트업이 처음부터 성능 경쟁 대신 커스터마이징 가능성을 내세운 셈이다.

무라티는 2024년 오픈AI를 떠나 2025년 초 씽킹머신스를 세웠고 첫 제품은 파인튜닝 인프라 서비스였다. 자체 모델 없이 남의 모델을 다루는 도구부터 만들던 회사가 1년여 만에 처음으로 자기 이름을 건 베이스 모델을 낸 셈이다. 파인튜닝 인프라를 먼저 팔아본 경험이 Inkling을 "쓰기 좋은 오픈 웨이트"로 설계하는 데 그대로 반영됐다고 볼 수 있다.

66층 구조가 여는 것

Inkling은 슬라이딩 윈도우 어텐션과 글로벌 어텐션을 5대1 비율로 섞어 쌓았고 KV 헤드는 8개다. 라우팅 전문가 256개 중 토큰마다 6개만 활성화하는 구조라 9,750억이라는 파라미터 수 자체는 크지만 실제 추론에 쓰는 연산량은 410억 파라미터짜리 모델과 비슷하다. 여기에 아파치 2.0이 붙으면서 가중치를 내려받아 자체 GPU에서 파인튜닝하거나 API 없이 자체 호스팅하는 게 법적으로도 자유로워졌다. 이미지와 오디오까지 텍스트와 함께 입력받는 멀티모달 구조라 콘텐츠 파이프라인에 바로 붙일 여지도 크다.

사전학습에 쓴 45조 토큰에는 텍스트뿐 아니라 이미지·오디오·비디오 설명 데이터까지 들어갔다. 다만 씽킹머신스는 이번 출시에서 비디오를 입력값으로는 지원하지 않는다고 못박았다. 학습 단계에서 다룬 데이터 종류와 실제 서비스에서 받아주는 입력 종류가 다르다는 뜻이라 도입을 검토하는 팀이라면 공식 문서의 지원 입력 목록을 먼저 확인해야 한다. 컨텍스트 100만 토큰은 긴 코드베이스나 몇 시간 분량의 회의록을 통째로 넣고 요약·검색시키는 작업에 여유를 준다.

슬라이딩 윈도우와 글로벌 어텐션을 섞은 구조 자체는 최근 대형 모델에서 흔해진 방식이지만 5대1이라는 비율과 8개짜리 KV 헤드 조합은 Inkling이 긴 컨텍스트를 처리하면서도 메모리 사용량을 억누르는 쪽에 무게를 뒀다는 뜻으로 읽힌다. 100만 토큰을 통째로 돌리는 워크로드일수록 이 구조의 이점이 체감된다.

폐쇄형 API와 무엇이 갈리나

오픈AI·구글·앤트로픽 모델은 API 종량제로 쓰는 게 기본이고 가중치 자체는 볼 수 없다. Inkling은 그 반대다. 모델을 뜯어서 어떤 데이터로 어떻게 파인튜닝했는지 검증할 수 있고 배포 환경도 클라우드든 온프레미스든 개발자가 고른다. 대신 최신 벤치마크 1위 자리는 처음부터 포기한 채로 나왔다는 점은 감안해야 한다. 오픈 웨이트 시장 자체도 붐비고 있다. 코딩 특화 오픈 가중치 모델은 이미 100만 토큰당 0.3달러대까지 값이 내려왔고 대형 랩들도 저마다 오픈 라인업을 하나씩 갖췄다. Inkling이 다른 건 순수 성능이 아니라 텍스트·이미지·오디오를 함께 받는 멀티모달 베이스를 통째로 열었다는 점이다.

검증 가능성이라는 말이 막연하게 들릴 수 있는데 실제로는 구체적인 차이다. 폐쇄형 API는 모델이 특정 입력에 왜 그런 출력을 냈는지 개발자가 내부를 들여다볼 방법이 없다. 가중치가 공개된 모델은 어떤 레이어가 어떤 판단에 관여하는지 직접 분석하고 필요하면 특정 동작만 골라 조정할 수 있다. 규제가 엄격한 업종이나 고객 데이터를 외부로 내보내면 안 되는 계약을 맺은 팀에게는 이 차이가 실무적으로 크다.

anyAX 관점

오픈 웨이트 모델이 나올 때마다 반복되는 질문은 "그래서 이게 GPT나 클로드보다 낫냐"인데 이번엔 그 질문 자체가 핵심이 아니다. 410억 활성 파라미터는 1인 개발자나 소규모 팀이 감당 가능한 GPU 클러스터 규모로 들어온다는 뜻이고 아파치 2.0은 그 모델을 API 요금표 없이 내 서버에 계속 앉혀둘 수 있다는 뜻이다. 콘텐츠 자동화나 고객 데이터를 다루는 AI 에이전시라면 매달 토큰 단가가 바뀌는 API 대신 한 번 파인튜닝해서 고정 비용으로 돌리는 선택지가 생긴 셈이다.

판단 순서는 이렇다. 지금 API 비용이 월 매출 대비 부담스러운 수준까지 올라와 있는지, 다루는 작업이 반복적이라 파인튜닝 한 번으로 계속 재사용 가능한지부터 따져봐야 한다. 두 조건이 맞아떨어지는 팀에서만 자체 호스팅이 API보다 싸진다. 100만 토큰 컨텍스트와 45조 토큰 사전학습을 감당한 모델을 자기 인프라에서 운용할 GPU 비용을 실제로 댈 수 있는지, API 종량제와 자체 호스팅 고정비를 놓고 매달 처리량을 대입해 손익분기점을 먼저 계산해봐야 답이 나온다.

역으로 두 조건 중 하나라도 안 맞으면 굳이 지금 갈아탈 이유가 없다. 요청량이 들쭉날쭉한 초기 단계 서비스라면 API 종량제가 여전히 유리하고 자체 호스팅은 GPU를 놀리는 시간만 늘린다. Inkling의 가치는 모든 팀에게 지금 당장 옮기라는 신호가 아니라 처리량이 일정 궤도에 오른 팀에게 벤더 종속 없이 비용을 고정할 수 있는 출구가 하나 더 생겼다는 데 있다. 무료로 공개됐다고 공짜가 아니라는 이야기다.

벤치마크 1위 타이틀보다 뜯어볼 수 있는 베이스라는 포지셔닝을 택했다는 점에서 Inkling은 프론티어 경쟁의 반대편에서 조용히 다른 판을 만드는 중이다.