이제 가중치를 직접 튜닝한다: Microsoft가 OpenAI 데이터 없이 만든 35B 추론 모델 MAI-Thinking-1

Microsoft가 6월 초 자체 개발 모델 일곱 종을 한꺼번에 공개했다. 이미지, 음성, 전사, 추론, 코딩을 아우른다. 핵심은 첫 자체 플래그십 추론 모델 MAI-Thinking-1이다. 활성 파라미터 35B, 컨텍스트 256K, 그리고 OpenAI 데이터 없이 처음부터 학습됐다.

성능 주장도 가볍지 않다. 주요 소프트웨어 엔지니어링 벤치마크에서 선두 모델들과 맞먹었고, 블라인드 사람 비교 평가에서 Sonnet 4.6보다 선호됐다. 더 중요한 건 배포 방식이다. OpenRouter, Fireworks, Baseten에 올라가고, 개발자가 가중치를 직접 튜닝할 수 있다. Microsoft가 이걸 처음 열었다.

여기서 한 줄이 핵심이다. 가장 큰 AI 투자자 중 하나인 Microsoft가, OpenAI 데이터를 쓰지 않고 자기 모델을 처음부터 학습했다는 점이다. 의존을 줄이고 비용을 자기 손으로 통제하겠다는 결정이 일곱 종이라는 숫자로 나타났다. 그리고 그 모델을 닫아 두지 않고, 개발자가 가중치까지 만지도록 열었다.

한눈에 보기

공개	Microsoft 자체 모델 7종 (이미지·음성·전사·추론·코딩)
플래그십 추론	MAI-Thinking-1, 활성 35B, 컨텍스트 256K
학습	OpenAI 데이터 없이 자체 학습
평가	주요 SWE 벤치마크 선두권, 블라인드 평가에서 Sonnet 4.6보다 선호
배포	OpenRouter, Fireworks, Baseten + 가중치 직접 튜닝 가능

호출에서 소유로

지금까지 대부분의 1인 SaaS 개발자에게 모델은 API 뒤의 블랙박스였다. 프롬프트를 던지고 답을 받는다. 가중치는 만지지 못한다. MAI-Thinking-1은 그 벽을 낮춘다. 내 데이터로 가중치를 조정해 특정 도메인, 특정 출력 형식, 특정 말투에 맞춘 모델을 만들 수 있다.

35B 활성 파라미터는 이 흐름의 중요한 조건이다. 수백 B짜리 프런티어보다 작아 추론 비용이 낮고, 튜닝과 호스팅이 현실적인 크기다. 합리적인 클라우드 인스턴스로 굴릴 수 있는 영역으로 내려온다.

튜닝이라는 단어를 오해하면 안 된다. 모델을 처음부터 다시 만드는 게 아니다. 이미 학습된 가중치를 내 데이터로 조금 더 밀어, 내 업무의 출력 형식과 판단 기준에 맞추는 일이다. 256K 컨텍스트와 합쳐지면 그림이 더 분명해진다. 긴 사내 문서와 누적 사례를 한 번에 넣어 맥락을 채우고, 반복되는 패턴은 가중치에 새겨 넣는다. 맥락은 컨텍스트로, 습관은 가중치로 나누는 셈이다.

Microsoft가 자기 모델을 만든 이유

Microsoft는 OpenAI에 깊게 묶여 있었다. 자체 모델 일곱 종을 내고 OpenAI 데이터 없이 학습했다고 강조한 건, 의존을 줄이고 토큰 비용을 자기 손으로 통제하겠다는 신호다. 가장 큰 AI 투자자조차 단일 공급자에 묶이는 걸 위험으로 본다는 뜻이다.

같은 논리가 작은 팀에도 적용된다. 한 회사의 API에만 제품을 얹으면, 그쪽 가격 정책과 모델 종료 결정에 매출이 흔들린다. 모델이 갑자기 사라지거나 가격이 오르는 일은 이미 여러 번 봤다. 가중치를 내려받아 보관하고 직접 호스팅할 수 있다는 건, 그 위험에 대한 보험이기도 하다.

또 하나, 데이터가 밖으로 나가지 않는다는 점이 있다. 민감한 사내 기록을 외부 API에 매번 보내는 대신, 내 환경 안에서 모델을 돌리면 데이터 주권을 쥔 채로 AI를 쓸 수 있다. 규제가 빡빡한 업종일수록 이 조건 하나가 도입 여부를 가른다.

작은 팀이 실제로 얻는 것

예를 들어 보자. 특정 산업의 보고서를 정해진 양식으로 정리하는 도구를 운영한다고 하자. 범용 API에 매번 긴 양식 지침을 프롬프트로 욱여넣으면, 입력 토큰이 늘어 비용이 붙고 출력도 들쭉날쭉하다. 같은 양식을 수천 건 처리한 데이터로 35B 가중치를 튜닝하면, 짧은 지시만으로 일관된 양식이 나온다. 프롬프트로 매번 가르치던 걸 모델이 기억하게 만드는 것이다.

이 선택의 무게는 분명하다. 가중치를 만지는 순간 모델 버전 관리, 평가 자동화, 추론 인프라 운영이 따라온다. 1인 개발자에게는 적지 않은 부담이다. 그래서 이건 모두를 위한 길이 아니라, 한 작업을 충분히 많이, 충분히 반복적으로 처리하는 팀을 위한 길이다.

anyAX 관점

빌린 모델은 누구나 똑같이 부른다. AI 우선 팀 100곳이 같은 API에 같은 프롬프트를 던지면, 출력도 비슷해진다. MAI-Thinking-1이 여는 건 다른 선택지다. 내 누적 데이터로 35B 가중치를 튜닝하면, 남이 그대로 복제하지 못하는 도메인 모델이 생긴다. 차별화가 프롬프트 문구가 아니라 학습 자산으로 옮겨간다.

물론 모두에게 튜닝이 정답은 아니다. 가중치를 만지는 순간 평가, 버전 관리, 호스팅 책임이 따라온다. 그래서 판단 지점은 분명하다. 내 데이터가 충분히 쌓였고 그 도메인이 좁고 반복적이라면, 호출만 하던 자리에서 한 걸음 더 들어가 모델을 내 것으로 만들 때다. 데이터가 얇다면 여전히 API 호출이 맞다. 256K 컨텍스트와 직접 튜닝이라는 두 손잡이가 동시에 열렸다는 게 6월의 진짜 변화다.