값은 한 자리도 안 바뀌었다

Google이 9월 2일 Gemini 3.8 Flash를 냈다. 값은 100만 토큰당 입력 0.75달러, 출력 3.75달러다. 6주 전에 나온 3.7 Flash와 한 자리도 다르지 않다. Artificial Analysis 지능 지수는 56에서 59로 3점 올랐다.

여기까지 보면 같은 값에 더 나은 모델이다. 그런데 Google이 성능이 오른 이유를 설명하면서 단서를 하나 붙였다. 어려운 작업에서 3.8은 추론 단계를 더 밟고 도구를 더 여러 번 부른다. 그만큼 출력 토큰을 더 쓴다. 토큰을 줄이고 싶으면 추론 강도를 낮추거나 3.7 Flash를 계속 쓰라고 안내가 붙어 있다.

한 줄 정리

토큰 단가는 그대로인데 한 작업이 먹는 토큰이 늘어 같은 일을 시켜도 청구서는 오를 수 있다.

한눈에 보기

단가가 아니라 작업당 토큰이 계산 단위다

DeepSWE 65%에서 74%는 작은 폭이 아니다. 반대로 SWE-Bench Pro는 1점 남짓 올랐다. 개선의 무게가 코딩 정답률보다 도구 사용과 다단계 작업 쪽에 실려 있다. 실제로 오른 항목은 은행 업무 도구 호출, 터미널 작업, 현실 업무 평가처럼 모델이 여러 번 판단하고 여러 번 부르는 종류다.

그 개선이 공짜로 오지 않았다. 여러 번 부르면 여러 번의 응답이 다시 문맥에 들어가고 다음 판단의 입력이 된다. 한 번에 끝나던 호출이 다섯 번이 되면 토큰은 다섯 배가 아니라 그보다 더 늘어난다. 앞의 결과가 뒤의 입력으로 계속 쌓여서다.

그래서 모델을 바꿀 때 비교해야 할 숫자는 단가표가 아니다. 작업 하나를 끝까지 돌렸을 때 실제로 찍힌 토큰 수다. 요약 100건, 분류 1000건, 문서 초안 30건처럼 실제로 매일 돌리는 묶음을 골라 두 모델로 한 번씩 돌리고 사용량을 재면 30분 안에 답이 나온다. 벤치마크 표를 읽는 것보다 이쪽이 훨씬 빠르다.

측정할 게 하나 더 있다. 실패율이다. 추론을 더 도는 모델은 어려운 입력에서 두세 번 만에 맞히기도 한다. 한 번에 못 맞혀 재시도가 붙던 작업이 한 번에 끝나면 토큰이 늘어도 총액은 줄어든다. 반대로 원래도 한 번에 끝나던 쉬운 작업에서는 추론이 순수한 추가 비용이다. 그래서 같은 모델 교체가 어떤 작업에서는 절감이고 어떤 작업에서는 낭비가 된다. 작업 종류를 섞어서 재면 이 둘이 상쇄돼 아무것도 안 보인다.

12월 31일이라는 두 번째 숫자

0.75달러와 3.75달러는 프로모션 값이다. 2026년 12월 31일까지만 유지되고 2027년 1월 1일부터 입력 1.50달러, 출력 7.50달러로 두 배가 된다.

넉 달 뒤 두 배가 되는 값을 기준으로 단가를 계산해 두면 연초에 곤란해진다. 지금 3.8 Flash로 옮기는 판단을 한다면 계산은 1.50달러와 7.50달러로 하는 게 맞다. 그 값에서도 수지가 맞으면 옮기고 안 맞으면 12월까지 싸게 쓰고 1월에 다시 고르면 된다.

값싼 층의 모델이 프로모션 가격으로 나왔다가 정가로 돌아가는 흐름은 이제 흔하다. 처음 붙은 값을 계약 조건으로 착각하는 쪽이 손해를 본다.

같은 날 나온 형제 모델

Google은 3.8 Flash와 함께 보안 특화판인 3.8 Flash Cyber도 냈다. 취약점 탐지와 자동 패치에 초점을 맞춘 갈래다. 같은 세대에서 범용판과 용도판이 함께 나오는 구성은 앞으로 더 자주 보게 된다.

작은 팀 입장에서 이 분화는 반가운 쪽이다. 특정 용도로 조율된 모델이 따로 나오면 그 용도에서는 범용 최상위 모델을 안 써도 된다. 대신 고를 게 하나 늘어난다. 이제 질문이 "어느 회사 모델이 제일 좋은가"에서 "이 작업에 어느 갈래를 붙일 것인가"로 바뀐다. 후자는 벤치마크 표로 답이 안 나오고 자기 업무 목록을 봐야 답이 나온다.

넉 달에 네 번, 값싼 층만 갱신된다

Artificial Analysis는 3.8 Flash를 넉 달이 안 되는 사이에 나온 네 번째 Flash 모델로 셌다. 같은 기간 Google의 최상위 모델 라인은 조용하다.

이 리듬은 도구를 고르는 방식을 바꾼다. 6주마다 새 모델이 나오는 층에서는 어떤 모델이 최고인지 고르는 일이 거의 의미가 없다. 6주 뒤에 답이 바뀐다. 대신 모델을 갈아 끼우는 데 걸리는 시간이 진짜 자산이 된다. 프롬프트와 평가셋과 호출 코드가 한 모델 이름에 묶여 있으면 매번 며칠이 든다. 모델 이름을 설정값 한 줄로 빼 두고 매일 돌리는 작업 묶음을 평가셋으로 저장해 둔 팀은 반나절이면 끝낸다.

5명에서 30명 규모 팀에서 이 차이가 크게 벌어진다. 전담 인력이 없어서 한번 붙인 모델을 그냥 두게 되고, 그러다 보면 1년 전 값과 1년 전 성능으로 계속 돌린다.

anyAX 관점

이번 발표에서 가격표는 정직하게 아무것도 숨기지 않았다. 0.75달러는 0.75달러다. 그런데 실제로 나가는 돈은 단가 곱하기 토큰이고 Google이 손댄 쪽은 토큰이다. 더 오래 생각하는 모델이라는 말은 성능 표현인 동시에 과금 표현이다.

이 구조에서 팀이 정할 것은 모델이 아니라 어느 작업에 얼마나 생각을 허락할지다. 태그 붙이기와 오탈자 잡기에 추론 단계를 다 열어 두면 자릿수가 큰 청구서가 오고, 계약서 검토와 다단계 리서치에 추론을 조여 두면 틀린 답을 싸게 받는다. 추론 강도가 API 인자로 열려 있는 이유가 여기 있다. 값을 고르는 자리가 아니라 작업을 나누는 자리다.

그리고 그 판단은 개발자가 아니라 그 업무를 아는 사람이 한다. 어떤 문서가 틀리면 돈이 나가고 어떤 문서는 틀려도 사람이 바로 잡는지, 회사 안에서 그걸 아는 사람은 모델을 붙이는 사람이 아니다. 작업 목록을 적고 각 줄에 "여기서 틀리면 무슨 일이 생기나"를 한 문장으로 채우는 일. 그 표가 있으면 추론 강도는 저절로 정해지고 없으면 매번 기본값으로 돌아간다.

참고

• Gemini 3.8 Flash와 보안 특화 Flash Cyber 공개 (Google DeepMind)
• 넉 달 사이 네 번째 Flash 모델, 지능 지수와 벤치마크 분석 (Artificial Analysis)
• 값은 같지만 더 많이 일하는 대신 비용이 오를 수 있다는 설명 (The Verge)
• 6주 사이 세 번째 저가 모델, 최상위 라인은 조용하다 (the decoder)