Gemini 3.5 Pro가 200만 토큰을 연다
코드베이스 전체를 한 번에 넣는 대신, 200K를 넘기면 요금이 뛴다
Gemini 3.5 Pro가 200만 토큰 컨텍스트와 Deep Think 모드로 7월 롤아웃에 들어갔다. 긴 문맥은 1인 개발자에게 새 레버리지지만, 초과 구간 과금과 추론 프리미엄이 붙어 언제 전부 넣고 언제 자를지가 비용을 가른다.
Google가 Gemini 3.5 Pro를 7월에 풀기 시작했다. 5월과 6월 정식 출시 목표를 두 번 미룬 끝에, 7월 둘째 주 현재도 제한 프리뷰 상태로 Vertex AI 얼로우리스트를 통해서만 열려 있다. 핵심 스펙은 200만 토큰 컨텍스트 윈도우와 Deep Think 추론 모드다.
200만 토큰이 실제로 무슨 뜻인지부터 박아 두자. 지금 프로덕션에 나온 프런티어 모델 중 가장 큰 문맥 창이고, Fable 5와 Claude Opus 4.8의 컨텍스트를 정확히 두 배로 늘린 수치다. 어림잡아 중형 SaaS의 코드베이스 수십만 줄, 또는 단행본 여러 권 분량을 잘라 넣지 않고 한 호출에 통째로 밀어 넣을 수 있다.
한눈에 보기
| 컨텍스트 | 200만 토큰, 현재 프로덕션 최대. Fable 5·Opus 4.8의 2배 |
| 상태 | 7월 둘째 주 기준 제한 프리뷰, 정식가·공식 벤치마크 미공개 |
| 추정 API가 | 입력 $12~15/100만, 출력 $36~45/100만 (프리뷰 리포트 기준) |
| 초과 과금 | 200K 토큰 초과 시 롱컨텍스트 서차지 |
| Deep Think | 추론 모드에 10배 프리미엄, Ultra 등급 한정 |
| 소비자 접근 | Gemini Pro 월 $20, Ultra 월 $250 구독 |
컨텍스트 크기가 새로운 축이 됐다
지난 1년의 경쟁은 벤치마크 점수와 토큰 단가에 몰려 있었다. Gemini 3.5 Pro는 축 하나를 더 세게 밀었다. 얼마나 똑똑하냐, 얼마나 싸냐에 더해 한 번에 얼마나 많이 보느냐다.
이 축이 중요한 이유는 문맥이 곧 정확도이기 때문이다. RAG로 조각을 검색해 붙이는 방식은 잘못된 조각을 물어오거나 연결 고리를 놓치면 답이 어긋난다. 관련 자료 전체를 한 창에 담으면 그 실패 지점이 줄어든다. 대신 창이 커질수록 매 호출에 실어 나르는 토큰이 늘고, 그게 그대로 청구서로 온다.
1인 개발자에게 열리는 것, 그리고 붙는 비용
혼자 제품을 굴리는 개발자 입장에서 200만 토큰은 인프라 한 겹을 걷어낸다. 벡터 DB를 세우고, 문서를 쪼개 임베딩하고, 검색 파이프라인을 유지보수하던 일을 건너뛰고, 코드 전체나 고객 문서 묶음을 그대로 프롬프트에 넣을 수 있다. 팀이 없어서 못 하던 통합 작업이 호출 한 번으로 접힌다.
문제는 요금 구조가 그 편의에 값을 매긴다는 것이다. 추정가 기준 출력 100만 토큰이 $36~45인데, 여기에 200K 초과 서차지와 Deep Think 10배 프리미엄이 겹친다. 매 요청에 200만 토큰을 습관처럼 밀어 넣으면, 분류나 요약 같은 가벼운 작업에까지 프런티어급 청구가 붙는다.
anyAX 관점
가격표가 작업 설계를 대신 말해 준다. 200만 토큰을 넣을 수 있다는 것과 매번 넣어야 한다는 것은 다르다. 200K를 넘는 순간 서차지 구간으로 들어가니, 실무의 판단은 "전부 넣기"가 아니라 "이 요청이 정말 20만 토큰 너머를 봐야 하는가"다.
그래서 1인 팀의 실전 셋업은 계층이 된다. 코드베이스 전체 리팩터링이나 긴 계약서 교차 검토처럼 문맥이 답을 가르는 작업에만 큰 창과 Deep Think를 붙이고, 커밋 메시지 정리나 짧은 분류는 작은 창의 싼 모델로 흘린다. 문맥 크기를 요청 단위로 나눠 쓰는 습관이, 같은 도구로 남과 갈리는 지점이다. 큰 창은 능력이지 기본값이 아니다.