코딩 에이전트가 노트북으로 내려왔다
Gemma 4 12B, 인코더 없이 온디바이스로
Google이 6월 8일 공개한 Gemma 4 12B는 클라우드 토큰 요금 없이 노트북에서 멀티모달 코딩 에이전트를 돌린다. 같은 계열 31B Dense는 텍스트 아레나 3위, Gemma 누적 다운로드는 4억 회를 넘겼다.
Google이 6월 8일 공개한 Gemma 4 12B는 코딩 에이전트를 클라우드에서 떼어내 노트북 위로 올렸다. 구조부터 다르다. 별도 비전 인코더를 떼고 35M 파라미터짜리 임베더 하나로 대체한 인코더리스 멀티모달 디코더 구조다. 이미지는 48×48 픽셀 패치를 단일 행렬곱으로 투영하고, 오디오는 40ms 프레임으로 잘라 그대로 입력 공간에 밀어 넣는다. 무거운 비전 트랜스포머 없이 한 모델이 텍스트, 이미지, 음성을 다 받는다는 뜻이다.
계열 전체는 앞서 4월 2일 Apache 2.0 라이선스로 풀렸다. 라인업은 모바일과 엣지를 노린 E2B, E4B, 그리고 본격 작업용 26B MoE와 31B Dense. Google은 31B Dense가 텍스트 아레나 리더보드 3위에 오른다고 밝혔고, 최상위 기능을 단일 80GB H100 한 장에서 돌릴 수 있다고 했다. E2B와 E4B는 Raspberry Pi, Jetson Nano 같은 보드에서도 구동된다. Gemma 계열은 지금까지 4억 회 넘게 내려받혔고 파생 변형이 10만 개를 넘는다.
한눈에 보기
| 모델 | Gemma 4 12B (12B 파라미터, 인코더리스 멀티모달) |
| 공개 | 6월 8일 (계열 전체는 4월 2일, Apache 2.0) |
| 구동처 | 노트북, 소비자용 GPU, Google AI Edge, Ollama, LM Studio, llama.cpp |
| 상위 모델 | 31B Dense 텍스트 아레나 3위, 단일 80GB H100에서 구동 |
| 비용 구조 | 클라우드 토큰 과금 없음, 다운로드 후 로컬 추론 |
토큰 미터기가 사라진 자리
지난 1년 코딩 도구의 가격표는 정액제에서 토큰 종량제로 넘어갔다. 쓰는 만큼 돈이 빠지는 구조에서 자율 에이전트를 종일 돌리면 비용이 선형으로 누적된다. 로컬 모델은 이 셈을 통째로 바꾼다. 한 번 내려받으면 추론 단가가 사실상 전기값으로 수렴한다.
문제는 늘 품질이었다. 작은 오픈 모델로 에이전트를 돌리면 함수 호출이 깨지고 멀티스텝 작업이 무너졌다. Gemma 4는 Gemini 3 기술을 끌어와 함수 호출과 에이전트 워크플로를 기본 지원하고, 12B가 노트북에서 실제 에이전트 루프를 버틴다고 본다. 프런티어 모델을 대체한다는 게 아니다. 반복 작업, 로컬 코드베이스 탐색, 사내 데이터를 다루는 구간을 클라우드 호출에서 떼어낼 여지가 생겼다는 뜻이다.
누구의 셈법이 바뀌나
1인 SaaS 개발자에게 이건 고정비 항목 하나가 0에 수렴한다는 신호다. 매출이 붙기 전 실험 단계에서 토큰 청구서가 무서워 에이전트를 못 돌리던 인디 메이커라면, 노트북 한 대로 종일 코드를 짜게 하는 선택지가 열린다.
AI 우선 팀에는 데이터 경계 문제가 크다. 고객 코드와 내부 문서를 외부 API로 보내는 걸 꺼리는 조직이라면, 민감 구간만 로컬 Gemma로 처리하고 나머지를 클라우드로 보내는 하이브리드 라우팅이 현실적인 그림이 된다. Apache 2.0이라 상업적 활용과 파인튜닝에 라이선스 족쇄도 없다.
동네 공방을 운영하는 자영업자처럼 비개발 영역에서도 의미가 있다. 인터넷이 끊긴 환경, 혹은 매출 데이터를 클라우드에 올리기 싫은 경우 온디바이스 멀티모달 모델이 영수증 이미지나 음성 메모를 로컬에서 처리하는 그림이 가능해진다.
anyAX 관점
종일 돌리던 에이전트의 추론 단가가 토큰 청구서에서 전기값으로 수렴한다. 이게 이번 발표의 진짜 무게다. 한 번 내려받은 12B 모델이 노트북에서 에이전트 루프를 버티는 순간, 매출이 붙기 전 실험 단계에서 비용 때문에 멈췄던 자동화가 다시 켜진다. 가격 곡선이 0에 가까워질 때 풀리는 건 기능이 아니라 시도 횟수다.
값이 싸지면 그다음 변수는 데이터가 어디에 머무느냐다. 고객 코드와 내부 문서를 외부 API로 보내기 꺼리던 AI 우선 팀은, 이제 민감한 구간만 로컬 Gemma에 맡기고 나머지를 클라우드로 보내는 하이브리드를 현실적인 카드로 쥔다. Apache 2.0이라 파인튜닝과 상업적 활용에 라이선스 족쇄도 없다. 자기 데이터의 경계선을 어디에 그을지가 곧 설계의 핵심이 된다.
온디바이스 모델이 프런티어를 이긴다는 얘기가 아니다. 토큰 비용, 데이터 주권, 오프라인 환경이라는 세 제약은 인디 메이커와 AI 우선 팀이 이번 주에 실제로 부딪히는 벽이고, 31B Dense가 단일 H100 한 장에서 돈다는 사실보다 그 벽을 푸는 노트북용 카드가 손에 들어왔다는 게 더 실용적인 변화다.