노트북에서 도는 멀티모달
Gemma 4 12B가 6.6GB로 작년 27B를 앞질렀다
구글이 Gemma 4 12B를 공개했다. 16GB 노트북에서 텍스트·이미지·음성·영상을 처리하고, MMLU Pro 77.2%로 두 배 큰 작년 모델을 넘었다. 양자화하면 6.6GB VRAM에 들어간다.
구글이 6월 3일 Gemma 4 12B를 공개했다. 클라우드 API가 아니라 손에 든 노트북에서 도는 오픈 모델이다. 텍스트만 받던 이전 세대와 달리 이미지·음성·영상을 한꺼번에 입력으로 받고 텍스트를 낸다. 라이선스는 Apache 2.0이라 상업적 이용에 제약이 없다.
숫자가 의미를 만든다. 공식 권장 사양은 16GB의 VRAM 또는 통합 메모리지만, Q4 양자화를 거치면 약 6.6GB VRAM에 들어간다. 8GB 그래픽카드 한 장, 혹은 통합 메모리를 쓰는 맥북에서 돌아간다는 뜻이다. 컨텍스트 창은 256K 토큰이다.
한눈에 보기
| 출시 | 2026년 6월 3일, 구글 |
| 크기 | 12B 밀집형, 양자화 시 약 6.6GB VRAM |
| 입력 | 텍스트, 이미지, 음성, 영상 (멀티모달) |
| 성능 | MMLU Pro 77.2% (작년 Gemma 3 27B는 67.6%) |
| 라이선스 | Apache 2.0, 상업 이용 가능 |
두 배 큰 모델을 절반 크기가 따라잡았다
핵심은 크기 대비 성능이다. Gemma 4 12B는 MMLU Pro에서 77.2%를 기록했다. 두 배 가까이 무거웠던 작년 Gemma 3 27B의 67.6%를 큰 폭으로 넘긴 수치다. GPQA Diamond, DocVQA 같은 시험에서도 27B를 앞서고, 파라미터가 두 배인 26B급 모델을 거의 따라잡았다고 구글은 밝혔다.
같은 일을 더 작은 모델이 해낸다는 건 비용 곡선이 한 칸 내려갔다는 신호다. 작년에 27B를 돌리려면 그래픽카드 한 장으로는 빠듯했다. 올해는 그 성능이 8GB짜리 보급형 GPU나 통합 메모리 맥북으로 내려왔다.
인코더를 떼어낸 구조
기술적으로 가장 큰 변화는 멀티모달 처리 방식이다. Gemma 4 12B는 이미지·음성을 따로 처리하던 별도 인코더를 들어냈다. 중간 크기 Gemma 가운데 처음으로 인코더 없는 멀티모달 구조를 택했고, 이 체급에서 음성을 직접 받는 것도 처음이다.
실무에서 이 차이는 단순하다. 음성 메모를 받아 요약하고, 가게 메뉴판 사진을 읽어 표로 바꾸고, 짧은 영상에서 자막을 뽑는 일을 모델 하나로, 그것도 인터넷 없이 처리할 수 있다. 별도 STT 서비스나 OCR API를 붙이지 않아도 된다.
anyAX 관점
여기서 따져볼 건 호출당 청구서다. 클라우드 API는 토큰을 쓸 때마다 돈이 나간다. Gemma 4 12B를 6.6GB짜리로 내 기기에 올려두면 추론 비용은 전기요금을 빼면 사실상 0이다. 분류, 요약, 태깅처럼 양은 많고 난도는 낮은 작업, 즉 굳이 프런티어 모델에 맡길 필요 없는 일을 여기로 내리면 변동비가 고정비로 바뀐다.
데이터가 기기 밖으로 안 나간다는 점도 같은 무게로 중요하다. 고객 상담 녹취를 요약하는 프리랜서, 환자 메모를 정리하는 1인 클리닉, 거래처 계약서를 읽히는 동네 사무소라면 입력을 외부 서버로 보내는 것 자체가 리스크다. Apache 2.0에 256K 컨텍스트면 그 민감한 데이터를 내 노트북 안에서만 돌리고도 긴 문서를 통째로 넣을 수 있다.
프런티어 모델 경쟁이 헤드라인을 가져가는 사이, 진짜 레버리지는 이쪽에서 조용히 생긴다. 비싼 모델은 어려운 판단에만 부르고, 반복 작업은 로컬에서 공짜로 돌리는 이중 스택. 1인 팀일수록 이 분리가 한 달 청구서를 가른다.