쓰던 창은 그대로 두고 모델만 내 맥으로 내렸다: Ollama 0.34.0

로컬 모델을 팀에 들일 때마다 앱이 하나씩 늘었다. 대화는 ChatGPT에서 하고 내 컴퓨터에서 도는 모델은 다른 창에서 굴리는 식이다. 그 창을 두 번 열어야 하는 순간 대부분은 그냥 안 쓴다.

Ollama 0.34.0이 그 두 창을 하나로 합쳤다. 9월 6일 올라온 릴리스 노트 첫 줄이 ChatGPT 데스크톱에서 Ollama 모델을 그대로 쓸 수 있다는 내용이다. 연결은 macOS의 Ollama 앱에서 켠다. 같은 릴리스에 Apple Silicon 구조화 출력 성능 개선, OpenAI 호환 클라이언트의 도구 검색과 응답 압축 지원이 함께 들어갔다.

한 줄 정리

쓰던 창을 그대로 두고 그 안에서 도는 모델만 내 컴퓨터로 내릴 수 있게 됐다.

한눈에 보기

	0.34.0 이전	0.34.0 이후
대화 창	ChatGPT 앱	ChatGPT 앱
로컬 모델 창	별도 UI 또는 터미널	같은 앱 안 모델 선택
전환 비용	창 이동·복붙	목록에서 고르기
설정 위치	각 도구마다	macOS Ollama 앱

로컬 모델은 성능이 아니라 진입 지점에서 막혀 있었다

작은 팀에서 로컬 모델을 검토하다 접는 이유는 대개 품질이 아니다. 분류나 요약처럼 반복되는 일에는 이미 4B, 8B급으로 충분하다는 걸 다들 한 번씩 확인한다. 그런데 막상 업무에 넣으려면 사람들이 매일 여는 창을 바꿔야 한다. 열 명이 쓰는 도구를 바꾸는 일은 모델 성능표로 설득되지 않는다.

Ollama는 개발자 커뮤니티 규모를 2026년 8월 기준 890만 명으로 집계한다. 이 숫자가 붙어 있는데도 사무실에서 로컬 모델을 쓰는 사람은 한참 적었다. 성능과 채택 사이에 창 하나가 끼어 있었다.

0.34.0이 건드린 자리가 정확히 거기다. 모델 목록에 로컬 항목이 하나 더 생기는 형태라, 쓰는 사람 입장에서는 새 도구를 배우는 게 아니라 드롭다운에서 다른 줄을 고르는 일이 된다.

첫 주에 나온 불평은 속도가 아니라 되돌아가는 길이었다

9월 초 OpenAI 개발자 포럼에 macOS ChatGPT 데스크톱이 로컬 Ollama 모델에 물린 채 클라우드 모드로 돌아가지 못한다는 보고가 올라왔다. 앱 안에 되돌리는 스위치가 안 보인다는 내용이다. 릴리스 태그 커밋 메시지도 데스크톱 프록시 처리를 단단히 했다는 문구다. 초기 통합 티가 그대로 난다.

이건 성능 문제가 아니라 경로 문제다. 로컬로 내리는 길만 만들고 올라오는 길을 안 만들면 사람들은 다음부터 안 내린다. 팀에 붙일 생각이라면 되돌리는 방법을 먼저 확인하고, 안 되면 정식 릴리스를 한 번 더 기다리는 편이 낫다.

무엇을 내리고 무엇을 남길지가 진짜 결정이다

전부 로컬로 내리는 선택지는 없다. 나누는 기준은 두 가지로 충분하다.

반복량이 많고 판단이 얕은 일은 내린다. 상담 로그 분류, 문서 요약, 태그 붙이기, 초안 형식 맞추기. 같은 프롬프트가 수천 번 도는 자리라 값이 곧바로 쌓인다.

한 번 틀리면 되돌리기 비싼 일은 남긴다. 계약서 검토, 고객에게 나가는 최종 문안, 긴 맥락을 엮는 분석. 여기서 아끼는 몇 달러는 사고 한 건에 다 날아간다.

기준을 이렇게 두면 하드웨어 얘기도 정리된다. 로컬로 내릴 일이 분류와 요약뿐이면 지금 쓰는 맥에서 이미 돈다. 반대로 프런티어급을 통째로 대체하겠다고 마음먹는 순간 통합 메모리 64GB 이상 같은 조건이 따라붙고, 그 장비 값이 몇 달치 API 요금을 넘어간다. 마이크로소프트가 이번 주 공개한 개발자용 윈도우 구성도 그 조건을 전제로 잡았다. 대체가 아니라 분담으로 접근할 때만 이 릴리스가 값을 한다.

anyAX 관점

로컬 모델의 이점은 보통 값으로 설명된다. 그런데 작은 팀이 실제로 마주하는 건 다른 쪽이다. 고객 이름과 전화번호가 박힌 상담 로그 3천 건을 분류하려고 프런티어 모델 API를 부르면, 그 로그가 남의 서버를 한 번씩 다녀온다. 계약서상 문제가 없더라도 고객에게 설명할 문장이 하나 늘어난다.

0.34.0은 그 일을 옮기는 데 드는 마찰을 줄였다. 성능이 좋아진 게 아니라 옮기는 게 쉬워졌다. 그래서 이번 릴리스는 "로컬 모델을 써 볼까"가 아니라 "우리 데이터 중 밖으로 안 나가도 되는 게 뭔지" 목록을 만들 계기에 가깝다. 목록이 있으면 다음 결정이 빨라지고 없으면 이 릴리스도 그냥 지나간다.

한 가지 더. 되돌아가는 스위치가 아직 매끄럽지 않다는 건 이 통합이 며칠 된 물건이라는 뜻이다. 지금 할 일은 전사 전환이 아니라 한 사람이 한 업무로 2주 돌려 보는 정도다. 그 2주가 목록의 첫 줄을 채운다.