에이전트 배관에 추가 요금을 안 받는다: OpenAI가 Codex 하네스를 API 뒤에 놨다

작년에 사내 문서를 뒤져 답하는 에이전트를 개발사에 맡겼다면 견적서에 이런 줄들이 있었다. 세션 유지, 대화가 길어지면 앞부분을 요약해 이어 붙이기, 툴 수십 개 중 맞는 것 고르기, 작업을 쪼개 병렬로 돌리기. OpenAI가 9월 10일 공개 베타로 연 Agents API는 그 줄들을 전부 기본 제공으로 옮겼다. 추가 요금은 없다. 토큰과 툴 사용분만 낸다.

한 줄 정리

에이전트를 돌리는 배관이 값을 못 받는 자리로 내려갔고 돈이 붙는 곳은 그 위의 툴과 업무 지식으로 올라갔다.

한눈에 보기

작년까지 직접 짜던 것	Agents API
컨텍스트 한도가 차면 요약해 이어 붙이기	자동 compaction
툴 정의를 전부 프롬프트에 싣기	tool search로 필요한 것만 로드
툴 결과를 모델에 다시 넣어 거르기	programmatic tool calling
서브에이전트 오케스트레이션 직접 구현	옵션 한 줄, 동시 실행 수 지정
코드 실행용 샌드박스 운영	OpenAI 호스팅 또는 파트너 9곳

숫자를 자기 벤치마크에서 안 뽑았다

발표문에 붙은 수치는 모델 점수표가 아니라 먼저 쓴 회사들이 낸 것이다. SafetyKit은 심사 워크플로를 옮기고 건당 비용 60%를 줄였다. Hypha는 하네스와 샌드박스를 분리해 실패한 에이전트 응답을 86% 걷어냈다. Ciridae는 평가 점수가 0.71에서 0.85로 오르고 서브에이전트 지연이 4분의 1로 떨어졌다고 밝혔다.

셋 다 모델을 바꿔서 난 차이가 아니다. 같은 모델을 감싸는 껍데기를 남이 만든 것으로 갈아 끼운 결과다. 지난 1년 동안 국내 팀들이 자체 하네스에 쏟은 시간의 값이 이 숫자들 안에 들어 있다.

건당 비용 60%가 어디서 나오는지는 짚어 둘 만하다. 모델 단가가 내린 게 아니다. 툴 정의를 매 호출마다 전부 실어 보내던 것을 필요한 것만 꺼내 쓰게 바꾸고, 컨텍스트가 차면 앞부분을 버리는 대신 눌러 담고, 중간 결과를 모델 안으로 다 끌어오는 대신 코드에서 걸러 보내는 세 가지가 겹쳐 나온 값이다. 셋 다 토큰을 아끼는 기술이지 지능을 올리는 기술이 아니다. 그래서 남이 대신 해 줘도 우리 제품이 안 흐려진다.

반대로 말하면 이 60%는 지금까지 우리가 새고 있던 돈이었다. 에이전트를 붙여 놓고 청구서가 예상의 세 배로 나온 팀이라면 원인이 모델 선택이 아니라 이 배관 쪽일 확률이 높다. 하네스를 바꿔 볼 여지가 있는지부터 재 보는 편이 모델을 싼 것으로 내리는 것보다 손실이 적다.

서브에이전트가 옵션 한 줄이 된 의미

기능 하나는 따로 볼 만하다. 복잡한 작업을 쪼개 여러 에이전트에게 나눠 주고 각자 자기 맥락만 들고 일하게 하는 구조가 설정 한 줄로 켜진다. 동시에 몇 개까지 돌릴지도 숫자로 적는다. Ciridae가 말한 지연 4분의 1이 여기서 나왔다.

지금까지 이 구조는 만들기는 어렵지 않고 지켜보기가 어려웠다. 다섯 개가 동시에 돌면 어디서 틀렸는지 추적하는 데 사람 하나가 붙는다. 그 관측과 조율을 API 쪽이 가져가면 소규모 팀이 다룰 수 있는 작업 크기가 한 칸 올라간다. 자료 조사, 문서 대조, 여러 계정의 광고 성과 비교처럼 갈래가 많은 일이 특히 그렇다.

고를 수 있는 것과 없는 것

샌드박스는 세 갈래다. OpenAI가 호스팅하는 환경, 우리 인프라, 그리고 파트너 아홉 곳(Blaxel, Cloudflare, Daytona, DigitalOcean, E2B, Modal, Oracle, Runloop, Vercel). VPC 안에 두는 구성도 열려 있다. 하네스는 오픈소스 Codex 저장소에 그대로 있어서 무엇이 어떻게 도는지 읽을 수 있다.

고를 수 없는 쪽이 더 중요하다. 하네스를 운영하는 주체는 OpenAI고 모델도 OpenAI가 정한다. 열어 둔 건 컴퓨트 자리 하나뿐이다. 나중에 다른 모델로 옮길 때 들고 갈 수 있는 자산은 툴 정의와 업무 지식이지 이 배관이 아니다.

샌드박스를 우리 인프라나 VPC 안에 둘 수 있다는 점은 국내 팀에 실무적으로 크다. 고객 데이터가 어느 나라 서버에서 처리되느냐를 계약서에 적어야 하는 업종이 적지 않다. 하네스는 남의 것을 쓰면서 파일이 놓이는 자리는 우리가 정하는 구성이 가능해졌다. 계약 검토가 붙는 프로젝트에서 이 분리는 도입 가능과 불가능을 가르는 선이 된다.

오픈 베타라는 말의 무게

공개 베타라는 딱지도 그냥 넘기면 안 된다. OpenAI는 피드백을 받아 빠르게 고쳐 가며 정식 출시로 간다고 적었다. 즉 지금 고정된 인터페이스가 아니다. 이 위에 고객 응대나 정산 같은 실무 흐름을 통째로 올려 두면 몇 달 뒤 손을 다시 대야 할 수 있다.

그렇다고 정식 출시를 기다리는 선택이 안전하지도 않다. 지금 자체 하네스를 계속 다듬는 팀은 몇 달 뒤 버려질 코드에 사람을 붙이고 있는 셈이다. 둘 다 비용이 드니 판단 기준은 하나로 좁혀진다. 지금 돌리는 에이전트가 회사 매출에 직접 걸려 있으면 붙잡고, 내부 업무 자동화 수준이면 옮겨서 배관 값을 아끼는 쪽이 낫다.

anyAX 관점

추가 요금 0은 인심이 아니라 가격표다. 오케스트레이션에 값을 매길 수 없다고 OpenAI가 먼저 적어 준 셈이다. 그러면 지금 받아 둔 외주 견적서를 다시 펼쳐 볼 만하다. 세션 관리, 컨텍스트 압축, 서브에이전트 조율이 항목으로 잡혀 공수가 붙어 있으면 그 줄은 오늘부로 남이 공짜로 준다.

값이 남는 자리는 셋이다. 우리 데이터를 어디까지 열어 줄지, 어떤 툴을 붙일지, 틀렸을 때 누가 어디서 잡을지. Hypha가 실패 응답 86%를 걷어낸 방식도 하네스를 잘 짜서가 아니다. 하네스를 통째로 남에게 넘기고 자기는 샌드박스 경계를 긋는 데 붙었다. 다섯 명짜리 팀이 붙을 자리가 딱 그쪽이다.

이 셋에는 공통점이 있다. 셋 다 우리 업무를 아는 사람만 답할 수 있고 셋 다 개발 실력과 상관이 없다. 견적 승인이 어느 금액에서 사람에게 올라와야 하는지, 재고 데이터를 에이전트에게 읽기까지 줄지 쓰기까지 줄지, 고객에게 잘못 나간 답을 누가 몇 시간 안에 발견하는지. 코드를 못 짜는 대표가 오히려 더 정확히 답하는 질문들이다.

그러니 개발사와 다시 앉을 때 대화의 무게중심을 옮겨라. 무엇을 어떻게 만들지를 묻는 회의는 짧아졌다. 대신 우리 회사의 어떤 규칙을 이 에이전트가 알아야 하는지를 적어 가는 회의가 길어져야 정상이다. 기술이 상품이 될수록 남는 견적은 우리 업무를 옮겨 적는 값이다.