통화 1분에 0.05달러

3분짜리 예약 전화 한 통을 기계가 받으면 음성 처리 값이 0.15달러다. 200원 남짓. OpenAI가 9월 10일 GPT-Live-1을 API에 올리면서 붙인 값이 분당 0.05달러고, 이 값은 듣고 말하는 앞단에만 붙는다. 실제로 예약을 조회하고 답을 만드는 뒤쪽 모델과 도구 호출은 평소 요금대로 따로 청구된다.

한 줄 정리

음성 응대의 값이 분 단위로 공시되면서 "전화를 기계에 맡길까"가 기술 질문에서 견적 질문으로 내려왔다.

한눈에 보기

끊기지 않는 대화가 이번 변화의 본체다

지금까지 음성 봇은 세 단계를 이어 붙여 만들었다. 말을 글자로 옮기고, 글자를 모델에 넣고, 나온 글자를 다시 소리로 바꾼다. 단계마다 지연이 쌓이고 사람이 중간에 말을 끊으면 순서가 엉킨다. 전화를 받아 본 사람은 안다. 상대가 "아, 그게 아니라"를 넣는 순간 봇은 자기 문장을 끝까지 읽는다.

GPT-Live-1은 들어오는 소리와 나가는 소리를 한 모델이 함께 본다. 영어 학습 서비스 Speak은 학습자가 생각하느라 멈춘 구간에 봇이 끼어드는 일이 기존 방식보다 80% 가까이 줄었다고 적었다. 의료 상담을 다루는 다른 고객사는 같은 기능을 직접 조립하던 코드가 80% 줄고 2만 3천 줄이 없어졌다고 했다.

Yelp은 이미 예약과 음식 주문 전화 응대에 붙여 뒀다. 전화를 건 사람이 더 긴 문장을 말하기 시작했다는 관찰을 같이 내놨다. 봇이 끊지 않으니 사람이 안심하고 말한다.

값이 작업을 나누라고 말한다

OpenAI 문서가 직접 나누는 법을 적어 놨다. 예약 확인이나 주문 상태 조회처럼 답이 정해진 통화는 가벼운 모델에, 복잡한 항의나 조건 해석이 필요한 통화는 추론 모델에 넘기는 식이다. 앞단 음성은 그대로 두고 뒤만 갈아 끼운다.

여기가 실무에서 값이 갈리는 자리다. 분당 0.05달러는 고정이고 뒤쪽 모델값은 통화 성격에 따라 몇 배씩 벌어진다. 전부 좋은 모델에 붙이면 청구서에서 앞단은 반올림 오차가 된다.

구조가 이렇게 나뉘면 갈아 끼우는 단위도 작아진다. 지금까지는 음성 봇 한 벌이 통째로 한 업체 물건이었다. 바꾸려면 전체를 바꿔야 했다. 앞단과 뒤단이 분리되면 목소리와 응대 흐름은 그대로 두고 판단하는 모델만 더 싼 것으로 내리거나 더 좋은 것으로 올릴 수 있다. 통화 유형별로 다른 모델을 붙이는 일도 설정 수준으로 내려온다.

모델이 좋아져도 사람이 준비할 것은 그대로다

붙여 본 팀이 공통으로 겪는 순서가 있다. 모델을 연결하는 데 반나절, 봇이 참고할 자료를 정리하는 데 2주다.

영업시간이 요일마다 다르고 공휴일 규칙이 따로 있고 예약 취소 기준이 사람 머릿속에만 있으면 봇은 그 셋을 다 지어낸다. 전화 응대를 오래 한 직원이 답을 알고 있어도 그 답이 문서에 없으면 없는 것과 같다. 예약 시스템이 웹 화면만 있고 조회할 창구가 없으면 봇은 "확인해 보겠다"만 반복한다.

그러니 검토 순서를 뒤집는 편이 낫다. 모델을 먼저 고르지 말고 지난달 받은 전화 30통을 적어 보는 쪽이 빠르다. 무슨 질문이 몇 번 왔는지, 그 답이 어디에 적혀 있는지, 적혀 있지 않다면 누가 아는지. 이 목록이 나오면 어떤 통화를 넘길지가 거의 저절로 정해진다.

전화는 되돌릴 수 없다

잘못 보낸 이메일은 정정 메일을 보내면 된다. 전화로 잘못 안내한 영업시간이나 환불 조건은 상대 기억에 그대로 남고 그 통화는 녹취도 안 되어 있을 가능성이 높다. 게다가 지금은 기계와 통화 중이라는 사실을 상대가 모를 만큼 자연스러워졌다.

그래서 붙이기 전에 정할 것이 셋이다. 기계가 받는다는 고지를 통화 앞에 둘지, 어떤 말이 나오면 사람에게 넘길지, 통화 기록을 어디에 남길지. 셋 다 모델 성능과 무관하고 전부 사람이 정한다.

넘기는 규칙은 문장 몇 개면 된다. 금액이나 환불이라는 말이 나오면 넘긴다, 같은 질문을 두 번 반복하면 넘긴다, 상대가 목소리를 높이면 넘긴다. 이 규칙을 안 적어 두면 봇은 끝까지 혼자 답한다. 모르는 상태를 인정하는 것보다 그럴듯한 문장을 만드는 쪽이 모델에게는 쉽다.

기록은 더 단순하다. 전화 응대에서 분쟁이 생기면 근거는 통화 내용뿐이다. 이 모델은 인식한 말과 자기가 한 말을 글자로 같이 내보낸다. 그 글자를 어디에 얼마나 보관할지, 개인정보가 섞인 통화를 어떻게 다룰지는 붙이는 날 같이 정하는 게 맞다. 사고가 난 뒤에 정하면 정할 게 없다.

anyAX 관점

하루 50통, 평균 3분이면 앞단 음성값은 월 225달러다. 뒤쪽 모델을 붙여도 30만 원대에서 끝난다. 전화 응대에 사람 손이 하루 두세 시간씩 들어가는 가게나 스튜디오라면 이 값에서 계산이 끝난다.

값이 이렇게 내려오면 질문이 바뀐다. "AI가 전화를 받을 수 있나"는 이미 답이 났다. 남은 질문은 "어떤 통화를 넘길 건가"다. 영업시간 문의, 예약 확인, 주문 상태처럼 답이 문서에 적혀 있고 틀려도 다시 전화하면 되는 통화는 지금 넘겨도 된다. 환불 조건, 계약 해석, 몸이 아픈 사람의 증상 문의는 값이 싸다는 이유로 넘길 자리가 아니다.

경계를 안 그으면 월 225달러를 아끼려다 사고 한 건에 그 수십 배를 쓴다. 분당 0.05달러가 알려 주는 건 기계가 얼마나 똑똑해졌는지가 아니라 이제 전화 목록을 종류별로 나눠 적을 때가 됐다는 사실이다. 그 목록은 모델이 못 만든다.

참고

• Build more natural voice experiences with GPT‑Live‑1 in the API (OpenAI)
• GPT-Live-1 개발 가이드 (OpenAI 개발자 문서)
• OpenAI launches GPT-Live-1 for full-duplex voice agents (TestingCatalog)