AI 헛소리를 발행 전에 잡는 검증 계층이 상품이 됐다
TrustScale Argus, 결정론적 근거로 98.5% 정확도, 산업 질의는 최대 88%가 환각
TrustScale이 AI 출력의 환각을 실시간으로 잡아 고치는 Argus를 냈다. 'AI로 AI를 검사'가 아니라 결정론적 근거로 주장을 대조하는 방식으로, 정확도 98.5%에 사람 검증보다 135배 빠르다고 한다.
프런티어 모델조차 간단한 질의에 대한 답의 최대 20%가 환각이다. 산업 특화 질의로 좁히면 그 비율이 최대 88%까지 올라간다. TrustScale이 8월 5일 낸 Argus는 이 헛소리를 발행 전에 실시간으로 잡아 고치는 검증 계층을 상품으로 판다.
Argus는 AI가 내놓은 문장에 색으로 신뢰 점수를 입히고, 근거가 있는 주장과 없는 주장을 갈라 표시한다. 근거 없는 문장은 실제 증거로 반박하거나 대안을 제시한다. 회사가 내세우는 숫자는 정확도 98.5%에 사람이 직접 조사하는 것보다 135배 빠르다는 것이다. 지금 TrustArgus.ai와 크롬 확장으로 열려 있고 12개 언어를 지원한다. ChatGPT, Claude, Gemini, Copilot, Grok 어느 모델 옆에든 붙는다.
한눈에 보기
| 프런티어 모델 환각률 | 쉬운 질의 최대 20% |
| 산업 특화 질의 환각률 | 최대 88% |
| Argus 정확도 | 98.5% |
| 속도 | 사람 검증 대비 135배 |
| 방식 | 결정론적 근거 대조 (AI로 AI를 검사하지 않음) |
| 접근 | 크롬 확장 + 엔터프라이즈, 12개 언어 |
'모델로 모델을 채점'과 무엇이 다른가
지금 나온 환각 방어 대부분은 큰 모델을 심판으로 세운다. 출력을 다른 LLM에게 다시 물어 "이거 맞아?"를 시키는 방식이다. 문제는 심판도 확률로 답한다는 점이다. 채점하는 모델이 같은 헛소리를 그럴듯하다고 통과시키면 방어가 그대로 뚫린다.
Argus는 여기서 갈라선다. 판정을 다른 모델의 감이 아니라 결정론적 검증과 실제 증거에 건다. 같은 입력에 같은 판정이 나오고, 통과와 반려의 근거를 증거 문서로 되짚을 수 있다. 무엇이 왜 걸렸는지가 색과 근거로 남으니, "AI가 그렇다고 했다"가 아니라 "이 문장이 이 근거와 어긋난다"를 사람이 확인한다. 특허 출원 중인 이 방식을 사설 데이터 환경과 공용 환경 양쪽에 심을 수 있다.
검증을 어디에 끼우나
핵심은 검증이 발행 앞단에 선다는 것이다. AI가 쓴 상담 답변, 계약 요약, 제품 설명이 고객에게 나가기 전에 근거 없는 문장을 먼저 걸러 낸다. 산업 질의 환각률이 최대 88%라는 숫자가 무겁게 다가오는 지점이 여기다. 법률, 의료, 금융처럼 틀린 한 문장이 곧 책임으로 돌아오는 도메인에서는 사후 정정으로 늦다.
1인 SaaS 개발자가 AI 기능 하나를 붙일 때 지금까지 검증은 대개 나중 문제였다. 먼저 기능을 내고 틀리면 그때 고치자는 순서였다. Argus 같은 도구가 상품으로 나왔다는 건 그 순서가 뒤집혔다는 신호다.
anyAX 관점
제품의 결과물이 곧 AI 출력이라면 환각은 기능이 부족한 게 아니라 책임이 새는 구멍이다. 산업 특화 질의의 최대 88%가 헛소리라는 숫자 앞에서, 검증 없이 내보낸 답 하나는 잠재적 청구서다. 그러니 검증은 완성한 다음에 얹는 장식이 아니라 출고 라인에 미리 세우는 검사대여야 맞는다.
여기서 1인 개발자와 AI 우선 팀에게 실제 결정은 딱 하나다. 트러스트 계층을 직접 짜느냐, 사서 붙이느냐. 직접 짜면 근거 데이터와 판정 로직을 스스로 쥐는 대신 그 유지에 사람 시간을 태운다. Argus를 붙이면 그 시간을 아끼는 대신 무엇을 참으로 볼지의 기준을 남의 결정론에 맡긴다. 어느 쪽이든 미루면 안 되는 건 판단 자체다. 내 제품이 틀린 문장 하나에 얼마를 무느냐를 먼저 계산하고 그 값이 검증 도구값보다 크면 오늘 붙이는 게 맞는다. AI를 빨리 내보내는 경쟁은 이미 끝났고, 다음 라운드는 틀리지 않게 내보내는 쪽에서 갈린다.