중국이 내일부터 '정 주는 AI'를 끊는다: Doubao 에이전트 종료, Qwen 사용자 데이터는 영구 삭제

내일, 7월 15일부터 중국에서 AI 컴패니언이 사실상 꺼진다. ByteDance의 Doubao는 에이전트 기능을 그날 종료한다고 사용자에게 공지했다. 사유는 "제품 기능 조정". Alibaba의 Qwen은 더 빨랐다. 의인화 에이전트와 사용자 제작 에이전트를 7월 10일에 먼저 껐고 나머지 에이전트 서비스도 닷새 뒤 닫는다. Tencent의 Yuanbao는 이미 6월에 유사 기능을 내렸다.

근거 법령은 4월 10일 중국 국가인터넷정보판공실(CAC)이 발전개혁위원회, 공업정보화부, 공안부, 시장감독총국과 공동 발표한 'AI 의인화 상호작용 서비스 관리 잠정 조치'다. 3개월의 유예를 주고 내일 발효한다.

한눈에 보기

서비스	조치	날짜	사용자 데이터
Alibaba Qwen	의인화, 사용자 제작 에이전트 종료	7월 10일	영구 삭제, 유예 없음
ByteDance Doubao	에이전트 기능 종료	7월 15일	10월 15일까지 읽기 전용, 이후 복구 불가
Tencent Yuanbao	유사 기능 선제 철수	6월	비공개

규제가 요구하는 건 네 가지다. 중독 방지 시스템 가동, 사용 시간 고지, 즉시 이탈 수단 제공, 그리고 불건전한 의존 상태의 실시간 탐지.

이 규제가 겨눈 건 에이전트 전체가 아니다

여기가 핵심이다. 조치의 적용 대상은 "인간의 성격 특성, 사고 방식, 소통 스타일을 모사해 지속적 감정 교류를 제공하는 서비스"다. 코드를 짜주는 에이전트, 인보이스를 처리하는 에이전트, 고객 문의를 분류하는 에이전트는 건드리지 않는다.

베이징이 그은 선은 명확하다. 일을 대신하는 에이전트는 놔두고 곁에 있어주는 에이전트만 끊는다. 업무 자동화는 국가 생산성 정책과 같은 방향이지만 감정 의존은 사회적 비용으로 봤다.

그런데 실제 기업들의 반응은 그 선보다 훨씬 넓게 움직였다. Qwen은 의인화 에이전트만이 아니라 사용자 제작 에이전트 전체를 껐고 Doubao도 '에이전트 기능'을 통째로 내렸다. 규제 문구가 애매할 때 플랫폼이 어떻게 행동하는지를 보여주는 장면이다. 선을 정확히 지키려 애쓰지 않고 선에서 한참 물러선 자리에 방어선을 친다.

사라지는 건 기능이 아니라 사용자의 자산이다

Doubao 사용자는 10월 15일까지 자기가 만든 에이전트 설정과 대화 기록을 읽기 전용으로 볼 수 있다. 그 뒤엔 복구가 안 된다. Qwen 사용자에게는 그런 유예조차 없다. 만들어 둔 에이전트와 대화가 그냥 지워진다.

몇 달, 몇 년에 걸쳐 페르소나를 다듬고 맥락을 쌓아온 사용자 입장에서 이건 기능 하나가 사라지는 게 아니다. 축적한 결과물이 통째로 증발한다. 그리고 그 결정에 사용자는 아무 지분이 없었다.

이 구조를 뒤집어 보면 제품 만드는 쪽의 교훈이 나온다. 사용자가 시간을 들여 쌓은 자산이 우리 서버에만 있고 내보낼 방법이 없다면, 그 자산의 수명은 우리 회사의 규제 리스크와 완전히 같아진다.

감정 몰입을 리텐션 엔진으로 쓰면, 규제 리스크가 곧 제품 리스크다

지난 2년간 AI 제품의 정석 조언은 "체류 시간을 늘려라, 관계를 만들어라"였다. 캐릭터를 붙이고, 말투를 기억하게 하고, 사용자를 붙잡는 것. 중국은 그 지표 자체를 규제 대상으로 지정했다. 의존이 깊어지면 실시간으로 탐지해서 끊으라고 요구한다.

한국도 다른 방향은 아니다. AI 기본법의 생성물 표시 의무는 이미 시행됐고 청소년 보호와 대화형 서비스 쪽으로 논의가 옮겨가고 있다. 중국의 조치가 세계 첫 사례라는 점에서, 다른 나라 규제 당국이 참조할 템플릿이 오늘 하나 생긴 셈이다.

anyAX 관점

에이전트를 두 종류로 나누는 선이 규제 당국 손에서 먼저 그어졌다. 일하는 에이전트는 살고 정 붙이는 에이전트는 죽는다. AI 우선 팀이 오늘 읽어야 할 문장은 이거다.

페르소나와 감정 몰입으로 리텐션을 만들던 제품은 지금 두 겹의 리스크를 안고 있다. 하나는 규제, 다른 하나는 플랫폼이다. Qwen은 규제 문구가 요구한 것보다 훨씬 넓게 기능을 껐다. 남의 플랫폼 위에 페르소나 레이어를 얹어 제품을 만든 팀은, 규제를 직접 받지 않아도 플랫폼의 과잉 방어에 같이 쓸려 나간다. 우리를 겨눈 규제가 아니어도 우리 제품이 멈춘다.

10월 15일이라는 날짜는 그래서 무섭다. 그날 지워지는 건 ByteDance의 코드가 아니라 사용자가 몇 달간 쌓은 대화다. 사용자 자산을 우리 DB 안에만 가둬 두는 설계는, 편의상 그렇게 한 것이든 락인을 노린 것이든, 그 자산의 수명을 우리 회사의 정치적 운에 묶어 버린다. 1인 SaaS를 굴리든 AI 에이전시를 하든, 오늘 확인할 건 딱 하나다. 우리가 내일 문을 닫으면 고객이 자기 데이터를 들고 나갈 수 있는가.