7월 1일, 한국의 모든 업로드 이미지가 AI 검열을 거친다

7월 1일부터 한국에서 운영되는 SNS, 커뮤니티, 인터넷방송, 검색포털은 사용자가 올리는 이미지를 게시되기 전에 AI로 검사해야 한다. 전기통신사업법상 불법촬영물 유통방지를 위한 기술적·관리적 조치 대상이 영상에서 이미지로 넓어졌기 때문이다. 적용 대상은 연 매출 10억 원 이상이거나 일평균 이용자 10만 명 이상인 사업자다. 6개월 계도기간이 붙긴 했지만 결국 한국 인터넷에서 이미지가 올라가는 거의 모든 경로에 사전 필터가 끼게 되는 셈이다.

GeekNews 같은 개발자 커뮤니티에서 이 얘기가 빠르게 돌고 있다. 불법촬영물을 막자는 데 반대하는 사람은 없다. 문제는 방식이다. 게시 전에 기계가 모든 이미지를 먼저 본다는 구조 자체가 사전검열 논란을 부르고 있다.

한눈에 보기

무엇이 달라지나

지금까지 대부분의 플랫폼은 신고가 들어오면 문제 콘텐츠를 내리는 식으로 운영해 왔다. 이번 조치는 그 순서를 바꾼다. 신고를 기다리는 게 아니라, 이미지가 게시되기 전에 필터를 통과시켜야 한다. 사후 삭제에서 사전 차단으로 넘어간다.

기술 요건도 느슨하지 않다. 사업자는 정부가 제공하는 기술이나 성능평가를 통과한 기술을 상시 적용해야 하고 그 평가는 식별률 95~99% 수준을 요구한다. 적당히 거르는 걸로는 안 되고 검증된 필터를 계속 돌려야 한다는 뜻이다.

매출 10억 원, DAU 10만 명이라는 기준선만 보면 대형 플랫폼 얘기처럼 들린다. 하지만 잘 크는 버티컬 커뮤니티나 거래 플랫폼은 생각보다 빨리 이 선을 넘는다. 한번 대상이 되고 나면 필터링 인프라는 더 이상 고를 수 있는 선택지가 아니다.

왜 오탐이 문제인가

영상 단계에서도 이미 오탐 사례가 나오고 있다. 이미지로 넘어오면 정상 게시물이 잘못 걸릴 가능성은 더 커질 수밖에 없다. 이미지는 영상보다 양이 훨씬 많고 앞뒤 맥락 없이 한 장만으로 판단해야 하기 때문이다. 수영복 후기, 운동 인증샷, 의류 쇼핑몰 상세컷처럼 합법적인 노출과 불법물의 경계는 픽셀만 봐서는 잘 갈리지 않는다.

오탐은 운영자에게 곧장 비용으로 돌아온다. 쇼핑몰 상세 이미지가 막히면 그 상품 매출이 멈추고, 후기 사진이 반려되면 커뮤니티가 식는다. 식별률 99%라는 숫자도 뒤집으면 1%는 틀린다는 말이다. 하루에 수만 장이 올라오는 채널이라면 그 1%가 매일 수백 건의 오차단으로 쌓인다. 필터를 세게 잡을수록 멀쩡한 콘텐츠도 그만큼 더 걸린다.

게다가 막힌 이미지를 다시 들여다보고 풀어주는 일은 누군가 사람이 해야 한다. 직원 많은 회사라면 모를까, 1인 운영자나 작은 팀에게는 없던 상시 업무가 하나 생긴다.

마케터·커뮤니티 운영자가 지금 할 일

이건 결국 콘텐츠를 어디에 쌓아둘 것이냐는 채널 문제다. 자체 커뮤니티나 사용자 콘텐츠(UGC) 기반 서비스를 굴리고 있다면, 지금 점검해 둘 게 몇 가지 있다.

먼저 내가 대상인지부터 본다. 지금은 기준선 아래여도 성장 속도상 매출 10억, DAU 10만에 가까워지고 있다면 미리 필터링 솔루션을 알아보는 편이 낫다. 그리고 업로드 동선을 다시 짜야 한다. 게시 전에 필터가 끼면 올리는 속도와 사용자 경험이 달라지는데, 정상 이미지가 반려됐을 때 어떻게 안내하고 어떻게 다시 검토할지는 사고가 터진 뒤 만드는 것보다 미리 만들어 두는 게 훨씬 싸다. 마지막으로 채널을 한 곳에 몰아두지 않았는지 본다. 모든 자산을 규제 대상 플랫폼 하나에 묶어두면 오탐 한 번에 마케팅이 통째로 멈춘다.

anyAX 관점

이 사안에서 더 흥미로운 건 AI가 좋냐 나쁘냐가 아니라, AI가 이제 법으로 깔아야 하는 인프라가 됐다는 점이다. 몇 년 전만 해도 콘텐츠 검수는 신고받아 사람이 처리하는 일이었는데, 이제는 국가가 검증된 모델을 상시 돌리라고 요구한다. 그런데 도구가 바뀌어도 던져지는 질문은 그대로다. 무엇을 거를 것인가, 잘못 걸렀을 때 누가 책임지는가. 이건 끝까지 사람이 안고 가야 하는 몫이다.

AX는 멋진 신모델을 쫓는 게 아니라 매일의 실무 문제에 AI를 어떻게 끼워 넣느냐의 문제라고 늘 말해왔는데, 이번 규제가 그걸 아주 건조하게 보여준다. 필터를 켜는 건 기계가 하지만 오탐 1%를 어떻게 처리할지, 막힌 고객 사진에 어떻게 응대할지, 채널 리스크를 어떻게 분산할지는 전부 사람이 정한다. 검수를 자동화할수록 오히려 어디까지 기계에 맡기고 어디서 사람이 끼어들지를 정하는 감각이 중요해진다.

만들고 거르는 비용이 0에 가까워져도, 경계가 모호한 영역을 다루는 일은 여전히 사람 몫으로 남는다. 규제야 모두에게 똑같이 떨어지지만 그 안에서 사용자 경험을 덜 망가뜨리는 쪽이 결국 자기 채널을 지킨다.

참고

• South Korean online communities will need to scan every image with AI censorship tools (Privacy Guides)
• 2026년 대한민국 인터넷 검열 논란 (나무위키)
• 불법촬영물등 유통방지를 위한 기술적·관리적 조치 대상 확대 시행 (루리웹)
• 전기통신사업법 시행령 (국가법령정보센터)