AX 패턴2026-09-12

필즈상 25명이 같은 문장에 서명했다

답은 나오는데 방법이 안 남는다

필즈상 수상자 25명이 AI 회사의 수학 벤치마크 경쟁을 두고 공동 선언에 서명했다. 증명이 틀렸다는 말이 아니다. 급히 발표되느라 방법을 분리하고 선행 연구를 밝히는 단계가 빠진다는 지적이다.

9월 11일 수학자 테런스 타오의 블로그에 선언문 하나가 올라왔다. 제목은 "A Severe Misalignment of AI in Mathematics". 서명자가 필즈상 수상자 25명이고 1978년 수상자부터 올해 수상자까지 들어 있다. 수학계에서 이 규모로 한 문장에 이름을 나란히 올리는 일은 드물다.

한 줄 정리

AI 회사가 난제 풀이를 성적표로 삼는 동안 그 풀이가 어떤 방법으로 나왔고 누구 아이디어에 기댔는지가 사라진다는 경고다.

선언문이 문제 삼은 건 정답이 아니다

읽어 보면 "AI가 수학을 못 한다"는 말이 한 줄도 없다. 오히려 잘하게 된 뒤에 생긴 문제를 적었다. 결과가 급하게 발표되느라 제대로 된 작성이 없고, 그 안에서 새 방법을 떼어 내는 작업이 빠지고, 기대고 있는 앞선 연구를 밝히는 절차가 생략된다.

수학에서 문제 풀이는 목적이 아니라 수단이다. 풀이 과정에서 나온 방법이 다음 문제로 넘어가야 공동체의 지식이 된다. 서명자들은 이 단계가 통째로 날아가는 중이라고 봤다. 증명이 참인지와 그 증명이 다음 사람에게 쓸모가 있는지는 다른 질문이다.

같은 날 커뮤니티에서 나란히 읽힌 글이 하나 더 있다. AI가 테스트를 통과하는 코드를 만들어도 불필요한 추상화와 중복까지 피하지는 않는데, 기능이 도는지는 테스트로 확인되고 코드가 얼마나 조잡한지는 측정할 방법이 없다는 이야기다. 분야만 다르지 같은 자리를 짚는다.

하루 전에 벌어진 일

선언문 전날인 9월 10일, OpenAI가 칼텍에서 열릴 예정이던 수학 해커톤 후원을 철회했다. 10월 30일 시작 예정이고 참가자가 대형 언어 모델로 미해결 문제를 다루는 행사다. 현직과 전직 칼텍 수학자들이 낸 공개서한에 서명이 771명까지 붙었다. 연구 수학이 AI 회사의 광고 자리가 된다는 비판이었다.

OpenAI 연구 책임자는 우려를 고려해 빠지겠다고 적었다. 후원금보다 평판이 비싸다는 계산이 하루 만에 끝났다.

반대 측이 쓴 표현이 날카롭다. 그럴듯해 보이지만 얕은 결과가 문헌을 채우는 상태를 두고 "slop mathematics"라고 불렀다. 틀린 결과가 위험한 게 아니라 맞는지 확인하는 데 드는 시간이 결과를 만드는 시간보다 길어지는 상태가 위험하다는 이야기다. 검토자는 늘 사람이고 사람 수는 안 늘어난다.

25명이라는 숫자가 하는 말

필즈상은 4년에 한 번, 40세 이하에게, 한 번에 많아야 네 명에게 간다. 살아 있는 수상자 전체가 그리 많지 않다. 그중 25명이 같은 문장에 이름을 올렸다는 건 수학계 최상층이 대체로 한 방향으로 봤다는 뜻이다. 이 정도 규모의 공동 서명은 분야를 통틀어 드물다.

선언문은 서명을 계속 받고 있다. 규제를 요구하지도 않고 특정 회사를 지목하지도 않았다. 요구가 약해 보이지만 그래서 오히려 넓게 읽힌다. 연구자든 실무자든 자기 일에 그대로 대입할 수 있는 형태로 쓰여 있다.

벤치마크가 목표가 되는 순간

이 구조는 수학계 밖에서도 똑같이 돈다. 팀에 에이전트를 붙이면 처음 보이는 지표가 통과율이다. 테스트가 초록색이면 넘어가고 초안이 그럴듯하면 발행한다. 몇 달 지나면 돌아가는 결과물은 쌓여 있는데 왜 그 방식을 골랐는지 적어 둔 사람이 없다.

그 상태에서 구조를 바꿔야 할 일이 오면 비용이 한꺼번에 청구된다. 아무도 그 코드와 그 문서의 전제를 모르니 처음부터 다시 판단하게 된다. 통과율은 그때 아무 도움이 안 된다.

콘텐츠 쪽은 더 빨리 온다. 블로그 글 20개를 에이전트로 뽑아 놓고 반응이 좋은 3개를 골라 다음 달 방향을 정하려는 순간, 그 3개가 왜 좋았는지 설명할 재료가 없다. 프롬프트도 남아 있지 않고 어떤 각도를 시켰는지도 기억에 없다. 결국 20개를 또 뽑는다. 매달 같은 값을 내면서 아무것도 축적되지 않는 구조다.

검토도 마찬가지다. 사람이 읽고 고친 자리를 기록하지 않으면 같은 실수가 다음 달에 그대로 돌아온다. 고친 흔적은 다음 지시문의 재료인데 대개 수정본만 남고 왜 고쳤는지는 사라진다.

속도를 늦추라는 요구가 아니다

오해하기 쉬운 지점이라 한 번 더 짚는다. 선언문은 결과를 천천히 내라고 하지 않았다. 낸 다음에 해야 할 일을 건너뛰지 말라고 했다. 이 둘은 완전히 다른 요구다.

속도를 늦추는 방식은 대개 안 지켜진다. 경쟁자가 안 늦추기 때문이다. 반면 결과 옆에 근거를 남기는 일은 남이 뭘 하든 우리가 할 수 있고, 안 하면 몇 달 뒤 우리만 손해를 본다. 요구가 지켜질 만한 형태로 쓰였다는 점에서 이 선언문은 잘 설계됐다.

anyAX 관점

선언문이 요구한 건 AI를 쓰지 말라가 아니라 작성 단계를 돌려 달라는 쪽이다. 팀에 옮기면 일이 하나 늘어난다. 에이전트가 낸 산출물 옆에 다섯 줄을 붙인다. 무엇을 시켰고, 어떤 방식을 골랐고, 무엇이 안 됐고, 어떤 전제가 깔려 있는지.

이 다섯 줄을 모델에게 쓰게 하면 다시 그럴듯한 문장이 나온다. 사람이 적는다. 산출물이 맞는지 확인하려면 어차피 읽어야 하고 읽은 사람이 그 자리에서 적는 편이 가장 싸다. 나중에 몰아서 적으면 이미 기억이 없다.

필즈상 25명이 6개월짜리 프로젝트 문서를 걱정한 건 아니다. 다만 그들이 적은 문장은 자기 분야를 넘어간다. 지금 다른 과학과 창작 직군이 같은 문제를 겪고 있고 결국 모두가 겪을 문제라고 선언문이 직접 밝혔다. 통과율만 남고 방법이 안 남는 조직은 6개월 뒤에 자기가 만든 것을 못 고친다.

참고

← 모든 인사이트 보기