프론티어 AI 랩 성적표, 최고점이 C+다

Future of Life Institute가 7월 초 공개한 2026년 여름 AI 안전 지수에서 프론티어 AI 랩 9곳 가운데 A나 B 등급을 받은 곳은 하나도 없었다. 최고 점수는 Anthropic의 C+다. OpenAI와 Google DeepMind는 C, Meta는 D+에 머물렀고 xAI·DeepSeek·Mistral 세 곳은 낙제점(F)을 받았다. 독립 패널 7명이 위험 평가, 현재 피해, 안전 프레임워크, 실존적 안전, 거버넌스·책임성, 투명성·소통 6개 항목을 절대 기준으로 채점한 결과다.

한눈에 보기

왜 다들 이렇게 낮은가

이번 평가는 랩끼리 순위를 매기는 상대평가가 아니다. 패널이 정한 절대 기준에 얼마나 도달했는지를 재는 방식이다. 그 기준으로 보면 업계 1위 Anthropic조차 자신이 공개적으로 내건 안전 원칙의 절반 정도만 충족한다는 뜻이 된다. Anthropic은 투명성과 안전 프레임워크, 기술 연구, 거버넌스 등 6개 영역 중 5개에서 1위를 차지했는데도 총점은 C+에 머물렀다. 나머지 하나인 실존적 안전 항목에서는 Anthropic도 선두 자리를 다른 랩에 내줬다. 절대 기준 앞에서는 1등이라는 사실 자체가 큰 의미를 갖지 못한다.

하위권으로 갈수록 격차는 더 크게 벌어진다. Meta는 D+를 받으며 상위 3개 랩과 뚜렷한 거리를 뒀고 Z.ai와 Alibaba Cloud는 D- 수준에 머물렀다. xAI·DeepSeek·Mistral 세 곳은 미국·중국·유럽에서 각각 하나씩 나온 낙제 사례다. 지역이나 규제 환경과 무관하게 안전 투자를 후순위로 미룬 랩은 어디서든 나올 수 있다는 뜻이다. 평가 패널은 위험 평가, 현재 피해, 안전 프레임워크, 실존적 안전, 거버넌스·책임성, 투명성·소통 여섯 항목 각각을 독립적으로 채점했는데 F를 받은 세 곳은 여러 항목에서 동시에 최저 구간에 걸렸다.

방향이 거꾸로 가고 있다

더 눈에 띄는 대목은 시간에 따른 변화 방향이다. 2024년부터 2026년 사이 Anthropic·OpenAI·Google DeepMind·Meta처럼 한때 군사적 활용을 금지한다고 선언했던 회사들이 하나둘 그 선을 지웠다. xAI와 Mistral은 애초에 방산 파트너십에 적극적이었고 이제 나머지도 같은 방향으로 움직인다. 안전 지수가 매년 나오는 이유는 원래 이런 후퇴를 외부에서 확인할 방법이 마땅치 않기 때문이다. 회사가 자체적으로 내놓는 안전 보고서만으로는 정책이 실제로 어떻게 바뀌었는지 추적하기 어렵고 독립 패널의 절대평가가 그 공백을 메운다. 안전 원칙을 발표하는 속도와 실제로 지키는 속도 사이의 간격이 점점 벌어지고 있다는 신호다.

1년 전과 비교하면

Future of Life Institute는 2025년 여름에도 같은 방식으로 지수를 발표했다. 그때도 최고 등급은 Anthropic의 C+였고 OpenAI와 Google DeepMind가 그 뒤를 C로 이었다. 1년이 지난 지금 순위 구도는 거의 그대로인데 그 사이 모델 성능은 크게 뛰었고 실제 배포 범위도 훨씬 넓어졌다. 능력은 계속 올라가는데 최고 안전 등급은 2년째 같은 자리에 멈춰 있는 셈이다. 안전 투자가 능력 발전 속도를 따라가지 못하고 있다는 뜻으로 읽을 수 있는 대목이다.

등급표가 실무에 닿는 지점

이 성적표가 추상적인 얘기로 끝나지 않는 이유는 채점 시점에 있다. 지금 이 모델들은 사이버보안 점검, 헬스케어 감사, 자율 에이전트 실행 같은 실제 업무에 이미 배치돼 있다. 등급이 낮다고 해서 서비스가 멈추지는 않는다. 다만 그 위에서 돌아가는 워크플로의 실패 확률과 책임 소재는 그대로 사용자 몫으로 남는다. 벤더가 안전 기준을 스스로 못 채운 영역은 그 위에 제품을 얹는 쪽이 대신 채워야 한다. 특히 F를 받은 랩의 모델을 가격이나 성능 때문에 골랐다면, 그 선택이 벤더 안전성과는 별개의 판단이었다는 점을 스스로 알고 있어야 한다.

anyAX 관점

C+가 최고점이라는 결과는 프론티어 랩들이 자기 입으로 내건 기준에도 못 미친다는 뜻이다. 1인 창업가나 소규모 AI 에이전시가 이 모델 위에 고객용 제품을 얹을 때, 6개 채점 항목 중 어느 것도 벤더가 대신 채워주지 않는다는 걸 이번 지수가 숫자로 보여준다. 실패 시 폴백 경로를 어떻게 짤지, 고객 데이터를 어느 리전에 두고 얼마나 오래 보관할지, 모델이 이상 출력을 냈을 때 누가 먼저 알아채는 감사 로그를 둘지는 랩의 등급표와 무관하게 스스로 설계할 몫이다. 방산 파트너십이 늘어나는 방향으로 업계가 움직인다는 사실도 이 판단을 뒤로 미룰 이유가 되지 못한다. 지수가 낮을수록 오히려 그 설계의 우선순위는 올라간다.

계약서에 어떤 모델을 쓴다고 명시하는 관행도 다시 볼 만하다. 고객이 나중에 "왜 F등급 모델을 썼느냐"고 물었을 때 답할 논리를 미리 만들어 두는 편이 낫다. 가격 대비 성능이 좋아서 선택했다면 그 위에 데이터 보관 기간, 이상 출력 감지, 재처리 절차를 별도 문서로 얹어 두는 것만으로도 F등급 벤더 리스크의 상당 부분을 상쇄할 수 있다. 반대로 C+짜리 1위 모델을 쓴다고 해서 이 작업을 건너뛸 이유도 없다. 절대 기준에서 C+는 여전히 낙제에 가까운 점수이기 때문이다.

능력과 안전 투자 사이의 속도 불일치가 매년 벌어진다는 지적을 뒤집어 보면 작은 팀에게는 오히려 기회다. 프론티어 랩이 못 채우는 감사·투명성 영역을 자기 제품 안에 작게라도 넣어 두면 그 자체가 경쟁사와 갈리는 지점이 된다. 큰 회사는 조직 전체의 정책을 바꿔야 하지만 1인 창업가는 다음 배포에 바로 로그 한 줄을 추가할 수 있다. 이번 지수가 매년 나온다는 것도 참고할 부분이다. 올해 F를 받은 랩이 내년에 등급을 올릴 수도 있고 그 반대일 수도 있다. 벤더 선택을 한 번 정해두고 잊는 게 아니라 이런 발표가 나올 때마다 다시 점검하는 루틴을 만들어 두는 편이 안전하다. 등급이 바뀔 때마다 계약서와 워크플로 문서를 함께 업데이트해 두면 나중에 고객이나 투자자가 안전성을 물었을 때 근거 자료로 바로 꺼낼 수 있다.

참고

• AI Safety Index — Summer 2026 (Future of Life Institute)
• The Latest AI Safety Rankings Are In. Nobody Gets an A (TIME)
• Global AI Safety Ratings Flunk: Top Score Barely Reaches C+ (BigGo Finance)