클로드, 페르마의 마지막 정리를 11일 만에 Lean으로 형식화: 왜 중요한가

AI 수학 검증

클로드가 11일 만에 완성한 것은 새 증명이 아니라 기계 검증 가능한 형식화입니다

Anthropic은 Claude가 페르마의 마지막 정리의 기존 증명 경로를 Lean으로 형식화했다고 밝혔습니다. AI가 만든 수학을 검증 가능한 지식으로 바꾸는 전환점입니다.

11일Claude가 대부분 자율적으로 형식화 작업을 수행한 기간입니다.

1,300만 줄Lean으로 작성된 전체 형식화 코드 규모입니다.

2만9,500개최종 증명에 사용된 중간 정리 수입니다.

이 글에서 다룰 내용

기존 증명과 형식화의 차이, Lean 검증 방식, Prove2Me 다중 에이전트 구조, AI 수학 연구의 의미

11일 동안 무슨 일이 벌어졌을까

이 글에서 다룰 내용

클로드가 완성한 작업의 의미, Lean과 형식 검증의 역할, Prove2Me의 협업 방식, AI 수학 증명에 미칠 영향

Anthropic은 클로드가 약 11일 동안 대부분 자율적으로 작업해 페르마의 마지막 정리의 완전한 컴퓨터 검증용 증명을 만들었다고 발표했습니다. 결과물은 사람을 위한 일반적인 수학 논문이 아니라, 증명 보조 도구인 Lean이 한 단계씩 검사할 수 있도록 작성된 형식화된 증명입니다.

페르마의 마지막 정리는 2보다 큰 자연수 n에 대해 aⁿ+bⁿ=cⁿ을 만족하는 양의 정수 a, b, c가 없다는 명제입니다. 앤드루 와일스가 1990년대에 이미 증명했으므로, 클로드가 미해결 문제를 새로 풀었다는 뜻은 아닙니다.

이번 작업의 핵심은 와일스와 테일러·와일스의 증명 경로를 따라가면서, 사람이 생략할 수 있는 세부 단계까지 컴퓨터가 확인할 수 있는 언어로 옮겼다는 데 있습니다. 쉽게 말하면 새로운 해답의 발견보다 기존 대형 증명의 기계 검증 가능성을 입증한 사건에 가깝습니다.

Lean 형식화는 일반 증명과 무엇이 다를까

수학자는 논문에서 “명백하다”거나 “앞선 결과를 적용하면 된다”는 표현으로 중간 단계를 줄일 수 있습니다. 하지만 Lean은 이런 생략을 그대로 받아들이지 않으며, 사용한 정의와 정리, 논리적 연결이 모두 정확해야 증명을 승인합니다.

이 과정을 형식 검증이라고 합니다. 문장이 그럴듯한지 판단하는 것이 아니라, 작은 커널이 정해진 공리와 추론 규칙에 따라 모든 단계가 성립하는지 기계적으로 검사합니다.

Anthropic이 공개한 자료에 따르면 최종 증명은 약 1,300만 줄의 Lean 코드로 구성됐습니다. 최종 정리에 사용된 중간 정리는 2만 9,500개가 넘고, 증명되지 않은 내용을 임시로 통과시키는 sorry 도 남기지 않았습니다.

따라서 중요한 질문은 “클로드가 수학자처럼 멋진 설명을 썼는가”가 아닙니다. Lean의 검증기를 실제로 통과하는 완결된 증명 구조를 만들었는가가 기준이며, 이번 결과는 그 지점을 겨냥합니다.

Prove2Me가 해결한 AI 에이전트의 약점

이 정도 규모의 작업은 하나의 클로드 대화창에서 끝낼 수 없습니다. 수많은 정의와 보조정리를 관리해야 하고, 어떤 정리가 다른 정리에 의존하는지도 계속 추적해야 하기 때문입니다.

초기 시도에서는 여러 AI 에이전트가 프로젝트 상태를 놓치면서 협업이 흔들렸다고 합니다. 일부 에이전트가 이미 진행된 작업을 제대로 파악하지 못하거나, 서로의 결과를 효율적으로 재사용하지 못한 것입니다.

전환점은 Prove2Me를 협업 기반으로 사용한 것이었습니다. Prove2Me는 정리 사이의 의존 관계를 방향성 비순환 그래프로 관리하고, 에이전트들이 지금 해결할 수 있는 하위 문제를 찾아 병렬로 작업하도록 돕습니다.

각 AI 에이전트는 하나의 거대한 문제를 통째로 붙잡는 대신 작은 정리 단위로 증명을 시도합니다. 승인된 결과는 다른 에이전트가 다시 활용하고, 하위 정리가 모두 닫히면 최상위 목표인 페르마의 마지막 정리까지 연결되는 방식입니다.

이는 AI 성능만큼이나 작업을 분해하고 상태를 공유하는 시스템 설계가 중요하다는 사실을 보여줍니다. 장기 프로젝트에서는 뛰어난 추론 능력만으로 부족하며, 기억과 협업을 보완하는 외부 구조가 필요합니다.

AI 수학 증명에서 왜 중요한가

생성형 AI는 자신감 있게 틀린 내용을 만들 수 있습니다. 수학에서는 작은 오류 하나만 있어도 전체 결론이 무너질 수 있으므로, 자연어로 작성된 답변만 보고 신뢰하기는 어렵습니다.

Lean을 결합하면 AI가 만든 증명을 AI의 말투나 명성으로 평가하지 않아도 됩니다. 검증기가 받아들이는지 확인하면 되기 때문에, 생성과 검증을 분리하는 신뢰 구조를 만들 수 있습니다.

이번 성과는 AI가 출력한 답을 사람이 처음부터 끝까지 직접 읽어야 한다는 부담도 줄일 가능성이 있습니다. AI가 새로운 추측이나 증명을 빠르게 만들어 내더라도, 형식화와 기계 검증을 함께 수행하면 오류를 더 체계적으로 걸러낼 수 있습니다.

다만 1,300만 줄이라는 규모는 효율성과 가독성이라는 새로운 숙제를 남깁니다. 검증에 성공한 증명과 사람이 이해하기 좋은 증명은 다르므로, 압축된 해설과 유지보수 가능한 형식화가 함께 발전해야 합니다.

또한 이번 결과가 수학자의 역할을 곧바로 대체한다는 의미도 아닙니다. 어떤 문제를 선택할지, 결과가 왜 중요한지, 더 좋은 개념과 증명 전략은 무엇인지 판단하는 일에는 여전히 인간의 통찰이 필요합니다.

결론: 증명하는 AI에서 검증받는 AI로

클로드의 페르마의 마지막 정리 형식화는 유명한 정리를 다시 풀었다는 뉴스가 아닙니다. 수년이 걸릴 것으로 예상됐던 대규모 형식화 작업을 AI 에이전트와 Prove2Me가 분담하고, 그 결과를 Lean으로 검사했다는 데 의미가 있습니다.

앞으로 주목할 부분은 AI가 얼마나 많은 수학 문제를 푸느냐만이 아닙니다. AI 수학 증명이 독립적인 형식 검증을 통과하고, 다른 연구자가 재현하며, 사람이 이해할 수 있는 지식으로 정리되는가가 더 중요한 기준이 될 것입니다.

한 줄 요약: 이번 성과는 클로드가 수학자를 대신했다는 선언이 아니라, AI가 만든 거대한 증명을 Lean으로 검증할 수 있음을 보여준 전환점입니다.

참고 출처

출처 검증 범위: Anthropic 공식 글과 GitHub 저장소에서 제목·발행일·Lean 형식화 규모·검증 방식을 확인했으며, SiliconANGLE과 Google News RSS로 최근 보도 시점을 교차 확인했습니다.