53년 풀리지 않던 수학 난제, 1시간의 역사
인간이 53년간 풀지 못한 수학 난제가 2026년 7월 인공지능에 의해 해결됐다. 오픈AI의 최신 모델 GPT-5.6 솔(Sol) 울트라가 1973년 헝가리 수학자 세케레시 죄르지가 제기한 '이중 덮개 추측'의 증명을 단 1시간 만에 도출해낸 것이다. 이선 나이트 오픈AI 연구원은 7월 11일 X(옛 트위터)에 이 사실을 공식 발표했다.
이중 덮개 추측은 그래프 이론 분야의 고전 미해결 문제다. 점과 선으로 이뤄진 연결 구조에서, 특정 조건 하에 모든 선을 정확히 두 번씩 덮을 수 있는 순환 경로의 조합이 존재한다는 가정이다. 세케레시 이후 많은 수학자들이 경험적으로 이 추측이 타당하다고 인정했지만, 엄밀한 증명은 제시하지 못했다.
64개 에이전트, A4 2장 명령문으로 가능한 일
인간 53년이 풀지 못한 문제를 AI가 1시간 만에 해결한 배경에는 대규모 병렬 처리 전략이 있다.
- 동원된 AI 에이전트 수: 64개
- 명령문 크기: A4용지 2장 분량
- 명령문 구성: 약 1/5는 문제 정의, 4/5는 AI 행동 양식 규정
- 핵심 지시: "64개의 에이전트를 공격적이고 동적으로 사용하라" + "다양한 접근법으로 시작하라"
특히 주목할 점은 에이전트 간 정보 차단이다. 각 에이전트는 다른 에이전트의 접근법을 알지 못하도록 설계됐다. 이는 해법이 하나로 수렴하는 것을 막고, 서로 다른 각도의 탐색을 강제함으로써 전역 최적해를 찾도록 유도한 것이다. 또한 에이전트들이 상호 간에 반례를 공격적으로 찾아내 생존 증명만 남기도록 설정했다.
전문가의 평가: "간결하고 기본적"
토머스 블룸 영국 맨체스터대 리서치펠로는 GPT-5.6 솔의 증명을 "간결하고 기본적인 증명"이라고 평가했다. 그는 인간 연구자와 AI의 차이점을 명확히 지적했다.
인간 수학자의 접근: 한 번 실패 → 새로운 방법론 탐색 → 순차적 시도
AI의 접근: 수많은 작은 변형을 동시에 시도 → 대규모 병렬 탐색 → 반례 검증
다만 GPT-5.6 솔의 증명은 아직 수학계의 동료 평가(Peer Review)를 거치지 않은 상태다.
최근 AI 수학 증명의 급속한 진전
이는 고립된 사건이 아니다. 최근 AI의 수학 난제 해결 사례가 빠르게 늘고 있다.
지난 시간 23세 아마추어 수학자 리엄 프라이스는 60년 동안 풀리지 않은 에르되시 팔의 '원시 집합' 문제를 GPT-5.4에 입력해 해결했다. 주목할 점은 프라이스가 문제를 완전히 이해하지 못했음에도 불구하고, 그 해법이 필즈상 수상자인 테런스 타오 미국 UCLA 교수의 검증을 통과했다는 것이다.
결론
AI의 수학 증명 능력은 이제 단순한 계산 보조를 넘어 인간 수학자가 해결하지 못한 기본 가설의 증명 단계에 진입했다. GPT-5.6 솔의 1시간 증명은 네 가지를 시사한다.
- 병렬 지능의 가치: 단일 추론이 아닌 다중 에이전트 경쟁 체계가 창발적 문제 해결을 이끈다.
- 명령어 엔지니어링의 정교함: 단 2장의 명령문으로 64개 에이전트의 행동을 정밀하게 조율할 수 있다.
- 동료 평가의 중요성: AI 증명도 수학계 검증을 거쳐야만 인정된다는 점에서 학문의 신뢰성 체계는 작동 중이다.
인간 53년 vs AI 1시간이라는 수치 자체보다, 이 차이가 어떤 방식의 사고에서 비롯됐는지 이해하는 것이 더 중요한 순간이다.