준리만가설부터 호지 추측까지, OpenAI가 하룻밤에 쏟아낸 수학 원고 700편

OpenAI가 한국 시간 10월 7일 아침 GitHub에 수학 연구 원고 722편을 한꺼번에 공개했습니다. 아직 내놓지 않은 내부 모델에 미해결 연구 문제 약 4,000개를 던지고 그중 의미 있는 결과만 추린 것으로 비슷한 결과끼리 묶으면 372개입니다. 결과 하나에 들어간 연산은 평균 ChatGPT Pro가 세 시간쯤 생각한 정도라고 합니다. 지난달 나비에-스토크스 하나를 풀 때는 에이전트 1만 개를 88시간 동안 돌렸는데 한 달 만에 대부분 문제 하나에 질문 하나만 던져도 결과가 나오는 수준까지 왔습니다.

목록에는 리만가설로 가는 길목이라는 '준리만가설'을 비롯해 밀레니엄 문제인 호지 추측과 버치-스위너턴다이어 추측의 일부, 카케야 추측, 양자 하이젠베르크 강자성체 문제 같은 이름이 줄줄이 들어 있습니다. 사실 주인장도 리만가설과 호지 추측 정도만 이름을 들어 봤고 나머지는 이번에 처음 들어 본 문제가 대부분입니다. 그래도 하나같이 수학자들이 수십 년씩 붙들고 있던 문제들이고 준리만가설은 리만가설이 나온 뒤로 지금까지 아무도 넘지 못한 고개였다고 하니 얼마나 큰 소식인지는 짐작이 갑니다.

OpenAI도 저장소 안내문에 형식 검증을 거치지 않은 결과에는 문제가 있을 수 있다고 적었습니다. 주요 결과까지 Lean으로 검증한 원고는 전체의 약 42%입니다. 실제로 공개 바로 다음 날 한 논문에서 부호 오류가 나와 그 논문에 기댄 원고까지 3편을 철회했고 14편을 고쳤습니다. OpenAI 대변인은 이번 결과 상당수를 자사 수학자들도 아직 다 이해하지 못했다고 말했습니다. 지난달 나비에-스토크스 증명을 두고도 Lean으로 옮긴 증명이 원래 논문의 주장과 다르다는 반박 논문이 올라와 있습니다.

토론토대의 대니얼 리트는 수학에 좋은 일이라고 반기면서도 OpenAI 안에 이 많은 분야를 다 검토할 수학자가 있느냐고 물었고 MIT의 앤드루 서덜랜드는 모델을 공개해 누구나 재현할 수 있을 때까지는 영수증부터 요구해야 한다고 했습니다. 수학자 단체 AHM(인간 수학 협회)은 필즈상 수상자 테렌스 타오의 블로그에 실린 성명에서 수학자들은 이런 작업을 요청한 적이 없다며 OpenAI와의 협업을 멈추자고 했습니다. 정작 타오 본인은 AI와 함께 갈 방향을 고민하는 쪽입니다. 누가 먼저 난제를 푸느냐로 평가받던 '수학 1.0'은 AI 때문에 한계에 다다랐으니 앞으로는 풀이를 설명하고 공동체를 키우고 새 연구 방향을 여는 일을 더 높이 쳐 주는 '수학 2.0'으로 가야 한다고 말합니다. AI도 그 일을 도울 수 있지만 그러려면 AI에게 미해결 문제 목록을 던져 주고 답을 받아 내는 지금 방식보다 훨씬 더 많은 상상력이 필요하다고 덧붙였습니다.

온라인상에서도 사흘 내내 수학 이야기가 이어졌습니다. 준리만가설이 얼마나 큰일인지 풀어 주는 글과 사람이 했으면 당장 필즈상이라는 글이 올라왔고 수학자들의 "요청하지 않았다"는 성명에는 수학 문제를 푸는 데도 수학자 허락이 필요하냐는 반발이 나왔습니다. 수학자들을 비웃는 글이 늘어나자 수학자들 입장이 충분히 이해된다는 목소리도 함께 나왔습니다. 공개된 정수 곱셈 결과를 외부에서 하루 사이 몇 차례 더 다듬어 2^148배 개선했다는 소식도 전해졌습니다.

지난 칼럼에서 주인장은 AI가 난제를 풀었다는 소식이 언젠가 스쳐 지나가는 뉴스처럼 들릴지 모른다고 썼는데 그날이 그냥 갑자기 오더니만 이제는 700개의 문제풀이가 한꺼번에 쏟아집니다. 평생 붙들어 온 문제가 어느 날 아침 GitHub에 '풀렸다'는 원고로 올라오는 걸 본 수학자들이 선뜻 반기지 못하는 것도 당연합니다. 그러나 세상은 이럴 때일수록 더더욱 수학자를 필요로 합니다. 지금 당장은 증명을 확인하는 일을 하는 것처럼 보입니다만, 분명 수학자들은 자신의 새로운 다른 역량과 역할을 발견하게 될 것입니다. 그리고 AI를 활용하면서 분명 새로운 수학의 장이 열릴 것이고 그때에도 수학자들의 역할은 건재할 것입니다.