OpenAI의 기념비적인 수학 증명, 우리가 생각했던 것과는 다르다

OpenAI의 ‘나비에?스토크스 방정식’ 해결이 두 수학자의 연구 성과를 가로챈 것이라는 의혹은 과장되었을 가능성이 있다.

글: 조지프 하울렛(Joseph Howlett)
편집: 리 빌링스(Lee Billings)
출처: Scientific American

수학자들이 마침내 수십 년 만에 찾아온 수학계 최대 사건의 실체를 이해하기 시작했다. 그런데 그 실상은 누구도 예상하지 못했던 방향으로 전개되고 있다.

지난 9월 초, OpenAI는 수학계의 유명한 '100만 달러짜리 난제' 중 하나인 나비에?스토크스 문제에 대한 166페이지 분량의 난해한 증명을 공개했다. 초기 보도와 OpenAI 자체 설명에 따르면, 사내 대규모 언어 모델(LLM)이 만들어낸 이 증명은 스페인 수학자 디에고 코르도바(Diego C?rdoba)와 루이스 마르티네스-소로아(Luis Mart?nez-Zoroa)가 고안한 접근법을 따른 것으로 알려졌다.

OpenAI 모델이 이른바 '스페인 프로그램(Spanish program)'에 의존했다는 주장은 회사와 뉴욕대학교 수학자 트리스탄 벅마스터(Tristan Buckmaster) 사이에 공개적인 갈등을 불러일으켰다.

벅마스터는 지난 1년 가까이 OpenAI의 최대 경쟁사인 앤트로픽의 직원 레벤트 알푀게(Levent Alp?ge)와 함께 LLM을 활용해 해당 접근법을 연구해 왔다. 두 사람은 OpenAI의 공개 모델을 이용해 연구를 진행하고 있었는데, 정작 OpenAI가 자신들의 어렵게 쌓아 올린 성과를 토대로 그보다 훨씬 앞서 나간 듯한 나비에?스토크스 증명을 발표하자 부당하다며 반발했다.

그러나 이제 두 연구진의 접근법이 닮아 있다는 인상은 겉모습에 불과했던 것으로 보인다.

스위스 로잔연방공과대학교(EPFL)의 수학자 곤살로 카오-라보라(Gonzalo Cao-Labora)는 이렇게 말한다.

“세부 내용을 들여다보면, 완전히 다른 접근법입니다.”

《사이언티픽 아메리칸》은 OpenAI의 논문을 분석하고 있는 여러 전문가 집단과 인터뷰했다. 이들은 모두 OpenAI의 증명이 스페인 프로그램을 따르지 않았다는 사실이 점점 분명해지고 있다고 밝혔다.

나비에?스토크스 방정식은 모든 유체의 움직임을 설명하는 수학적 토대다. OpenAI는 이 방정식의 허점을 찾아냄으로써 100만 달러짜리 난제를 해결했다.

OpenAI의 인공지능은 방정식에 따르면 유체의 흐름 속도가 무한대에 도달해야 하는 상황을 만들어냈다. 이를 '블로업(blowup)', 즉 해의 발산이라고 부른다. 현실 세계에서는 일어날 수 없는 현상이다.

OpenAI는 이 문제를 해결하기 위해 '에이전트 군집(agent swarm)'을 동원했다. 수학에 특화된 새로운 LLM 약 1만 개를 동시에 활용한 것이다. 이들은 약 88시간의 연산 시간 동안 총 1,300억 개의 토큰을 사용해 블로업을 구성하는 증명을 만들어냈다.

OpenAI의 수학 연구팀은 벅마스터와 알푀게가 상당한 진전을 이루었다는 소식을 접한 뒤, 보유한 자원을 총동원해 이 문제에 뛰어들었다.

벅마스터는 이후 OpenAI가 자신이 부정행위 의혹을 공개적으로 제기하지 못하도록 회유와 협박을 시도했다고 주장했다. 그러나 그는 결국 이를 공개했다.

OpenAI가 제시한 블로업 증명은 최고 수준의 전문가들에게조차 사실상 이해하기 어려울 정도로 난해했다.

다만 에이전트들은 자신들의 논증을 Lean이라는 프로그래밍 언어로 작성했다. Lean은 어떤 결론에 이르는 일련의 논리적 단계가 모두 타당한지를 자동으로 검증하는 데 사용되는 언어다.

현재 여러 저명한 연구진은 다른 LLM의 도움을 받아 Lean 코드와 논문을 함께 분석하면서, 그 안에 담긴 수학적 내용을 보다 단순하고 전체적인 관점에서 이해하려고 노력하고 있다.

OpenAI의 증명과 스페인 프로그램 사이에는 어느 정도 유사성이 존재한다. 두 접근법 모두 클레이 수학연구소(Clay Mathematics Institute)가 공식적으로 제시한 나비에?스토크스 문제의 조건에서 동일한 '허점'을 활용하기 때문이다.

이 조건에서는 수학자가 현실적으로 존재하기 어려운 특이한 외력을 구성해 유체를 정교하게 휘저음으로써, 방정식의 해가 발산하도록 만들 수 있다.

그러나 자세히 살펴보면 OpenAI가 이러한 비현실적인 외력을 구성한 방식은 스페인 프로그램과 완전히 다르다. 결국 OpenAI의 증명과 벅마스터·알푀게의 연구 성과 사이에 나타나는 유사성은 표면적인 수준에 그친다.

물론 OpenAI의 결과가 독창적이라는 사실만으로 스페인 프로그램의 영향을 전혀 받지 않았다고 단정할 수는 없다.

실제로 OpenAI는 처음에는 더 작은 규모의 에이전트 팀을 활용해 중간 단계의 결과를 증명했다. 일부 전문가들은 이 소규모 팀이 스페인 프로그램을 따랐다고 보고 있다.

그러나 약 1만 개의 에이전트로 구성된 군집은 최종적인 증명을 완성하기 위해서는 다른 경로가 필요하다는 사실을 스스로 알아낸 것으로 보인다.

OpenAI는 자사 모델이 벅마스터의 연구 데이터를 접했을 가능성이 없다고 거듭 주장하고 있다. 《사이언티픽 아메리칸》에 전달한 공식 입장에서도 같은 주장을 반복했다.

하지만 LLM의 작동 과정은 본질적으로 내부를 들여다보기 어려운 '블랙박스'다. 따라서 에이전트 군집이 정확히 어떤 추론 과정을 거쳐 결론에 도달했는지는 앞으로도 밝혀내기 어려울 가능성이 높다.

뉴저지주 프린스턴 고등연구소(Institute for Advanced Study)의 수학자 카밀로 데 렐리스(Camillo De Lellis)는 이렇게 말한다.

“솔직히 말해, 이 문제에 대해 사실관계를 명확하게 규명할 방법이 보이지 않습니다. 이제는 명확하게 검증할 수 있는 수학적 사실만의 문제가 아니게 됐습니다.”

여기서 중요한 점은, 그리고 어쩌면 수학의 미래를 예고하는 징후는, 전문가들이 이러한 사실을 깨닫기까지 얼마나 오랜 시간이 걸렸느냐는 것이다.

OpenAI가 지난 9월 8일 이 역사적인 성과를 발표했을 당시, 회사 관계자들은 자신들의 증명이 스페인 프로그램을 따랐다고 명확하고 반복적으로 설명했다.

발표 전 벅마스터와 OpenAI 사이에 오갔던 격렬한 공방 역시 회사가 실제로 그렇게 믿고 있었음을 시사한다.

게다가 당시 OpenAI는 벅마스터의 연구가 자사 모델의 학습 데이터에 포함되었는지조차 확신하지 못하고 있었다.

다시 말해, OpenAI는 자사 모델이 만들어낸 증명을 스스로도 이해하지 못했던 것이다.

그리고 한 달이 넘게 지난 지금도, 그 증명을 완전히 이해한 사람은 아무도 없다.

지난주 OpenAI는 약 400개의 추가 연구 결과를 수학계에 쏟아냈다.

AI가 등장하기 전 시대였다면, 그중 적어도 12개는 인간 수학자에게 '수학계의 노벨상'이라 불리는 필즈상을 안겨줄 만한 업적으로 평가받았을 것이다.

이미 지구상에는 이처럼 쏟아지는 연구 성과를 따라잡을 만큼 충분한 전문가가 존재하지 않는다.

그런데도 이러한 흐름이 둔화될 기미는 전혀 보이지 않는다.

---

저작권 및 이용 허가 / 필자 소개

조지프 하울렛(Joseph Howlett)은 《사이언티픽 아메리칸》의 선임 기자로, 물리학·수학·천문학을 비롯한 다양한 과학 분야를 취재하고 있다. 이전에는 《콴타 매거진(Quanta Magazine)》에서 수학 전문 기자로 활동했으며, 컬럼비아대학교에서 입자물리학 박사학위를 받았다.

_________________________________________

요약1. 전문가들이 꼼꼼히 분석해보니 긴빠이는 아닌거같음. 유사성은 겉보기에만 그래보임.

요약2. 근데 OpenAI도 AI가 어떻게 풀었는지 지들도 제대로 이해 못하는거 같음.

요약3. 앞으로 이런거 더 쏟아질텐데 인간 전문가들이 따라잡을 수 없을거임.