나비에-스토크스 방정식, AI가 풀었나 — 오픈AI 88시간 발표와 공로 논쟁의 전말

2026년 9월 9일 | 미국(US) | 전체 카테고리

2026년 9월 8일, 오픈AI가 "나비에-스토크스 방정식의 해가 무너질 수 있다는 것을 증명했다"고 발표했습니다. 평소라면 검색어 순위에 오를 일이 거의 없는 navier stokes라는 단어가 미국 구글 트렌드에서 하루 만에 5만 건 넘게 검색되며 600% 급등한 이유입니다.

그런데 발표가 나온 지 몇 시간 만에 이 성과를 둘러싼 공로 다툼이 터졌습니다. 게다가 조건을 자세히 뜯어보면 클레이 수학연구소가 100만 달러를 걸어 둔 '밀레니엄 문제'의 기준과는 다르다는 지적도 나왔습니다. 무슨 일이 있었는지, 그리고 이 방정식이 왜 그렇게 중요한지 순서대로 정리했습니다.

▲ 비행기 날개 끝에서 생기는 소용돌이(익단 와류)를 색색의 연기로 가시화한 풍동 실험. 나비에-스토크스 방정식이 기술하려는 대상이 바로 이런 유체의 흐름이다 (1990년 촬영 · NASA 랭글리연구센터 · Public domain / Wikimedia Commons)

1. 이틀 사이에 벌어진 일

9월 7일. 뉴욕대 쿠랑수리과학연구소의 트리스탄 버크마스터와, 하버드대를 거쳐 앤트로픽에 몸담고 있는 레벤트 알푀게가 프리프린트 세 편을 동시에 공개했습니다. 비압축성 다공성 매질 방정식, 2차원 부시네스크 계, 그리고 3차원 비압축성 오일러 방정식 각각에 대해, 매끄러운 강제항이 있을 때 유한한 시간 안에 해가 폭발한다는 사실을 증명한 논문이었습니다. 증명을 기계가 검증할 수 있도록 정리 증명기 Lean으로 형식화한 파일도 함께 올렸습니다.

이 결과는 하루아침에 나온 것이 아닙니다. 두 사람은 8월 15일 오일러 방정식의 폭발 증명을 먼저 마무리했고, 그 뼈대는 디에고 코르도바와 루이스 마르티네스소로아가 앞서 개발한 '강제항을 이용한 접근'을 확장한 것이었습니다. 1년 넘게 이어진 작업이었습니다.

9월 8일. 오픈AI가 발표를 냈습니다. 내부 모델이 강제항이 있는 3차원 나비에-스토크스 방정식에 대해 약 100쪽 분량의 유한 시간 폭발 증명을 만들어냈다는 내용이었습니다. 숫자가 눈길을 끕니다. 1만 개의 에이전트가 병렬로 88시간 동안 자율적으로 돌았고, 에이전트들이 주고받은 메시지는 270만 건, 소비한 출력 토큰은 약 1,300억 개였습니다. 여기에 Lean 형식화와 검증에 17시간이 더 들어갔습니다.

수학 연구를 사실상 산업 규모의 계산 자원으로 돌린 첫 공개 사례에 가깝습니다. 발표 자체보다 이 규모에 놀란 연구자가 많았습니다.

2. 나비에-스토크스 방정식이 무엇이길래

나비에-스토크스 방정식은 물이나 공기 같은 유체의 운동을 뉴턴의 운동 제2법칙으로 기술한 편미분방정식입니다. 1822년 프랑스 공학자 클로드루이 나비에가 점성을 고려한 형태를 제시했고, 1845년 영국의 조지 가브리엘 스토크스가 오늘날 쓰이는 꼴로 다듬으면서 두 사람의 이름이 함께 붙었습니다.

▲ 방정식에 이름을 남긴 프랑스 공학자 클로드루이 나비에(1785~1836)의 초상 판화 (제작 연도 미상 · Public domain / Wikimedia Commons)

▲ 방정식을 현재의 형태로 정리한 아일랜드 출신 수학자 조지 가브리엘 스토크스(1819~1903) (1860년대 촬영 · Public domain / Wikimedia Commons)

이 식은 이론 속에만 있는 물건이 아닙니다. 비행기 날개가 만드는 양력을 계산할 때, 내일 비가 올지 예보할 때, 혈관 속 혈류를 시뮬레이션할 때, 자동차의 공기저항을 줄일 때, 해류와 기후 모형을 돌릴 때 전 세계의 슈퍼컴퓨터가 매일 이 방정식을 수치적으로 풉니다.

여기에 이 문제의 아이러니가 있습니다. 인류는 이 식을 매일 실무에 쓰면서도, 정작 "3차원 공간에서 이 방정식의 매끄러운 해가 항상 존재하는가"라는 가장 기본적인 질문에는 200년 가까이 답하지 못했습니다.

3. '유한 시간 폭발'은 무슨 뜻인가

수학에서 말하는 폭발(blowup)은 어떤 양이 유한한 시간 안에 무한대로 발산해 버리는 현상입니다. 나비에-스토크스의 경우, 처음에는 완벽하게 매끄럽고 얌전했던 흐름이 시간이 흐르면서 속도나 속도의 기울기가 무한대로 치솟는 순간을 맞는다는 뜻입니다.

현실의 물이나 공기가 무한한 속도를 갖는 일은 당연히 없습니다. 그러니 폭발하는 해가 존재한다는 것이 증명된다면, 그것은 자연이 이상하다는 뜻이 아니라 방정식이 현실을 온전히 기술하지 못한다는 뜻이 됩니다. 우리가 매일 쓰는 도구의 한계가 드러나는 셈입니다.

▲ 매끄러운 층류에서 불규칙한 난류로 바뀌며 흐트러지는 물줄기. 이런 흐름을 수식으로 끝까지 따라가는 것이 나비에-스토크스 문제의 어려움이다 (2004년 촬영 · Public domain / Wikimedia Commons)

밀레니엄 문제가 요구하는 답도 정확히 이 구조입니다. 매끄러운 해가 영원히 존재함을 증명하거나, 아니면 폭발하는 해가 실제로 있음을 보이거나. 둘 중 어느 쪽이든 상금 대상입니다.

4. 100만 달러, 그리고 '강제항'이라는 결정적 단서

클레이 수학연구소는 2000년 5월 24일 일곱 개의 미해결 문제를 선정하고 각각에 100만 달러의 상금을 걸었습니다. 나비에-스토크스 존재성과 매끄러움 문제는 그중 하나입니다. 2026년 현재까지 해결된 것은 푸앵카레 추측 단 하나로, 클레이 연구소는 2010년 러시아 수학자 그리고리 페렐만에게 상금을 수여했지만 그는 수상을 거절했습니다.

그렇다면 이번 결과는 상금을 받게 될까요. 그렇지 않습니다. 여기가 이번 보도에서 가장 자주 빠지는 대목입니다.

클레이 연구소가 정한 문제는 외력이 없는(unforced) 나비에-스토크스 방정식입니다. 반면 오픈AI가 내놓은 결과도, 버크마스터와 알푀게의 결과도 모두 매끄러운 강제항이 붙은(forced) 버전입니다. 강제항은 외부에서 유체에 계속 힘을 밀어 넣는 항입니다. 밖에서 계속 에너지를 넣어 주는 상황에서 흐름이 무너지는 것과, 아무도 건드리지 않는데 스스로 무너지는 것은 다른 이야기입니다.

▲ 섬 뒤편 구름에 생긴 카르만 소용돌이 열을 위성에서 촬영한 모습. 유체의 불안정성이 실제 지구 규모에서 관측되는 사례다 (1999년 촬영 · Robert Cahalan, NASA/GSFC · Public domain / Wikimedia Commons)

그래서 정확히 표현하면 이렇습니다. 밀레니엄 문제는 아직 풀리지 않았습니다. 다만 그 문 앞까지 가는 길이 하나 열렸습니다. 이 구분이 중요한 이유는, 발표 첫날 상당수 매체가 "AI가 7대 난제를 풀었다"는 제목을 달았기 때문입니다.

5. 공로를 둘러싼 정면 충돌

기술적 논점보다 더 크게 번진 것은 공로 다툼입니다. 양측의 주장이 정면으로 엇갈립니다.

버크마스터 측 주장. 그는 자신과 알푀게의 작업에 관한 소문이 9월 3일 오픈AI에 전달됐고, 사흘 뒤인 9월 6일 오픈AI 기술 스태프 세바스티앙 뷔벡과 두 차례 통화했다고 밝혔습니다. 통화에서 오픈AI 내부 모델이 강제항이 있는 나비에-스토크스에 대해 약 100쪽짜리 증명을 만들었다는 이야기를 들었다는 것입니다. 그는 이어 알푀게를 저자에서 빼는 형태의 발표 조율을 압박받았으며, 그 근거로 알푀게가 앤트로픽 소속이라는 점이 거론됐다고 주장했습니다.

오픈AI 측 반박. 뷔벡은 이 주장을 "거짓이며 선동적"이라고 정면 부인했습니다. 상대의 프롬프트나 증명을 자사 모델에 넣거나 에이전트를 유도하는 데 쓴 적이 없고, 연구자든 에이전트든 두 사람의 작업이 공개되기 전까지는 본 적이 없다는 것입니다. 그는 오픈AI 내부 모델이 오일러 문제를 전혀 다른 방법으로 독립적으로 풀었다고 설명하면서도, 나비에-스토크스 전체에 대한 해법은 두 수학자가 쓴 것과 유사한 방법을 따랐다는 점은 인정했습니다. 동시에 알푀게와 버크마스터의 우선권을 인정하며 축하한다는 입장도 함께 냈습니다.

여기에 또 하나의 불씨가 붙었습니다. 같은 문제를 연구하던 다른 수학자가, 자신이 AI 코딩 도구에 저장해 둔 미공개 연구 노트가 어떤 식으로든 활용된 것 아니냐는 의문을 공개적으로 제기한 것입니다. 사실관계는 확인되지 않았지만, 미공개 연구를 상용 AI 도구에 올려 두는 관행 자체가 갑자기 도마 위에 올랐습니다.

현재로서는 어느 쪽 주장도 제3자가 검증하지 못한 상태입니다. 확실한 것은 두 결과 모두 Lean으로 형식화되어 있어 증명이 옳은지 여부만큼은 기계가 판정할 수 있다는 점입니다. 다툼은 정오가 아니라 순서와 경위에 집중돼 있습니다.

6. 수학계의 반응 — 테런스 타오의 평가

필즈상 수상자이자 이 분야의 권위자인 테런스 타오는 마스토돈에 올린 글에서 알푀게와 버크마스터의 작업을 "주목할 만한 성취"라고 평가했습니다. 그리고 이들의 접근법을 완전한 나비에-스토크스 방정식으로 확장하는 데 근본적인 장애물은 보이지 않는다고 덧붙였습니다.

▲ 이번 결과를 높이 평가한 수학자 테런스 타오. 캘리포니아대 순수응용수학연구소(IPAM) 대담 영상 갈무리 (2026년 촬영(3월) · ⓒ Institute for Pure & Applied Mathematics / Wikimedia Commons, CC BY 4.0)

수학계에서 이 정도 표현은 상당한 무게를 갖습니다. 강제항을 뗀 원래 문제까지 가는 길이 기술적으로 열려 있다는 뜻이기 때문입니다. 100만 달러가 걸린 문제의 실제 해결이 몇 년이 아니라 몇 달 단위로 다가왔을 가능성이 있습니다.

한 가지 더 눈여겨볼 대목이 있습니다. 버크마스터와 알푀게는 논문에서 AI를 얼마나 썼는지를 감추지 않고 상세히 밝혔습니다. 핵심 요소를 찾아내고 논증을 재현하는 데 앤트로픽의 클로드를 썼고, 본문 서술에는 클로드와 오픈AI 코덱스를 함께 썼다고 적었습니다. AI 사용을 방법론의 일부로 기술한 것입니다.

7. 이 사건이 남긴 질문들

첫째, 연구 공로의 규범이 AI 시대에 맞게 정비되지 않았습니다. 어디까지가 사람의 기여이고 어디부터가 모델의 기여인지, 같은 방향을 동시에 겨냥한 두 팀 중 누구를 우선으로 볼 것인지에 대한 합의된 기준이 없습니다.

둘째, 계산 자원이 곧 연구 속도가 되는 구조가 드러났습니다. 1만 개 에이전트를 88시간 돌리는 일은 대학 연구실이 흉내 낼 수 있는 규모가 아닙니다. 반대로 버크마스터와 알푀게는 1년 넘게 걸렸지만 문제의 방향 자체를 찾아낸 쪽이었습니다. 무엇이 진짜 병목인지에 대한 질문이 남습니다.

셋째, 형식 검증의 위상이 달라졌습니다. 사람이 100쪽짜리 증명을 검토하는 데 몇 달이 걸리는 반면, Lean으로 형식화된 증명은 기계가 몇 시간 안에 판정합니다. AI가 증명을 쏟아내는 시대에 형식 검증은 선택이 아니라 필수 인프라가 되어 가고 있습니다.

그리고 마지막으로, 상금은 아직 그대로 남아 있습니다.

💡 밀레니엄 문제 7선
2000년 클레이 수학연구소가 선정한 일곱 개의 미해결 문제입니다. P 대 NP 문제, 호지 추측, 푸앵카레 추측, 리만 가설, 양-밀스 존재성과 질량 간극, 나비에-스토크스 존재성과 매끄러움, 버치-스위너턴다이어 추측. 각 문제에 100만 달러가 걸려 있으며, 2026년 현재 해결된 것은 페렐만이 증명한 푸앵카레 추측 하나뿐입니다.

🖼️ 사진 안내
본문에 실린 사진은 모두 자유 이용이 가능한 공개 자료이며, 캡션에 촬영 연도를 함께 적었습니다. 2026년 9월의 발표 현장을 담은 사진이 아니라 방정식이 다루는 유체 현상과 관련 인물을 보여 주는 자료 사진이므로, 사진 속 장면과 이번 사안은 시점이 다릅니다.

📘 English Summary

On 8 September 2026, OpenAI said an internal model had produced a roughly 100-page proof of finite-time blowup for the forced 3D Navier-Stokes equations, using 10,000 parallel agents over an 88-hour run plus 17 hours of Lean formalization. A day earlier, Tristan Buckmaster of NYU and Levent Alpoge had released three preprints proving finite-time blowup with smooth forcing for related fluid systems. Because the Clay Mathematics Institute defines its Millennium Prize problem on the unforced equations, neither result qualifies for the one-million-dollar prize. Buckmaster accused OpenAI of pressuring him over authorship; OpenAI researcher Sebastien Bubeck called the claim false and inflammatory and acknowledged the two mathematicians' priority. Terence Tao called their work a remarkable achievement and saw no fundamental obstacle to extending it.