유체역학 · 밀레니엄 문제
강물과 커피, 구름과 혈관 속 피, 심지어 천천히 흘러내리는 빙하까지 — 세상 모든 흐름이 단 두 줄의 식을 따른다. 그런데 200년 가까이 인류는 이 식이 언제나 답을 내놓는지 증명하지 못했다. 그 증명에는 상금 100만 달러가 걸려 있다.
머릿속에 아무 유체나 하나 떠올려 보자. 수도꼭지에서 쏟아지는 물, 숟가락에서 흘러내리는 꿀, 비행기 날개를 스치는 공기, 혈관을 도는 피. 놀랍게도 이 모든 것의 움직임이 단 두 개의 방정식으로 기술된다. 이름은 나비에-스토크스(Navier-Stokes) 방정식. 항공기를 설계하고, 태풍의 진로를 예측하고, 약물이 몸속에서 어떻게 퍼지는지 계산하는 거의 모든 작업의 출발점이다.
그런데 여기에 묘한 사실이 하나 있다. 공학자들은 이 방정식을 매일같이 신뢰하며 쓰지만, 수학자들은 이것이 모든 상황에서 항상 말이 되는 답을 내놓는다는 사실을 아직 증명하지 못했다. 이 미해결 문제는 전 세계 수학에서 가장 어려운 일곱 개의 난제 중 하나로 꼽히며, 푸는 사람에게는 100만 달러가 주어진다. 이 글은 그 방정식이 무엇을 말하는지, 왜 그토록 믿을 만한지, 그러면서도 왜 누구도 정복하지 못했는지를 따라간다.
먼저 '유체(fluid)'가 무엇인지부터 짚어두자. 유체란 담긴 그릇의 모양에 맞춰 스스로 모양을 바꾸는 것이라고 생각하면 편하다. 물 같은 액체가 가장 먼저 떠오르겠지만, 공기 같은 기체도 유체다. 심지어 어떤 고체도 그렇다.
대표적인 예가 빙하다. 산비탈을 따라 천천히 흘러내리는 빙하를 빠르게 돌린 영상으로 보면, 마치 강물이 계곡을 따라 흐르는 것처럼 보인다. 얼음이 충분히 긴 시간 척도에서는 계곡의 모양에 자신을 맞춰가며 '흐르는' 셈이다. 이런 의미에서 빙하도 유체처럼 행동한다. 나비에-스토크스 방정식이 다루는 것은 바로 이 '흐름'이라는 현상 전체다.
유체와 고체의 경계는 우리 직관만큼 또렷하지 않다. 차이는 시간 척도에 있다. 유리창은 단단한 고체처럼 보이지만, 아주 긴 세월이 흐르면 미세하게 흘러내린다는 이야기를 들어본 적이 있을 것이다. 핵심은 "딱딱한가 무른가"가 아니라 "힘을 받았을 때 끝내 모양을 바꾸며 흘러가는가"이다. 그 흐름의 규칙을 적어둔 것이 이 방정식이다.
나비에-스토크스 방정식은 두 줄로 이루어져 있다. 다정하게 부르자면 '작은 식'과 '큰 식'이다. 둘 다 처음 보면 위협적인 기호로 가득하지만, 실은 우리가 학창 시절부터 알고 있던 두 가지 물리 법칙을 유체에 맞게 옮겨 적은 것에 지나지 않는다.
작은 식은 질량 보존 법칙이다. 어떤 유체 덩어리가 이리저리 움직이고 모양을 바꾸더라도, 내가 따로 더 붓거나 덜어내지 않는 한 그 질량은 그대로여야 한다는 당연한 이야기다. 큰 식은 뉴턴의 운동 제2법칙, 즉 그 유명한 '힘 = 질량 × 가속도(F = ma)'를 유체에 적용한 것이다. 유체를 움직이게 만드는 힘들과 그 결과로 생기는 가속을 연결한다.
먼저 작은 식부터 보자. 비압축성 유체(밀도가 거의 변하지 않는 물 같은 유체)의 경우 이렇게 쓴다.
여기서 u는 유체의 속도다. 단순한 빠르기가 아니라 방향까지 가진 양, 즉 벡터다. 3차원 공간이라면 가로(x)·세로(y)·높이(z) 세 방향의 성분으로 쪼갤 수 있다. 강물이 얼마나 빨리 흐르는지, 자동차 주위의 공기가 어느 쪽으로 얼마나 빠르게 지나가는지 — 흐름에 관한 모든 정보가 이 속도 안에 담긴다.
식 앞에 붙은 거꾸로 된 삼각형 기호 ∇(나블라, nabla)는 "속도를 이런 식으로 미분하라"는 지시다. 구체적으로는 발산(divergence)이라 부르며, 세 개의 변화율을 더한 값이다. x방향 속도 성분이 x방향으로 가면서 얼마나 변하는가, y방향 성분이 y방향으로 얼마나 변하는가, z방향 성분이 z방향으로 얼마나 변하는가 — 이 셋을 합한다. 그 합이 0이라는 것이 질량 보존의 수학적 표현이다.
이제 큰 식이다. 운동량 방정식이라고도 부른다. 기호가 많아 복잡해 보이지만, 뼈대는 '힘 = 질량 × 가속도' 하나뿐이다.
왼쪽 절반이 '질량 × 가속도'이고, 오른쪽 절반이 '유체에 작용하는 힘들의 총합'이다. 하나씩 풀어보자.
왼쪽의 u는 앞서 본 속도다. 속도를 시간으로 미분하면(시간에 따라 얼마나 변하는지 보면) 그것이 바로 가속도다. 빨라지면 가속, 느려지면 감속이다. 앞에 곱해진 그리스 문자 ρ(로, rho)는 밀도인데, 유체에서는 밀도가 곧 '질량 역할'을 한다. 민물보다 소금물이 더 무겁게 느껴지는 것처럼, 밀도가 큰 유체일수록 같은 부피라도 더 무겁다. 그래서 왼쪽 절반 'ρ × (속도의 시간 변화)'는 정확히 '질량 × 가속도'에 해당한다.
오른쪽 세 항은 모두 힘이다. 앞의 두 항은 내부 힘, 즉 유체 입자들끼리 부딪히고 미끄러지며 주고받는 힘이고, 마지막 한 항은 외부 힘이다.
첫 번째 내부 힘 −∇p는 압력의 차이다. 한쪽이 고기압이고 다른 쪽이 저기압이면 공기는 고기압에서 저기압 쪽으로 밀려간다. 두 지점 사이에 압력 차이(기울기)가 있으면, 그 차이가 유체를 밀어 움직이게 만든다. 일기예보에서 기압골을 따라 바람이 부는 것이 바로 이 힘의 결과다.
두 번째 내부 힘 μ∇²u는 점성(viscosity)이다. 유체를 여러 겹의 층으로 상상해 보자. 이 층들이 서로 다른 속도로 미끄러지면 그 사이에 마찰이 생긴다. 이 마찰이 얼마나 센지를 나타내는 양이 점성이다. 공기는 점성이 거의 없어 입자들이 가볍게 미끄러지지만, 꿀은 점성이 커서 끈적하게 달라붙으며 천천히 흐른다.
마지막 항 ρF는 일종의 '뭉뚱그림'이다. 유체 밖에서 작용하는 힘을 통째로 F로 적어둔 것이다. 가장 흔한 경우는 중력이어서, 실제로는 F 자리에 중력가속도를 넣는 일이 많다. 더 욕심을 내면 여기에 전자기력을 넣을 수도 있다.
나비에-스토크스 방정식에 전자기를 기술하는 맥스웰(Maxwell) 방정식을 결합하면 자기유체역학(magnetohydrodynamics)이라는 분야가 된다. 전기를 띤 기체(플라스마)가 자기장 속에서 어떻게 움직이는지를 다루는데, 별과 은하가 어떻게 형성되는지, 태양이 어떻게 자라나는지를 모델링하는 도구가 바로 이것이다. 나비에-스토크스만으로도 충분히 어려운데, 거기에 자기장까지 얽히니 그 난이도는 이름값을 톡톡히 한다.
여기까지의 이야기에서 누구도 시비를 걸 만한 대목은 없다. 질량은 보존된다. 힘은 질량 곱하기 가속도다. 이 두 법칙은 유체에만 적용되는 것이 아니다. 고체에 적용하면 약간 다른 내부 힘이 나올 뿐, 같은 골격의 식이 만들어진다. 즉 나비에-스토크스 방정식이 신뢰받는 이유는 화려한 트릭이 아니라, 가장 평범하고 단단한 물리 법칙 위에 세워졌기 때문이다.
이 식들의 역사는 200년을 거슬러 올라간다. 그 흐름을 짧게 정리하면 다음과 같다.
물리는 흠잡을 데가 없다. 문제는 순수하게 수학적인 데 있다. 수학자가 어떤 방정식을 두고 "이해했다"고 말하려면, 그 식이 세 가지 성질을 갖추기를 바란다.
방정식을 일종의 '함수 기계'라고 생각해 보자. 유체의 처음 속도와 압력을 입력하면, 기계는 그 유체가 다음 순간 어떻게 움직일지를 출력한다. 미래를 예측해 주는 셈이다.
좋은 기계라면 이래야 한다. 무엇을 넣든 답이 나와야 하고(존재성), 같은 것을 넣으면 같은 답이 나와야 하며(유일성), 입력을 살짝만 바꾸면 출력도 살짝만 달라져야 한다(매끄러움). 컵의 물을 방 건너로 던지는 실험을 다시 했더니 물이 공중에서 공중제비를 돈다면, 그건 무언가 잘못된 것이다.
그런데 나비에-스토크스에 대해 우리가 아직 보장하지 못하는 것이 바로 이것이다. 어떤 시작 조건을 넣었을 때 3차원에서, 모든 시간에 대해, 매끄러운 해가 항상 존재하는지 — 이것을 증명한 사람도, 반례를 찾은 사람도 없다. 밀레니엄 문제가 요구하는 것은 둘 중 하나다. "3차원에서 어떤 시작 조건을 주더라도 매끄러운 해가 영원히 존재함을 증명하라." 또는 정반대로 "그렇지 않은 반례, 즉 해가 무한대로 폭주하는 경우가 있음을 보여라."
실마리는 우리가 이미 알아낸 것에서 찾을 수 있다. 만약 세상이 평면(2차원)이라면, 즉 높이 z를 무시하고 가로·세로만 다룬다면, 이 문제는 풀린다. 2차원에서는 해가 항상 존재하고, 유일하며, 매끄럽다는 것이 증명되어 있다. 그런데 우리는 안타깝게도 3차원 세계에 산다. z를 더하는 순간, 무슨 이유에서인지 같은 논법이 통하지 않는다.
그렇다고 손을 놓고 있던 것은 아니다. 지난 한 세기 동안 부분적인 성과들이 쌓였다. 에너지가 유한한 경우 완전하지는 않아도 '약한 해'가 항상 존재한다는 것(1934년), 시작 속도가 아주 작을 때는 매끄러운 해가 늘 존재한다는 것, 그리고 어떤 시작 조건이든 일정한 유한 시간 동안은 매끄러운 해가 존재한다는 것까지는 보였다. 또한 설령 해가 망가지는 특이점이 있더라도 그 특이점들이 모인 집합은 극도로 작다는 사실(부분 정칙성, 1982년)도 알아냈다. 다만 '3차원에서, 모든 시간에 대해, 가능한 모든 시작 조건에 대해'라는 가장 일반적인 경우만은 끝내 손에 잡히지 않고 있다.
2016년, 한 수학자가 진짜 방정식과 거의 같은 성질을 갖도록 '평균을 낸' 변형 방정식을 만들었다. 그런데 이 변형 방정식의 해는 유한한 시간 안에 무한대로 폭주했다. 이것이 시사하는 바는 의미심장하다. 에너지 보존과 일반적인 수학적 어림만으로 매끄러움을 증명하려는 시도는 원리적으로 성공할 수 없다는 것이다. 진짜 문제를 풀려면 방정식의 더 깊은 구조를 파고들어야 한다. 한편 이 접근법 자체가, 진짜 3차원 방정식도 유한 시간에 폭주할 수 있다는 쪽의 가능성을 열어 둔다. 그래서 결말이 존재성 증명일지 폭주 반례일지조차 아직 아무도 모른다.
왜 3차원이 그토록 어려운가. 핵심에는 난류(turbulence)가 있다. 난류란 공기나 물 입자가 무작위적이고 혼돈스럽게 뒤섞이는 운동이다. 바다에서 두 파도가 부딪혀 부서지는 장면을 떠올려 보라. 그보다 더 무작위적인 상황을 상상하기 어렵다. 같은 일을 다시 시도해도 결코 똑같이 재현되지 않는다. 그런데 우리 주변의 유체는 — 공기든 강물이든 급류든 — 근본적으로 난류적이다.
난류가 언제 시작되는지를 처음으로 정량화한 사람이 19세기의 한 공학자다. 그는 유리관에 물을 흘리며 가느다란 잉크 줄기를 함께 넣어, 흐름이 매끄러운지 어지러운지를 눈으로 확인했다. 그 결과 흐름의 빠르기, 관의 굵기, 유체의 점성을 조합한 하나의 숫자가 어떤 값을 넘어서면 매끄러운 흐름이 갑자기 어지러운 흐름으로 바뀐다는 사실을 발견했다. 오늘날 이 숫자를 레이놀즈 수(Reynolds number)라 부른다. 관 속 흐름에서는 대략 이천 언저리에서 전환이 일어나지만, 입구를 극도로 매끈하게 다듬으면 훨씬 높은 값까지도 매끄러운 흐름을 유지할 수 있다.
난류는 흔히 고전 물리학에 남은 가장 큰 미해결 문제로 불린다. 컴퓨터에 데이터를 넣으면, 컴퓨터는 그 자잘한 소용돌이 하나하나와 그 사이의 미세한 상호작용을 일일이 풀어내지 못한다. 그래서 큰 영역을 잡아 평균을 내는 방식으로 우회한다. 잘 작동하지만, 그것은 방정식을 진짜로 '이해'한 것과는 다르다.
증명이 없는데 어떻게 항공사와 기상청이 이 방정식을 쓰는가. 비결은 영리한 우회에 있다.
첫째는 단순화다. 몇몇 항을 줄이거나, 시간 변화를 없애거나, 적절한 가정을 도입해 문제를 풀 수 있는 형태로 깎아낸다. 둘째는 평균화다. 모든 지점의 속도를 일일이 추적하는 대신, 일정한 영역을 잡아 그 안의 평균 속도가 어떻게 변하는지만 본다. 기후 모델이 대표적이다. 대기 속 모든 입자를 그대로 계산하려면 현재의 컴퓨터로는 지구의 수명보다 긴 시간이 걸린다. 그래서 대기를 이를테면 가로세로 십 킬로미터짜리 구획으로 나누고, 그 구획의 평균 속도만 알면 된다고 타협한다. 이렇게 평균을 낸 형태의 나비에-스토크스 방정식이 기상과 기후 예측의 토대다.
이런 방식으로, 나비에-스토크스 방정식은 사실상 유체가 관련된 거의 모든 곳에 쓰인다. 음속을 돌파하는 항공기 설계, 자동차의 공기역학, 약물이 효과적으로 전달되도록 돕는 혈류 분석, 대기·해양 오염 예측, 기후와 해류 모델링 — 유체가 등장하는 모든 문제는 이 식을 출발점으로 삼는다. 실용의 관점에서 방정식은 흠잡을 데 없이 작동한다.
그런데 방정식이 분명히 어긋나는 한 장면이 있다. 직각으로 꺾인 수로를 상상해 보자. 운하인데 모서리가 아주 날카로운 직각이라고 하자. 이 흐름에 나비에-스토크스를 풀면, 바로 그 직각 모서리의 한 점에서 속도가 무한대라는 답이 나온다.
이런 운하를 실제로 만들면 그 지점의 물이 무한히 빠른 속도로 흐를까. 그럴 리 없다. 물 입자가, 공기 한 조각이 무한한 속도로 움직인다는 것은 물리적으로 말이 되지 않는다. 그럼에도 식은 그곳에서 무한대를 내놓는다. 다른 모든 지점에서는 완벽하게 들어맞으면서, 유독 그 한 점에서만 현실과 어긋나는 것이다.
이것은 우리가 매일 쓰는 나눗셈과 닮았다. 나눗셈은 완벽하게 작동하고, 우리는 평생 그것을 믿고 쓴다. 그런데 0으로 나누는 단 하나의 경우에서만 갑자기 이상해진다. 그렇다고 나눗셈을 못 쓰는 것은 아니다. 우리는 0으로 나눌 일이 실제로는 없기 때문이다.
운하의 무한대 속도도 마찬가지다. 수로를 설계하는 사람에게는 아무 문제가 되지 않는다. 단 한 점을 뺀 모든 곳의 속도를 정확히 알 수 있으니까. 하지만 수학자는 묻는다. "그 점에서는 왜 하필 무한대인가? 나는 그 이유를 알고 싶다."
여기에 이 문제의 본질이 응축되어 있다. 물리적 현실(무한한 속도는 없다)과 방정식의 출력(무한대) 사이에 분명한 틈이 있다. 그 틈은 우리의 수학적 이해에 무언가가 빠져 있음을 가리킨다. 식 자체는 질량 보존과 뉴턴의 법칙이라 틀렸을 리 없는데, 그 식을 푸는 우리의 이해 어딘가가 아직 불완전한 것이다.
솔직한 의문이 든다. 어차피 실용에는 아무 지장이 없다면, 이 한 점의 무한대가 무슨 대수인가. 실제로 나비에-스토크스의 어떤 응용에도 이 문제는 영향을 주지 않는다. 하지만 수학에는 중요하다. 수학은 "모든 경우에 잘 되는 것 같다"가 아니라 "모든 경우에 반드시 그렇다"를 알고 싶어 하는 학문이기 때문이다.
이 식들이 모든 경우에 항상 작동한다는 증명이, 혹은 왜 그렇지 않을 수 있는지에 대한 설명이, 우리에게는 아직 없다.
더 중요한 이유는 따로 있다. 이 문제를 풀기 위해서는 지금까지 한 번도 보지 못한, 완전히 새로운 수학이 필요할 가능성이 크다. 문제를 전혀 다른 방식으로 바라보는 시각, 새로운 도구들이 그 과정에서 발명될 것이다. 그리고 그렇게 얻은 통찰은 다시 유체를 다루는 모든 기술로 흘러든다. 오염 예측이 더 정밀해지고, 기후 모델이 더 정확해지고, 혈류 분석과 항공기 설계가 한층 나아질 것이다. 200년 전 한 교량 공학자가 피의 흐름을 궁금해하며 적기 시작한 두 줄의 식은, 지금도 인류가 풀지 못한 가장 매혹적인 수수께끼 중 하나로 남아 — 물이 흐르고 바람이 부는 한, 우리에게 답을 재촉하고 있다.
· · ·