수학 이야기
리치 흐름: 도형을 흐르게 하여 100년 난제를 푼 수학
울퉁불퉁한 도형을 매끈하게 ‘흘려보내면’ 그 도형의 정체가 드러난다. 이 단순하고도 대담한 발상이 한 세기 동안 누구도 풀지 못한 문제를 무너뜨렸다.
2006년 여름, 수학계 최고의 영예로 꼽히는 필즈상(Fields Medal) 수상자가 시상식장에 나타나지 않았다. 주인공은 러시아 상트페테르부르크에 칩거하던 그리고리 페렐만(Grigori Perelman)이었다. 그는 100년 가까이 미해결로 남아 있던 푸앵카레 추측(Poincaré conjecture)을 증명하고도 메달을 거절했다. 4년 뒤에는 이 문제에 걸려 있던 상금 100만 달러마저 마다했다. 그가 든 이유는 돈이나 명예가 부담스러워서가 아니라, 공로가 배분되는 방식과 수학계의 운영 방식에 동의할 수 없다는 것이었다. 그는 자신의 기여가 길을 닦아 둔 선배 수학자 리처드 해밀턴(Richard Hamilton)의 기여보다 크지 않다고 보았다.
페렐만이 사용한 도구의 이름이 바로 리치 흐름(Ricci flow)이다. 1980년대 초 해밀턴이 처음 고안했을 때만 해도 이것은 일부 전문가만 들여다보던 추상적인 미분 도구였다. 그러나 20여 년 뒤, 이 흐름은 위상수학에서 가장 유명한 난제를 푸는 열쇠가 되었다. 흐름이라는 단어가 붙은 데에는 이유가 있다. 리치 흐름은 도형을 흐르는 물처럼 시간에 따라 조금씩 변형시켜, 처음에는 알아보기 힘들던 모양을 점점 단순하고 규칙적인 모양으로 다듬어 간다.
리치 흐름 자체는 한눈에 그림을 그리기가 까다롭다. 그래서 이 글은 리치 흐름과 형제 관계인 더 직관적인 흐름들에서 출발해 한 걸음씩 올라간다. 곡선 하나가 둥글어지는 이야기에서 시작해, 풍선 표면이 끊어지는 장면을 지나, 마침내 ‘공간 자체를 흐르게 한다’는 가장 추상적인 발상에 닿게 될 것이다.
1100년 동안 풀리지 않은 질문
1904년, 프랑스 수학자 앙리 푸앵카레(Henri Poincaré)는 짧지만 끈질긴 질문 하나를 남겼다. 거칠게 옮기면 이렇다. “어떤 3차원 공간 안에서 그릴 수 있는 모든 고리(올가미)를 끊지 않고 한 점으로 조여 모을 수 있다면, 그 공간은 반드시 3차원 구(球)일 수밖에 없을까?”
여기서 ‘공간의 모양’을 다루는 분야가 위상수학(topology)이다. 위상수학은 길이나 각도 같은 정밀한 치수에는 관심이 없다. 대신 늘이고 구부려도 변하지 않는 성질—구멍이 몇 개인지, 끊어졌는지 이어졌는지—만을 따진다.
위상수학은 ‘고무판 기하학’이다. 찰흙으로 빚은 공과 사발은 위상수학의 눈에는 같은 물건이다. 찢거나 붙이지 않고 주물러서 서로 바꿀 수 있기 때문이다. 반면 손잡이가 달린 머그컵과 구멍 뚫린 도넛도 서로 같다. 둘 다 구멍이 정확히 하나다. 하지만 공과 도넛은 다르다. 도넛의 구멍은 아무리 주물러도 메울 수 없다. 푸앵카레의 질문은 결국 “구멍 없는 3차원 공간은 오직 한 종류뿐인가?”를 묻는 것이었다.
고리를 한 점으로 조일 수 있다는 조건이 바로 ‘구멍이 없다’는 신호다. 도넛 표면에 두른 고무줄은 구멍에 걸려 한 점으로 모이지 못하지만, 공의 표면에 두른 고무줄은 어디서 시작하든 매끄럽게 미끄러져 한 점으로 모인다. 푸앵카레는 3차원에서도 같은 일이 성립하리라 짐작했지만, 증명은 내놓지 못했다.
흥미로운 사실은, 이 추측이 더 높은 차원에서 먼저 풀렸다는 점이다. 5차원 이상에서는 1960년대에 스티븐 스메일(Stephen Smale)이, 4차원에서는 1982년에 마이클 프리드먼(Michael Freedman)이 해결했고, 두 사람은 그 공로로 각각 필즈상을 받았다. 정작 가장 낮고 익숙해 보이는 3차원이 끝까지 버텼다. 3차원에서는 매듭처럼 복잡하게 얽히는 현상이 생겨 고차원의 기법이 통하지 않았기 때문이다. 푸앵카레가 처음 물었던 바로 그 차원이, 거의 한 세기가 지난 뒤에야 페렐만의 손에서 함락되었다.
2도형을 ‘흐르게’ 한다는 발상
‘흐름(flow)’이라는 말부터 짚고 넘어가자. 여기서 흐름은 도형이 정해진 규칙에 따라 시간에 맞춰 조금씩 모양을 바꾸어 가는 과정을 가리킨다. 다만 이때의 시간은 시계가 재는 진짜 시간이 아니라, 변형을 단계별로 추적하기 위해 수학자가 인위적으로 도입한 매개변수다. 그러니 ‘1초 뒤’라는 표현이 나와도 실제 1초를 떠올릴 필요는 없다. 다만 ‘조금 진행된 단계’라는 뜻으로 받아들이면 된다.
핵심 발상은 의외로 단순하다. 도형의 각 지점이 자신이 얼마나 굽었는지에 따라 스스로 움직이게 하는 것이다. 많이 굽은 곳은 빠르게, 거의 평평한 곳은 느리게 움직인다. 이 규칙을 도형 전체에 동시에 적용하면, 울퉁불퉁한 부분이 먼저 깎여 나가면서 도형은 점점 매끄럽고 규칙적인 모양으로 수렴한다. 마치 뜨거운 부분에서 차가운 부분으로 열이 번지며 온도가 고르게 평탄해지는 것과 닮았다.
이 발상에는 세 단계의 사다리가 있다. 가장 아래 칸은 평면 위의 곡선을 다루는 곡선 단축 흐름(curve shortening flow), 가운데 칸은 공간 속 곡면을 다루는 평균 곡률 흐름(mean curvature flow), 그리고 맨 위 칸이 공간 그 자체를 다루는 리치 흐름이다. 아래에서부터 한 칸씩 올라가 보자.
3가장 단순한 흐름: 곡선 단축 흐름
평면 위에 매끄럽게 이어진 닫힌 곡선 하나를 그렸다고 하자. 고무줄을 아무렇게나 구부려 바닥에 내려놓은 모양을 떠올리면 된다. 이제 곡선 위의 한 점을 잡고, 그 점에서 곡선에 살짝 닿는 직선(접선)을 그린다. 곡선 단축 흐름은 이 점을 접선과 직각인 방향으로 밀어내되, 그 점이 얼마나 굽었는지에 비례한 속도로 움직인다.
그렇다면 ‘얼마나 굽었는가’는 어떻게 잰단 말인가. 직관적으로는 자동차로 그 길을 달릴 때 운전대를 얼마나 꺾어야 하는지를 떠올리면 된다. 좀 더 정확히는, 그 지점에 가장 잘 들어맞는 원을 하나 상상한다. 굽이가 급한 곳에서는 작은 원이, 완만한 곳에서는 큰 원이 들어맞는다. 곡률(curvature)은 바로 이 원의 반지름의 역수다. 반지름이 작을수록 곡률은 커진다.
곡률은 운전대를 얼마나 꺾는가이다. 거의 직선인 고속도로에서는 운전대를 가만히 두어도 된다. 곡률이 0에 가깝다. 반면 좁은 주차장에서 차를 돌릴 때는 운전대를 한껏 돌려야 한다. 곡률이 크다. 곡선 단축 흐름은 운전대를 많이 꺾어야 하는 지점일수록 더 빨리 안쪽으로 밀어 넣어, 급한 굽이부터 부드럽게 펴 나간다.
이 규칙을 곡선 전체에 적용하면 어떤 일이 벌어질까. 삐죽삐죽 튀어나온 곳은 곡률이 크니 빠르게 안으로 들어가고, 움푹 들어간 곳은 바깥으로 밀려 나온다. 시간이 지날수록 곡선은 점점 둥글어지고, 마침내 완벽한 원에 가까워진다. 면적을 일정하게 유지하도록 흐름을 살짝 손보면, 어떤 찌그러진 곡선이든 결국 깔끔한 원 하나로 수렴한다.
여기서 한 가지 흥미로운 질문을 던질 수 있다. 면적을 유지하지 않고 곡선이 그냥 줄어들게 두면, 점점 작아지다가 어떻게 될까? 곡선이 아주 작아지면 그곳의 반지름도 0에 가까워지고, 따라서 곡률은 무한대로 치솟는다. 곡률이 무한대가 되는 이 지점을 특이점(singularity)이라 부른다. 특이점에 이르면 ‘곡률에 비례해 움직인다’는 규칙 자체가 성립하지 않게 되어 흐름은 멈춘다. 평면 곡선에서는 이런 일이 비교적 얌전하게 일어나, 결국 한 점으로 오므라들 뿐이다. 그런데 한 차원만 올라가도 사정이 훨씬 흥미진진해진다.
4한 차원 위로: 평균 곡률 흐름과 넥핀치
이번에는 평면 위의 곡선 대신, 3차원 공간에 떠 있는 곡면을 다룬다. 바람이 덜 빠진 비치볼의 표면을 떠올리면 좋다. 우리가 보는 것은 어디까지나 2차원 표면이지만, 그것이 3차원 공간 안에 놓여 있는 상황이다. 지구 표면이 2차원이면서도 3차원 공간 속에 있는 것과 같다.
곡면에서는 곡률이 조금 더 복잡해진다. 한 점에서 어느 방향으로 자르느냐에 따라 굽은 정도가 다르기 때문이다. 평균 곡률 흐름은 이 여러 방향의 곡률을 평균 낸 값(평균 곡률)을 쓴다. 곡선에서 접선을 그렸듯, 이제는 곡면에 살짝 닿는 평면(접평면)을 그리고, 각 점을 그 평면과 직각인 방향으로 평균 곡률에 비례해 움직인다. 부피를 따로 묶어 두지 않으면 곡면은 곡선 때와 마찬가지로 점점 작고 둥글어진다.
진짜 새로운 현상은 모양이 잘록할 때 나타난다. 가운데가 가늘게 졸린 아령이나 모래시계 모양의 곡면을 떠올려 보자. 잘록한 허리 부분은 둘레 방향으로 매우 심하게 굽어 있어 곡률이 크다. 그래서 그 부분이 다른 곳보다 훨씬 빠르게 안쪽으로 빨려 들어간다. 시간이 지나면 허리의 반지름이 0으로 줄어들면서 그 지점의 곡률이 무한대로 폭발한다. 이렇게 잘록한 목이 끊어지는 현상을 넥핀치(neck pinch)라고 부른다.
모래시계의 잘록한 허리를 떠올려 보라. 모래시계 가운데가 가늘수록 그 둘레는 더 심하게 휘어 있다. 평균 곡률 흐름은 가장 심하게 휜 곳을 가장 빠르게 끌어당기므로, 이미 가는 허리를 더욱 빠르게 조인다. 조이면 조일수록 곡률은 커지고, 커진 곡률은 다시 조이는 속도를 높인다. 이 악순환이 허리를 끝내 한 점으로 끊어 버린다.
넥핀치가 생기면 흐름은 그 지점에서 더 이상 진행할 수 없다. 규칙이 ‘곡률에 비례해 움직이라’인데 곡률이 무한대이니 명령을 따를 방법이 없는 것이다. 그렇다고 끊어진 지점 하나 때문에 흐름 전체를 포기해야 할까? 나머지 멀쩡한 부분은 계속 흐르게 할 수 없을까? 바로 이 물음에서 다음 아이디어가 나온다.
5특이점을 ‘수술’하다
특이점이 생긴 지점을 그대로 두고 주변만 계속 흐르게 하면 문제가 커진다. 무한대로 치솟은 곡률이 마치 번지는 불길처럼 이웃으로 퍼져, 머지않아 도형 전체가 엉망이 되어 버리기 때문이다. 그래서 수학자들이 택한 방법은 문제가 생긴 부위를 도려내고 매끈하게 봉합한 뒤 흐름을 이어 가는 것이다. 이 과정을 수술(surgery)이라 부른다.
전염병이 도는 마을을 격리하는 일과 같다. 한 곳에서 병이 터졌을 때 마을 전체를 그대로 두면 병은 순식간에 번진다. 그렇다고 마을을 통째로 버릴 수도 없다. 가장 현명한 방법은 발병 지점만 정확히 격리해 떼어 내고, 나머지 건강한 구역은 계속 정상적으로 돌아가게 하는 것이다. 수술이 하는 일이 바로 이것이다. 끊어지기 직전의 잘록한 목을 잘라 내고, 잘린 단면을 둥근 뚜껑으로 매끈하게 덮은 뒤, 멀쩡한 조각들에서 흐름을 다시 시작한다.
다만 수술은 아무렇게나 해서는 안 된다. 도형을 자르고 붙이는 일은 자칫 그 도형의 위상수학적 정체—구멍의 개수 같은 본질—를 바꿔 버릴 수 있다. 위상수학과 곡률 사이의 관계를 정확히 읽어 내려면, 어디를 어떻게 잘라야 원래 도형의 본질을 보존하는지를 빈틈없이 통제해야 한다. 이 정교한 수술의 규칙을 세우는 일이 뒤에서 이야기할 증명의 핵심 가운데 하나였다.
6리치 흐름: 공간에 손대지 않고 공간을 바꾼다
지금까지의 두 흐름에는 공통점이 있다. 곡선이든 곡면이든, 텅 빈 공간 안에 놓인 도형을 그 공간 속에서 이리저리 움직였다는 점이다. 리치 흐름은 여기서 결정적으로 갈라진다. 리치 흐름에서는 도형을 담고 있는 바깥 공간이 아예 등장하지 않는다. 도형을 공간 속에서 움직이는 것이 아니라, 도형이 지닌 기하 정보 자체를 직접 바꾼다.
이 발상을 이해하려면 리만 기하학(Riemannian geometry)이라는 사고방식이 필요하다. 곡면을 두고도 그것이 어떤 큰 공간 안에 박혀 있다고 보지 않는 관점이다. 안도 바깥도 잊고, 표면 그 자체만 떼어 내어 생각한다. 대신 그 표면 위 각 지점마다 메트릭(metric)이라는 작은 숫자표(행렬)를 하나씩 붙여 둔다. 이 표에 담긴 숫자들이, 그 지점 근처에서 거리와 각도와 넓이를 어떻게 재야 하는지를 알려 준다.
메트릭은 지도에 적힌 축척이자 등산로 안내판이다. 평지에서는 두 지점을 잇는 가장 짧은 길이 거의 직선이다. 지구본 위에서라면 두 도시를 잇는 대권 항로가 그에 해당한다. 그런데 험준한 산악 지대라면 이야기가 다르다. 봉우리 하나에서 다른 봉우리로 가는 가장 짧은 길은 능선을 타고 굽이굽이 돌아가는, 결코 단순하지 않은 경로다. 메트릭은 바로 이 ‘여기서 저기까지 실제로 얼마나 먼가’를 지점마다 일러 주는 장치다. 똑같은 두 점이라도 메트릭이 달라지면 그 사이의 거리가 달라진다.
리치 흐름의 정의는 이제 한 문장으로 요약된다. 곡면을 움직이는 대신, 곡면에 붙은 이 메트릭을 곡률에 따라 시간에 맞춰 조금씩 바꾼다. 곡률이 큰 곳에서는 메트릭이 빠르게, 작은 곳에서는 느리게 변한다. 그 결과 공간은 점점 곡률이 고른 상태로 평탄해진다. 도형을 바깥에서 주무르는 대신, 도형 내부의 거리 측정법 자체를 흐르게 하는 셈이다.
리치 흐름은 곡률에 대한 ‘열 방정식’이다. 한쪽은 뜨겁고 다른 쪽은 차가운 쇠막대를 가만히 두면, 열이 저절로 번져 온도가 점점 고르게 평탄해진다. 리치 흐름도 똑같이 행동한다. 곡률이 들쭉날쭉한 공간을 두면, 흐름이 곡률을 마치 열처럼 번지게 해 점점 고르게 만든다. 차이가 있다면, 열은 단순하게 번지지만 곡률의 번짐은 그보다 훨씬 비선형적이고 복잡하다는 점이다. 그 복잡함 속에서 넥핀치 같은 특이점이 튀어나온다.
이 흐름을 수식으로 적으면 다음과 같다. 기호가 낯설어도 의미만 새기면 충분하다.
∂g / ∂t = −2 Ric(g)
왼쪽의 ∂g/∂t는 메트릭 g가 (인위적) 시간에 따라 변하는 빠르기를 뜻한다. 오른쪽의 Ric(g)는 리치 곡률(Ricci curvature)이라 불리는 양으로, 그 지점이 어떻게 굽었는지를 압축해 담은 값이다. 앞에 붙은 음(−)의 부호가 방향을 정해 준다. 곡률이 양인 곳은 오므라들고 음인 곳은 펴지도록 만들어, 전체를 고른 상태로 끌고 간다. 결국 이 짧은 식 하나가 ‘공간을 곡률에 따라 매끄럽게 흘려보내라’는 명령을 담고 있는 것이다.
곡면과 마찬가지로 리치 흐름에서도, 어딘가 곡률이 크게 뭉친 곳에서는 흐름이 특이점을 만난다. 그 특이점을 정확히 분류하고, 적절한 자리에서 수술로 도려낸 뒤 흐름을 이어 가는 것. 이것이 한 세기 묵은 난제를 무너뜨린 전략의 뼈대였다.
7마지막 조각을 채운 증명
리치 흐름을 처음 들고나온 사람은 1980년대 초의 해밀턴이었다. 그는 이 흐름으로 푸앵카레 추측, 그리고 그보다 더 포괄적인 기하화 추측(geometrization conjecture)에 다가서려 했다. 기하화 추측은 모든 3차원 공간이 정해진 몇 가지 표준 기하 조각으로 분해된다는, 더 큰 그림을 그리는 주장이었다. 푸앵카레 추측은 그 큰 그림의 한 특수한 경우에 해당한다.
해밀턴의 전략은 분명했지만, 길목에 큰 장애물이 있었다. 흐름이 만들어 내는 특이점들이 너무 다양하고 사납게 굴어, 어떻게 분류하고 어떻게 잘라 내야 할지를 끝까지 통제하기가 어려웠던 것이다. 흐름은 그럭저럭 굴러갔지만, 이 장애물 앞에서 여러 해 동안 멈춰 서 있었다.
이 교착을 풀어낸 사람이 2002년과 2003년에 걸쳐 세 편의 논문을 인터넷에 올린 페렐만이었다. 그는 흐름이 진행될수록 한 방향으로만 변하는 새로운 양(엔트로피 함수)을 도입해, 리치 흐름을 일종의 ‘내리막 흐름’으로 다시 보았다. 또한 흐름이 진행되어도 공간이 어느 한 점으로 비정상적으로 쪼그라들지 않는다는 사실(국소 비붕괴 정리)을 증명해, 특이점 근처에서 무슨 일이 벌어지는지를 또렷이 들여다볼 수 있게 했다. 이 도구들 덕분에 그는 모든 특이점을 분류하고, 정확한 시점에 정확한 자리를 수술하며 흐름을 무한히 이어 갈 수 있음을 보였다. 해밀턴이 막혀 있던 바로 그 자리를 메운 것이다.
증명이 검증되기까지는 다시 몇 해가 걸렸다. 페렐만의 논문은 핵심 아이디어만 압축해 적은 탓에 행간을 메우는 작업이 만만치 않았고, 여러 연구진이 수백 쪽에 이르는 상세한 보충 해설을 내놓은 뒤에야 학계는 증명을 받아들였다. 그 사이 페렐만은 학계와 점점 거리를 두었고, 2006년 필즈상과 2010년의 상금 100만 달러를 차례로 거절한 채 공개 활동에서 물러났다. 그는 자신의 몫이 길을 닦아 둔 해밀턴의 몫보다 크지 않다고 보았다.
8추상적인 수학이 현실에 닿는 곳
도형을 흘려보낸다는 발상은 순수 수학의 영역에서 태어났지만, 그 응용은 뜻밖에 넓다. 곡률을 고르게 펴고 복잡한 모양을 단순한 표준형으로 바꾸는 능력이 여러 분야에서 쓸모를 발휘하기 때문이다.
컴퓨터 그래픽스에서는 격자(메시)로 표현된 3차원 표면을 다룰 때 리치 흐름의 이산(discrete) 버전이 쓰인다. 울퉁불퉁한 곡면을 곡률이 고른 형태로 펴면 평면에 펼쳐 펼치기가 쉬워지고, 그 위에 무늬(텍스처)를 일그러짐 없이 입힐 수 있다. 캐릭터 표면에 질감을 입히거나 3차원 모델을 매끈하게 매개화하는 작업이 그 예다.
의료 영상 분야의 쓰임도 인상적이다. 대뇌 피질처럼 주름이 깊은 표면을 각도를 보존하며 단순한 구면이나 평면으로 펼치면, 서로 다른 환자의 뇌를 같은 기준 위에 올려 비교할 수 있다. 해마(海馬)의 형태 변화를 추적해 알츠하이머병 같은 질환의 단서를 읽거나, 구불구불한 대장 표면을 펼쳐 살피는 가상 내시경에도 비슷한 원리가 응용된다.
네트워크와 데이터 분석에서는 곡률 개념 자체를 그래프 위로 옮겨 온다. 점과 연결선으로 이루어진 망(網)에 곡률에 해당하는 값을 정의하면, 촘촘히 뭉친 공동체(커뮤니티)와 그 사이를 잇는 다리 역할의 연결을 구별할 수 있다. 통신망이 한 지점의 고장에 얼마나 잘 버티는지, 정보가 어디서 병목을 겪는지를 살피는 데에도 이런 곡률 분석이 활용된다.
이론 물리학에서도 같은 수학이 모습을 드러낸다. 입자물리학과 끈 이론에서 에너지 척도에 따라 이론의 성질이 변해 가는 과정(재규격화군 흐름)이 리치 흐름과 같은 꼴의 방정식으로 기술되곤 한다. 도형을 다듬으려고 고안한 식이, 우주의 근본 법칙을 기술하는 언어와 닮은 얼굴을 하고 있는 셈이다.
맺으며
리치 흐름의 이야기는 단순한 한 가지 발상에서 출발한다. 굽은 곳을 그 굽은 정도에 따라 스스로 펴지게 두면, 어수선한 모양이 제 본모습을 드러낸다는 것이다. 평면 위 곡선이 둥근 원으로 모이는 장면에서 시작해, 곡면의 잘록한 목이 끊어지는 넥핀치, 그 끊어진 자리를 도려내는 수술, 그리고 공간 자체의 거리 측정법을 흘려보내는 리치 흐름까지—사다리는 한 칸씩 추상의 높이를 더해 갔다. 그 꼭대기에서, 흐름이 만들어 내는 특이점을 정확히 다스리는 기술이 100년 묵은 질문에 마침표를 찍었다. 도형을 흐르게 한다는 발상 하나가, 추상 수학의 가장 깊은 곳과 화면 속 그래픽, 사람의 뇌, 그리고 우주의 법칙을 한 줄로 꿰고 있다.