수학과 물리학은
어떻게 서로를 발견하는가

수학은 결국 수학자가 하는 일이고, 수학자는 인간의 뇌로 그 일을 한다. 그 뇌는 수백만 년의 진화가 빚어낸 산물이다. 그래서 우리가 다루는 개념의 대부분은, 우리가 주변에서 보고 겪는 것들에 깊이 물들어 있다. 우리는 공간 속을 움직이기에 ‘공간’을 이야기하고, 시간 속을 흘러가기에 ‘시간’을 이야기한다. 물건을 세기에 수를 헤아리고, 돌을 던지기에 그 궤적과 속도를 묘사하려 한다. 미적분의 출발점인 ‘속도’나 ‘기울기’ 같은 개념조차, 따지고 보면 일상의 경험에서 길어 올린 것이다.

그렇다면 자연스러운 의심이 든다. 일상 경험에서 빚어진 수학이, 우리가 직접 겪어 본 적이 없는 영역으로 — 우주처럼 거대한 세계나 소립자처럼 미세한 세계로 — 들어서는 순간 효력을 잃지는 않을까? 우리 직관과 너무 멀어진 곳에서는 수학도 길을 잃지 않을까?

놀랍게도 그런 일은 일어나지 않았다. 수학은 인간의 직관이 닿지 않는 곳에서도 물리 세계를 집요하게, 그리고 어처구니없을 만큼 정확하게 설명해 냈다.

이 수수께끼에는 이름이 붙어 있다. 1963년 노벨 물리학상을 받은 물리학자 유진 위그너(Eugene Wigner)는 1960년에 발표한 글에서, 수학이 자연을 이토록 잘 기술한다는 사실이 “거의 신비에 가까우며 합리적인 설명이 없다”고 토로했다. 그는 이것을 ‘자연과학에서 수학이 보이는 비합리적인 효율성’이라 불렀다. 일찍이 갈릴레오가 “자연이라는 책은 수학의 언어로 쓰여 있다”고 말한 것이 단순한 수사가 아니었던 셈이다. 다만 왜 그러한지는, 위그너 자신도 끝내 답하지 못했다.

01수학이 물리학을 앞질러 기다리고 있었다

가장 유명한 사례가 아인슈타인의 일반상대성이론이다. 1915년, 아인슈타인은 중력을 ‘휘어진 공간’으로 설명하려 했다. 무거운 물체가 주변의 공간 자체를 우묵하게 휘어 놓고, 그 휘어진 길을 따라 다른 물체가 굴러가는 것이 곧 중력이라는 발상이었다. 문제는 휘어진 공간을 다룰 수학이 필요했다는 것이다. 그런데 그 수학은 이미 60여 년 전에 마련되어 있었다.

19세기 독일 수학자 베른하르트 리만(Bernhard Riemann)을 비롯한 이들은, 순전히 추상적인 호기심에서 이런 질문을 던졌다. 평면은 2차원이고 우리가 사는 공간은 3차원인데, 차원의 수를 임의로 — 4차원이든 그 이상이든 — 늘리면 어떻게 될까? 평평하지 않고 휘어진 공간은 수학적으로 어떻게 기술할 수 있을까? 당시로서는 아무런 쓸모도 없어 보이던 이 사유가, 반세기 뒤 우주의 구조를 설명하는 데 꼭 필요한 도구가 되었다.

추상의 세계로 멀리 달아났던 수학이, 알고 보니 물리학보다 한발 앞서 길목을 지키고 있었던 것이다. 이것이 위그너가 말한 ‘비합리적인 효율성’의 대표적인 장면이다.

02양자역학 — 명상으로는 결코 떠올릴 수 없던 세계

상대성이론이 ‘수학이 미리 준비해 둔’ 사례라면, 양자역학은 정반대 방향에서 온 충격이었다.

백만 년을 가만히 앉아 명상한다 해도 양자역학의 법칙은 떠오르지 않았을 것이다. 너무나 기이하기 때문이다. 이것은 인간이 머릿속 추론만으로 빚어낸 이론이 아니라, 자연이 실험 데이터를 통해 우리에게 억지로 떠안긴 이론에 가깝다. 그리고 그 과정은 꽤나 고통스러웠다. 우리는 오랫동안 소중히 여겨 온 개념들을 하나씩 내려놓아야 했다.

가장 먼저 포기한 것은 “세계는 예측 가능한 시스템”이라는 믿음이다. 충분한 정보만 있으면 미래를 정확히 계산할 수 있다는, 뉴턴 이래의 든든한 약속 말이다.

양자역학의 효과는 원자와 소립자 수준에서 또렷하게 드러난다. 그런데 원자를 아주 많이 모으면 — 우리 몸 하나가 10의 27제곱 개가 넘는 원자로 이루어져 있다 — 양자역학의 기이한 특성들이 서로 상쇄되며 거의 씻겨 나간다. 그래서 우리는 일상에서 그 기이함을 좀처럼 느끼지 못한다. 양자 세계의 규칙이 ‘평범한 세계’의 규칙과 달라 보이는 것은, 단지 우리가 너무 큰 존재이기 때문이다.

양자역학이 우리에게 내려놓으라 요구하는 것은 크게 두 가지다.

첫째, 모든 질문에 답할 수는 없다

펜 한 자루를 떠올려 보자. 일상에서는 “이 펜이 어디 있는지” 알 수 있고, 떨어뜨리면 “어떤 속도로 움직이는지”도 안다. 위치와 속도를 동시에 아는 것은 너무도 당연한 일이다. 그런데 양자역학은 이렇게 말한다. 위치와 속도 가운데 한쪽만 정확히 알 수 있다고. 한쪽을 또렷이 알수록 다른 쪽은 흐릿해진다. 거칠게 말하면, 던질 수 있는 질문의 절반쯤은 애초에 답이 정해져 있지 않다.

이것이 1927년 베르너 하이젠베르크(Werner Heisenberg)가 정식화한 불확정성 원리다. 측정 장비가 어설퍼서가 아니라, 자연이 본래 그렇게 생겨 먹은 것이다. 그런데 이렇게 되면 곤란하다. 위치도 속도도 확정되지 않는다면, 도대체 펜을 어떻게 묘사한단 말인가?

둘째, 무언가가 ‘어떻게 움직였는지’에도 정해진 답이 없다

여기서 두 번째이자 더 기이한 이야기가 시작된다.

03모든 경로의 합

펜처럼 우리가 잘 아는 평범한 물체가 A 지점에서 B 지점으로 간다고 하자. 돌을 던지면 하나의 정해진 궤적을 그리며 날아가고, 우리는 그 길을 정확히 계산할 수 있다. 거기에는 ‘최적의 단 하나의 길’이 있다. 고전 물리학과 수학이 바로 이런 유일한 경로를 다룬다.

그런데 양자 입자는 다르다. 한 원자에서 다른 원자로 건너뛰는 전자는, 상상할 수 있는 모든 경로를 자유롭게 — 심지어 터무니없이 멀리 돌아가는 구불구불한 길까지 포함해 — 동시에 밟는다. 물리학이 하는 일은, 이 모든 가능한 시나리오 각각에 ‘확률’을 부여하는 것이다.

이렇게 하나의 경로가 아니라 가능한 모든 경로를 더한다고 해서, 이를 ‘역사의 합(sum over histories)’이라 부른다. 1948년 물리학자 리처드 파인만(Richard Feynman)이 정식화한 이 방법은 양자 세계를 계산하는 강력한 도구가 되었다.

‘역사’라는 말도 묘하게 들린다. 우리는 보통 역사를 ‘실제로 일어난 사건들의 모음’으로 여긴다. 그러나 양자역학의 세계에서 역사란, ‘동시에 존재하는 모든 가능한 시나리오’를 뜻한다. 일어난 일 하나가 아니라, 일어날 수 있었던 모든 일의 총합인 것이다.

‘확률’이라는 말에도 한 겹이 더 숨어 있다. 양자역학의 확률은 우리가 아는 평범한 숫자가 아니라 ‘복소수(complex number)’다. 복소수란 실수에 더해 제곱하면 음수가 되는 기묘한 수까지 끌어안은 수의 확장판이다. 이 복소수의 절댓값을 제곱해야 비로소 우리가 손에 쥘 수 있는 진짜 확률이 된다. 1926년 막스 보른(Max Born)이 찾아낸 이 규칙은, 양자 세계와 우리가 관측하는 현실을 잇는 다리 역할을 한다.

이 기묘한 규칙 덕분에 황당한 일이 가능해진다. 어떤 입자가 A에 있을 확률과 B에 있을 확률을 따지는 데서 그치지 않고, 한 입자가 ‘절반은 여기에, 절반은 저기에’ — 그것도 동시에 — 존재할 수 있다. 점 하나를 둘로 쪼개, 한 조각은 여기, 다른 한 조각은 저기에 올려 둔 셈이다. 이것을 ‘중첩(superposition)’이라 부른다.

여러 가지 일이 동시에 벌어지는 이 특성이야말로, 양자역학을 우리 머리로 받아들이기 어렵게 만드는 핵심이다. 그래서 “양자역학을 이해했다고 말하는 사람은 사실 거짓말을 하는 것”이라는 농담 섞인 경구가 오래도록 회자되어 왔다. 우리의 직관으로는 도무지 와닿지 않는 세계이기 때문이다.

04흐름이 뒤집히다 — 물리학이 수학에게

양자역학을 정식화하려면 새로운 수학 도구가 필요했다. 원자 속에서 한 상태가 다른 상태로 건너뛰는 과정을 기술하기 위해, 물리학자들은 1925년 무렵 ‘행렬(matrix)’이라는 것을 끌어들였다. 행렬은 수들을 격자 모양으로 늘어놓은 표인데, 그 자체는 이미 수학에 알려져 있던 대상이었다. 하지만 양자역학에 함께 등장한 힐베르트 공간(Hilbert space)이나 파동함수(wave function) 같은 개념은, 당시 막 자라나고 있던 수학이었다.

흥미로운 반전은 여기서 일어난다. 처음에는 수학이 물리학에 도구를 빌려주었지만, 어느 순간 물리학자들이 그 도구를 들고 저 멀리 달아나기 시작했다. 그리고 이제는 수학자들이 그 뒤를 쫓으며 — 언어뿐 아니라 개념의 위력까지 — 따라잡으려 애쓰고 있다.

왜냐하면 양자이론에는 수학자의 사고방식과 더없이 잘 맞아떨어지는 무언가가 있기 때문이다. 수학자는 대상 하나를 따로 떼어 연구하지 않는다. 그들은 늘 전체 가족 — 가능한 모든 대상의 집합 — 을 한꺼번에 생각한다. 어떤 수 하나가 아니라 모든 수를, 어떤 도형 하나가 아니라 가능한 모든 기하학적 형태를 동시에 다룬다. 그런데 양자역학이 이렇게 말하는 것이다. “나 역시 경로 하나를 보는 게 아니라, 가능한 모든 경로의 공간을 본다. 게다가 각 경로에 확률까지 부여한다.” 수학자에게는 이보다 자연스러운 사고방식이 없다.

05매듭과 양자이론

이 만남이 낳은 가장 멋진 결실 가운데 하나가, 뜻밖에도 ‘매듭’에서 나왔다.

끈을 묶어 만든 매듭을 떠올려 보자. 수학자들은 매듭을 일반적으로 — 가능한 모든 매듭의 공간을 — 연구하고 싶어 한다. 어떤 매듭은 정말로 단단히 묶여 있고, 어떤 매듭은 복잡해 보여도 잡아당기면 스르르 풀린다. 겉모습만으로는 구별이 쉽지 않은 이 둘을, 어떻게 수학적으로 가려낼 것인가? 이것이 ‘매듭 이론(knot theory)’의 오랜 숙제였다.

1980년대 초, 수학자 본 존스(Vaughan Jones)는 매듭과는 전혀 상관없어 보이던 분야 — 폰 노이만 대수(von Neumann algebra)라는 추상적인 수학 — 에서 출발해, 모든 매듭에 하나의 ‘다항식’을 부여하는 방법을 발견했다. 이것이 ‘존스 다항식(Jones polynomial)’이다. 매듭마다 고유한 식을 매겨 서로 구별할 수 있게 해 주는, 일종의 지문 같은 도구다.

그런데 1989년, 물리학자 에드워드 위튼(Edward Witten)이 이 존스 다항식을 양자장론(quantum field theory)의 언어로 완전히 새롭게 해석해 냈다. 양자물리학에서는 매듭을 ‘3차원 시공간 속을 움직이는 하전 입자의 궤적’으로 볼 수 있다. 일상에서 매듭은 공간 속에 놓인 정적인 물체지만, 양자이론의 시선으로 보면 매듭은 시간을 따라 움직인 입자가 남긴 흔적이 된다. 관점을 이렇게 바꾸자, 매듭을 다루는 일이 놀랍도록 깔끔하게 풀렸다. 이 업적으로 위튼은 1990년, 물리학자로서는 최초로 수학계 최고 영예인 필즈상(Fields Medal)을 받았다.

여기서 주목할 점은, 정보가 ‘거꾸로’ 흘렀다는 사실이다. 매듭의 분류나 4차원·6차원 공간처럼 순수하게 수학적 동기에서 출발한 깊고 추상적인 난제들이, 양자이론을 빌려 하나둘 풀리기 시작했다. 좋은 수학자의 연장통에는 기하학과 미적분과 정수론이 들어 있어야 한다고들 말한다. 그런데 이제는 그 연장통에 현대 물리학의 규칙까지 들어가야 한다는 것이다. 많은 수학자들은, 정보가 물리학에서 수학 쪽으로 흐른다는 사실에 적잖이 놀랐다.

06소수는 ‘저 바깥에’ 있는가

여기서 수학자 특유의 세계관 하나를 짚고 넘어갈 만하다. 수학자를 만나 보면 대개 ‘플라톤주의자’다. 즉 소수(prime number) 같은 것은 인간이 발명한 게 아니라, 그저 ‘저 바깥에 이미 존재한다’고 믿는다. 책상 위에 펜이 세 자루 놓여 있다는 사실과는 무관하게, 숫자 3은 그 자체로 어딘가에 존재한다는 것이다.

그래서 수학에는 흥미로운 진동이 있다. 한편으로 수학은 현실에서 사실을 빨아들인다. 공간 속을 움직이니 기하학이 생겨나고, 물건을 세니 수가 생겨난다. 그러나 다른 한편으로 수학은 상상의 날개를 펴, 현실과는 전혀 상관없어 보이는 방향으로 훌쩍 날아간다. 물리학자가 “우리가 의도한 건 그런 엉뚱한 짓이 아니었는데”라고 중얼거릴 만한 곳까지 말이다. 현실에 뿌리를 두면서도 동시에 현실을 떠나는 것 — 그것이 수학의 묘미다.

07두 학문의 미묘한 긴장

수학이 물리학에서 솟아나는 이 현상은, 사실 양쪽 모두에게 마냥 편하지만은 않았다. 거기에는 오래된 신경전이 깔려 있다.

물리학자 입장에서 수학은 대단히 매혹적이지만, 동시에 한번 빠지면 헤어나오기 어려운 블랙홀 같은 것이다. 너무 깊이 들어가면 현실과 분리되어 버린다. 그래서 어떤 물리학자는 이렇게 비유한다. 오디세우스가 세이렌의 노랫소리에 홀리지 않으려 스스로 돛대에 몸을 묶었듯, 물리학자도 수학의 아름다움에 유혹당하지 않으려 자신을 현실에 단단히 붙들어 매야 한다고. 실제로 물리학의 위대한 통찰 가운데 상당수는 처음엔 고통스럽고, 우아하지 못하고, 심지어 추해 보였다. 양자이론조차 ‘아름답다’고 인정받기까지는 시간이 걸렸다.

수학자 쪽에도 할 말이 있다. 일부 수학자에게 물리학자는 손에 흙을 묻히는 ‘배관공’처럼 비친다. 현실이라는 지저분하고 엉성한 것을 직접 만지작거리는 사람들이라는 것이다. 반면 수학자는 완벽함이 깃든 플라톤의 세계로 갈 수 있다. 그래서 처음에는 “그건 한두 분야에나 해당하는 얘기지, 티 없이 깨끗한 내 분야와는 상관없다”며 물리학의 발상에 시큰둥했던 수학자도 적지 않았다. 그러다 전혀 예상치 못한 방향에서 날아든 물리학의 아이디어가 엄청난 위력을 발휘하는 것을 목격하게 된다. 파도가 멀리 있을 때는 나를 덮치지 못할 것 같다가, 어느 순간 정신을 차려 보면 이미 물속에 잠겨 있는 것처럼.

08물리학의 위기

이제 오늘날 물리학이 처한 진짜 위기로 들어가 보자.

우리에게는 세계를 기술하는 두 개의 훌륭한 이론이 있다. 하나는 양자이론으로, 소립자의 세계를 완벽에 가깝게 설명한다. 다른 하나는 상대성이론으로, 별과 은하와 우주의 거대 구조를 설명한다. 각자의 영역에서 두 이론은 흠잡을 데가 없다.

문제는 이 둘이 서로 충돌한다는 것이다. 거대한 것을 다루는 물리 법칙은 블랙홀(black hole)이나, 더 중요하게는 빅뱅(big bang) 같은 사건을 포함한다. 그런데 바로 그 지점에서 물리 법칙 자체가 무너져 버린다. 계산 결과가 무한대로 발산하며 아무 의미도 갖지 못하게 되는 것이다. 현실을 기술해야 할 이론이, 자기 안에 ‘고장’을 품고 있는 셈이다.

이 고장을 고칠 유일한 길은, 거대한 것을 다루는 상대성이론에 미세한 것을 다루는 양자역학을 끌어들이는 것뿐이라고 여겨진다. 두 그림을 어떻게든 하나로 결합해야 한다. 기하학만으로도 부족하고, 양자역학만으로도 부족하다.

그리고 우리는 이 결합이 어딘가에서 실제로 작동하고 있음을 안다. 지금 이 순간에도 우주는 멀쩡히 돌아가고 있고, 자연의 법칙은 어디서도 무너지지 않은 채 완벽하게 작동하고 있기 때문이다. 블랙홀 한가운데서도, 138억 년 전 우주가 시작되던 그 순간에도, 자연은 무엇을 해야 할지 분명히 ‘알고’ 있었다. 그렇다면 우리에게는 기하학보다 더 깊은 무언가가 필요하다. 자연이 알고 있는 그 답을 우리가 아직 모를 뿐이다.

09공간은 픽셀로 되어 있을까

그 ‘더 깊은 무언가’는 무엇일까? 이것이 현대 물리학의 가장 큰 수수께끼다. 하지만 몇 가지 단서는 있다.

유력한 발상 하나는 이렇다. 어쩌면 공간과 기하학은 열역학(thermodynamics) 같은 것일지도 모른다. 열역학은 본질적으로 수많은 입자가 모인 ‘물질’을 다루는 이론이다. 책상은 단단하고 매끈해 보이지만, 우리는 그것이 어마어마한 수의 분자 덩어리임을 안다. 방 안의 공기에서 ‘온도’를 느끼지만, 사실 온도라는 독립된 실체는 어디에도 없다. 그저 분자들이 빠르게 혹은 느리게 부딪치며 튀는 정도일 뿐이다. 온도는 수많은 분자의 평균적 행동이 만들어 내는 ‘창발적’ 성질이다. 분자 하나에는 온도가 없다.

물리학자들은 그 ‘픽셀’의 정체가 순수한 정보 — 0과 1 — 일지도 모른다고 생각한다. 다시 말해, 공간과 기하학 자체가 더 근본적인 정보의 바다에서 ‘창발하는’ 성질일 수 있다는 것이다. 공간은 가장 밑바닥에 있는 무대가 아니라, 그 아래 무언가가 만들어 내는 결과물일지도 모른다.

이 발상은 20세기 후반 여러 물리학자의 손을 거치며 점차 구체화되었다. 1990년대에는 ‘홀로그래픽 원리(holographic principle)’라는 개념이 등장했다. 3차원 공간 안에서 벌어지는 일이, 그 공간을 감싸는 2차원 경계면에 적힌 정보만으로 온전히 기술될 수 있다는 것이다. 마치 평평한 홀로그램 필름 한 장이 입체 영상을 통째로 담아내듯 말이다. 1997년 후안 말다세나(Juan Maldacena)가 이 아이디어를 구체적인 수학으로 정식화하면서, 시공간이란 더 근본적인 양자 정보로부터 ‘엮여 나오는’ 무언가일 수 있다는 연구가 본격적으로 꽃피기 시작했다. 물리학자 존 휠러(John Wheeler)가 일찍이 던진 ‘it from bit’ — 존재(it)는 정보(bit)에서 비롯한다 — 라는 표어가, 이 흐름을 한 마디로 압축한다.

1013억 년 전의 충돌

이 모든 추상의 끝에서, 다시 현실로 내려오는 한 장면이 있다.

두 개의 거대한 블랙홀이 서로를 끌어당기며 점점 좁아지는 궤도를 돈다고 상상해 보자. 각각 태양 질량의 수십 배에 달하는 두 블랙홀이 서로를 휘감으며 돌면, 그 주변의 시공간은 마치 비명을 지르듯 위아래로 출렁이기 시작한다. 그리고 그 출렁임은 물결처럼 사방으로 퍼져 나간다.

이것은 단순한 상상이 아니다. 약 13억 년 전, 지구에서 약 13억 광년 떨어진 어느 곳에서, 태양 질량의 약 36배와 29배인 두 블랙홀이 충돌해 약 62배 질량의 블랙홀로 합쳐졌다. 이때 줄어든 질량, 즉 태양 약 세 개에 맞먹는 질량이 순식간에 중력파(gravitational wave) 에너지로 바뀌어 우주로 방출되었다.

그 시공간의 물결은 13억 년을 여행한 끝에, 2015년 9월 14일 마침내 지구에 도달했다. 라이고(LIGO, 레이저 간섭계 중력파 관측소·Laser Interferometer Gravitational-Wave Observatory)라는 거대한 검출기가 그 미세한 떨림을 잡아냈다. 그 신호의 이름은 GW150914. 아인슈타인이 한 세기 전 휘어진 공간의 수학으로 예언했지만 정작 본인은 너무 미약해 영원히 검출할 수 없으리라 의심했던 바로 그 물결이, 리만이 쓸모를 모른 채 깎아 두었던 기하학의 언어를 거쳐, 마침내 인간의 손에 측정된 것이다. 이 발견을 이끈 세 과학자는 2017년 노벨 물리학상을 받았다.

일상의 경험에서 태어난 수학이, 우주의 가장 격렬한 사건을 미리 적어 두었다. 그리고 한때 수학에 기대던 물리학은, 이제 수학에 돌려줄 새로운 언어를 손에 쥐고 있다.

수학과 물리학은 그렇게,
때로 200년의 시차를 두고, 서로를 발견한다.