기하학 · 조합론 · 위상수학
주사위의 면을 세는 단순한 산수가 어떻게 반세기의 난제로, 또 산수와 기하학을 잇는 뜻밖의 다리로 이어졌는가.
주사위 하나를 손에 들어 보자. 꼭짓점은 여덟 개, 모서리는 열두 개, 면은 여섯 개다. 이 세 숫자를 8 − 12 + 6 식으로 번갈아 더하고 빼면 답은 정확히 2가 된다. 축구공, 피라미드, 다이아몬드의 컷 — 부풀려 공처럼 만들 수 있는 어떤 다면체를 가져와도 결과는 한결같이 2다. 18세기 수학자 레온하르트 오일러가 발견한 이 관계를 우리는 오일러 공식이라 부른다. 학교에서 한 번쯤 스쳐 지나갔을, 단순하고 우아한 식이다.
그런데 이 공식에는 좀처럼 알려지지 않은 비밀이 있다. 오일러 공식은 그 자체로 완결된 사실이 아니라, 훨씬 더 거대하고 숨겨진 대칭의 한 조각일 뿐이라는 것이다. 그리고 그 대칭이 품고 있던 가장 깊은 질문은 거의 반세기 동안 세계의 수학자들을 좌절시키다가, 비교적 최근에야 풀렸다. 이 글은 누구나 셀 수 있는 다면체의 면 개수에서 출발해, 그 난제의 정체와 풀이까지 따라가 보는 여정이다.
이야기를 깔끔하게 진행하려면 먼저 모든 면을 삼각형으로 통일하는 것이 편하다. 구의 표면을 삼각형 조각들로 빈틈없이 덮어 만든 도형을, 수학에서는 삼각분할된 구라고 부른다. 둥근 구를 마치 종이접기처럼 평평한 삼각형들로 근사한 것이라 생각하면 된다. 조각의 개수와 모양을 바꾸면 같은 구를 무한히 많은 방식으로 삼각분할할 수 있다.
가장 단순한 예는 정사면체다. 꼭짓점 네 개를 잡고 그 사이를 삼각형으로 이으면, 사면체의 껍질은 곧 하나의 구가 된다. 면이 모두 삼각형이고, 부풀리면 동그란 공이 된다. 면이 여덟 개인 정팔면체, 스무 개인 정이십면체도 마찬가지다. 모두 삼각형으로 덮인 구의 친근한 예다.
이제 이 도형들에서 차원별로 조각의 수를 세어 보자. 정사면체라면 꼭짓점(0차원) 4개, 모서리(1차원) 6개, 삼각형 면(2차원) 4개다. 이 세 숫자를 차원 순서대로 늘어놓은 것을 f-벡터(f는 면을 뜻하는 face의 머리글자)라 부른다. 정사면체의 f-벡터는 (4, 6, 4)다.
오일러가 한 일은 이 숫자들을 부호를 번갈아 바꿔 가며 더한 것이다. 정사면체에서는 4 − 6 + 4 = 2. 정팔면체의 f-벡터 (6, 12, 8)로 같은 계산을 하면 6 − 12 + 8 = 2. 정이십면체의 (12, 30, 20)도 12 − 30 + 20 = 2. 짐작했겠지만 이것은 우연이 아니다. 구를 어떻게 삼각분할하든, 차원별 조각 수의 교대합은 언제나 2다.
이 변치 않는 숫자를 오일러 지표라고 부른다. 조각을 더 잘게 쪼개든 거칠게 묶든, 모양을 어떻게 바꾸든, 그것이 본질적으로 구이기만 하면 답은 2로 고정된다. 도형의 표면적이나 부피 같은 측정값과 달리, 오일러 지표는 '늘이고 구부려도 변하지 않는 성질', 곧 위상(位相)에만 의존한다.
여기서 자연스러운 호기심이 생긴다. 이 우아한 패턴은 더 높은 차원에서도 이어질까? 우리가 다룬 것은 2차원 표면을 가진 구, 곧 '2차원 구'였다. 그런데 차원의 사다리는 위로도 아래로도 뻗어 있다.
먼저 한 칸 내려가 보자. 1차원의 구는 무엇일까? 차원을 하나 낮추면 삼각형은 곧은 선분이 되고, 그 조각들을 이어 만든 1차원 구는 다름 아닌 원(둘레)이다. 꼭짓점 다섯 개와 모서리 다섯 개로 만든 오각형의 테두리를 떠올려 보라. f-벡터는 (5, 5)이고, 교대합은 5 − 5 = 0이다. 꼭짓점을 일곱 개로 늘리면 모서리도 일곱 개가 되어야 하므로 결과는 여전히 0이다.
한 칸 더 내려가면 0차원의 구가 나온다. 이건 처음 접하면 다소 낯설다. 구란 어떤 중심점에서 같은 거리에 있는 점들의 모임이다. 1차원 공간, 곧 직선 위에서 한 점으로부터 같은 거리에 있는 점을 모으면 정확히 두 점이 남는다. 그러니 0차원 구는 점 두 개다. 셀 것은 꼭짓점 수 하나뿐이고 그 값은 2다. 교대합은 그대로 2가 된다.
이제 위로 올라가도 패턴을 짐작할 수 있다. 0차원에서 2, 1차원에서 0, 2차원에서 2였으니, 3차원 구에서는 다시 0일 것이다. 3차원 구는 상상하기 어렵지만, 다행히 손으로 확인할 수 있는 예가 있다. 정사면체를 한 차원 끌어올린 도형, 곧 4차원 공간에서 일반 위치에 놓인 다섯 점이 만드는 '단체(單體)'가 그것이다. 이 도형의 껍질은 3차원 구이고, f-벡터는 (5, 10, 10, 5)다. 교대합을 구하면 5 − 10 + 10 − 5 = 0. 예상이 맞았다.
결국 어떤 차원에서든 구를 어떻게 삼각분할하든, 차원별 조각 수의 교대합은 오직 두 값, 0 또는 2 중 하나로 정해진다. 짝수 차원이면 2, 홀수 차원이면 0. 위 그림의 식 1 + (−1)ⁿ이 이 사실을 한 줄로 요약한다. 단순한 면 세기에서 출발했는데, 차원을 가로지르는 보편 법칙이 모습을 드러낸 셈이다.
그런데 이 결과에는 어딘가 마음에 걸리는 구석이 있다. 0, 2, 0, 2, 0, 2처럼 차원의 홀짝에 따라 답이 진동한다는 점이다. 한 가지 깔끔한 법칙이라기보다, 차원의 짝홀을 일일이 따져야 하는 갈래길처럼 보인다. 자연이 정말 이렇게 어정쩡하게 굴 리 없다는 의심이 든다.
실제로 수학자들은 이 진동을 차원의 짝홀과 무관하게 표현하는 또 다른 방법을 찾아냈다. 그리고 바로 그 표현이 우리 이야기의 진짜 출발점이다. 오일러 공식을 새로운 눈으로 다시 쓰면, 거기 숨어 있던 훨씬 더 큰 대칭이 드러난다.
방법은 의외로 장난스럽다. 먼저 도형의 f-벡터를 가져와 맨 앞에 1을 하나 붙인다. 정팔면체라면 (6, 12, 8) 앞에 1을 붙여 (1, 6, 12, 8)로 만든다. 이 숫자들을 삼각형의 한쪽 빗변에 나란히 놓고, 반대쪽 빗변은 1로만 채운다. 그런 다음 파스칼의 삼각형을 만들 듯, 다만 덧셈 대신 뺄셈으로 칸을 채워 내려간다. 규칙은 한 가지뿐이다. 새로 채울 칸은 바로 위 오른쪽 수에서 위 왼쪽 수를 뺀 값이다.
이렇게 마지막 줄에 얻은 수열이 정팔면체의 h-벡터다. 결과는 1 3 3 1. 눈에 띄는 점이 있다. 앞에서 읽으나 뒤에서 읽으나 똑같다. 우연인지 확인하려 정이십면체로 같은 장난을 해 보면, f-벡터 (12, 30, 20)에서 h-벡터 1 9 9 1이 나온다. 역시 앞뒤가 같다.
"기러기", "토마토", "다시 합창합시다" 같은 말은 앞에서 읽으나 뒤에서 읽으나 똑같다. 이런 말을 회문(回文)이라 한다. 방금 만든 h-벡터는 숫자로 된 회문인 셈이다. 1 3 3 1도, 1 9 9 1도 가운데를 축으로 좌우가 완벽하게 포개진다.
처음에는 그저 면 개수를 뒤섞는 자의적인 놀이처럼 보인다. 그러나 마지막 줄이 회문이 된다는 사실은 결코 사소하지 않다. 이것이 바로 오일러 공식이 속해 있던 더 큰 그림의 첫 자락이다.
먼저 h-벡터의 맨 마지막 칸에 주목하자. 어떤 도형을 가져와도 이 칸의 값은 늘 1로 떨어진다. 왜일까? 뺄셈 삼각형을 거슬러 올라가 보면, 이 마지막 1은 사실 f₂ − f₁ + f₀ − 1이라는 교대합과 같다. 이 값이 1이라는 말은 곧 f₀ − f₁ + f₂ = 2, 다름 아닌 오일러 공식이다. 다시 말해 "h-벡터의 마지막 칸이 1"이라는 진술은 오일러 공식을 다른 옷으로 갈아입힌 것에 지나지 않는다.
여기서 핵심은 h-벡터 전체가 회문이라는 점이다. 맨 앞이 1이고 맨 뒤도 1이라는 것은 그 좌우 대칭의 양 끝 한 쌍일 뿐, 안쪽의 모든 칸도 가운데를 축으로 짝을 이룬다. 이 대칭 관계는 약 한 세기 전 수학자 막스 덴과 던컨 소머빌이 밝혀낸 것으로, 그들의 이름을 따 덴–소머빌 관계라 불린다. 오일러 공식은 이 거대한 대칭의 한쪽 귀퉁이였던 셈이다.
이 관점의 가장 멋진 효과는, 그토록 거슬리던 차원의 짝홀 의존성이 말끔히 사라진다는 데 있다. 짝수 차원에서 2, 홀수 차원에서 0이라는 갈래길은 더 이상 필요 없다. 어느 차원에서든 규칙은 단 하나, "이 삼각형의 마지막 칸은 1이다." 오일러의 진동하던 0과 2는, 차원을 가리지 않는 하나의 대칭으로 통일된다.
이 대칭은 한 차원 위에서도 그대로 성립한다. 4차원의 단체(3차원 구)에서는 h-벡터가 1 1 1 1 1로, 정팔면체를 4차원으로 끌어올린 도형에서는 1 4 6 4 1로 나온다. 둘 다 빈틈없는 회문이다. 면을 세는 산수 속에, 차원을 초월하는 대칭이 새겨져 있었던 것이다.
회문이라는 좌우 대칭만으로도 충분히 놀랍지만, 예시들을 늘어놓다 보면 또 다른 규칙이 눈에 들어온다. 1 4 6 4 1을 보자. 수가 가운데까지 꾸준히 커졌다가(1 → 4 → 6), 다시 줄어든다(6 → 4 → 1). 봉우리가 가운데에 정확히 하나뿐인 산 모양이다.
봉우리가 하나뿐이라는 이 성질을 단봉성(單峰性)이라 부른다. 17차원처럼 까마득한 차원에서 아무 구나 골라 h-벡터를 적어 보아도, 그 수열은 좌우 대칭일 뿐 아니라 한가운데에 봉우리 하나를 두고 솟았다 가라앉는다. 지금까지 세계의 누구도 이 규칙을 어기는 예를 찾지 못했다. 그런데 문제가 하나 있었다. 아무도 그것이 왜 항상 참인지를 증명하지 못했다는 점이다.
여기서 알파벳 하나가 더 필요하다. 면의 개수를 적은 처음 수열을 f-벡터라 불렀고, 뺄셈 삼각형의 맨 아랫줄을 h-벡터라 불렀다. 그렇다면 그 사이의 글자, G는 어디에 쓰는가. g-벡터는 h-벡터에서 이웃한 두 수의 차이로 정의된다. 앞의 수에서 그보다 한 칸 앞의 수를 뺀 값이다.
앞서 본 1 4 6 4 1로 해 보자. 두 번째에서 첫 번째를 빼면 4 − 1 = 3, 세 번째에서 두 번째를 빼면 6 − 4 = 2. 가운데까지만 적으면 g-벡터는 3, 2가 된다. 두 값 모두 양수다. h-벡터가 가운데를 향해 커진다는 말은, 곧 이 차이들이 음수가 되지 않는다는 말과 같다.
난제는 여기서 단 한 문장으로 적힌다. 어떤 차원의 어떤 삼각화된 구를 가져오든, g-벡터의 모든 항은 음수가 아니다. 이것이 g-추측이다. 더 욕심을 내면, 이 조건은 한 걸음 더 나아가 "어떤 면 개수의 조합이 실제로 가능한가"를 빠짐없이 가려내는 완전한 판별 기준이 된다. 가능한 다면체의 면 개수 목록과 불가능한 목록 사이에 정확한 경계선을 긋는 것이다. 그러나 그 핵심에 놓인 주장은 결국 한가운데의 봉우리가 결코 주저앉지 않는다는 단봉성이다.
수학의 추측 중에는 종이와 연필만으로는 한 발도 다가갈 수 없는 것들이 많다. g-추측은 정반대다. 새로운 방식으로 구 하나를 삼각형으로 덮고, 각 차원의 면을 세고, 뺄셈 삼각형을 그린 다음, 가운데로 갈수록 수가 커지는지 확인하면 그만이다. 누구든 한 번도 본 적 없는 삼각화를 떠올리는 순간, 이 추측을 무너뜨릴 기회를 손에 쥔다.
수백 년 묵은 거대한 가설이 초등학교 산수로 검증 가능한 모양을 하고 있다는 것, 바로 그 점이 이 문제를 사랑받게 만들었다.
이 추측을 1970년대 초에 또렷한 형태로 제시한 사람은 피터 맥멀런(Peter McMullen)이다. 가능한 면 개수의 목록을 통째로 특징짓겠다는 야심 찬 제안이었다. 그리고 수학자들은 가장 다루기 쉬운 구부터 공략하기 시작했다. 볼록한 다면체의 겉면처럼, 평범한 공간 안에 실제로 모양을 갖춘 구들이다.
1980년 무렵 두 조각의 결과가 맞물렸다. 한쪽에서는 루이스 빌레라(Louis Billera)와 칼 리(Carl Lee)가, 맥멀런이 내건 조건을 만족하는 수열이 주어지면 그에 딱 맞는 다면체를 실제로 만들어 낼 수 있음을 보였다. 가능성의 충분조건을 손에 쥔 것이다. 다른 한쪽에서는 리처드 스탠리(Richard Stanley)가 그 조건이 반드시 필요함을 증명했는데, 그 방법이 뜻밖이었다. 그는 다면체에 토릭 다양체(toric variety)라 불리는 대수기하학적 대상을 대응시켰다. 그러자 h-벡터의 각 수가 그 도형에 깃든 어떤 공간의 차원으로 다시 태어났고, 그 위에서 성립하는 깊은 정리 하나가 봉우리의 단봉성을 강제했다. 두 결과를 합쳐 다면체에 한해서는 추측이 정리로 승격했다.
그런데 결정적인 함정이 있었다. 차원이 조금만 높아지면, 삼각화된 구의 대부분은 어떤 다면체의 겉면으로도 실현되지 않는다. 손으로 만질 수 있는 모양을 갖지 못한 채 조합적으로만 존재하는 구가 압도적으로 많다는 뜻이다. 스탠리가 놓은 기하학의 다리는 바로 그 지점에서 끊겼다. 기댈 토릭 다양체가 없으니, 일반적인 구에 대해 문제는 그대로 열린 채 남았다.
초등학교 산수로 검증되는 문제가, 반세기 동안 조합론의 성배로 불리며 누구의 공격도 버텨 냈다.
그리고 2018년 12월, 카림 아디프라시토(Karim Adiprasito)가 일반적인 삼각화된 구에 대해 증명을 발표했다. 그는 기하학적 도형의 도움 없이, 면의 개수를 담은 대수적 구조 자체 위에서 앞의 그 깊은 정리에 해당하는 조합적 버전을 직접 세웠다. 다리가 끊긴 자리에 다리를 새로 놓은 셈이다. 같은 연구는 데카르트와 오일러까지 거슬러 올라가는 또 다른 면 개수 부등식까지 함께 해결했다. 이듬해부터는 더 간결한 증명들이 잇따랐다. 한 세기 전 정사면체의 면을 세던 데서 출발한 수수께끼가 마침내 닫힌 것이다.
이 이야기에서 가장 놀라운 대목은 면을 세는 단순한 산수가 전혀 다른 수학의 영역과 맞닿아 있다는 사실이다. 뺄셈 삼각형의 맨 아랫줄에 적힌 h-벡터의 수들은 단순한 계산 결과가 아니라, 그 구로부터 만들어진 어떤 공간이 품은 차원의 개수, 즉 베티 수(Betti number)로 다시 읽힌다. 베티 수란 거칠게 말해 공간에 뚫린 구멍의 종류를 세는 위상수학의 척도다.
이 번역을 거치면 앞서 본 두 가지 규칙이 곧바로 더 깊은 정리의 그림자로 드러난다. h-벡터가 좌우로 똑같은 회문이라는 사실은, 그 공간이 위아래로 완벽한 대칭을 이룬다는 푸앵카레 쌍대성(Poincaré duality)에 대응한다. 그리고 가운데를 향해 솟아오르는 단봉성은, 강한 레프셰츠 정리(Hard Lefschetz theorem)라 불리는 결과의 직접적인 결과로 따라온다. 산수의 패턴 하나하나가 기하와 위상의 깊은 구조와 정확히 짝을 이루는 것이다.
강한 레프셰츠 정리가 왜 봉우리를 만드는지는 건물에 비유하면 가늠할 수 있다. 어떤 공간의 각 층에는 방이 몇 개씩 있고, 그 방의 수가 바로 h-벡터의 각 항이다. 이 정리는 아래층에서 그에 대칭되는 위층으로 곧장 올라가는 계단 하나가 늘 존재하며, 그 계단을 오를 때 어느 방도 겹치거나 막히지 않는다고 보장한다.
아래층의 방이 위층보다 많다면 그런 계단은 결코 놓일 수 없다. 따라서 방의 수는 가운데 층을 향해 줄어들 수 없다. 봉우리가 한가운데 솟는 것은 이 계단이 존재한다는 사실의 필연적 귀결인 셈이다.
이 모든 이야기는 주사위의 꼭짓점과 모서리와 면을 세는 일에서 출발했다. 더하고 빼는 산수, 누구나 할 수 있는 계산이었다. 그런데 그 산수는 좌우로 똑같이 읽히는 회문을 숨기고 있었고, 그 회문은 한가운데 솟은 봉우리를 숨기고 있었으며, 그 봉우리는 다시 대수기하학과 위상수학으로 건너가는 다리를 숨기고 있었다.
아이도 손으로 확인할 수 있는 문제가, 현대 수학의 가장 깊은 도구를 동원해서야 비로소 닫혔다. 그리고 그 문이 닫히기까지 반세기가 걸렸다. 우리가 일상에서 마주치는 가장 단순한 형태, 둥근 표면을 삼각형으로 덮는다는 그 소박한 발상 아래에 이토록 정교한 구조가 잠들어 있었다는 것. 면을 세는 산수가 끝내 풀어 보인 풍경은 그 자체로 충분히 경이롭다.