수학 · 과학 이야기
원 하나를 떠올려 보자. 둘레를 따라 한 바퀴 돌며 잰 길이를, 원을 가로지르는 지름으로 나눈다. 이 나눗셈의 결과는 원이 동전만 하든 운동장만 하든 언제나 똑같다. 약 3.14159…로 시작하는 이 수가 원주율, 기호로는 π다. 정의는 이보다 더 간단할 수 없다. 그런데 이 단순한 비율의 정체를 들여다보면, 끝도 없고 규칙도 없는 소수의 행렬이 펼쳐진다. 가장 단순한 도형에서 태어난 수가, 인간이 아는 가장 다루기 까다로운 수 가운데 하나라는 역설. 원주율을 둘러싼 수천 년의 이야기는 바로 여기에서 시작한다.
원주율의 정의는 한 문장이면 충분하다. 어떤 원이든 둘레를 지름으로 나누면 같은 값이 나온다. 둘레는 지름의 약 3.14배인 셈이다. 그래서 둘레는 π × 지름으로, 또는 반지름을 쓰면 2 × π × 반지름으로 적는다. 도형을 다루는 거의 모든 곳에서 이 값이 등장한다.
이상한 일은 그 값을 정확히 적으려 할 때 벌어진다. 3.14에서 멈추지 않고 3.14159로, 다시 3.1415926535로 이어 적어도 끝이 보이지 않는다. 원주율은 무리수다. 소수로 적으면 영원히 이어지고, 그 어디에서도 같은 마디가 통째로 되풀이되지 않는다. 1761년 수학자 람베르트(Johann Heinrich Lambert)가 이 사실을 증명했다.
여기에서 한 걸음 더 들어가면 원주율은 단순한 무리수가 아니라 초월수(transcendental number)다. 정수 계수를 가진 어떤 대수 방정식의 해도 될 수 없는 수라는 뜻이다. 1882년 린데만(Ferdinand von Lindemann)이 이를 증명했는데, 이 한 편의 증명이 2천 년 묵은 난제 하나를 함께 매듭지었다. 주어진 원과 넓이가 똑같은 정사각형을 자와 컴퍼스만으로 그려 내는 '원적문제'(squaring the circle)가 영원히 불가능하다는 사실이 그것이다.
무한히 이어지는 소수가 모두 까다로운 것은 아니다. 1을 3으로 나눈 0.333…은 끝없이 이어지지만, 3이 줄곧 반복되는 명백한 규칙이 있어 1/3이라는 분수로 깔끔하게 적힌다. 원주율에는 그런 규칙이 없다. 분수로는 결코 정확히 담을 수 없는, '쪼개 떨어지지 않는' 수다.
원주율의 값을 더 정확히 알아내려는 시도는 문명만큼이나 오래됐다. 약 4천 년 전 바빌로니아 사람들은 이 값을 3, 또는 25/8(3.125)쯤으로 어림했고, 고대 이집트의 한 수학 문서는 256/81(약 3.160)을 썼다. 바퀴와 기둥, 그릇을 만들려면 둘레와 넓이를 가늠해야 했으니 원주율은 실용의 문제이기도 했다.
결정적인 도약은 기원전 3세기 아르키메데스(Archimedes)에게서 나왔다. 그는 원을 직접 재는 대신, 원을 양쪽에서 '포위'했다. 원 안쪽에 꼭 맞는 정다각형을 그려 넣고(내접), 동시에 원 바깥을 감싸는 정다각형을 둘렀다(외접). 안쪽 다각형의 둘레는 원의 둘레보다 짧고, 바깥 다각형의 둘레는 원의 둘레보다 길다. 원주율은 그 사이 어딘가에 갇힌다.
아르키메데스는 변이 6개인 육각형에서 출발해 12각형, 24각형, 48각형, 96각형으로 변의 수를 차례로 두 배씩 늘렸다. 변이 많아질수록 다각형은 원에 점점 가까워지고, 위아래 경계도 좁혀진다. 96각형까지 밀어붙인 끝에 그는 원주율이 약 3.1408과 3.1429 사이에 있음을 보였다. 손과 자만으로 소수 둘째 자리까지 못 박은 셈이다.
원주율을 샌드위치 속 재료라고 생각해 보자. 아래 빵(원 안 다각형)은 늘 원보다 짧고, 위 빵(원 밖 다각형)은 늘 원보다 길다. 원주율은 두 빵 사이에 끼어 있다. 다각형의 변을 늘릴수록 위아래 빵이 서로 가까워지면서, 그 사이에 끼인 원주율의 범위가 점점 얇아진다. 무한히 얇게 누르면 정확한 값에 닿겠지만, 그 일은 영원히 끝나지 않는다.
같은 방법이 동아시아에서도 한층 정교하게 다듬어졌다. 3세기 중국의 류후이(Liu Hui)는 이 방식으로 약 3.1416을 얻었고, 5세기의 조충지(祖沖之, Zu Chongzhi)는 변이 1만 2288개에 이르는 다각형까지 밀어붙였다. 그 결과 그는 원주율이 3.1415926과 3.1415927 사이임을 알아냈다. 소수 일곱 자리를 정확히 짚어낸 것이다. 조충지는 분수 355/113도 함께 남겼는데, 이는 분모가 1만 6600보다 작은 모든 분수 가운데 원주율에 가장 가까운 값이다. 그의 기록은 이후 약 900년 동안 누구도 넘지 못했다.
다각형으로 갈 수 있는 끝은 멀고도 험했다. 15세기 페르시아의 알카시(al-Kashi)는 천문학적 수의 변을 가진 다각형으로 소수 16자리를 얻었고, 16세기 네덜란드의 판 쾰런(Ludolph van Ceulen)은 평생을 바쳐 35자리에 도달했다. 그가 동원한 다각형의 변은 수십억 개에 달했다. 이쯤 되면 다각형을 더 잘게 쪼개는 방식은 한계에 부딪힌다. 한 자리를 더 얻기 위해 치러야 할 노력이 감당하기 어려울 만큼 불어났기 때문이다.
17세기 미적분의 등장, 그리고 '무한급수'라는 도구가 막다른 길을 열어젖혔다. 무한급수란 무한히 많은 항을 차례로 더해 어떤 값에 다가가는 방법이다. 원을 그리지 않고, 정해진 규칙대로 분수를 끝없이 더하거나 빼기만 해도 원주율에 닿을 수 있게 된 것이다.
가장 단순한 형태는 이렇다.
홀수 분모를 가진 분수를 더하고 빼기를 번갈아 무한히 이어 가면, 그 합이 π/4에 점점 가까워진다. 항을 많이 더할수록 정확해진다.
목표 지점을 향해 걷되, 한 걸음은 너무 멀리 내디뎠다가 다음 걸음은 너무 모자라게 물러서기를 반복한다고 상상해 보자. 매번 더 작은 폭으로 넘었다 모자랐다 하면서 결국 한 지점으로 수렴한다. 위 급수가 꼭 그렇다. 다만 걸음 폭이 더디게 줄어드는 탓에, 정밀한 값을 얻으려면 어마어마하게 많은 걸음이 필요하다.
이후 더 빠르게 수렴하는 급수들이 잇따라 나오면서 손 계산의 한계도 크게 밀려났다. 1706년 매친(John Machin)은 아크탄젠트를 이용한 공식으로 소수 100자리를 손으로 계산해 냈다. 1873년에는 섄크스(William Shanks)가 무려 707자리를 발표했다. 그러나 70여 년이 지나 그의 계산이 527자리부터 틀렸음이 드러났다. 평생에 가까운 노동의 결말이 오류였던 셈이다. 사람의 손이 닿을 수 있는 끝이 어디인지를 보여 준 사건이기도 했다.
이 무렵 원주율은 비로소 자기만의 기호를 얻었다. 오랫동안 이 수에는 표준 기호가 없어, '지름에 곱하면 둘레가 되는 그 양' 같은 긴 라틴어 문장으로 풀어 써야 했다. 1706년 웨일스의 수학자 존스(William Jones)가 그리스어로 '둘레'를 뜻하는 단어(περιφέρεια)의 첫 글자를 따 π를 처음 사용했고, 18세기 최고의 수학자로 꼽히는 오일러(Leonhard Euler)가 이를 받아들여 널리 퍼뜨렸다. 매번 3.1415…를 적는 대신 글자 하나로 부를 수 있게 되자, 원주율은 하나의 상징으로 자리 잡았다.
20세기 후반, 무대는 사람의 손에서 기계로 넘어갔다. 20세기 초 인도의 수학자 라마누잔(Srinivasa Ramanujan)이 남긴 놀랍도록 빠른 급수, 그리고 1988년 추드노프스키(Chudnovsky) 형제가 정리한 공식이 컴퓨터의 폭발적인 계산력과 맞물리자, 자릿수는 그야말로 폭주하기 시작했다.
1980년대부터 2000년대까지 미국과 일본은 슈퍼컴퓨터의 힘을 과시하는 무대로 원주율을 택했다. 도쿄대학의 카나다 야스마사(Yasumasa Kanada)는 수억, 수십억, 수천억 자리로 기록을 거듭 경신했고, 미국에서는 추드노프스키 형제가 아파트에서 손수 조립한 컴퓨터로 수십억 자리를 뽑아냈다. 두 나라의 경쟁은 사실상 누구의 계산 기계가 더 강한가를 겨루는 시합이었다.
오늘날의 규모는 그 시절과도 차원이 다르다. 2022년 한 클라우드 사업자가 100조 자리를 계산했고, 이후 기록 경쟁이 이어져 2025년 말 기준 약 314조 자리까지 도달했다. 흥미로운 점은, 이 정도 규모에서는 계산의 진짜 한계가 더 이상 연산 속도가 아니라는 사실이다. 수십에서 수백 페타바이트(1페타바이트는 100만 기가바이트)에 이르는 중간 데이터를 끊임없이 읽고 쓰는 저장장치의 속도가 발목을 잡는다. 최근의 기록 도전은 수개월간 단 한 번의 오류도 없이 돌아간 저장장치의 안정성 그 자체가 성과로 꼽힐 정도다.
그렇다면 314조 자리는 대체 어디에 쓰일까? 다소 맥 빠지는 답이지만, 현실의 물리 계산에는 거의 쓸모가 없다. 우주에서 가장 정밀한 계산을 하는 곳조차 그렇다.
미국 항공우주국(NASA)의 제트추진연구소는 행성 사이를 오가는 탐사선의 항행이라는 가장 정밀한 계산에도 원주율을 소수 15자리(3.141592653589793)까지만 쓴다. 그 이상은 필요가 없기 때문이다. 한 연구소 책임자는 이렇게 설명한 적이 있다. 지름이 약 300억 마일(약 480억 km)에 이르는 거대한 원의 둘레를 이 15자리 값으로 계산해도, 정확한 값과의 오차는 1cm가 채 되지 않는다.
그렇다면 상상할 수 있는 가장 큰 계산은 어떨까. 관측 가능한 우주 전체(반지름 약 460억 광년)를 하나의 원으로 보고, 그 둘레를 수소 원자 하나의 폭만큼의 정밀도로 재고 싶다고 하자. 이때 필요한 원주율은 고작 소수 약 37자리다.
인간이 상상할 수 있는 가장 큰 것(우주 전체)과 가장 작은 것(원자 하나) 사이의 모든 계산이, 원주율 마흔 자리 안에 너끈히 들어간다. 그 너머의 수조 자리는 자연을 재기 위한 것이 아니다. 그것은 다른 목적을 위한 숫자다.
그렇다면 왜 굳이 계산하는가. 첫째, 그것은 슈퍼컴퓨터와 저장장치의 성능과 안정성을 몇 달간 쉼 없이 몰아붙이는 가혹한 시험대다. 원주율 계산은 결과의 정답을 미리 알 수 있어, 기계가 제대로 작동하는지 확인하기에 안성맞춤이다. 둘째, 새로운 계산 알고리즘을 검증하고 기존 결과와 교차 확인하는 수단이 된다. 셋째, 원주율의 수학적 성질을 들여다보는 거대한 실험이기도 하다. 그리고 솔직히 인정하자면, 기록 그 자체가 주는 매력도 무시할 수 없다.
원주율의 소수 행렬은 아무런 규칙이 없어 보인다. 실제로 통계학자들이 들이대는 무작위성 검사를 줄줄이 통과한다. 어느 숫자가 다른 숫자보다 자주 나오지도 않고, 특정한 배열이 두드러지지도 않는다. 겉보기에는 완벽한 혼돈이다.
하지만 한 가지는 분명히 해 두어야 한다. 원주율은 '무작위 수'가 아니다. 그 자릿수는 모두 이미 정해져 있고 결코 변하지 않는다. 소수 둘째 자리는 언제나 4다. '다음에 어떤 숫자가 나올 확률은 얼마인가'라고 물을 수조차 없다. 답이 이미 고정되어 있기 때문이다. 주사위처럼 던질 때마다 달라지는 무작위와는 본질이 다르다.
그래서 수학자들이 던지는 진짜 질문은 따로 있다. 원주율은 정규수(normal number)인가. 정규수란, 0부터 9까지 모든 숫자가 똑같은 비율(각각 10분의 1)로, 두 자리 조합도 세 자리 조합도 각각 똑같은 비율로 나타나는 수를 말한다. 값은 완전히 결정되어 있으면서도, 자릿수의 분포만큼은 완벽히 고른 수다.
여기에 이 이야기의 가장 깊은 매듭이 있다. 원주율이 정규수라는 것은 아직 추측일 뿐, 증명되지 않았다. 더 놀라운 사실도 있다. 2의 제곱근이나 자연로그의 밑(e)처럼 자연스럽게 등장하는 수학 상수들 가운데, 정규수임이 증명된 것도, 아니라고 반증된 것도 단 하나 없다. 수조 자리를 들여다봐도 고르게 보인다는 '관찰'과, 영원히 고를 것이라는 '증명' 사이에는 여전히 깊은 골이 가로놓여 있다.
이 무질서 속에도 가끔 눈에 띄는 손님이 있다. 소수점 아래 762번째 자리에서 9가 연달아 여섯 번 등장하는데, 이렇게 이른 위치에서 같은 숫자가 여섯 번이나 줄지어 나올 확률은 꽤 낮다. 한 물리학자가 "여기까지 외워서 '…구구구구구구, 그리고 계속'이라고 읊고 싶다"고 농담했다는 일화 덕에 이 자리에는 별명까지 붙었다(실제 출처는 분명치 않다). 끝없는 혼돈 속에서 잠깐 고개를 내미는 질서처럼 보이는 대목이다.
만약 원주율이 정말 정규수라면, 한층 아찔한 결론이 따라온다. 상상할 수 있는 모든 유한한 숫자 배열이 — 당신의 생일, 전화번호, 심지어 이 글 전체를 숫자로 바꾼 것까지 — 원주율의 소수 어딘가에 반드시 등장하게 된다. 아직 증명되지 않은, 그래서 더 매혹적인 '만약'이다.
원주율을 단순한 도형의 상수로만 여기면 그 정체를 절반밖에 보지 못한 것이다. 원주율은 원이 전혀 보이지 않는 곳에서도 불쑥불쑥 나타난다.
바늘을 던져 보면 안다. 일정한 간격으로 평행선이 그어진 바닥에 바늘을 무수히 떨어뜨린 뒤, 선에 걸친 바늘의 비율을 세어 보자. 그 비율 속에서 원주율이 튀어나온다. 원을 단 한 번도 그리지 않고 오로지 확률만으로 원주율을 재는 방법이다. 18세기에 고안된 이 실험은 '바늘 던지기 문제'(Buffon's needle)로 불린다.
제곱수의 역수를 끝없이 더해도 원주율이 모습을 드러낸다.
원과는 아무 상관 없어 보이는 이 합이 원주율의 제곱을 6으로 나눈 값으로 수렴한다는 사실은 18세기 오일러가 밝혀냈다. 또 수학에서 가장 아름다운 식으로 자주 꼽히는 오일러 항등식 eiπ + 1 = 0에서는, 수학의 가장 기본이 되는 다섯 상수가 한 줄에 단정하게 모인다. 이처럼 원주율은 파동과 진동, 확률, 양자역학 곳곳에 스며 있다. 단순한 도형의 비율을 넘어, 자연을 기술하는 문법의 한 자리를 차지하고 있는 셈이다.
원주율의 자릿수를 외우는 일은, 따지고 보면 2의 제곱근이나 자연로그의 밑을 외우는 일과 똑같이 어렵다. 모두 끝없이 이어지는 무리수이기 때문이다. 그런데 사람들은 유독 원주율을 외운다. 거기에는 수의 성질이 아니라 문화적 지위가 작용한다.
오래전부터 사람들은 문장 속 단어의 글자 수로 자릿수를 기억하는 요령을 써 왔다. 예컨대 영어 문장 "How I want a drink, alcoholic of course, after the heavy lectures involving quantum mechanics"에서 각 단어의 글자 수를 차례로 읽으면 3·1·4·1·5·9·2·6·5·3·5·8·9·7·9, 곧 3.14159265358979가 된다. 단어 하나하나가 숫자 하나를 품는 셈이다.
기록의 영역으로 가면 규모가 달라진다. 공인된 암송 기록은 한 도전자가 약 열 시간 동안, 그것도 눈을 가린 채 외워 낸 7만 자리다. 인간의 기억이 어디까지 닿을 수 있는지를 보여 주는 한편, 어떤 실용적 목적도 없는 순수한 도전이라는 점에서 원주율 계산 기록과 묘하게 닮아 있다.
결국 원주율을 특별하게 만드는 것은 수 자체의 성질이라기보다, 가장 단순한 질문에서 가장 깊은 수수께끼로 곧장 이어지는 그 여정에 대한 인간의 매혹이다.
원 하나를 가로지르고 그 둘레를 따라 도는 일. 이보다 단순한 행위에서 끝나지 않는 소수, 아직 증명되지 않은 무작위성, 우주와 원자를 잇는 정밀도, 그리고 수천 년에 걸친 추격이 모두 흘러나왔다. 원주율은 단순함이 곧 빈약함은 아니라는 것을, 가장 기본적인 것 안에 가장 깊은 것이 숨어 있을 수 있다는 것을 보여 주는 수다. 다음에 3.14를 마주치거든, 그 뒤로 영원히 이어지는, 아직 아무도 끝을 보지 못한 숫자의 행렬을 잠시 떠올려 봄 직하다.