인공지능의 대부 — 그리고 자신이 일으킨 혁명을 가장 강하게 경고한 사람
제프리 힌튼은 신경망(neural network, 인공신경망)이 학문적 변방으로 취급되던 시기부터 40년 넘게 그 분야를 붙들었던 영국·캐나다 국적의 인지심리학자이자 컴퓨터 과학자입니다. 그가 동료들과 함께 다시 살려낸 역전파(backpropagation) 알고리즘과 볼츠만 머신(Boltzmann machine)은 현대 딥러닝(deep learning, 심층학습)의 골격을 이루었고, 2012년 그의 토론토 연구실에서 나온 AlexNet(알렉스넷)은 컴퓨터 비전(computer vision, 시각 인식)의 양상을 단숨에 바꾸어 놓았습니다. 2018년 ACM(Association for Computing Machinery, 미국 컴퓨터학회) 튜링상(Turing Award)을 공동 수상하였고, 2024년에는 노벨 물리학상을 받았습니다. 그러나 2023년, 그는 자신이 평생을 바친 기술의 위험을 자유롭게 말하기 위해 구글(Google)을 떠난다고 선언하며 또 한 번 세계의 주목을 끌었습니다.
제프리 에버레스트 힌튼(Geoffrey Everest Hinton)은 1947년 12월 6일 런던 윔블던에서 태어났습니다. 그의 가족은 영국 지성사의 한 흐름을 그대로 보여 줍니다. 외고조부(great-great-grandfather)는 조지 불(George Boole) 로, 그가 만든 부울 대수(Boolean algebra)는 오늘날 모든 디지털 컴퓨터의 논리 회로 기반이 되었습니다. 부울의 부인이자 힌튼의 외고조모인 메리 에버레스트 불(Mary Everest Boole)은 수학자 겸 교육가였으며, 그녀의 삼촌인 인도 측량 총감 조지 에버레스트(George Everest)의 이름이 바로 세계 최고봉 에베레스트산에 붙은 그 이름입니다. 힌튼의 가운데 이름 "에버레스트"는 이 외척의 가문에서 받아 온 것입니다.
아버지인 하워드 에버레스트 힌튼(Howard Everest Hinton)은 영국 브리스틀 대학교의 곤충학(entomology) 교수로, 1967년 영국 왕립학회(Royal Society) 회원이 된 저명한 학자였습니다. 친척 가운데에는 미국 맨해튼 프로젝트(Manhattan Project)에 참여한 핵물리학자 조운 힌튼(Joan Hinton), 4차원 기하학을 가시화한 수학자 찰스 하워드 힌튼(Charles Howard Hinton, 친증조부)도 있습니다. 어머니 마거릿 클라크(Margaret Clark)는 학교 교사였고, 외삼촌 콜린 클라크(Colin Clark)는 옥스퍼드 출신 경제학자로 국민총생산(GNP, Gross National Product) 개념을 정립한 인물입니다.
이런 가계의 지적 무게는 어린 힌튼에게 자랑인 동시에 부담이었습니다. 그는 훗날 인터뷰에서, 아버지의 권위주의적 분위기와 가문의 기대가 자신을 무겁게 짓눌렀다고 회고합니다.
힌튼은 케임브리지 대학교 킹스 칼리지(King's College, Cambridge)에 진학하지만, 무엇을 공부할지를 정하는 데에 오랜 시간이 걸렸습니다. 그는 생리학, 철학, 물리학 사이를 옮겨 다닌 끝에 1970년 마침내 실험심리학(experimental psychology) 학사 학위를 받습니다. 그가 줄곧 던지고 있던 질문은 단순했습니다 — "사람의 뇌는 어떻게 학습하는가."
학부를 마친 뒤에는 잠시 목수 일을 하기도 했으나, 결국 그는 에든버러 대학교(University of Edinburgh)로 옮겨 크리스토퍼 롱뉴엣 히긴스(Christopher Longuet-Higgins) 교수 아래에서 박사과정을 시작합니다. 당시 영국과 미국의 주류 인공지능 학계는 기호주의(symbolic AI) — 즉 사람이 규칙을 손으로 명시해 컴퓨터에 주입하는 방식 — 가 지배하고 있었고, "뇌처럼 무작위 가중치(weights)에서 시작하여 학습으로 복잡한 행동을 만들어낼 수 있다"는 신경망적 접근은 거의 조롱의 대상이었습니다. 지도교수마저 그에게 신경망 연구를 만류하였습니다. 그러나 힌튼은 멈추지 않고 끝내 1978년 인공지능(AI) 박사 학위를 받았습니다.
1970년대의 학계 분위기는, 누군가가 "사람이 뇌수술 도구를 들고 직접 회로를 짜는 대신, 그저 어린아이에게 사진 수만 장을 보여 주기만 해도 알아서 배운다"는 주장을 펼치는 것과 비슷했습니다. 당시 다수의 컴퓨터 과학자에게 이 주장은 비현실적이고 비효율적인 낭만에 가깝게 들렸고, 정부와 군의 연구비도 거의 흘러 들지 않았습니다. 힌튼이 평생 부딪힌 회의론의 벽은 바로 이 분위기였습니다.
박사 학위 후 힌튼은 영국에서 자리를 구하기가 쉽지 않았습니다. 그는 잠시 서식스 대학교(University of Sussex)와 영국 의학연구위원회(MRC, Medical Research Council)의 응용심리학 부서에서 일한 뒤, 영국에서 연구비가 풀리지 않자 미국으로 건너갑니다. 1978년부터 1980년까지 그는 UC 샌디에이고(UC San Diego) 심리학과의 방문 학자로 일하며, 데이비드 러멜하트(David Rumelhart)와 제임스 매클렐랜드(James McClelland)가 이끄는 병렬 분산 처리(PDP, Parallel Distributed Processing) 그룹에 합류하였습니다. 이 그룹은 신경망이 다시 학문적으로 부활하는 결정적 결절점 중 하나였습니다.
1982년 그는 카네기멜런 대학교(CMU, Carnegie Mellon University) 교수로 부임하여 5년간 머물렀습니다. 1985년에는 테리 세즈노스키(Terry Sejnowski), 데이비드 액리(David Ackley)와 함께 볼츠만 머신(Boltzmann machine) 을 제안하는 논문을 Cognitive Science 지에 발표하였으며, 이는 통계물리학의 확률적 개념(에너지 함수, 깁스 분포)을 학습 알고리즘으로 끌어들인 작품으로, 훗날 2024년 노벨 물리학상이 그의 손에 들어오게 되는 핵심 근거가 됩니다.
그러나 더 결정적인 사건은 1986년 에 있었습니다. 그는 데이비드 러멜하트, 로널드 윌리엄스(Ronald J. Williams)와 함께 Nature 지에 "Learning representations by back-propagating errors(오차 역전파를 통한 표현 학습)" 라는 논문을 발표하여, 다층 신경망을 학습시킬 수 있는 역전파 알고리즘을 학계 주류에 사실상 처음 각인시켰습니다. 역전파 자체는 폴 워보스(Paul Werbos) 등에 의해 1970년대에 이미 제안된 바 있었지만, 다층 신경망 학습 문제 전반과 결합하여 학계의 패러다임을 흔든 사건은 이 논문이었습니다.
여러 단계의 공정을 거치는 공장이 있다고 합시다. 마지막 검수에서 불량품이 나왔다면, 우리는 가장 가까운 공정부터 거꾸로 짚어 올라가 "이 단계의 이 손잡이를 조금만 더 돌렸어야 했다"는 식으로 책임 비율을 따져 나갑니다. 역전파는 이와 똑같은 일을 신경망에서 수학적으로 자동화한 절차입니다. 최종 출력의 오차(error)를 측정한 뒤, 그 오차를 거꾸로 거슬러 올라가며 각 가중치가 오차에 얼마만큼 기여했는지 미분을 통해 계산하고, 모든 가중치를 그만큼씩 조금씩 조정합니다. 이 단순한 아이디어가 수많은 층(layer)을 가진 깊은 신경망의 학습을 비로소 가능하게 만들었습니다.
1987년, 힌튼은 미국을 떠나 캐나다 토론토 대학교로 옮깁니다. 그가 미국을 떠난 이유는 한 가지가 아니었습니다. 그는 일관된 사회주의자(socialist)였고, 로널드 레이건(Ronald Reagan) 행정부의 보수적 정치, 특히 인공지능 연구비의 상당 부분이 미국 국방부에서 흘러나오는 구조와 군사 응용에 대한 반감을 분명히 했습니다. 같은 해 그는 캐나다 고등연구원(CIFAR, Canadian Institute for Advanced Research)의 첫 펠로로 임명되었고, 이 임명은 이후 수십 년에 걸친 캐나다 AI 생태계의 출발점이 됩니다.
1998년부터는 잠시 런던으로 돌아가 유니버시티 칼리지 런던(UCL)의 가츠비 계산신경과학 부서(Gatsby Computational Neuroscience Unit)를 설립·초대 소장으로 일하다가, 2001년 토론토로 다시 돌아옵니다. 1990년대 후반에서 2000년대 초반은 신경망에게는 사실상 두 번째 "AI 겨울"이었습니다. 서포트 벡터 머신(SVM, Support Vector Machine)을 비롯한 기법들이 더 깔끔한 이론적 보장을 제공하던 시기에, 다층 신경망은 충분히 깊게 학습되지 않아 큰 데이터셋에서 그다지 좋은 성능을 내지 못하였습니다.
바로 이 침체기 한복판에서 힌튼이 만든 작은 균열이 결국 세상을 바꿉니다. 2006년 그는 "A Fast Learning Algorithm for Deep Belief Nets(딥 빌리프 망의 빠른 학습 알고리즘)" 을 발표하며 심층 신뢰망(DBN, Deep Belief Network) 의 사전훈련(pretraining) 기법을 제시합니다. 깊은 신경망을 한 층씩 비지도(unsupervised) 방식으로 미리 학습시킨 뒤 마지막에 미세조정(fine-tuning)으로 마무리하면, 그동안 풀리지 않던 깊은 망의 학습이 비로소 작동한다는 것이었습니다. "딥러닝(deep learning)"이라는 용어가 이 시기부터 본격적으로 회자되기 시작합니다.
2009년경부터 힌튼의 토론토 연구실은 그래픽 처리 장치(GPU, Graphics Processing Unit)를 이용한 신경망 훈련을 본격적으로 실험하기 시작합니다. 시간이 흐른 2011년, 힌튼은 동료 연구자들에게 "신경망이 미래라는 사실을 어떻게 하면 당신에게 납득시킬 수 있겠습니까?"라는 질문을 던지고 다녔다고 회상합니다. 회의주의자이던 UC 버클리의 지텐드라 말리크(Jitendra Malik)는 그에게 PASCAL VOC 챌린지(PASCAL Visual Object Classes challenge)를 권했고, 힌튼이 데이터셋이 너무 작다고 답하자 다시 페이페이 리(Fei-Fei Li)의 이미지넷(ImageNet) 챌린지를 권했습니다.
2012년, 힌튼의 박사과정 학생이던 알렉스 크리제프스키(Alex Krizhevsky) 와 일리야 수츠케버(Ilya Sutskever) 는 "SuperVision(슈퍼비전)"이라는 이름으로 그해의 ImageNet 대규모 시각 인식 챌린지(ILSVRC, ImageNet Large Scale Visual Recognition Challenge)에 출전합니다. 그들의 모델 AlexNet 은 약 6천만 개의 파라미터(parameter)와 65만 개의 뉴런으로 이루어진 8층 합성곱 신경망(CNN, Convolutional Neural Network)이었으며, 두 장의 엔비디아(NVIDIA) GPU와 CUDA(쿠다, Compute Unified Device Architecture)로 훈련되었습니다. 결과는 상위 5위 오차율(top-5 error rate) 15.3%로, 차순위 모델보다 10% 포인트 이상 앞선 압도적 격차였습니다.
이 결과를 본 컴퓨터 비전 분야는 그 후 거의 모든 논문이 신경망 기반으로 재편되었고, 산업계도 즉시 움직였습니다. 힌튼은 즉시 크리제프스키, 수츠케버와 함께 DNNresearch Inc.(디엔엔리서치) 라는 작은 회사를 세웠고, 2013년 3월 구글이 이 회사를 약 4천 4백만 달러에 인수합니다. AlexNet의 2012년 원본 소스 코드는 2025년 컴퓨터 역사 박물관(CHM, Computer History Museum)과 구글의 협업으로 공개되었습니다. 후일 힌튼은 이 작업을 두고 농담조로 한 줄 요약을 남겼습니다 — "일리야가 하자고 했고, 알렉스가 작동시켰고, 나는 노벨상을 받았다."
2013년부터 힌튼은 구글의 부사장 겸 엔지니어링 펠로(Engineering Fellow)로 일하며 구글 브레인(Google Brain)의 딥러닝 연구를 이끌었습니다. 동시에 토론토 대학교 교수직도 유지하여 두 곳에 시간을 나누어 썼습니다. 음성 인식, 이미지 태깅, 검색 등 구글의 핵심 제품 다수에 딥러닝이 본격적으로 스며든 데에는 그가 책임을 진 시기의 영향이 컸습니다.
2017년에는 토론토에 벡터 인스티튜트(Vector Institute) 를 공동 설립하고 최고 과학 자문(chief scientific advisor)을 맡았습니다. 벡터 인스티튜트는 캐나다 정부의 범국가 AI 전략의 한 축으로, 토론토를 북미 딥러닝 연구의 중심 중 하나로 굳히는 데 결정적 역할을 하였습니다.
학술적으로도 이 시기는 활발했습니다. 그는 2008년 로런스 판데르마턴(Laurens van der Maaten)과 함께 고차원 데이터를 2차원·3차원으로 시각화하는 t-SNE(t-Stochastic Neighbor Embedding) 기법을 발표하였고, 이는 오늘날까지 딥러닝 결과를 들여다보는 가장 흔한 시각화 도구가 되었습니다. 2017년에는 캡슐 신경망(Capsule Network)을 제안하며 합성곱 신경망의 한계를 짚는 작업을 이어갔습니다.
2023년 5월, 힌튼은 약 10년간 몸담은 구글에서 물러난다고 공식적으로 발표합니다. 그는 자신의 사임 이유를 "AI의 위험에 대해 자유롭게 말하기 위해서"라고 밝혔으며, 이때부터 본격적인 공개 경고자(public warner)의 행보가 시작됩니다.
힌튼은 크게 세 갈래의 위험을 거론합니다. 첫째, 악의적 행위자(malicious actors)에 의한 의도적 오용 — 허위 정보의 대규모 자동 생성, 사이버 공격, 자율 무기 등입니다. 둘째, 기술적 실업(technological unemployment) — 단순 노동뿐 아니라 화이트칼라 직업 전반이 빠르게 대체될 수 있다는 우려입니다. 셋째, 인간보다 똑똑한 범용 인공지능(AGI, Artificial General Intelligence)이 등장하였을 때의 실존적 위험(existential risk)입니다.
그는 한 인터뷰에서 자기 일생의 작업 중 일부분에 대해 후회한다고 말하기도 했습니다. 동시에 그는 이 위험을 정부 규제 없이 기업의 이윤 동기에만 맡길 수는 없다고 거듭 강조해 왔으며, 이 점에서 자신의 옛 공동수상자인 얀 르쿤(Yann LeCun, "AI는 오히려 인류를 멸종에서 구할 수 있다"고 주장)과 공개적으로 입장을 달리하고 있습니다.
2018년, 힌튼은 요슈아 벤지오(Yoshua Bengio), 얀 르쿤과 함께 ACM 튜링상 을 공동 수상합니다. 컴퓨팅 분야의 "노벨상"이라 불리는 이 상은 세 사람이 딥러닝의 개념적·공학적 돌파를 통해 현대 컴퓨팅의 핵심 구성요소를 만든 데 대한 공로를 인정한 것이었습니다. 이때부터 세 사람은 "딥러닝의 대부들(Godfathers of Deep Learning)"로 함께 불리게 됩니다.
더 큰 사건은 6년 뒤인 2024년 10월 8일 에 찾아왔습니다. 스웨덴 왕립 과학원은 그 해 노벨 물리학상을 힌튼과 미국 프린스턴 대학의 존 홉필드(John J. Hopfield)에게 공동 수여한다고 발표하였습니다. 수상 이유는 "인공 신경망을 이용한 기계 학습을 가능하게 한 근원적인 발견과 발명에 대하여(for foundational discoveries and inventions that enable machine learning with artificial neural networks)"였으며, 위원회는 특히 힌튼의 볼츠만 머신을 그 핵심 사례로 언급하였습니다.
컴퓨터 과학자에게 물리학상이 주어졌다는 점은 학계의 화제가 되었습니다. 힌튼 본인도 이 사실을 의식하여, 한 기자가 그에게 볼츠만 머신이 역전파 신경망을 어떻게 "사전훈련"시킬 수 있는지를 더 쉽게 설명해 달라고 청하자, 그는 리처드 파인만(Richard Feynman)이 했다는 말을 인용하여 답하였습니다 — "이봐, 만일 내가 그것을 몇 분 만에 설명할 수 있다면, 그것은 노벨상을 받을 일이 아니었을 거야." 한편 그는 노벨상 발표 전화를 받은 순간 인터넷도 없는 캘리포니아의 한 저렴한 호텔 방에 머물고 있었다고 회고합니다.
이 외에도 그의 수상 이력은 길고 화려합니다 — 2001년 첫 데이비드 러멜하트 상(David E. Rumelhart Prize), 2010년 캐나다 최고 과학상인 거하르트 헤르츠베르크 캐나다 골드 메달(Gerhard Herzberg Canada Gold Medal), 2016년 IEEE 제임스 클러크 맥스웰 메달(IEEE James Clerk Maxwell Medal), 2018년 캐나다 훈장 컴패니언(Companion of the Order of Canada), 2022년 아스투리아스 공주상(Princess of Asturias Award) 등이 있으며, 2025년에는 벤지오·르쿤·홉필드·젠슨 황(Jensen Huang)·페이페이 리·빌 댈리(Bill Dally)와 함께 퀸 엘리자베스 공학상(Queen Elizabeth Prize for Engineering) 을 공동 수상하였습니다.
2024년 12월 무렵 힌튼은 "AI가 향후 30년 이내에 인류를 멸종시킬 확률이 약 10~20%"라는 추정치를 공개적으로 거론하며, 자신의 이전 발언(시간 표기 없이 "약 10%")보다 한층 비관적인 입장으로 옮겨 갔습니다. 또한 그는 대부분의 전문가가 향후 20년 안에 AI가 사람보다 똑똑해질 것으로 본다고 덧붙이며, 이는 기업의 이윤 동기에만 맡겨 둘 일이 아니므로 정부 규제가 불가피하다고 주장하였습니다.
2025년 8월 라스베이거스의 Ai4 컨퍼런스에서 그는 또 한 번 화제의 발언을 남깁니다. AGI 도래 시점에 대한 그의 전망은 30~50년에서 5~20년 으로 짧아졌으며, 동시에 그는 초지능 AI를 사람이 "복종(submissive)"시키려는 접근은 실패할 가능성이 높다고 보았습니다. 그가 대안으로 내놓은 표현이 바로 "모성 본능(maternal instincts)" 입니다.
힌튼의 논리는 이렇습니다. 자연계에서 "더 똑똑한 존재가 덜 똑똑한 존재에게 자발적으로 통제되는" 거의 유일한 사례는, 부모가 어린 자식에게 자발적으로 휘둘리는 관계라는 것입니다. 갓난아기는 어머니보다 똑똑하지도 강하지도 않지만, 어머니는 본능적으로 아기를 해치지 않고 보호합니다. 그는 사람이 초지능 AI보다 영영 더 똑똑할 수는 없다고 보기 때문에, AI에게 "지시 받는 종속자"의 자리를 강제하기보다 "보살피는 모성"의 본능을 새기는 방향이 유일한 통제 모델이라고 주장합니다. 단, 그 본능을 어떻게 기술적으로 구현할지는 자신도 모른다고 솔직히 인정합니다.
2025년 10월, 그는 벤지오와 함께 다수의 노벨상 수상자, 학자, 그리고 애플(Apple) 공동 창업자 스티브 워즈니악(Steve Wozniak) 등이 서명한 AGI 개발의 일시적 중단(suspension)을 촉구하는 공개 성명 에 이름을 올렸습니다. 이 성명은 2023년에 있었던 또 다른 공개 서한의 연장선 위에 있으며, 정부 차원의 본격적 안전 연구와 규제를 요청합니다.
그의 기여는 한두 줄로 요약하기 어렵습니다. 가장 굵직한 줄기를 모으면 다음과 같습니다.
힌튼은 자신을 일관된 사회주의자로 규정해 왔으며, AI의 군사적 응용에 대한 거부감과 미국 정치에 대한 환멸이 그를 캐나다로 이끌었다고 본인이 밝혀 왔습니다. 그는 1980년대 이래 만성적 허리 통증으로 거의 항상 서서 일하거나 누워서 일해야 하는 것으로 알려져 있으며, 강의나 회의도 대부분 서서 진행합니다. 그의 강의 스타일은 농담과 직관적 비유를 자주 곁들이는 것으로 유명합니다.
학문적으로 그는 정확함보다는 직관과 비유로 사람을 설득하려는 쪽에 가깝다는 평가를 받습니다. 동료들은 그가 "신경망이 결국 통할 것"이라는 신념을 30년 가까이 유지한 것이 결국 분야 전체를 다시 살린 가장 큰 원동력이었다고 말합니다. 일부 비판가, 특히 유르겐 슈미트후버(Jürgen Schmidhuber)는 힌튼과 동료들이 워보스와 신이치 아마리(Shun-Ichi Amari) 같은 1970년대 선행 연구를 충분히 인정하지 않았다고 주장해 왔으며, 우선권을 둘러싼 이 논쟁은 여전히 진행 중입니다.
힌튼의 경력은 학문의 변두리를 끝까지 붙들고 있던 한 사람의 신념이 어떻게 한 시대를 만드는가를 보여 주는 사례에 가깝습니다. 그는 1970년대에 거의 모두가 비웃은 신경망에 평생을 걸었고, 1986년의 역전파, 2006년의 깊은 신뢰망, 2012년의 AlexNet이라는 세 번의 결정적 순간을 통해 자신의 학문 분야 전체를 한 단계씩 끌어 올렸습니다. 그러나 2024년 노벨 물리학상을 받은 직후의 그는, 자신이 만든 분야가 지나치게 빠르고 통제 없이 자라난다는 사실에 가장 큰 우려를 표하는 인물이 되었습니다. 인공지능의 대부라는 칭호가 그에게 모순적으로 어울리는 까닭이 여기 있습니다 — 그는 자신이 키운 자식의 미래를 가장 진지하게 걱정하는 부모의 자리에서 지금도 말하고 있습니다.