2026년 1월 스위스 다보스에서 열린 세계경제포럼(World Economic Forum, WEF) 연차총회에 "AGI 다음 날(The Day After AGI)"이라는 제목의 세션이 마련되었다. 무대에는 현재 인공지능(Artificial Intelligence, AI) 분야를 이끄는 두 인물이 마주 앉았다. 구글 딥마인드(Google DeepMind)의 최고경영자(Chief Executive Officer, CEO) 데미스 하사비스와 앤스로픽(Anthropic)의 CEO 다리오 아모데이다. 진행을 맡은 이코노미스트(The Economist) 편집장 자니 민턴 베도스는 이 자리를 두고 "비틀스와 롤링 스톤스의 대담을 동시에 사회하는 것 같다"고 표현했다. 범용 인공지능(Artificial General Intelligence, AGI)은 언제 도래하며, 도래한 다음 날 인류는 무엇을 마주하게 되는가. 이 글은 그 대화를 따라가며 핵심 쟁점을 일반 독자의 눈높이에서 풀어낸다.
본격적인 대담에 앞서 WEF에서 AI 안전을 담당하는 벤저민 라르센이 개념을 정리했다. 지능에는 좁은(narrow) 지능과 넓은(general) 지능이 있다. 좁은 지능은 한 가지 일에만 능숙하다. 반면 인간의 지능은 한 영역에 갇혀 있지 않고, 물리 세계를 두루 이해하고 상황에 맞춰 여러 일을 옮겨 다닌다. AGI는 바로 이 넓고 일반적인 지능을 가리킨다. 단순하고 좁게 설계된 시스템에서, 세계를 폭넓게 이해하고 인간과 비슷한 방식으로 다양한 과제를 수행하는 시스템으로 옮겨가는 흐름이다.
한 가지에만 뛰어난 체스 프로그램이 좁은 지능이라면, AGI는 체스도 두고 밥도 짓고 운전도 하며 처음 보는 일까지 배워 해내는 만능 일꾼에 가깝다. 기존 AI가 "한 종목 국가대표"였다면, AGI는 종목을 가리지 않고 어디에 던져 놓아도 곧잘 해내는 사람을 목표로 한다.
그렇다면 오늘날의 거대 언어 모델은 이미 일반 지능이 아닌가. 무엇이든 물어볼 수 있고 그럴듯하게 답하니 말이다. 라르센은 어느 정도는 그렇다고 인정하면서도, 아직 '일반'이라는 핵심이 빠져 있다고 짚었다. 한 영역에서 잘 작동하는 시스템을 다른 영역에 그대로 가져다 꽂아 인간처럼 자유롭게 과제를 갈아타게 만들려면 여전히 상당한 공학적 노력이 필요하다는 것이다. 다만 그 방향으로 가는 추세는 분명하다고 보았다.
그가 빌린 표현이 '들쭉날쭉한 지능(jagged intelligence)'이다. 지금의 AI는 어떤 영역에서는 인간을 압도하는 초인적 능력을 보인다. 방대한 지식을 통째로 머금고 신탁(oracle)처럼 즉답하는 식이다. 그러나 다른 영역에서는 "5분 전에 무슨 얘기를 했는지" 같은 단순한 맥락조차 놓친다. 한쪽은 박사, 한쪽은 초등학생인 셈이다.
AGI를 이야기할 때 자주 따라붙는 단어가 특이점(singularity)이다. AI가 인간이 이해하거나 통제할 수 있는 속도보다 더 빠르게 스스로를 개선하기 시작하는 가상의 시점을 뜻한다. 이 지점을 넘어서면 발전이 가속되어 예측 불가능한 사회 변화로 이어질 수 있다. 다만 모두가 특이점을 믿는 것은 아니다. 누군가는 기하급수적 성장을 점검하기 위한 사고 실험으로 다루고, 누군가는 지금부터 대비가 필요한 실제 위험으로 본다.
라르센이 공동의장으로 참여하는 WEF의 AGI 글로벌 미래위원회(요슈아 벤지오, 무라카미 아키코 공동의장)는 점진적 관점을 택한다. 어느 날 아침 잠에서 깨어 보니 갑자기 AGI가 도래해 있는 식이 아니라, 들쭉날쭉한 지능이 일부 영역부터 초인적 수준으로 올라서며 단계적으로 다가온다는 그림이다.
대담 내내 거듭 등장한 표현이 '루프를 닫는다(closing the loop)'이다. 지금까지의 AI는 대체로 한 방향이었다. 입력을 넣으면 출력이 나오고, 거기서 끝난다. 루프를 닫는다는 것은 시스템이 행동을 취하고, 그 결과를 관찰하고, 그에 맞춰 자신의 행동을 다시 고치는 순환을 갖춘다는 뜻이다. 인간이 답을 내놓는 데 그치지 않고 그 답의 함의를 따져보고, 부족한 지식을 더 찾고, 과제의 일부를 풀어본 뒤 처음 문제로 되돌아오는 방식과 닮았다. 이 순환은 자율성으로 가는 결정적 한 걸음이다.
기존 AI가 동전을 넣으면 정해진 음료가 나오는 자판기라면, 루프를 닫은 AI는 일을 시켜 보고 결과를 살펴 다음번에 더 잘하는 견습공에 가깝다. 자판기는 같은 입력에 같은 출력을 반복하지만, 견습공은 시행착오를 거치며 스스로 나아진다. 이 '스스로 나아짐'이 자율성의 씨앗이다.
그렇다고 AI가 당장 인간의 개입 없이 완전히 알아서 굴러가는 단계는 아니다. 라르센은 그렇게 보는 것은 한 걸음 앞서간 것이라고 선을 그었다. 다만 노트북을 통째로 맡기면 여러 일을 처리하는 '컴퓨터 사용 에이전트'처럼, 자율성을 키우는 방향으로 가고 있다는 점만은 분명하다고 했다. 자율성이 커질수록 새로운 위험과 거버넌스 과제도 함께 따라온다.
그가 든 사례가 오픈클로(OpenClaw)다. 여러 차례 이름을 바꾼 오픈소스 개인 AI 비서로, 이메일과 캘린더, 일정에 접근 권한을 주면 처음으로 쓸모 있는 개인 비서 노릇을 한다. 기존 에이전트들이 대체로 폐쇄형이고 특정 용도에 한정된 것과 달리, 누구나 손보고 권한을 부여할 수 있는 개방형이라는 점이 다르다. 그러나 경고도 따른다. 초기 단계의 에이전트에게 개인의 시스템 전반을 열어줄수록, 해커와 악성 행위가 파고들 공격 표면도 함께 넓어진다. 라르센은 모델 컨텍스트 프로토콜(Model Context Protocol, MCP)과 에이전트 간 프로토콜(Agent-to-Agent, A2A) 같은 기반 규약이 맞물리면서, 앞으로 훨씬 더 자율적인 에이전트의 시대가 올 것이라고 내다봤다.
두 사람이 가장 또렷하게 갈린 지점은 시간표였다. 아모데이는 지난해 파리에서 "여러 분야에서 노벨상 수상자 수준의 일을 해내는 모델이 2026~27년 안에 나올 것"이라고 예측했다. 2026년이 된 지금도 그는 크게 빗나가지 않을 것이라고 본다. 그가 그리는 메커니즘은 이렇다. 코딩과 AI 연구를 잘하는 모델을 만들고, 그 모델로 다음 세대 모델을 더 빠르게 만들어 발전 속도를 끌어올리는 순환이다. 이미 앤스로픽 내부에는 "더 이상 코드를 직접 쓰지 않고 모델이 쓴 코드를 다듬기만 한다"는 엔지니어가 있다고 했다. 그는 6~12개월 안에 모델이 소프트웨어 엔지니어의 일을 처음부터 끝까지 거의 다 해내는 시점이 올 수 있다고 보았다.
다만 그 순환이 얼마나 빨리 닫히느냐가 관건이다. 칩 제조나 모델 학습 시간처럼 AI가 가속할 수 없는 부분도 있기 때문이다. 그럼에도 그는 "사람들이 예상하는 것보다 빠르게" 갈 것이라는 쪽에 무게를 실었다.
하사비스는 한 해 전과 같은 시간표를 유지했다. 인간의 모든 인지 능력을 보이는 시스템이 나올 확률을 2030년경 50% 정도로 본다. 그는 코딩과 수학처럼 결과를 곧바로 검증할 수 있는 영역은 자동화하기 쉬운 반면, 자연과학은 다르다고 짚었다. 합성한 화합물이나 물리 예측이 맞는지는 실험으로 확인해야 하고, 그 과정은 더 오래 걸린다. 또 기존 문제를 푸는 것과 전에 없던 질문이나 가설을 처음 떠올리는 것은 차원이 다르며, 후자야말로 과학적 창의성의 최고 수준이라고 했다. 여기에는 아직 한두 개의 빠진 재료가 있을 수 있다는 것이다. 무엇보다 자기개선 순환이 사람 없이 실제로 닫힐 수 있는지가 핵심 변수로 남아 있다.
지난 1년 사이 경쟁 구도의 순서도 바뀌었다. 한 해 전에는 중국 스타트업 딥시크(DeepSeek)의 충격이 막 가신 참이었고, 구글 딥마인드가 오픈AI(OpenAI)에 뒤처졌다는 인식이 남아 있었다. 지금은 사정이 사뭇 다르다. 구글은 2025년 11월 제미나이(Gemini) 3를 내놓으며 선두권으로 복귀했고, 그 직후 오픈AI는 경쟁 압박 속에서 '코드레드(code red, 비상)'를 선언했다. 샘 올트먼이 2025년 12월 내부 메모로 핵심이 아닌 프로젝트를 멈추고 개발에 총력을 기울이라고 지시한 사건이다.
하사비스는 가장 깊고 넓은 연구 인력을 한데 모으고, 조직 전체에 스타트업의 강도와 집중을 되살리는 작업이었다고 설명했다. 제미나이 3 같은 모델과 제미나이 앱의 점유율 상승에서 그 진전이 보이기 시작했다는 것이다. 다만 아직 할 일이 많이 남아 있다는 단서도 잊지 않았다.
아모데이의 처지는 조금 다르다. 앤스로픽은 거대 기업에 속한 하사비스와 달리 독립 모델 개발사이고, 매출이 본격화되기 전까지 독립 개발사가 버틸 수 있느냐는 우려가 따라붙는다. 그는 모델이 똑똑해질수록 투입 연산량과 인지 능력, 그리고 그 능력과 벌어들이는 매출 사이에 기하급수적 관계가 있다고 답했다. 매출은 3년간 10배씩 늘었다. 2023년 0에서 1억 달러, 2024년 1억에서 10억 달러, 2025년 10억에서 100억 달러다. 그는 이 수치가 세계 최대 기업들의 규모에서 그리 멀지 않은 지점에 다가서고 있다고 보았다.
주 — 매출 수치는 아모데이가 발언한 값이며, 회사가 공개한 회계 실적이 아니다.
그는 구글과 앤스로픽이 닮은 점이 있다고 덧붙였다. 모델에 집중하는 연구자들이 이끌고, 세계의 중요한 문제를 풀어내는 어려운 과학적 과제를 북극성으로 삼는 회사라는 점이다. 앞으로 성공할 회사는 그런 유형이라는 것이 그의 진단이었다. 진행자가 "연구자가 이끌지 않는 회사는 어떻게 되느냐"고 떠보자, 그는 답하지 않을 것을 알기에 묻지 않겠다는 농담으로 받아넘겼다.
대화에서 가장 날이 선 주제는 일자리였다. 아모데이는 지난해 사무직 초급 일자리의 절반이 1~5년 안에 사라질 수 있다고 말해 논란을 빚었다. 진행자는 하사비스에게 먼저 물었다. 지금까지 노동시장에는 뚜렷한 충격이 보이지 않으며, 미국의 실업률 상승도 팬데믹 이후 과잉 고용의 조정일 뿐 AI 탓으로 보기 어렵다는 분석이 많다는 것이다.
하사비스는 단기적으로는 신기술이 도래할 때의 정상적인 진화가 일어날 것이라고 답했다. 일부 일자리는 사라지지만 더 가치 있고 어쩌면 더 의미 있는 새 일자리가 생긴다는 것이다. 올해부터 인턴이나 초급 일자리에 영향이 나타나기 시작할 수 있고, 채용 둔화의 조짐도 느낀다고 했다. 그러나 거의 무료로 누구에게나 열린 강력한 창작 도구가 그것을 충분히 상쇄할 수 있다고 보았다. 학부생을 만난다면 이 도구들에 믿기 어려울 만큼 능숙해지라고 권하겠다는 것이다. 만드는 사람조차 다 탐색하지 못할 만큼 오늘의 모델에도 쓰이지 않은 잠재력이 쌓여 있고, 그것을 익히는 편이 전통적인 인턴십보다 나을 수 있다고 했다.
아모데이도 발언 시점에 노동시장에 충격이 있었다고 주장한 것은 아니라고 했다. 다만 이제 소프트웨어와 코딩에서 그 시작의 조짐이 보이고, 앤스로픽 내부에서도 초급과 중급 인력이 더 적게 필요해지는 시점을 내다보게 된다고 했다. 그가 6개월 전 제시한 1~5년이라는 시간표는 그대로 유지했다.
노동시장은 농업에서 공장, 다시 지식노동으로 적응해 왔다. 그러나 기하급수가 계속 복리로 쌓이면 우리의 적응 능력을 압도할 수 있다.— 다리오 아모데이의 우려를 정리하면
여기서 두 사람의 시간표 차이가 다시 드러난다. 인간을 모든 면에서 능가하는 AI가 1~2년 안에 올 수 있다면, 노동시장의 적응 속도가 그 변화를 따라잡지 못할 수 있다는 것이 아모데이의 걱정이다. 그는 정부와 경제학자들이 이 변화의 규모를 충분히 가늠하고 정책을 준비하는 작업이 턱없이 부족하다고 지적했다. 하사비스도 AGI에 이르는 길 자체보다, 새로 생겨난 생산성과 부를 더 공정하게 나눌 제도가 우리에게 있는지가 더 큰 문제일 수 있다고 했다. 풍요가 넘치는 세계(post-scarcity)가 오더라도, 일자리에서 얻던 의미와 목적을 어떻게 대신할 것인가라는 질문이 남는다. 그는 인류가 극한 스포츠나 예술처럼 경제적 이득과 무관한 활동에서, 또 언젠가 별을 탐험하는 일에서 새로운 의미를 찾으리라는 낙관을 내비쳤다.
진행자는 AI에 대한 대중의 반발이 정부의 잘못된 대응을 부를 위험을 물었다. 1990년대 세계화 국면에서 일자리가 일부 사라졌는데 정부가 충분히 대응하지 못했고, 그 반발이 쌓여 오늘의 상황으로 이어졌다는 기억을 떠올린 것이다. 하사비스는 반발의 위험이 분명히 있으며 충분히 이해할 만하다고 했다. 그러면서 산업이 알파폴드(AlphaFold, 단백질 구조 예측 AI)처럼 명백히 이로운 사례를 더 많이 만들어 보여줘야 한다고 강조했다. 말로만이 아니라 실제로 질병을 치료하고 새 에너지원을 찾는 식으로 입증해야 한다는 것이다.
그는 기업 간 경쟁뿐 아니라 미국과 중국의 경쟁이 핵심 변수라고 보았다. 이 기술은 국경을 넘어 모든 인류에게 영향을 미치므로, 배치 단계의 최소 안전 기준 같은 국제 협력이나 이해가 절실하다는 것이다. 그는 페이스를 지금보다 조금 늦출 수 있다면 사회가 따라잡을 시간을 벌 수 있어 더 낫겠다고 했고, 진행자는 그의 시간표가 더 마음에 든다고 농담으로 응수했다.
아모데이는 지난 1년 사이 지정학 환경이 한층 복잡해졌다고 진단했다. 미국의 대중국 접근이 달라졌고, 한편으로는 칩을 중국에 판매하기도 한다. 그의 정책 권고는 그대로다. 칩을 팔지 않는 것이야말로 이 변화를 감당할 시간을 버는 가장 큰 수단이라는 것이다. 그는 칩만 넘기지 않으면 이 문제가 미국과 중국의 경쟁이 아니라 자신과 하사비스의 경쟁으로 좁혀지고, 그 정도는 충분히 풀 수 있다고 했다. 칩을 미국 공급망에 묶기 위해 판매한다는 논리에 대해서는, "보잉이 이익을 본다는 이유로 북한에 핵무기를 파는 것"에 빗대며 그 거래가 타당하지 않다고 일축했다.
마지막 큰 주제는 통제였다. 지난 1년 사이 모델이 기만(deception)이나 이중성을 보이는 사례가 관찰되면서, 강력하고 악의적인 AI를 우려하는 목소리가 커졌다. 아모데이는 앤스로픽이 출범 때부터 이 위험을 연구해 왔다고 했다. 초기 연구는 매우 이론적이었고, 모델의 '뇌' 속을 들여다보며 왜 그렇게 행동하는지 이해하려는 기계론적 해석 가능성(mechanistic interpretability)이라는 접근을 개척했다. 두 사람 모두 신경과학을 배경으로 가졌다는 점도 흥미롭다. 시간이 흐르며 모델의 바람직하지 않은 행동을 점점 더 많이 기록했고, 이제 그것을 해석 기법으로 다스리는 작업을 하고 있다는 것이다.
기계론적 해석 가능성은 속이 보이지 않는 블랙박스를 열어 회로를 들여다보는 일에 가깝다. 사람의 행동을 이해하려고 뇌를 영상으로 찍어 어느 부위가 활성화되는지 살피듯, 모델의 내부를 들여다보며 어떤 '생각의 회로'가 그 출력을 만들었는지 추적한다. 출력만 보고 판단하던 데서, 그 출력이 나온 까닭을 안에서부터 읽어내려는 시도다.
두 사람 모두 파멸론(doomerism)에는 회의적이다. "우리는 끝났고 할 수 있는 것이 없다"거나 파멸이 가장 가능성 높은 결말이라는 주장과는 거리를 둔다. 아모데이는 이것이 함께 노력하면 다룰 수 있는 위험이며, 과학을 통해 이 창조물을 제대로 통제하고 방향을 잡는 법을 배울 수 있다고 보았다. 다만 가드레일 없이 모두가 질주하듯 너무 빨리 가면 무언가 잘못될 위험이 있다는 단서를 달았다. 하사비스는 20여 년간 AI에 매달려 온 이유가 우주를 이해하는 궁극의 도구로서의 가능성 때문이라고 했다. 위험 역시 딥마인드 초기부터 염두에 두었으며, 강력한 도구는 곧 나쁜 행위자가 해로운 목적에 돌려쓸 수 있는 양날의 기술이기 때문이다. 그는 인간의 독창성을 믿는다고 했다. 충분한 시간과 집중, 최고의 인재가 협력할 환경만 갖춰진다면 기술적 안전 문제는 풀 수 있는, 다루기 쉬운 문제라는 것이다. 문제는 경쟁과 파편화가 바로 그 조건을 앗아갈 수 있다는 데 있다.
한 청중이 다소 철학적인 질문을 던졌다. 우주 어디에도 지적 생명의 흔적이 보이지 않는 페르미 역설(Fermi paradox)이야말로 파멸론의 강력한 논거가 아니냐는 것이다. 문명이 제 기술에 스스로 무너진다면, 그것이 우리가 외계 문명을 못 보는 이유일 수 있다는 발상이다.
아모데이는 그것이 이유가 될 수 없다고 답했다. 만약 AI가 문명을 멸망시킨다면 은하 어딘가에서 폭주한 AI가 만든 흔적, 이를테면 끝없이 종이클립을 만들어내며 다가오는 무언가나 거대한 인공 구조물이 보여야 하는데, 그런 것이 전혀 관측되지 않는다는 것이다. 그렇다면 다른 답이 있어야 한다. 그는 인류가 이미 위대한 여과기(great filter)를 통과했을 것이라고 추측했다. 가장 통과하기 어려웠던 관문은 아마 다세포 생명의 출현이었으리라는 것이다.
위대한 여과기는 생명이 별을 넘나드는 문명으로 자라기까지 거쳐야 하는 좁디좁은 병목이다. 수많은 알갱이 가운데 극히 일부만 빠져나가는 체와 같다. 그 병목이 우리 뒤에 있다면 앞날은 우리에게 달려 있고, 앞에 있다면 가장 위험한 관문이 아직 남아 있다는 뜻이다. 아모데이는 그 관문이 이미 지나간 쪽이라고 보았다.
이어 그는 위안이 될 만한 정해진 미래 같은 것은 없으며, 다음에 무엇이 일어날지는 인류가 직접 써 내려가는 것이라고 했다.
진행자가 내년에 다시 만난다면 무엇이 달라져 있을지 묻자, 두 사람의 답이 한 곳으로 모였다. 가장 주목할 것은 AI가 AI를 만드는 일이다. 그 순환이 한쪽으로 닫히느냐 마느냐가, 목표까지 몇 년이 더 걸릴지 아니면 경이로운 성취와 거대한 비상사태가 동시에 코앞에 닥칠지를 가른다. 하사비스는 여기에 세계 모델(world model), 지속 학습(continual learning), 그리고 로보틱스의 도약을 덧붙였다. 자기개선만으로 충분한 성과가 나오지 않는다면 이런 능력들이 풀려야 한다는 것이다.
AI가 AI를 만드는 순환은, 공장이 더 좋은 공장 기계를 스스로 설계하고 만들어 다음 라인을 깔고, 그 라인이 또 더 나은 기계를 찍어내는 장면에 가깝다. 사람이 한 단계 한 단계 손볼 필요가 줄어들수록 속도는 복리로 붙는다. 두 사람이 입을 모은 단 하나의 관전 포인트가 바로 이 순환이 사람 없이 닫히는 순간이다.
대담은 두 사람이 같은 바람을 내비치며 끝났다. 기술의 발전 속도를 조금 늦출 수 있다면 세계에 더 나으리라는 것이다. 진행자가 "그건 두 분이 직접 할 수 있는 일 아니냐"고 받자 객석에 웃음이 번졌다. 결국 이 대화가 남긴 것은 시점에 대한 두 거장의 견해차와, 그 차이를 가로지르는 공통의 인식이다. AGI는 온다. 다만 언제 오는지, 그리고 도래한 다음 날을 우리가 어떻게 맞이할지는 아직 정해지지 않았다.