이탈리아계 미국인 물리학자에서 GPT(Generative Pre-trained Transformer)-2/3의 산파를 거쳐 3,800억 달러 가치의 AI(Artificial Intelligence) 기업 Anthropic을 이끄는 인물의 전기적 보고서
캘리포니아 샌프란시스코, 1983년. 이탈리아 토스카나에서 건너온 가죽 장인 아버지와 시카고 출신 유대계 미국인 어머니 사이에서 한 아이가 태어난다. 이 가정은 실리콘밸리 신화의 전형 — 차고 창업, 부유한 부모, 명문 사립학교 — 와는 거리가 멀었다.
Dario Amodei는 1983년 미국 캘리포니아주 샌프란시스코에서 태어났다. 아버지 Riccardo Amodei는 이탈리아 남부 토스카나의 작은 언덕마을 마사 마리티마(Massa Marittima) 출신의 가죽 장인이었다. 그는 미국으로 건너와 샌프란시스코에 정착했고, 그곳에서 시카고 태생의 유대계 미국인이자 도서관 프로젝트 매니저로 일하던 Elena Engel과 결혼해 두 자녀를 낳았다. 첫째가 Dario, 4년 뒤 태어난 둘째가 훗날 Anthropic의 사장이 되는 여동생 Daniela Amodei이다.
가족은 샌프란시스코 미션 디스트릭트(Mission District)에 자리를 잡았다. 이 동네는 라틴계 이민자가 주로 모여 사는 노동 계급 지역으로, 후일 Silicon Valley(실리콘밸리)의 부유함이 침투하기 전의 거친 활기를 가진 곳이었다. 아버지 Riccardo는 오랜 지병을 앓다가 Dario가 박사 과정에 들어가 있던 2006년 사망한다. 당시 Dario는 23세였다. 한 매체의 분석에 따르면, 그가 박사 과정 도중 이론물리학에서 생물물리학·계산신경과학(Computational Neuroscience)으로 전공을 옮긴 결정적 계기 중 하나가 아버지의 투병이었다고 한다. "어떻게 하면 과학이 사람을 살리는 속도를 더 빠르게 만들 수 있는가" — 이 질문이 그의 향후 커리어 전체를 관통하는 동기로 작용했다는 평가다.
Dario는 자신을 "전형적인 과학 키드(science kid)"였다고 회상한다. 1990년대 후반 닷컴 붐이 그가 자라는 베이 에리어를 휩쓸 때도, 어린 Dario는 거기에 거의 관심이 없었다. "웹사이트를 만드는 일 따위에는 전혀 흥미가 없었다. 나는 근본적인 과학적 진실을 발견하는 일에 관심이 있었다"라고 후일 한 인터뷰에서 말했다. 그가 이끄는 회사가 인터넷 이후 가장 큰 기술 격변을 일으키는 진영의 한복판에 서게 될 것이라는 점을 생각하면, 이 청소년기의 진술은 흥미로운 아이러니다.
Amodei는 샌프란시스코의 명문 공립 고등학교인 Lowell High School을 다녔다. Lowell은 학업적 엄격성으로 유명한 학교로, 미국 서부에서도 가장 오래된 공립 고등학교 중 하나이다. 동생 Daniela 역시 후일 같은 학교를 졸업한다. 형제는 어린 시절부터 가까운 사이였고, 이 유대가 훗날 Anthropic의 형제 공동 경영 구조로 이어진다.
고교 시절의 Amodei는 수학과 물리에 몰입했다. 그 결과는 2000년 미국 물리 올림피아드(USA Physics Olympiad) 국가 대표팀 선발이라는 형태로 나타났다. 미국 전역에서 수만 명의 학생이 응시한 시험에서 상위 약 20명에게만 주어지는 자리였다. 이 시기에 그의 진로는 사실상 결정된 것이나 다름없었다 — 그는 이론물리학자가 될 것이었다.
훗날 AI 분야에서 그가 보여준 사고방식 — 모든 것을 정량화하고, 스케일링 법칙(Scaling Laws)을 통해 미래를 외삽(extrapolate)하며, 시스템을 가장 기본적인 변수로 환원해서 보는 — 은 명백히 물리학 교육의 산물이다. 그 자신도 여러 인터뷰에서 "물리학은 복잡한 시스템을 단순한 원리로 설명하는 법을 가르쳐 준다. 그것이 신경망(neural network)을 이해하는 데도 그대로 적용된다"는 취지의 발언을 반복해왔다.
2001년 Amodei는 캘리포니아 공과대학(California Institute of Technology, Caltech)에 입학해 물리학을 시작했다. 그는 입학 직후 Caltech의 독특한 신입생 연구 프로그램인 Physics 11에 선발되었다. Physics 11은 1989년 Tom Tombrello 교수가 창설한 연구 펠로우십 프로그램으로, 일반적인 강의가 아니라 "hurdles"라고 불리는 비전형적 도전 과제를 통과해 입학하는 오디션 방식이었다. 이 과제들은 정답이 정해져 있지 않고 물리학과 직접 관련이 없는 경우도 많았으며, 신입생이 "낯선 문제를 창의적이고 용기 있게 풀어 자신만의 답을 만들어 내는 능력"을 평가하는 것이 핵심이었다. 선발된 학생은 Tombrello가 모집한 교수 멘토와 짝이 되어 학부 1학년부터 실제 연구 프로젝트에 참여한다. Tombrello 본인은 1998–2008년 Caltech 물리학·수학·천문학 학부장을 역임했으며, 2014년 사망했다.
하지만 2003년경 그는 Stanford University로 옮긴다. 정확한 이유는 공개적으로 자세히 알려져 있지 않으나, 결과적으로 그는 2006년 Stanford에서 물리학 학사(Bachelor of Science, B.S.) 학위를 받는다. 같은 해 Princeton University 박사 과정에 진학했다.
Princeton에 진학할 때 Amodei의 목표는 이론물리학이었다. 그러나 박사 과정 초기에 그는 생물물리학(Biophysics)과 계산신경과학으로 방향을 튼다. 앞서 언급한 대로 아버지의 투병과 사망(2006)이 이 결정에 영향을 준 것으로 알려져 있다. 그는 "추상적 우주의 법칙"보다 "사람을 살리는 과학을 가속하는 일"이 더 시급하다고 판단했다.
그의 박사 학위논문 제목은 Network-Scale Electrophysiology: Measuring and Understanding the Collective Behavior of Neural Circuits(네트워크 규모 전기생리학: 신경 회로의 집단적 행동을 측정하고 이해하기)였다. 핵심 주제는 단일 뉴런이 아니라 대규모 뉴런 집단이 어떻게 정보를 집단적으로 처리하는가였다. 지도교수는 신경과학과 이론생물물리학 분야의 저명한 학자인 Michael J. Berry와 William Bialek이었다(이 두 사람은 Princeton 분자생물학과와 Princeton Neuroscience Institute 소속 교수이다). 그의 연구는 세포내(intracellular)·세포외(extracellular) 신호 기록을 위한 새로운 장치 개발과, 신경 회로의 통계역학적 모델링을 함께 다뤘다. 이 두 가지 — 실험 장치와 통계적 모델링 — 의 결합은 그의 향후 AI 연구 스타일을 예고하는 것이었다.
Princeton 입학 직후인 2007년에 Amodei는 Fannie and John Hertz Foundation의 Hertz Fellow로 선발된다. Hertz 펠로우십은 응용 물리·생물·공학 분야에서 혁신적 연구 잠재력을 가진 대학원생에게 주어지는 미국에서 가장 경쟁이 치열한 장학금 중 하나이다. 역대 수상자 중에는 다수의 노벨상 수상자와 기술 기업 창업자가 포함되어 있다.
2011년 박사 학위를 받은 뒤 Amodei는 Stanford University School of Medicine(스탠퍼드 의과대학)으로 옮겨 박사후 연구원(Postdoctoral Scholar)으로 일했다. 그는 이곳에서 머신러닝(Machine Learning, 기계학습) 기법을 생의학 데이터, 특히 고처리량(high-throughput) 단백질 분석에 적용하는 연구에 참여했다. 이는 그가 신경과학의 데이터 분석가에서 본격적으로 머신러닝 연구자로 정체성을 확장하는 분기점이었다.
이 네 요소는 후일 Anthropic의 핵심 가치관 — 스케일링·해석가능성(interpretability)·정렬(alignment)·인류 복지에 대한 응용 — 으로 그대로 옮겨간다.
Amodei의 정식 산업 경력은 2014년경부터 본격화된다. 그 이전에도 그는 2003년 Applied Minds의 연구 인턴, 2004년 슐룸베르거(Schlumberger)의 지구물리학자(geophysicist), 2008–2013년 Applied Minds 컨설턴트 등으로 일했지만, 이는 학위 과정과 병행한 비정규 활동에 가까웠다. 그가 학문 세계를 떠나 본격적으로 산업계로 들어선 것은 박사후 연구를 마치고 난 2014년이다.
Amodei는 2014년 11월 중국 최대 검색 엔진 기업 Baidu(百度)의 실리콘밸리 연구소에 합류한다. 이곳에서 그가 모시게 된 상사는 당시 Baidu의 수석 과학자였던 Andrew Ng(앤드류 응)이었다. Ng는 Stanford 교수이자 Google Brain의 공동 창업자로, 신경과학과 머신러닝을 양 영역에서 이해하는 드문 인물이었다 — Amodei의 멘토로서 이상적인 조합이었다.
Baidu에서 Amodei가 깊이 관여한 프로젝트는 Deep Speech 2였다. 이는 영어와 중국어 양쪽에서 인간 수준에 근접한 음성 인식 성능을 달성한 종단간(end-to-end) 딥러닝(Deep Learning) 시스템으로, 2015년 11월 공개되었으며 MIT Technology Review가 선정한 2016년 10대 혁신 기술(10 Breakthrough Technologies)에 이름을 올렸다. arXiv에 게재된 Deep Speech 2 논문(arXiv:1512.02595)에서 Amodei는 약 30명의 공동저자 가운데 첫 번째로 이름을 올렸다. 그는 이 시기에 "더 큰 모델 + 더 많은 데이터 + 더 많은 연산"이라는 단순한 처방이 어떻게 시스템 성능을 비선형적으로 끌어올리는지를 현장에서 목격한다. 이 경험은 후일 그가 OpenAI에서 정식화하게 될 스케일링 가설(Scaling Hypothesis)의 직접적인 토대가 된다.
약 1년 뒤 그는 Google의 AI 연구 부문인 Google Brain으로 자리를 옮긴다. 직책은 시니어 연구과학자(Senior Research Scientist)였다. 짧은 재직 기간이었지만, 이 시기에 그는 자신의 사상사적 토대가 될 한 편의 논문을 발표한다.
2016년 6월, Google Brain 재직 마지막 시기에 Amodei는 Chris Olah, Jacob Steinhardt, Paul Christiano, John Schulman, Dan Mané와 함께 「Concrete Problems in AI Safety(AI 안전의 구체적 문제들)」라는 논문을 arXiv에 게재했다(arXiv:1606.06565). 이 논문은 AI 안전 분야의 기초 문헌 중 하나로, 2,700회 이상 인용되어 왔다. 핵심은 AI 안전을 추상적 철학 문제가 아니라 다섯 가지 구체적이고 측정 가능한 연구 문제로 분류한 것이다.
이 논문의 공동저자 명단은 그 자체로 향후 AI 안전 진영의 인적 지도를 미리 보여주는 것이었다. Chris Olah는 후일 Anthropic의 공동 창업자가 된다. Paul Christiano는 RLHF(Reinforcement Learning from Human Feedback, 인간 피드백 기반 강화학습)의 공동 발명자이자 미국 AI 안전 연구소(US AI Safety Institute, US AISI)의 디렉터가 된다. John Schulman은 OpenAI 공동 창업자이며 후일 Anthropic으로 이직한다. Amodei 본인이 OpenAI로 옮긴 시점이 이 논문 발표 직후인 2016년 7월이었다는 사실은 단순한 우연이 아니다 — 그는 안전 연구를 본격적으로 추진할 조직적 토대를 찾고 있었다.
2016년 7월부터 2020년 12월까지 약 4년 반의 OpenAI 재직 기간은 Amodei의 커리어에서 가장 결정적인 시기였다. 그는 이곳에서 GPT-2와 GPT-3의 탄생을 진두지휘했고, 동시에 자신이 떠나야 할 이유까지도 명확히 깨닫게 된다.
Amodei는 2016년 7월 OpenAI에 합류했다. 그의 직책은 시간이 지나면서 다음과 같이 변화했다.
초기에 Amodei가 가장 주도적으로 기여한 연구 성과 중 하나가 RLHF(Reinforcement Learning from Human Feedback, 인간 피드백 기반 강화학습)이다. 이는 AI 모델이 인간의 선호와 가치에 부합하는 출력을 내도록 훈련하는 방법으로, 단순히 정답을 맞히는 것을 넘어 "인간이 어떤 응답을 더 좋아하는가"를 모델이 학습하도록 만든다. 이 기법은 후일 ChatGPT를 비롯한 거의 모든 대화형 AI 모델의 기본 정렬(alignment) 기법이 된다. Amodei는 이 방법론의 공동 발명자(co-inventor)로 평가된다.
Amodei의 진정한 영향력은 거대 언어 모델(Large Language Model, LLM) 개발 방향을 설정한 데서 드러난다. 2019년 발표된 GPT-2와 2020년의 GPT-3 개발 과정에서 그는 OpenAI의 연구 방향을 사실상 책임지는 자리에 있었다. 특히 GPT-3는 1,750억 개의 파라미터로 당시까지 가장 큰 언어 모델이었고, 이를 통해 "모델 크기와 데이터를 함께 키우면 능력이 예측 가능한 형태로 향상된다"는 스케일링 법칙(Scaling Laws)이 경험적으로 입증되었다.
Amodei가 한 매체에 회고한 내용은 이 시기 그의 사고를 단적으로 보여준다.
"OpenAI 안에서, GPT-2와 GPT-3를 만든 직후에 우리 중 일부는 두 가지에 대해 매우 강한 확신을 가지게 됐다. 첫째, 이 모델들에 더 많은 컴퓨팅을 투입하면 점점 더 좋아진다는 것 — 그리고 그 끝이 거의 보이지 않는다는 것. 둘째, 단순히 스케일을 키우는 것 외에 추가로 필요한 것이 있다는 것 — 그것이 정렬(alignment) 혹은 안전(safety)이다." — Dario Amodei, Fortune Brainstorm Tech 인터뷰 (2023)
이 두 가지 — 스케일은 계속된다 + 안전이 결정적으로 중요하다 — 가 그의 신념이었다면, OpenAI 경영진의 우선순위는 다소 다른 방향으로 흘러갔다. 특히 2019년 OpenAI가 영리 자회사(OpenAI LP)를 설립하고 Microsoft로부터 10억 달러 투자를 받으면서, Amodei가 보기에 상업적 제품 출시의 압력이 안전 연구를 압도하기 시작했다.
Amodei는 후일 자신이 OpenAI를 떠난 이유를 직접적으로 설명한 바 있다.
"사람들은 우리가 Microsoft 계약이 마음에 안 들어서 떠났다고 한다. 사실이 아니다. 진짜 이유는, 다른 사람의 비전을 두고 논쟁하는 것이 엄청나게 비생산적이기 때문이었다. 차라리 신뢰할 수 있는 사람들 몇 명을 데리고 나가서, 나의 비전을 직접 실현하는 편이 낫다고 판단했다." — Dario Amodei, Lex Fridman 팟캐스트 (2024)
2020년 12월, Amodei와 그의 여동생 Daniela, 그리고 Jack Clark, Chris Olah를 비롯한 핵심 연구진 일부가 OpenAI를 떠났다. 일부 보도에 따르면 이들 중 다수는 자발적 사임이었고, 분위기는 "이별"보다는 "분기(分岐)"에 가까웠다. 그러나 결과적으로 이 사건은 AI 산업의 제도사(institutional history)에서 가장 중요한 인사 이동 중 하나가 된다.
2020년 12월 OpenAI를 이탈한 Amodei 그룹은 2021년 초 Anthropic을 공식 출범시켰다(자료에 따라 "2021년 1월", "2021년 2월", "2021년 초" 등 다양하게 표기되며, 첫 펀딩 라운드는 2021년 5월에 마감되었다). 회사는 코로나19 팬데믹 2차 대유행의 한복판에서 출범했다. 초기 직원 15~20명은 Zoom으로만 만났고, 가끔 샌프란시스코의 Precita Park에 의자를 들고 모여 점심을 함께했다고 한다.
Anthropic의 공동 창업자는 모두 OpenAI 출신으로, 다음 7명이 핵심이다.
| 이름 | OpenAI에서의 역할 | 현재 Anthropic에서의 역할 |
|---|---|---|
| Dario Amodei | VP of Research | CEO, 대외 메시지 총괄 |
| Daniela Amodei | VP of Safety and Policy | President, 비즈니스 운영 총괄 |
| Tom Brown | GPT-3 논문 주저자 ("Language Models are Few-Shot Learners") | Core Resources(컴퓨팅 인프라) 리드 |
| Jack Clark | 정책 디렉터 | 정책 책임자, 2026년 3월 출범한 Anthropic Institute 리더 |
| Jared Kaplan | 이론물리학자, AI 스케일링 법칙 논문 공저 | Chief Science Officer |
| Sam McCandlish | AI 스케일링 법칙 논문 공저 | CTO 겸 Chief Architect |
| Chris Olah | 해석가능성(interpretability) 연구 리드 | 해석가능성 연구 리드 |
이 7명에 더해, 일부 자료는 Benjamin Mann(현 Anthropic Labs 책임자)을 공동 창업자에 포함시킨다. Anthropic이 공개한 7명 사진(2025년 9월 공식 인터뷰)에는 위 표의 7인이 포함되어 있다.
회사 이름은 후보 명단(Aligned AI, Generative, Sponge, Swan, Sloth, Sparrow Systems 등) 중에서 선택됐다. 'Anthropic'은 "인간 중심적(human-centered)"이라는 의미를 함축하며, 2021년 초 도메인 이름 anthropic.com이 마침 비어 있었다. 창업자들이 만든 내부 스프레드시트에는 "We like the name it is good"이라는 짧은 메모가 남았다.
Anthropic은 일반 영리 기업이 아니라 공익기업(Public Benefit Corporation, PBC)으로 설립되었다. 이는 미국 일부 주에서 인정되는 법인 형태로, 주주 이익뿐 아니라 명시된 공익 목적도 함께 추구할 법적 의무를 부담한다. Anthropic의 명시적 공익 목적은 "신뢰할 수 있고, 해석 가능하며, 통제 가능한 AI 시스템의 책임 있는 개발과 유지"이다.
PBC 구조 외에도 Anthropic은 한 가지 독특한 거버넌스 안전장치를 두고 있다 — Long-Term Benefit Trust(장기 이익 신탁, LTBT)이다. LTBT는 Anthropic의 Class T 주식을 보유하며, 이를 통해 회사 이사회의 일부 이사를 직접 선출할 권한을 가진다. 신탁의 명시적 목적은 "인류의 장기적 이익을 위한 첨단 AI의 책임 있는 개발과 유지"이다. 2026년 1월 현재 신탁 위원은 Neil Buddy Shah, Mariano-Florentino Cuéllar(전 캘리포니아 대법관·전 카네기 평화재단 회장), Richard Fontaine이다. 이 구조는 PBC 사명 선언만으로는 보장하기 어려운 안전 우선주의를 법인 거버넌스 차원에서 결박하려는 시도이며, OpenAI나 Google DeepMind를 비롯한 다른 주요 AI 기업에는 없는 독특한 장치이다.
초기 투자자에는 전 Google CEO Eric Schmidt가 포함됐다. Schmidt는 한 인터뷰에서 자신은 "개념보다는 사람에 투자했다"고 밝혔다. 그는 Amodei와 그의 아내(당시 여자친구)를 사교 모임에서 알게 됐고, Amodei가 OpenAI에 있을 때부터 기술 이야기를 나눠 왔다. Schmidt의 평가는 압축적이다 — "Dario는 뛰어난 과학자였고, 그는 자신이 뛰어난 과학자들을 채용하겠다고 약속했으며, 실제로 그렇게 했다."
2022년 4월 Anthropic은 첫 대규모 펀딩 5억 8천만 달러를 유치한다. 이 중 5억 달러는 당시 FTX의 Sam Bankman-Fried로부터 나온 것이었다. FTX 붕괴 이후 이 지분은 매각되어 8억 8,400만 달러에 처분됐고, 그 수익은 FTX 파산 채권자들에게 돌아갔다. 이 펀딩은 후일 Anthropic이 효과적 이타주의(Effective Altruism, EA) 진영과의 관계 때문에 비판받는 이유 중 하나가 된다. Daniela의 남편이자 Dario의 옛 룸메이트인 Holden Karnofsky는 EA 진영의 대표적 인물 중 하나로, Open Philanthropy(현 Coefficient Giving)의 공동 창업자였다.
Amodei는 Anthropic의 전략을 한 단어로 요약했다 — "top으로의 경주(race to the top)". 핵심은 안전을 비용으로 보지 않고 차별화 요소로 본다는 것이다.
"사람들이 일하고 싶어 하는 회사, 합리적이라고 평가받는 실천을 하는 회사를 만들고, 동시에 생태계 안에서 위치를 유지할 수 있다면, 다른 회사들도 그 방식을 모방하게 된다." — Dario Amodei
이 전략에는 분명한 가설이 있다. 안전한 AI를 만드는 회사가 동시에 강력한 AI 모델까지 만들어낼 수 있다는 것을 입증하면, 산업 전체가 그 기준에 맞춰 따라올 수밖에 없다는 것이다. 반대로, 안전을 강조하는 회사가 시장에서 도태되면, 안전 우선주의 자체가 비현실적인 것으로 매도된다. 그래서 Anthropic은 "안전을 가장 잘 하는 회사이면서 동시에 가장 강력한 모델을 만드는 회사"여야 한다 — 이것이 Amodei의 베팅이다.
Anthropic은 2022년 여름 첫 번째 Claude 모델 학습을 완료했다. 그러나 즉시 출시하지 않았다. 회사가 공식적으로 밝힌 이유는 두 가지였다. 첫째, 추가적인 내부 안전 테스트가 필요했다. 둘째, 위험할 수 있는 "더 강력한 AI 개발 경쟁"에 불을 붙이고 싶지 않았다. 이 결정은 결과적으로 그해 11월 OpenAI가 ChatGPT를 출시하면서 시장 선점 기회를 놓치는 결과를 낳았다 — Amodei가 후일 여러 차례 양가적 감정을 드러낸 결정이다.
| 시기 | 모델 / 사건 | 의의 |
|---|---|---|
| 2023년 3월 | Claude, Claude Instant | 승인된 사용자 대상 비공개 출시 |
| 2023년 7월 | Claude 2 | 일반 공개. 10만 토큰 컨텍스트 윈도우 |
| 2024년 3월 | Claude 3 (Opus / Sonnet / Haiku) | 3단계 라인업 확립. 동급 GPT-4를 다수 벤치마크에서 추월 |
| 2024년 6월 | Claude 3.5 Sonnet | 코딩과 추론에서 큰 도약, Artifacts 기능 도입 |
| 2025년 2월 | Claude 3.7 Sonnet | 하이브리드 추론 모드 도입(빠른 응답 vs 깊은 사고) |
| 2025년 5월 | Claude 4 (Opus, Sonnet) | 첫 개발자 컨퍼런스. Model Context Protocol(MCP, 모델 컨텍스트 프로토콜) 도입. Claude Code 정식 출시 |
| 2026년 2월 | Claude Opus 4.6, Sonnet 4.6 | 1백만 토큰 컨텍스트(베타). Agent Teams 기능 |
| 2026년 현재 | Claude Opus 4.7 | 장시간 소프트웨어 엔지니어링 능력 강화, 고해상도 비전 입력 지원 |
Anthropic의 기업 가치는 2023년 5월의 41억 달러에서 시작해 가파른 곡선을 그려왔다.
회사의 연간 매출(annualized revenue)도 가파르게 성장했다 — 2025년 초 14억 달러 → 5월 30억 달러 → 7월 약 45억 달러 → 2026년 2월 기준 약 140억 달러. Amodei 본인이 "이 정도 규모에서 사상 가장 빠르게 성장하는 소프트웨어 회사"라고 표현할 정도였다. 주요 매출원은 Claude API(Application Programming Interface, 응용프로그램 인터페이스)와 코딩 도구 Claude Code, 그리고 지식근로 자동화 도구 Claude Cowork이다.
Amodei는 자신을 단순히 AI 기업 경영자로 보지 않는다. 그는 정기적으로 긴 에세이를 발표하며 AI의 미래에 대한 비전과 위험을 공개적으로 정리해왔다. 이는 동시대 다른 AI 기업 CEO들과 그를 구별짓는 가장 큰 특징이다.
약 14,000~15,000 단어, 인쇄하면 50쪽이 넘는 이 에세이는 "강력한 AI가 잘 작동할 경우, 5~10년 안에 세상이 어떻게 변할 수 있는가"를 구체적으로 그려냈다. 제목은 1960년대 시인 Richard Brautigan의 시 All Watched Over by Machines of Loving Grace에서 따왔다. 그는 의도적으로 추상적인 미래상이 아니라 "구체적인 그림"을 그리고자 했다 — 5가지 영역에서 다음과 같은 변화를 예측했다.
Amodei는 이 에세이의 도입부에서, 자신과 Anthropic이 그동안 AI의 위험에 대해 더 많이 이야기해 온 이유를 설명한다 — 위험을 다루지 않으면 긍정적 미래가 오지 않기 때문이라는 것. 그러나 그는 동시에 "공포만으로는 부족하다, 희망도 필요하다"고 못박았다. 그가 자주 인용하는 SF 소설은 Iain M. Banks의 Culture 시리즈로, 에세이 말미에서 그는 "Culture의 가치관이야말로 승리하는 전략"이라고 말한다.
"Machines of Loving Grace"가 낙관적인 미래상을 그렸다면, 2026년 1월 26일 발표된 후속 에세이 「The Adolescence of Technology(기술의 사춘기)」는 다시 위험으로 돌아왔다. 부제는 "Confronting and Overcoming the Risks of Powerful AI(강력한 AI의 위험에 맞서고 극복하기)"이다. 분량은 약 15,000~20,000 단어, 인쇄본 약 36쪽이다.
발표 시점은 우연이 아니었다 — 스위스 다보스(Davos)에서 열리는 세계경제포럼(World Economic Forum) 기간과 정확히 맞물려 있었다. Amodei는 다보스 현장 연설과 함께 이 에세이를 공개해, 글로벌 비즈니스·정치 리더들의 시선이 한꺼번에 쏠리는 시점을 의도적으로 활용했다.
에세이의 중심 메타포는 Carl Sagan의 소설 『콘택트(Contact)』에서 가져온 것이다 — 외계 문명과 접촉한 천문학자가 외계인에게 묻는다. "당신들은 어떻게 진화했고, 어떻게 자신을 파괴하지 않은 채 이 기술적 사춘기(technological adolescence)에서 살아남았습니까?" Amodei는 인류가 지금 그 질문 앞에 서 있다고 주장한다. 그는 또한 강력한 AI를 묘사하는 새로운 표현 — "데이터센터 안의 천재들의 나라(country of geniuses in a datacenter)" — 을 제시했고, 이 표현은 이후 산업 담론에서 빈번히 인용되는 핵심 개념이 되었다.
에세이는 강력한 AI가 만들어내는 위험을 5가지 카테고리로 나눴다.
Amodei의 가장 논쟁적인 정치적 입장은 'entente(협상국·연합)' 전략이다. 핵심은 다음과 같다 — 강력한 AI가 등장하는 시점에 민주주의 진영이 결정적 우위를 점해야 하며, 이를 위해 민주주의 국가 연합이 군사 영역을 포함해 첨단 AI를 사용해 비민주 진영에 대해 결정적 전략적·군사적 우위를 확보하되, 그 이익은 협력하는 민주주의 국가들에 분배해야 한다. 그는 동시에 "최악의 적대국을 고립시켜, 그들이 결국 민주주의를 채택하지 않으면 AI 이익에서 배제되고 우월한 적과 싸워야 한다는 위치에 놓이도록" 만들어야 한다고 주장한다.
이 입장은 Leopold Aschenbrenner의 「Situational Awareness」(2024)와 함께 AI 분야에서 가장 명시적인 "서구 우위론"의 사례로 자주 인용된다. 비판자들은 이것이 위험한 군비경쟁 프레임이라고 본다. 그러나 Amodei 자신은 "민주주의가 강력한 AI를 먼저 만들지 못하면 그 다음 세기가 어떤 모습이 될지는 자명하다"며 단호한 입장을 유지한다.
2023년 7월, Amodei는 미국 상원 사법위원회(Senate Judiciary Committee)의 AI 청문회에서 증언했다. 그는 AI의 잠재적 위험, 특히 무기화 가능성에 대해 명시적인 경고를 내놓았다. 이 증언은 AI 산업 CEO가 미국 의회에서 자사 제품의 위험성을 적극적으로 인정한 드문 사례로 꼽힌다.
2025년 6월, 그는 New York Times에 기고문을 게재해 트럼프 행정부의 정책 법안에 포함된 "주(州)의 AI 규제 10년 모라토리엄" 조항을 강하게 반대했다. 그의 논지는 분명했다 — "AI는 머리가 어지러울 정도로 빠르게 발전하고 있다. 나는 이 시스템들이 2년 안에 세상을 근본적으로 바꿀 수 있다고 믿는다. 10년 후에는 모든 베팅이 무효다." 같은 해 11월, Anthropic은 AI 안전과 규제를 지지하는 슈퍼팩(Super PAC) Public First Action에 2,000만 달러를 기부한다고 발표했다 — 이는 OpenAI 투자자들이 후원하는 반대 진영 슈퍼팩에 정면으로 대응하는 행보였다.
2023년 11월 OpenAI 이사회가 CEO Sam Altman을 해임했다가 며칠 만에 복귀시킨 격동의 사건 와중에, OpenAI 이사회는 Amodei에게 두 가지를 제안했다 — Altman을 대신해 OpenAI CEO를 맡을 것, 그리고 두 회사를 합병할 것. Amodei는 양쪽 모두 거절했다. 이 일화는 그가 OpenAI 내부 인사들에게도 여전히 가장 신뢰받는 "안전 우선" 진영의 리더로 인식되고 있었음을 보여준다.
2026년 2월, Anthropic은 미국 국방부(Department of Defense, DoD) Pete Hegseth 장관 측의 요구를 거절했다. DoD는 Claude의 약관(usage policy)에서 "대규모 국내 감시(mass domestic surveillance)와 완전 자율 무기(fully autonomous weapons)에 사용 금지" 조항을 삭제해 달라고 요청했다. Amodei는 이를 거부했다. DoD는 곧바로 Anthropic을 "공급망 위험(supply-chain risk)"으로 지정했고, 트럼프 행정부는 연방 기관에 Claude 사용 중단을 지시했다. Pentagon(미 국방부)은 자신들이 그러한 용도에 관심이 없다고 부인했지만, "무제한 접근"을 요구한다는 입장은 굽히지 않았다.
다수의 시민단체와 법률 기관이 이를 보호받아야 할 표현에 대한 위법적 보복이라고 비판하며, Anthropic을 지지하는 의견서(amicus brief)를 잇따라 제출했다. 이 사건은 Amodei가 자신의 안전 원칙을 회사의 최대 잠재 고객 중 하나와의 관계 단절을 감수하고서라도 지킬 의사가 있다는 점을 보여준 사례로 평가된다.
Amodei는 중국에 대한 첨단 반도체(GPU, Graphics Processing Unit) 수출 통제를 일관되게 지지해왔다. 이로 인해 Nvidia CEO Jensen Huang(젠슨 황)과 공개적으로 충돌했다. Huang은 "그(Amodei)는 AI가 너무 무서워서 자기들만 만들어야 한다고 믿는다"고 비판했다. Amodei는 이를 "지금까지 들어본 가장 터무니없는 거짓말"이라며 강하게 반박했다 — "나는 이 회사가 유일하게 이 기술을 만들어야 한다는 취지의 발언을 한 적이 없다. 그것은 악의적 왜곡이다."
Amodei의 가족 관계는 Anthropic 경영 구조의 중요한 일부분이다. 여동생 Daniela Amodei는 1987년생으로, University of California, Santa Cruz에서 영문학 학사를 취득한 뒤 정치권에서 잠시 일했다. 2013년 Stripe에 합류해 리쿠르터로 시작, 후일 리스크 매니저까지 역할이 확장됐다. 2018년 OpenAI로 옮길 때 그녀의 첫 직책은 부사장이 아니라 엔지니어링 매니저(Engineering Manager)였다 — 자연어 처리(NLP)와 음악 생성 두 기술 팀을 이끌었다. 이후 인사 운영 부사장(VP of People Operations)을 거쳐, 마지막에 안전·정책 부사장(VP of Safety and Policy)이 되었다. 2020년 12월 오빠와 함께 OpenAI를 이탈했고, 2021년 초 Anthropic을 공동 창업했다. 현재 그녀는 Anthropic의 사장(President)으로 비즈니스 운영과 조직 관리 전반을 책임진다 — Dario가 연구·기술 전략에 집중하는 동안 회사를 실제로 굴러가게 하는 인물이다.
한 매체는 두 남매를 가리켜 "AI의 왕가(royal family of AI)"라고 부르기도 했다. 외부 관찰자에게는 다소 과한 표현일 수 있으나, 2026년 Time 100 Most Influential People에 두 사람이 함께 이름을 올린 것은 분명한 사실이다. Time은 이들을 "Architects of AI(AI의 설계자)"로 명명했다.
Daniela의 남편 Holden Karnofsky는 효과적 이타주의(Effective Altruism, EA) 운동의 핵심 인물 중 하나다. 그는 자선 단체 평가 기관 GiveWell의 공동 창업자이자, Open Philanthropy(현재 Coefficient Giving)의 공동 창업자였다. 2017년 8월 Daniela와 결혼했다. 2017–2021년 OpenAI 이사회 멤버를 지냈고, 2025년 1월 Anthropic에 정식 합류해 회사의 "책임 있는 스케일링 정책(Responsible Scaling Policy)" 수립에 참여하고 있다. Karnofsky와 Dario는 한때 룸메이트였다는 사실이 보도된 바 있다.
이로써 Anthropic은 가장 가까운 친족 세 명(남매 두 사람과 매제)이 회사의 핵심 의사결정에 관여하는 구조가 됐다. 이는 한편으로 회사의 가치관 일관성을 유지하는 자산이지만, 다른 한편으로 외부의 거버넌스 우려를 부르는 요인이기도 하다.
그를 가까이서 관찰한 기자들과 동료들의 묘사는 비교적 일관된다. 그는 직설적이고, 논쟁을 피하지 않으며, 자신이 옳다고 생각하는 입장을 위해 인기를 잃을 위험을 감수한다. 2025년 한 해 동안 그는 AI가 사무직 신입의 50%를 사라지게 할 것이라고 공개적으로 예측했고, 트럼프 행정부의 AI 규제 모라토리엄을 NYT 지면에서 비판했으며, 중국 GPU 수출 통제를 강력히 주장해 Jensen Huang과 직접 충돌했다.
인터뷰에서 그는 종종 자신의 사회적 어색함을 인정한다. 청소년기에 그는 "친구도 사회생활도 거의 없는" 학생이었고, "수학과 물리만 하는 외톨이"였다고 회고한다. 후일 그는 의도적으로 사람들과 어울리는 법을 배웠다고 한다. 한 인터뷰에서 그는 자신을 "내향적이지만 신념 앞에서는 외향적이 되는" 사람으로 묘사한다.
그를 직접 만나본 기자들은 그의 외관을 비교적 일관되게 묘사한다 — 검은 두꺼운 뿔테 안경, 캐주얼한 셔츠와 스웨터, 별다른 격식 없는 차림. 그는 실리콘밸리 CEO의 전형적인 "기업가 룩"과는 거리가 있다. 한 매체의 표현에 따르면 그는 "샌프란시스코 다운타운 한복판의 본사 1층에서, 푸른 숄칼라 스웨터에 흰 티셔츠를 받쳐 입고, 두꺼운 뿔테 안경을 쓴 채 기자를 맞았다"고 한다.
그는 자신을 "약간 마지못해 인정하는 SF 팬"이라고 표현한다. 가장 자주 인용하는 작품은 Iain M. Banks의 Culture 시리즈, 특히 The Player of Games이다. 이 시리즈는 풍요롭고 평화로운 후희소성(post-scarcity) 우주 문명을 그리는데, 그는 이것이 "강력한 AI가 잘 작동했을 때의 미래"의 한 모델이라고 본다. SpaceX의 로켓 이름인 "Of Course I Still Love You", "Just Read the Instructions"가 이 시리즈에서 따왔다는 사실은 그가 종종 즐겨 언급하는 디테일이다.
Amodei에 대한 가장 흔한 긍정적 평가는 "안전 연구와 상업적 성공이 양립할 수 있음을 그가 실제 비즈니스로 증명했다"는 것이다. Anthropic의 매출 성장 곡선은 안전 우선주의를 표방하는 회사가 시장에서 가장 빠르게 성장한 SaaS(Software as a Service) 기업 중 하나가 되었음을 보여준다. Atlassian, Palantir, Snowflake가 비슷한 매출에 도달하기까지 15~20년이 걸린 데 비해 Anthropic은 약 3~4년 만에 그 수준에 도달했다.
또한 Anthropic의 헌법적 AI(Constitutional AI), 해석가능성(interpretability) 연구, 책임 있는 스케일링 정책(Responsible Scaling Policy)은 업계 전반의 안전 담론 수준을 끌어올린 것으로 평가된다. 2024년 OpenAI에서 Jan Leike와 John Schulman 같은 안전 진영 핵심 인물들이 Anthropic으로 옮겨온 것도 이 회사가 안전 연구 인재의 자석 역할을 하고 있음을 보여준다.
일부 비판자들은 Amodei를 "통제 지향적 둠어(doomer, 종말론자)"라고 부른다. 이들의 논리는 다음과 같다 — Amodei가 AI의 위험을 과장해서 규제를 끌어내고, 그 규제가 신생 경쟁자의 진입을 막아 결국 Anthropic을 비롯한 기존 거대 기업이 시장을 독점하게 만든다. Meta의 전 AI 수석 과학자 Yann LeCun은 Anthropic이 자체적으로 발견한 AI 기반 사이버 공격 사례를 발표한 것을 두고, "오픈소스 모델 사용을 제한하도록 입법자들을 조종하는 수법"이라고 비판한 바 있다.
"AI 안전을 위한 회사"가 Palantir와 협력해 미군과 정보 기관에 Claude를 공급하는 것은 일관성 없는 행위라는 비판도 있다. Amodei 본인은 2026년 2월의 DoD 충돌 사건을 들어 "우리는 군사 협력을 무조건 거부하지 않지만, 대규모 감시와 자율 무기에는 명확한 선을 긋는다"는 입장을 견지한다. 이 입장이 얼마나 일관되게 유지될 수 있을지는 향후 사건들을 통해 검증될 것이다.
2025년 한 팟캐스트에서 그는 60 Minutes 진행자 Anderson Cooper로부터 "Anthropic이 '안전 극장(safety theater)'을 하고 있는 것 아니냐"는 질문을 받았다. Amodei는 이를 부인했지만, 같은 해 Dwarkesh Patel의 팟캐스트에서는 다음과 같이 다소 솔직하게 인정했다 — "우리는 엄청난 상업적 압력을 받고 있고, 다른 회사들보다 더 많이 하는 안전 관련 작업들 때문에 우리 자신을 더 어렵게 만들고 있다."
Anderson Cooper와의 인터뷰에서 가장 직접적이었던 질문은 "당신과 Sam Altman을 누가 선출했는가?"였다. 즉, 민주적 정당성 없이 소수의 기술 기업 경영자가 세상을 바꾸는 기술의 방향을 결정한다는 비판이다. Amodei의 답변은 의외였다 — "나는 이런 결정들이 소수의 기업과 소수의 사람들에 의해 내려지는 것이 깊이 불편하다. 이것이 내가 늘 책임 있고 사려 깊은 기술 규제를 옹호해 온 이유다." 이 답변은 그가 자신의 권력을 정당화하려 하지 않고, 오히려 자신의 권력에 대한 외부 견제를 요구한다는 점에서 같은 시기 다른 빅테크 CEO들의 화법과는 차별화된다.
Dario Amodei의 이야기는 두 가지 모순 위에 서 있다. 첫째, 그는 "위험하다고 생각하는 기술"을 가장 강력하게 만드는 회사의 CEO이다. 둘째, 그는 "소수의 기술 경영자가 세상의 방향을 결정하는 것이 불편하다"고 말하면서도 그 소수 중 한 명이다.
그의 답변은 일관되게 동일하다 — "만약 누군가 이 기술을 만들 것이라면, 차라리 안전을 가장 진지하게 받아들이는 사람들이 만드는 편이 낫다." 이것이 'race to the top' 전략의 윤리적 핵심이다. 이 논리가 자기합리화에 불과한지, 아니면 실제로 안전한 AI의 산업적 표준을 끌어올리는 데 기여하는지는 향후 5~10년의 사건들이 결정할 것이다.
한 가지는 분명하다 — 2026년 5월 현재, 강력한 AI의 방향성을 둘러싼 결정에 그가 깊이 관여하지 않을 시나리오는 거의 존재하지 않는다. 1983년 샌프란시스코 미션 디스트릭트에서 태어난 이탈리아계 가죽 장인의 아들이, 인터넷 이래 가장 큰 기술 격변의 핵심 결정권자 중 한 명이 되어 있다는 사실 자체가 21세기 초반 기술사의 한 특이한 사례로 기록될 것이다.