"기차를 멈출 수는 없다. 다만 바위를 피하도록 운전대를 잡을 수는 있다." 클로드(Claude)를 만든 다리오·다니엘라 아모데이 남매가 멸종 위험부터 펜타곤과의 충돌, 그리고 잘 산 삶의 의미까지 한 시간 넘게 풀어놓았다. 그 대담의 핵심을 정리하고, 발언의 맥락을 따져 보았다.
앤트로픽(Anthropic)은 인공지능(AI, Artificial Intelligence) 모델 클로드를 만드는 회사다. 이 대담이 공개될 무렵 이 회사는 9,000억 달러 안팎의 기업가치로 투자 유치를 논의하고 있었고, 하루에 100만 명이 넘는 사람이 클로드에 새로 가입한다고 소개됐다. 흥미로운 점은, 그 규모의 회사를 이끄는 두 사람이 자기 기술의 위험을 누구보다 크게 떠들고 다닌다는 데 있다. 대담을 관통하는 표현 하나가 그 태도를 압축한다 - 앤트로픽 내부에서 쓰는 "빛과 그림자(light and shade)"라는 말이다. 효용도 진짜고 위험도 진짜라는 것, 둘을 동시에 손에 쥐고 있어야 한다는 것이다.
오프라는 인터뷰 질문을 클로드에게 맡기지 않는 사람이라고 밝히면서도, 이날만은 예외를 두었다. 그가 던진 프롬프트는 "오프라가 다리오 아모데이에게 물어야 할 가장 시급한 질문이 무엇이냐"는 것이었고, 클로드는 다음과 같은 취지로 답했다. "당신은 이 기술이 인류 멸종을 부를 가능성이 실재한다고 말해 왔다. 그러면서도 더 빨리 만들려 경쟁한다. 투표권조차 없었던 나머지 우리에게 그것을 어떻게 정당화하겠는가."
다리오는 이 질문을 회피하지 않았다. 그는 인공지능을 인류사의 "획기적 전환(apocalyptic change)" 가운데 하나로 보는 관점에서 답을 풀었다. 불을 다루기 시작한 일, 증기기관과 공장이 산업혁명을 일으킨 일과 같은 층위에서 본다는 것이다. 산업혁명이 강력한 무기를 만들어 사람을 죽이기도 했지만, 그렇다고 동굴 시대로 돌아가고 싶지는 않다 - 결국 "올바른 방식으로 관리하는 것"이 핵심이라는 논리다.
"이 기술은 어떤 식으로든 인류에게 일어나고 있는 일이다. 기차는 매우 빠르게 달리고 있고, 멈출 수는 없다. 다만 운전대를 잡아, 바위에 부딪치지 않도록 방향을 틀 수는 있다."
다리오 아모데이, 앤트로픽 최고경영자(CEO)
이어 오프라가 던진 더 날카로운 물음은 "그렇다면 왜 모두가 위험을 줄이려 하지 않는가, 도대체 무엇을 향한 경쟁인가"였다. 다리오의 답은 솔직했다. 기술에는 상업적 쓰임새가 따라붙고, 그 수익이 회사 운영에 실제로 필요하다는 것이다. 안전과 상업이 분리되어 있지 않고 "뒤엉켜(entangled)" 있다는 인정이다. 그는 이 산업에서 제대로 해 보려는 모든 사람에게 연민을 느낀다고 했고, 앤트로픽이 더 사려 깊게 해 왔다고 자평하면서도 누구에게나 어려운 상황임을 부정하지 않았다.
앤트로픽은 일반 영리회사가 아니라 공익기업(PBC, Public Benefit Corporation) 형태로 설립됐다. 다니엘라의 설명에 따르면, 설립 문서 단계에서부터 상업적 이익과 공공의 이익을 법적 구조로 함께 짊어지도록 못 박았다는 데 의미가 있다. 일곱 명의 공동창업자 전원이 자신이 회사에서 얻는 부의 80퍼센트를 자선 목적에 내놓겠다고 서약한 것도 같은 맥락이다.
일반 회사가 "이윤을 최대로"라는 한 가지 나침반만 들고 항해한다면, 공익기업은 처음부터 나침반을 두 개 단 배다. 하나는 이윤, 다른 하나는 공익을 가리킨다. 두 바늘이 어긋날 때 한쪽을 무시할 수 없도록, 정관 자체에 두 방향을 함께 고려하라고 적어 둔 셈이다.
오프라는 청중이 품을 법한 의심을 그대로 던졌다. "80퍼센트를 정말 줄지, 67퍼센트만 주는 건 아닌지 어떻게 아느냐." 다리오는 공개적으로 약속을 글로 남겼고 창업자들끼리 회사에 대해서도 서약했다고 답하면서도, 그 서약이 문자 그대로 법적 구속력을 갖는지는 확신하지 못한다고 했다. 지분이 아직 현금화되지 않아 당장 옮길 수 없을 뿐, 재단 설립을 구상하고 있다는 것이 현재 상태였다. 약속의 진정성을 따지자면, 검증 가능한 것은 의도의 공개적 명문화까지이고 이행은 앞으로의 일이라는 점은 분명히 해 둘 만하다.
왜 인공지능을 둘러싼 서사가 부정적으로 기우는가. 다리오는 시점의 비대칭을 핵심 원인으로 짚었다. 피해는 빠르게 나타난다 - 챗봇과의 대화가 누군가를 극단적 선택으로 몰고 가는 일은 짧은 시간 안에 벌어질 수 있다. 반면 효용은 더디다. 암을 치료하는 식의 성과는 생물학의 돌파, 후보 물질 개발, 임상시험이라는 긴 단계를 거쳐야 하므로 수년이 걸린다. 그는 자신이 연구 생물학자 출신임을 들어 이 시간 격차의 무게를 설명했다.
앤트로픽은 이 격차를 좁히려 약물 설계·선별에 특화된 소규모 바이오테크를 인수했다고 밝혔다. 다리오는 몇 년 뒤 암·알츠하이머·심장질환 신약이 그 노력에서 나오기를 바란다고 했다. 다만 지금은 시작 단계이며, 효용이 가시화되어야 비로소 서사가 바뀐다고 봤다. 그러면서도 그는 "결국 서사가 무슨 상관인가, 우리는 실제로 사람을 돕고 싶을 뿐"이라고 덧붙였다.
대담의 가장 무거운 대목은 인간과 기계의 관계로 향했다. "사람들이 인공지능과 사랑에 빠지는 현상을 어떻게 보느냐"는 물음에 두 사람 모두 "나쁜 생각"이라고 잘라 말했다. 다리오는 그것이 단순한 위험이 아니라 이미 벌어지고 있는 일이라고 했다. 잘못 설계되면 모델은 사람을 끌어들이기에 충분히 매력적일 수 있고, 아직 그렇지 않더라도 곧 그렇게 될 것이라는 진단이다.
다니엘라는 챗봇의 영향 아래 아들을 극단적 선택으로 잃은 부모를 최근 만났다고 전했다. 부모가 알지도 못하는 사이, 부모가 해 주어야 할 말을 기계가 아이에게 건네는 세계 - 그 위험을 앤트로픽은 매우 진지하게 받아들인다고 했다. 다리오는 같은 기술이 정반대 방향으로도 쓰일 수 있음을 짚었다. 사람이 인공지능에 빠져드는 대신, 인공지능을 통해 곁에 있는 사람과 더 나은 관계를 맺는 길도 있다는 것이다.
"안으로 파고들어 기계와만 시간을 보내는 길이 있고, 어깨 위의 조언자처럼 더 나은 삶을 살도록 돕는 길이 있다. 우리가 원하는 건 후자다."
다리오 아모데이
다니엘라는 앤트로픽이 18세 미만 사용자의 클로드 이용을 허용하지 않는다고 밝혔다. 오프라가 "거짓말로 나이를 속이면 어떻게 아느냐"고 묻자, 다리오는 클로드가 상호작용 양상으로 미성년 여부를 꽤 잘 추정한다고 답했다. 질문의 종류, 말하는 방식, 사용하는 시간대 같은 단서가 누적되면 패턴이 드러난다는 것이다.
그가 든 사례가 인상적이다. 일부 아이들은 "노인은 이런 걸 묻겠지" 하는 생각에 첫 질문으로 관절염 약을 묻고는, 곧이어 또래에게나 어울릴 법한 질문으로 넘어간다는 것이다. 그런 신호가 잡히면 클로드는 계정을 정지하고, 성인임을 증명하면 복구하는 절차를 둔다고 했다. 물론 성인이 미성년으로 오인되어 정지당하는 오류도 생기는 - 명백한 맞교환(trade-off)이 있는 정책임을 그는 인정했다.
완벽한 차단은 없다. 앤트로픽이 택한 것은 "성인이 가끔 막히는 불편"을 감수하더라도 미성년 노출을 줄이는 쪽의 맞교환이다.
"사람들이 모델에 과하게 매달리지 않게 하려 한다"는 말에 오프라는 되물었다. "당신들은 우리가 모델에 더 붙어 있기를 바라는 줄 알았다." 다리오의 답은 인센티브 구조로 향했다. 앤트로픽은 광고를 하지 않는다. 광고 모델에서는 사용자의 눈이 화면에 머무는 1초가 곧 수익이므로, 가능한 한 오래 붙잡아 두는 것이 목표가 된다. 반면 앤트로픽은 구독과 기업 판매로 돈을 번다. 이 구조에서 모델의 목표는 "유용함"이 된다는 것이다.
그 차이는 기술적 선택으로도 이어진다. 광고 회사라면 대화를 길게 끄는 쪽으로 모델을 설계할 유인이 있지만, 앤트로픽은 사용자가 원하는 답을 얻고 대화가 끝나는 것을 목표로 삼는다고 했다. 다리오는 광고형 인센티브를 "뒤틀린 유인(warped incentive)"이라 불렀다. 다니엘라는 이용자가 건강 정보나 자녀 문제, 재정 같은 사적인 이야기를 인공지능에 털어놓는다는 점을 들어, 그 데이터를 광고에 쓰지 않는 것이 사생활 존중의 문제이기도 하다고 했다.
이어진 "마찰 없는 삶(frictionless life)이 성장의 기회를 빼앗지 않느냐"는 물음에 다리오는 결을 나누어 답했다. 어떤 마찰은 없는 편이 분명히 낫다 - 그는 약 20년 전 세상을 떠난 아버지의 병이 그 직후 더 확실한 치료법으로 정복된 일을 들며, 그런 고통은 굳이 겪을 가치가 없었다고 했다. 반면 도전을 통해 배우고, 실수에서 성장하며, 타인과 관계 맺는 능력을 기르는 일은 어떤 미래에서도 보존되어야 한다고 했다. 대학과의 협업에서 클로드를 "학습 모드"로 두어, 과제 답을 그냥 내주는 대신 무엇을 모르는지 되묻고 주제를 함께 짚어 가게 하는 방식이 그 예로 제시됐다.
가장 극적인 일화는 미국 국방부(DoD, Department of Defense)와의 충돌이다. 앤트로픽은 본래 국방부에 모델을 제공하며 협력해 왔고, 다리오 자신도 국가 방위의 필요를 인정하는 쪽이라고 밝혔다. 문제는 두 가지 용도였다. 사람 군인 없이 한 사람이 단추를 쥐고 운용하는 완전 자율 무기, 그리고 정부 권력으로 자국민을 감시하는 국내 대규모 감시 - 이 둘은 받아들일 수 없다는 것이 앤트로픽의 선이었다.
이 대목은 사실관계로도 잘 알려져 있다. 2026년 1·2월에 걸쳐 국방부는 클로드에 "모든 합법적 용도(any lawful use)"를 허용하도록 계약 조건 변경을 요구했고, 앤트로픽이 거부하자 3월 초 회사를 "공급망 위험(supply chain risk)"으로 지정했다. 이는 통상 외국 적대 기업에나 적용되던 이례적 조치였다. 다리오는 대담에서 공동창업자들이 한자리에 모여 "회사에 큰 타격이 될 수 있지만 이건 할 수 없다"는 데 만장일치로 뜻을 모았다고 회고했다.
"나라를 지키는 일은 중요하다. 그러나 이 나라의 가치에 어긋나는 일을 하면서까지 지킬 가치는 없다."
다리오 아모데이
최악의 시나리오는 단순히 정부와의 거래 중단이 아니었다. 다른 기업들이 앤트로픽과 거래하는 것까지 막을 수 있다는 위협, 즉 사실상 시장에서의 고립 가능성이었다. 다니엘라는 이를 "정치가 아니라 정책(policy, not politics)"의 문제로 규정했다. 특정 진영의 다툼이 아니라 어떤 가치를 군사용 인공지능에 새길 것인가에 관한 사안이라는 것이다. 두 사람은 "과거의 우리가 이 순간의 우리를 자랑스러워할까"라는 기준이 결정을 분명하게 만들었다고 했다.
이런 큰 결정은 어느 날 갑자기 나오지 않는다. 다니엘라는 그 전에 작은 결정들이 차곡차곡 "사다리처럼" 쌓였다고 했고, 세 가지를 꼽았다.
창업자들 사이에서는 논쟁거리도 아니었지만, 회사 안팎에는 "광고가 좋은 수익원"이라며 권하는 목소리가 있었다. 그것이 구글·페이스북을 비롯한 대다수 기업의 방식이라는 논리였다. 앤트로픽은 다른 길을 찾겠다며 거절했다.
2025년 중반, 미국 의회에서는 주(州) 정부의 인공지능 규제를 일정 기간 금지하면서 연방 차원의 규제도 두지 않는, 사실상 모든 규제를 봉인하는 조항이 논의됐다. 다리오는 침묵하라는 주변의 만류를 뒤로하고 뉴욕타임스(The New York Times)에 반대 기고문을 실었다. 결과적으로 해당 조항은 상원에서 99대 1로 부결됐다. 이는 사실로 확인되는 대목으로, 2025년 7월 1일 상원이 예산안에서 10년짜리 주 인공지능 규제 모라토리엄을 99대 1로 삭제했고, 다리오의 기고문은 그에 앞서 그것이 "지나치게 무딘 수단(too blunt an instrument)"이라고 비판했다.
SB1047은 인공지능의 여러 위험에 규제 틀을 씌우려 한 초기 시도였다. 앤트로픽은 법안이 완벽하지 않다고 보면서도, 규제와 책임이 존재하는 편이 낫다며 공개 지지했다. 업계 다수가 규제에 반대하던 분위기 속의 선택이었고, 두 사람은 옛 동료와 투자자들로부터 항의 메일을 받았다고 했다.
규제는 어떤 모습이어야 하는가. 그리고 무력감을 느끼는 대중은 무엇을 할 수 있는가. 오프라는 많은 사람이 "기차에 탄 승객"처럼 느낀다고 짚었고, 다리오는 그 비유를 곧바로 받아들였다. 자기들조차 어느 정도는 승객이라는 것이다. 그러면서 그가 끌어온 표현이 이 대담의 또 다른 축이다.
"우리는 이것을 신뢰의 속도(speed of trust)로만 확산시킬 수 있다. 그리고 지금 신뢰는 매우 부족하다."
오프라가 인용하고 다리오가 동의한 표현
다리오는 현재 이 기술이 대다수 사람에게 부정적으로 받아들여진다는 인식을 부정하지 않았다. 다만 그는 효용을 제대로 보여주거나, 사람들이 그 효용에 참여하도록 안내하는 일이 아직 일어나지 않았다고 봤다. 앤트로픽은 클로드에 "헌법(constitution)"이라 부르는 행동 원칙을 두고, 시민이 그 원칙에 의견을 보태는 실험도 해 왔다고 소개했다. 모두를 설계 과정의 일부로 끌어들이려는 시도이지만, 다리오 스스로 "빠진 조각이 있다"며 정답을 아직 모른다고 인정했다.
좋은 다리를 놓아도 사람들이 무너질까 봐 건너지 않으면 소용이 없다. 기술의 확산은 다리의 강도가 아니라, 사람들이 그 다리를 믿고 발을 디디는 속도에 묶인다. 신뢰가 부족하면 아무리 튼튼해도 통행량은 늘지 않는다.
다리오는 신입(entry-level) 일자리의 절반가량이 사라질 수 있다고 말해 왔다. 대담에서도 그는 기술을 그저 최대한 빨리 밀어붙이기만 하면 그 일이 "전적으로 일어날 것"이라고 했다. 다만 단순히 배포하는 데 그치지 않고 사람들이 적응하도록 돕고 정부가 제 역할을 하면, 일자리의 성격이 완전히 달라지더라도 더 나은 세계로 가는 길이 있다고 봤다. 그는 서사를 바꾸는 것과 문제가 어렵다는 사실을 인정하고 실제로 푸는 것은 다르다고 못 박았다. 좋은 미래는 저절로 오지 않는다는 것이다.
다니엘라가 든 의사의 사례가 이 변화를 구체적으로 보여준다. 오늘날 우리는 진단을 잘하는 의사를 높이 친다. 그런데 인공지능이 진단에서 의사만큼 정확해지면, 사람들은 여전히 의사를 원하되 다른 것을 기대하게 된다 - 손을 얹어 진찰하고, 눈을 맞추며 안부를 묻고, 공감할 시간을 가진 의사다. 임상 결과는 환자가 의사와 좋은 관계를 맺을 때 더 나아진다는 근거가 많다.
일자리가 통째로 사라지기보다, 그 일에서 사람에게 요구되는 자질이 바뀐다. 진단 능력에서 관계 맺는 능력으로 - 무게중심이 옮겨 간다.
덧붙여 다니엘라는 인공지능 활용에 성별 격차가 있다는 점을 우려로 꺼냈다. 여성의 이용 빈도가 남성에 비해 크게 낮다는 것이다. 그는 지식이 곧 힘이라며, 기술을 두려워하지 말고 익숙해질 것을 권했다. 두려워하지 않고 이해할수록, 무엇이 좋고 무엇이 싫은지에 대해 기업과 정부에 목소리를 낼 수 있다는 논리다.
대담에서 가장 구체적인 기술 이야기는 미토스(Mythos)라는 새 모델을 둘러싸고 펼쳐졌다. 다리오의 설명에 따르면, 앤트로픽은 모델을 만들 때마다 번역·코딩·문서 독해 등 온갖 능력을 시험하는데, 미토스는 그중 한 항목에서 유난히 큰 도약을 보였다. 소프트웨어 코드의 약점을 찾아 침투하는 능력 - 곧 사이버 보안 영역이었다.
핵심은 의도하지 않은 능력이었다는 데 있다. 위험하게 만들려고 설계한 것이 아닌데도, 미토스는 사이버 공격을 수행하는 데에도, 방어하는 데에도 인간 전문가를 능가하는 수준을 보였다. 그래서 앤트로픽은 이 모델을 곧바로 모두에게 풀지 않기로 했다. 인터넷 인프라의 핵심을 이루는 일부 기업 - 주요 은행, 그리고 애플·마이크로소프트·구글 같은 소프트웨어 제공자 - 에게 먼저 건네, 약점이 널리 악용되기 전에 메우게 한다는 구상이었다.
모든 집의 자물쇠를 단숨에 따는 만능열쇠가 생겼다고 하자. 이것을 한꺼번에 시중에 풀면 도둑이 먼저 쓸 수 있다. 그래서 자물쇠 만드는 사람들에게 먼저 쥐여 주고, 약한 자물쇠를 모두 교체하게 한 뒤에야 공개한다 - 미토스의 배포 방식이 그렇다.
이 일화는 실제 사실과도 맞물린다. 앤트로픽은 2026년 4월 클로드 미토스 프리뷰(Claude Mythos Preview)를 공개하며, 이 모델이 주요 운영체제와 웹 브라우저 전반에서 수천 건의 제로데이(zero-day, 개발자도 모르던 미공개 취약점)를 찾아냈다고 밝혔다. 오픈BSD에 27년간 숨어 있던 결함을 찾아낸 사례도 보고됐다. 그리고 이 능력의 양면성 때문에 모델을 일반 공개하지 않는 대신, 아마존웹서비스(AWS)·애플·구글·마이크로소프트·엔비디아 등을 포함한 소수 기관에 먼저 제공하는 프로젝트 글래스윙(Project Glasswing)을 꾸렸다. 대담에서 다리오가 "40여 곳"이라 말한 것은 이 방어자 우선 배포를 가리킨다. 다만 공식적으로 이름이 공개된 핵심 파트너는 그보다 적다는 점은 짚어 둘 만하다.
다리오의 희망은 분명했다. 방어자들이 먼저 구멍을 메워, 랜섬웨어와 스파이웨어, 생물 테러 우려가 줄어든 - 이전보다 안전한 세계에 이르는 것이다. 다만 그 사이에는 강력한 능력이 통제 아래 존재하는 위험한 과도기가 있고, 그것을 "공격자보다 방어자에게 먼저"라는 원칙으로 관리하려 한다고 했다.
"이 일이 잠을 설치게 하느냐"는 물음에 다리오는 솔직히 잘 못 잘 때가 있다고 답했다. 가장 큰 걱정은 거창한 파국이 아니라 "제대로 해내지 못할 가능성"이었다. 어딘가에서 분명 실수할 텐데, 큰 부분만은 틀리지 않기를 바란다는 것이다.
막대한 부와 권력 속에서 자아(ego)를 어떻게 다스리느냐는 물음에는 두 사람 모두 "사명으로 돌아간다"고 답했다. 다리오는 회사 내부 메신저에서 자신이 한 발언을 두고 "이렇게 말하면 안 됐다"고 정면으로 반박한 직원의 글을 오히려 반겼다고 했다. 최고경영자에게 공개적으로 반대할 수 있다는 사실에 많은 직원이 놀랐다는 것이다. 오프라는 여기에 한 일화를 보탰다. 1980년대 말 헨리 크래비스가 자신에게 했던 말 - 돈을 모을수록 진실을 들을 기회는 줄어든다는 것이다. 다니엘라는 고등학교·대학 시절부터의 친구들이 여전히 거리낌 없이 자신에게 진실을 말하고, 회사의 공개적 결정에도 스스럼없이 반대한다는 점을 그 해독제로 들었다.
마지막으로 오프라는 모든 손님에게 던지는 질문을 건넸다. "잘 산 삶이란 무엇인가." 다니엘라는 주체성과 자율(agency and autonomy)을 꼽았다. 운전석에 앉아, 자신과 가족과 공동체와 세계를 위해 최선의 자기 자신이 되는 데 그 힘을 쓰는 삶이라는 것이다. 다리오는 같은 뜻을 다른 말로 옮겼다. 품위와 원칙을 잃지 않는 것, 돌아보았을 때 부끄럽지 않을 만큼 모든 노력을 쏟았다고 말할 수 있는 것 - 결과는 통제 밖일지라도, 통제할 수 있는 것은 그 태도뿐이며 그것이 결과보다 더 중요하다고 했다.
한 시간 남짓의 대담을 관통하는 것은 균형을 향한 고집스러운 태도다. 효용만 부풀리지도, 위험만 강조하지도 않고 둘을 동시에 손에 쥔다는 "빛과 그림자". 멸종 위험을 입에 올리면서도 기차의 운전대를 놓지 않겠다는 논리. 광고를 거절하고, 펜타곤의 요구를 거부하고, 자기 산업의 규제 봉인에 반대한 일련의 선택들은 모두 같은 자리에서 나온다 - 어느 한쪽 나침반만 보지 않겠다는 것이다.
물론 이 자리에 비판이 끼어들 여지는 남는다. 위험을 가장 크게 말하는 회사가 동시에 9,000억 달러 규모의 자본을 끌어모으며 가장 빠르게 달리는 회사이기도 하다는 긴장은 대담 내내 완전히 해소되지 않았다. 80퍼센트 기부 서약의 이행은 아직 미래의 일이고, "신뢰의 속도"를 끌어올릴 구체적 방법은 다리오 스스로도 "빠진 조각"이라 인정했다. 그럼에도 두 사람이 거듭 돌아온 자리는 분명하다. 이 변화는 누군가에게 일어나는 일이 아니라 모두가 함께 운전대에 손을 얹어야 하는 일이라는 것, 그리고 좋은 결과는 결코 저절로 오지 않는다는 것이다.
이 글은 오프라 팟캐스트(The Oprah Podcast) 2026년 5월 19일 공개 대담의 내용을 정리·해설한 것이다. 본문에 인용된 발언은 한국어로 옮긴 요약이며, 기업가치·미토스 모델·펜타곤 분쟁·규제 모라토리엄 표결 등 외부 사실관계는 공개 보도를 통해 확인했다. 인용 발언의 정확한 표현과 전체 맥락은 원본 대담에서 확인할 수 있다.