엔비디아 최고경영자(CEO) 젠슨 황이 최근 던진 말이 화제다. “연봉 50만 달러, 우리 돈으로 약 7억 원을 받는 엔지니어라면 적어도 절반인 25만 달러는 토큰을 사는 데 써야 한다. 5,000달러밖에 안 썼다고 하면 나는 폭발할 것이다.” 농담처럼 들리지만 진심이다. 그가 말한 ‘토큰’이란 도대체 무엇이기에 이런 수치가 나오는 걸까.
토큰(token)은 인공지능(AI)이 글을 처리하는 가장 작은 단위다. 사람은 문장을 한 호흡에 읽지만 AI는 글자를 잘게 쪼개 읽는다. 영어 기준으로 한 토큰은 평균 네 글자, 한 문단은 약 100토큰. AI 회사들은 이 토큰 개수로 요금을 매긴다. 많이 쓸수록 돈이 든다.
그런데 그 ‘많이’의 단위가 상상 밖이다. 오픈에이아이(OpenAI)의 한 엔지니어는 일주일에 토큰 2,100억 개를 썼다. 위키피디아 백과사전 33권을 통째로 다시 입력한 양이다. 어떤 개발자는 앤트로픽(Anthropic)의 코딩 도구 하나에만 한 달 15만 달러, 약 2억 2,000만 원을 결제했다. 한 줄짜리 요구사항만 던져도 AI가 알아서 수천 줄짜리 프로그램을 만들고 고치기를 반복하기 때문이다.
이쯤 되니 실리콘밸리에 새로운 자랑거리가 생겼다. ‘토큰 맥싱(Token-maxing)’, 누가 더 많이 썼는지 겨루는 문화다. 메타(Meta) 직원이 자발적으로 만든 사내 토큰 사용량 순위판은 임직원 8만 5,000명을 줄 세우고 상위 사용자에게 ‘토큰 전설(Token Legend)’ 같은 칭호를 붙였다. 다만 외부에 보도되자 단 이틀 만에 폐쇄됐다. 캐나다 쇼피파이(Shopify)는 한술 더 떠 신규 채용을 요청하기 전에 “AI로는 왜 안 되는지부터 입증하라”는 사내 메모를 돌렸다. 사람을 뽑기 전에 토큰을 더 써보라는 얘기다.
웃지 못할 풍경도 생겼다. 미국 빅테크의 한 개발자는 익명 인터뷰에서 “리더보드 순위 때문에, AI 에이전트를 굳이 쓸 일이 없어도 몇 시간씩 켜둔다”고 털어놓았다. 평가 점수를 위한 가짜 토큰 사용량이 등장한 것이다.
이런 폭주가 가능한 이유는 가격 때문이다. 2022년 챗지피티(ChatGPT) 충격 당시 100만 토큰당 20달러였던 추론 비용은 2년 만에 0.07달러까지 떨어졌다. 무려 280배 인하. 2030년에는 여기서 다시 90% 더 내려갈 전망이다.
이 가격 전쟁의 한복판에서 가장 거칠게 칼을 휘두르는 쪽은 중국이다. 지난해 초 중국 스타트업 딥시크(DeepSeek)는 오픈에이아이의 최고급 모델과 비슷한 성능을 27배나 싸게 내놓아 세상을 놀라게 했다. 현재 개발자들이 가장 많이 쓰는 AI 모델 1~6위는 모두 중국산이다. 중국 정부 발표에 따르면 자국 일평균 토큰 사용량은 2년 만에 약 1,400배가 늘어 140조 개에 이른다. 한 발 더 나아가 중국 정부는 ‘토큰’의 공식 한자 명칭을 ‘词元(츠위안)‘으로 정했다. 词는 단어, 元은 ‘기본 단위’이자 동시에 자국 화폐 위안을 가리키는 글자다. 토큰 경제의 결산 단위를 자국 이름으로 바꾸겠다는 노골적 표시다.
그렇다면 이 거대한 시장에서 가장 큰돈을 벌고 있는 쪽은 누구일까. 의외로 토큰을 파는 회사들이 아니다. 월스트리트저널이 입수한 내부 문건을 보면 오픈에이아이는 2030년, 앤트로픽은 2028년에야 흑자로 돌아선다. 매출은 폭증하지만 모델 훈련 비용을 빼면 한참 적자다.
진짜 돈은 그래픽처리장치(GPU) 칩을 만드는 엔비디아와, 그 GPU를 데이터센터에 쌓아두고 빌려주는 클라우드 회사들에게 흘러간다. 앤트로픽이 최근 아마존웹서비스(AWS)와 맺은 10년 계약 규모만 1,000억 달러, 한화 약 140조 원. 이 돈으로 확보한 컴퓨팅 용량이 원자력 발전소 다섯 기 분량과 맞먹는다.
남의 나라 얘기만은 아니다. 토큰 한 개를 만드는 데에는 막대한 전기와 냉각수가 들어간다. 챗봇에 가벼운 질문 하나를 던질 때마다, 그 뒤에서는 거대한 데이터센터가 돌아가며 발전소 한 대분의 전력을 빨아들이고 있다. 한국에도 글로벌 빅테크의 데이터센터 신축 요청이 줄을 잇고 있다. 토큰은 어느새 측정 단위를 넘어 새로운 시대의 통화이자, 새로운 시대의 전기요금 청구서가 되어 가고 있다.