워드프로세서 같은 프로그램은 한 번 만들어 놓으면 백 명에게 팔든 천만 명에게 팔든 복제 한 부를 더 찍는 데 추가 비용이 들지 않는다. 소프트웨어 산업이 한 세대 동안 누린 부의 비밀이 여기에 있다. 만드는 데만 큰돈이 들 뿐, 파는 데는 거의 공짜다. 같은 매출을 올리는 제조업체가 원자재와 생산에 매출의 절반 이상을 쓰는 것과는 딴판이다.
그런데 인공지능(AI) 챗봇은 다르다. 질문에 답할 때마다 돈이 든다. 화면에 글자가 하나씩 찍힐 때마다 그래픽처리장치(GPU)가 실제로 계산을 돌리고, 그 계산은 전기와 값비싼 장비를 소모한다. 이 과정을 추론(inference)이라 부른다. 소프트웨어가 0이라 여겼던 ‘한 단위 더 만드는 비용’이, AI에서는 0이 아니다.
차이는 손익에 그대로 찍힌다. 성숙한 소프트웨어 기업의 매출총이익률은 보통 7085%에 이르지만, AI 서비스 기업은 5060% 수준이다. 챗GPT를 만든 오픈AI는 2025년 약 37억 달러를 벌고도 약 50억 달러를 잃은 것으로 추정된다. 번 돈보다 더 많은 돈을 잃은 셈인데, 적자의 주범은 연구비도 인건비도 아닌, 매일 수십억 건의 답변을 만들어 내는 추론 비용 그 자체였다. 사실 AI는 소프트웨어와 제조업의 혼합형에 가깝다. 모델을 새로 학습시키는 데 드는 막대한 선행 비용은 소프트웨어 개발비를 닮았지만 세대마다 되풀이되고, 여기에 답변마다 붙는 변동비까지 더해진다. 두 산업의 가장 비싼 절반씩을 한 몸에 짊어진 셈이다.
더 묘한 일은 단가는 폭락하는데 청구서는 오히려 커진다는 점이다. 같은 성능을 기준으로 토큰 처리 비용은 3년 만에 50분의 1 수준으로 떨어졌다. 그런데도 총비용은 늘어난다. 값이 싸지자 사람들이 AI를 훨씬 더 많이, 더 복잡하게 쓰기 시작했기 때문이다. 스스로 추론을 거듭하는 ‘에이전트’ 작업은 요청 하나에 과거의 수십 배 토큰을 태운다. 19세기에 석탄이 효율적으로 쓰이자 소비가 도리어 폭증했던 것과 같은 이치다. 게다가 지금의 낮은 가격은 기업들이 점유율을 잡으려 원가 아래로 파는 한시적 바닥이라는 분석도 많다.
이 비용을 끝까지 따라 내려가면 마지막에 남는 것은 전기다. 국제에너지기구(IEA)는 전 세계 데이터센터 전력 소비가 2024년 약 415테라와트시에서 2030년 약 945테라와트시로 두 배 넘게 늘어, 전 세계 전력의 약 3%에 이를 것으로 본다. AI 전용 설비의 GPU 랙은 일반 서버보다 최대 6배까지 전기를 먹는다. 그래서 데이터센터는 알루미늄 제련소가 그렇듯 전기가 싼 곳을 찾아 모여든다. 전력망 입장에서 보면 갑자기 들어선 거대한 제철소와 비슷한, 한 곳에 몰려 밤낮없이 돌아가는 새로운 중공업 고객인 셈이다.
복제가 공짜였던 디지털 경제의 전제가 AI에서는 더 이상 성립하지 않는다. AI는 가벼운 소프트웨어가 아니라, 전기와 설비와 입지를 따지는 무거운 인프라 산업에 한 발 더 가깝다. 토큰마다 무언가가 실제로 타고 있다는 사실을, 이제 기업의 손익계산서와 나라의 전력 수요 곡선이 함께 증언하고 있다.