전장에서 검증되는 것만 살아남는다

01 / 전이의 역사전장이라는 진실 검증대

카프는 먼저 한 가지 역사적 관찰에서 출발한다. 오랫동안 군사기술과 산업발전은 한 몸이었다는 것이다. 군용으로 가혹한 조건에서 작동하도록 개발된 기술이 민간으로 흘러들어 사회 전체의 생활수준을 끌어올렸다. 인터넷과 위성위치확인시스템(GPS, Global Positioning System)이 대표적이다. 그런데 그는 이 연결고리가 한동안 끊어졌다가, 최근 방위산업 스타트업과 팔란티어 같은 회사를 통해 다시 이어지고 있다고 본다.

그가 전장(戰場)을 거듭 끌어들이는 이유는 단순하다. 전장은 거짓이 통하지 않는 환경이기 때문이다. 실험실의 시연 화면이나 발표자료 위에서는 무엇이든 잘 작동하는 것처럼 보인다. 그러나 통신이 끊기고 적이 전파를 교란하며 데이터를 적에게 넘기지 않으면서 임무를 수행해야 하는 조건에서는, 무엇이 실제로 작동하는지가 즉시 드러난다. 군사 소프트웨어의 가치는 두 겹이라고 카프는 말한다. 하나는 표면 아래에 깔린 기반이 실제로 돌아가게 만드는 것이고, 다른 하나는 그 위에서 남들이 못하는 수준의 능력을 끌어내는 것이다.

여기서 그가 드는 사례가 우크라이나다. 우크라이나군은 거의 맨바닥에서 시작했기 때문에, 역설적으로 유리했다는 것이다. 오래된 군대일수록 평시에 쌓아 둔 조직과 절차가 막상 전투가 벌어지면 '사실은 존재하지 않았다'는 것을 뒤늦게 발견하게 되는데, 처음부터 가진 것이 없던 쪽은 그 환멸을 겪을 일이 없었다. 반대로 미국의 강점은 (개입주의에 반대한다고 스스로 밝히면서도) 오랜 실전 경험을 통해 무엇이 작동하고 무엇이 안 되는지에 대한 데이터를 축적했다는 점이라고 그는 설명한다.

이 대목은 추상적 비유가 아니다. 팔란티어가 주계약자로 참여하는 미군의 메이븐 스마트 시스템(MSS, Maven Smart System)은 위성 영상, 드론 영상, 레이더, 센서, 정보 보고를 한데 모아 위협과 표적을 식별하는 지휘통제용 인공지능이다. 이 체계는 2022년 우크라이나에 표적 좌표를 제공하는 데 쓰였고, 2026년 들어 미군의 핵심 표적 체계로 공식 지정되는 단계에 이르렀다. 카프가 대담에서 우크라이나(소규모 정예), 이스라엘과 이란을 둘러싼 작전(정보 주도), 미국(압도적 규모의 통합)을 서로 다른 전투 방식으로 나누어 언급한 것도 같은 맥락이다. 각 군대는 저마다 다른 방식으로 싸우고, 소프트웨어는 그 차이 위에서 작동해야 한다.

02 / 핵심 개념파워포인트 위에만 존재하는 조직

카프의 가장 독창적인 표현은 여기서 나온다. 어떤 조직이든, 그것이 기업이든 군대든 국가든, 발표자료(파워포인트) 위에만 존재하고 실제로는 작동하지 않는 부분을 품고 있다는 것이다. 평시에는 그 빈틈이 드러나지 않는다. 그러다 진짜 부하가 걸리는 순간, 즉 전투가 시작되거나 시스템이 실제 트래픽을 받는 순간, 그 부분은 무너진다. 그는 인공지능을 일종의 하중시험으로 비유한다. 보안 분야에서 시스템의 약점을 일부러 찔러 보는 '침투시험(pen test)'처럼, 인공지능은 조직의 어느 부분이 진짜 무게를 견디고 어느 부분이 견디는 척만 했는지를 드러낸다는 것이다.

이 관점은 소프트웨어의 가치를 보는 통상적 시각과 다르다. 흔히 인공지능의 효용은 'A 상태에서 더 나은 B 상태로의 개선'으로 이해된다. 카프는 그보다 앞선 단계에 더 큰 가치가 있다고 본다. 많은 조직에서는 기반 자체에 큰 구멍이 있어서, 막상 실제로 돌려 보면 절반쯤은 작동하지 않는다. 우크라이나가 전투 중에 '우리 시스템이 사실은 돌아가지 않았다'는 것을 다시 발견할 필요가 없었던 이유도 여기에 있다.

AI는 빈틈을 메워 주기 전에, 먼저 어디가 빈틈인지를 폭로한다.

03 / 작동의 조건날것의 LLM은 왜 실패하는가

두 번째 축은 더 기술적이다. 카프는 시판되는 범용 대규모언어모델(LLM, Large Language Model)을 그대로 가져다 쓰는 방식으로는 의미 있는 일이 거의 되지 않는다고 단언한다. 범용 모델은 그 자체로는 일종의 흔한 부품(커머디티)이고, 무엇보다 정밀하지 않다. 보험 인수심사(언더라이팅)처럼 규제를 받고 책임이 따르는 업무에는 그대로 적용할 수 없다는 것이다.

가치는 모델 자체가 아니라, 그 모델을 기업이 이해하는 언어로 조율하고 관리하는 소프트웨어 층에 있다. 팔란티어가 온톨로지(ontology, 개념 체계)와 파운드리(Foundry)라 부르는 부분이다. 흩어진 데이터를 그 기업의 개념 구조에 정렬해 두어야, 모델의 출력이 비로소 검증 가능하고 감사 가능한 행동으로 바뀐다. 같은 모델을 그냥 스택 위에 얹어 놓고 왜 안 되느냐고 묻는 것이 지금 많은 기업이 겪는 도입 실패의 정체라고 그는 진단한다.

이 진단은 'AI가 거품이냐'는 질문에 대한 그의 답으로 이어진다. 카프는 거품이 아니라 시차(lag)라고 본다. 인공지능은 작동한다. 전장에서 이미 증명됐다. 다만 많은 기업이 잘못된 방식을 시도했고, 그래서 아직 효과를 못 봤을 뿐이라는 것이다. 일단 조율 층을 제대로 갖추면 가치는 나타난다. 그는 팔란티어의 영업 인력이 오히려 줄고 있다는 점을 근거로 든다. 작동하는 결과를 보여 주면 제품이 스스로 팔린다는 것이다.

다만 한 가지는 짚어 둘 만하다. 이 진단은 동시에 팔란티어의 제품 설명이기도 하다. '날것의 모델로는 안 되고 조율 층이 필요하다'는 명제는 곧 '그 층을 파는 우리에게 오라'는 말과 겹친다. 통찰이 정확할수록 영업과 구분하기 어려워지는 구조다. 이 점은 글 말미에서 다시 다룬다.

04 / 상업적 전이전장에서 병원과 보험사로

카프는 전장에서 통한 논리가 거의 그대로 기업으로 옮겨진다고 본다. 그러나 목표를 오해하면 안 된다고 강조한다. 같은 시장에 있는 기업들은 비슷한 조직도와 비슷한 정보시스템을 갖추면서 서로 점점 닮아 가는 경향이 있는데, 카프가 보기에 그렇게 똑같아지는 능력에는 큰 가치가 없다. 진짜 가치는 그 기업만 할 수 있는 무언가를 하게 만드는 데 있다. 모두가 가진 지식을 한 곳만 가진 지식으로 바꾸고, 남이 따라올 수 없는 효율을 입히는 일이다.

그가 드는 사례가 병원과 보험이다. 팔란티어가 다수의 병원에 적용한 영역은 환자 접수와 분류(인테이크)다. 병원마다 전문 분야가 다르고 잘 다루지 못하는 환자 유형이 다른데, 이 접수 흐름을 정리하면 처리 속도를 크게 끌어올릴 수 있고 그것이 곧 생명을 살린다는 주장이다. 그는 과거 대비 10배에서 15배 빠르게 처리할 수 있다는 수치를 든다. 다만 이런 수치는 특정 사례에서 나온 값이며, 모든 도입에 일반화되는 보장은 아니라는 점을 함께 읽는 편이 정확하다.

흥미로운 것은 시민의 권리에 관한 그의 논리다. 데이터를 개념 구조 위에 올려 두면, '이 사람이 왜 접수됐고 왜 거절됐는가'를 추적할 수 있게 된다. 그래서 어떤 환자가 경제적 이유로 걸러졌는지, 배경 때문에 걸러졌는지를 사후에 들여다볼 수 있고, 이는 오히려 시민의 권리를 강화한다는 것이다. 사람들이 흔히 팔란티어가 그런 가치에 무관심하다고 여기지만 실제는 반대라고 그는 말한다.

이 주장은 절반만 맞다고 보는 편이 균형 잡혀 있다. 추적 가능성은 양날의 칼이기 때문이다. 누가 왜 거절됐는지 들여다볼 수 있는 같은 능력은, 누가 어디서 무엇을 했는지 들여다보는 감시에도 그대로 쓰일 수 있다. 팔란티어가 미국 이민세관단속국(ICE, Immigration and Customs Enforcement) 관련 작업 등으로 오랫동안 비판받아 온 것도 이 긴장에서 비롯한다. 같은 도구가 책임성을 높일 수도, 통제를 강화할 수도 있다는 사실은 카프의 설명에서 한쪽 면만 부각된다.

금융의 언어로 옮긴 대목도 눈에 띈다. 과거에는 한 기업의 비용 구조를 들어내고 재편하려면 그 회사를 일단 비상장으로 만들어야 했다. 카프는 이제 공개시장에 머문 채로도 같은 일을 할 수 있다고 말한다. 중간의 군살을 줄이는 대신 실제 일하는 현장 인력의 비중을 키우는 방향으로 조직을 바꿀 수 있다는 것이다. 듣기에는 매끄럽지만, '비용의 80퍼센트까지 줄일 수 있다'는 식의 수치는 어디까지나 들어간 영역과 사례에 달린 값이라는 점을 함께 기억할 필요가 있다.

05 / 노동과 적성화이트칼라의 자리

일자리 문제에서 카프는 통념과 반대 방향으로 선다. 서구에서 흔한 'AI가 인간의 일자리를 없앤다'는 서사를 그는 불행한 이야기라고 부른다. 그의 그림에서 더 가치가 높아지는 쪽은 직업기술(vocational) 인력이다. 그는 미국에서 배터리를 만드는 노동자들을 예로 든다. 고졸 출신이지만 일본의 숙련 엔지니어와 사실상 같은 일을 하고 있고, 필요하면 빠르게 다른 역할로 전환시킬 수 있어 대체하기 어려운 인력이 된다는 것이다.

흔들리는 쪽은 반대다. 대학을 거쳐 사무직으로 이어지던 전통적 화이트칼라 경로다. 철학을 공부한 자신을 농담 삼아 끌어들이며, 그런 교육은 좋은 교육이었지만 그 자체로 일자리를 보장하지는 않는다고 말한다. 그가 더 강조하는 것은 적성을 가려내는 방식이 잘못됐다는 점이다. 사례로 든 것이 메이븐 체계를 운용하는 미 육군의 한 인력인데, 전직 경찰관이자 전문대 출신인 그가 전 세계를 상대로 한 고난도 표적 업무를 수행하며 사실상 대체 불가능한 존재가 되었다는 것이다. 기존의 학력 신호로는 그 사람의 진짜 적성을 끝내 잡아내지 못했으리라는 이야기다.

여기서 그는 정치적으로 논쟁적인 발언으로 넘어간다. 직업기술 인력의 가치가 올라가는 흐름을 근거로, 특수한 기술을 가진 경우가 아니라면 대규모 이민의 근거가 약해진다는 견해를 내놓는다. 이는 분명히 카프 개인의 정치적 견해이며, 노동시장과 이민의 관계를 보는 다른 시각도 존재한다. 이민이 노동력 부족을 메우고 새로운 산업을 일으키는 역할을 한다는 반론, 그리고 기술 변화가 곧바로 이민 수요 감소로 이어지지는 않는다는 실증 논쟁이 모두 살아 있다. 카프의 단정은 그 자체로 하나의 입장일 뿐, 합의된 결론은 아니다.

06 / 지정학하중의 지정학

마지막으로 카프는 같은 렌즈를 국가 단위로 끌어올린다. 그가 보기에 미국과 중국은 서로 방식은 다르지만 둘 다 인공지능을 작동시키는 모델을, 그것도 규모 있게 갖추고 있다. 그리고 이 격차는 많은 사람의 예상보다 훨씬 빠르게 벌어질 것이라고 본다. 반면 오랜 시간을 보낸 유럽에 대해서는 애정과 함께 우려를 드러낸다. 유럽의 기술 도입 지체는 심각하고 구조적인 문제인데, 정작 어떤 정치 지도자도 '우리에게 구조적 문제가 있고 그것을 고치겠다'고 입에 올리지 않는다는 점이 그를 가장 불안하게 한다.

개발도상국에 대해서는 하나로 묶어 보지 말라고 한다. 그의 표현을 빌리면, 인공지능은 조직과 사회에 하중을 싣는다. 그 하중을 견딜 수 있는 공동체는 큰 이점을 얻지만, 견디는 척만 해 온 곳은 무너진다. 그래서 개도국의 미래도 나라 전체가 아니라, 실제로 하중을 견딜 수 있는 미시적 공동체 단위로 갈린다. 잘 되는 주머니와 안 되는 주머니가 같은 나라 안에 공존한다는 것이다.

그가 내놓는 전망은 '시장가치의 정직성'이라는 말로 압축된다. 앞으로 몇 해 안에 언어모델이 소프트웨어 곳곳에 박히면서, 무엇이 진짜 부하를 견디는지를 더는 가릴 수 없게 된다는 것이다. 그 결과 모든 공동체가 자기가 하는 일의 실제 시장가치를 직면하게 된다. 스스로 진보주의자라 밝히는 그는, 진보가 해야 할 가장 중요한 일이 바로 '다가올 변화가 당신이 하는 일의 실제 가치를 드러낼 것'이라고 말해 주는 일이라고 한다. 듣기 좋은 말로 현실을 가려 주는 정치가 점점 통하지 않게 된다는 진단이다. 철학을 공부하고 독일에서 오랜 시간을 보낸 그의 이력에 비춰 보면, 이 대목에는 비판이론 특유의 냉정한 폭로의 색채가 배어 있다.

맺음무엇을 취하고 무엇을 의심할 것인가

취할 만한 것은 분명하다. '무엇이 하중을 견디는가'라는 물음은 인공지능 도입을 평가하는 실용적인 렌즈로 유효하다. 시연용으로 그럴듯한 것과 실제 운영에서 견디는 것을 가르는 기준으로 삼을 수 있기 때문이다. 범용 모델을 그냥 얹는 방식과, 데이터를 조직의 개념 구조에 정렬한 뒤 모델을 조율하는 방식 사이의 차이도 현장에서 반복적으로 확인되는 사실에 가깝다.

의심할 것도 그만큼 분명하다. 첫째, 카프가 파는 상품이 바로 그 '하중시험기'라는 점에서, 그의 진단과 영업은 한 몸이다. 진단이 정교할수록 자기 회사의 필요를 정당화하는 자기충족적 구도가 된다. 둘째, 비용 80퍼센트 절감이나 처리속도 10배 같은 수치는 선별된 사례에서 나온 값이며, 그대로 일반화하기 어렵다. 셋째, 추적 가능성이 시민의 권리를 강화한다는 주장은 같은 능력이 감시로도 쓰인다는 반대 면을 가린다. 넷째, 일자리와 이민에 관한 단정은 검증된 결론이 아니라 하나의 정치적 입장이다.

그럼에도 이 대담이 남기는 한 문장은 따라가 볼 가치가 있다. 인공지능의 가장 큰 효과는 새로운 능력을 더해 주는 것이 아니라, 이미 있던 것 가운데 무엇이 허상이었는지를 드러내는 데 있다는 것이다. 전력망이나 의료, 금융처럼 실제 부하가 분명한 인프라 영역일수록 이 렌즈는 더 잘 들어맞는다. 그런 영역에서 일하는 사람에게 카프의 말은 위협이자 동시에 기회로 읽힌다. 견디는 척하던 것이 폭로되는 자리에서, 진짜로 견디는 것을 만들어 온 쪽은 비로소 제 값을 받기 때문이다.

이 글은 세계경제포럼(WEF) 56차 연차총회에서 진행된 알렉스 카프와 래리 핑크의 공개 대담을 토대로 한 분석이다. 본문에 인용된 비용 절감률, 처리 속도, 투자수익률 등의 수치는 대담에서 발언자가 제시한 값이며, 독립적으로 검증된 통계가 아니다. 메이븐 스마트 시스템의 성격과 운용 경과, 팔란티어의 상장 시점과 제품 구성은 공개 보도를 통해 사실관계를 확인했다.