데이터 · 안보 · 인공지능

금기에서 골드러시로
군사 AI와 방산 테크 산업의 부상

한때 군사용 인공지능은 실리콘밸리에서 입에 올리기 꺼려지는 주제였다. 연구자들은 자신이 만든 기술이 사람을 겨누는 데 쓰이는 것을 거부했고, 거대 기술기업은 군과의 계약을 포기하기도 했다. 그런데 불과 몇 해 사이에 같은 분야가 가장 빠르게 자본이 몰리는 곳으로 바뀌었다. 그 반전이 어떻게 일어났는지를, 한 데이터 기업을 렌즈 삼아 따라간다.

2026년 5월 24일

지난 한 해 가장 뜨거웠던 기술주 가운데 하나는 데이터 분석 소프트웨어 기업이었다. 2024년 한 해 주가가 약 340퍼센트 올랐고, 국내 해외주식 투자자들이 가장 많이 사들인 기업 가운데 상위권에 이름을 올렸다. 흥미로운 점은 이 회사의 가장 큰 고객이 일반 기업이 아니라 정부, 그중에서도 군이라는 사실이다. 빅데이터를 다루는 평범한 소프트웨어 회사처럼 보이지만, 매출의 절반 이상이 정부와 국방 영역에서 나온다.

이 회사는 군사 AI라는 한 산업이 어떤 길을 걸어왔는지 보여 주는 좋은 표본이다. 거부당하던 시기를 견디다, 전쟁이라는 변수를 만나 단숨에 주류로 올라선 흐름이 이 한 기업의 궤적에 압축되어 있다.

1천리 밖을 보는 회사

문제의 기업은 2003년 설립된 빅데이터 소프트웨어 회사다. 출발점은 한 전자결제 기업의 사기 탐지 기술이었다. 수많은 거래 데이터에서 이상 징후를 찾아내던 기법을, 정부가 방대한 데이터를 분석해 테러와 범죄에 대응하도록 돕는 대규모 플랫폼으로 키운 것이 사업의 뿌리다.

주력 제품은 크게 세 갈래다. 정부와 국방, 정보기관을 겨냥한 분석 플랫폼이 하나 있고, 일반 기업의 데이터를 통합해 운영을 돕는 플랫폼이 또 하나 있다. 2023년에는 거대언어모델을 조직의 자체 데이터에 결합하는 AI 플랫폼(AIP, Artificial Intelligence Platform)을 내놓아 성장을 이끌었다. 2024년 4분기 기준으로 매출은 정부 영역에서 약 55퍼센트, 일반 기업에서 약 45퍼센트가 나왔다. 정부 고객 가운데 압도적인 비중을 차지하는 곳은 군이다.

비유

이 회사의 소프트웨어가 하는 일은 거대한 도서관의 유능한 사서에 가깝다. 위성 영상, 통신 기록, 현장 보고서, 금융 거래처럼 서로 다른 서가에 흩어져 있던 자료를 한자리에 모아, 누가 누구와 언제 어떻게 연결되는지를 한눈에 보여 준다. 흩어진 단서를 꿰어 사건의 전모를 그려 내는 탐정의 역할을, 사람이 아니라 소프트웨어가 대규모로 대신하는 셈이다.

회사 이름은 톨킨의 소설 '반지의 제왕'에 나오는 천리안 구슬에서 따왔다. 그 구슬을 통해 멀리 떨어진 곳을 들여다볼 수 있듯, 방대한 데이터에 숨은 패턴을 꿰뚫어 본다는 뜻을 담았다. 창업자는 한 전자결제 기업의 공동 창업자이기도 한 인물로, 실리콘밸리에서 오랫동안 보수적 색채를 유지해 온 투자자다. 그가 세운 다른 펀드들의 이름도 모두 톨킨의 세계관에서 가져왔는데, 현 미국 부통령이 그중 한 펀드에서 일했고 이 창업자가 그의 후원자 역할을 했다는 사실은 이 회사가 정치권과 맺어 온 거리가 얼마나 가까운지를 보여 준다.

2한때 군사 AI는 금기였다

지금은 정부 계약을 척척 따내는 이 회사도 처음부터 순탄했던 것은 아니다. 과거에는 방위 산업에 정보기술을 접목한 스타트업이 투자를 받기가 매우 어려웠다. 인공지능 연구자들 다수가 군사와 국방 영역에 자신들의 기술이 쓰이는 것을 강하게 거부했기 때문이다. 반면 군은 머신러닝과 딥러닝이 발전할 때마다 이를 전장에 들이려 했다. 두 세계의 충돌이 가장 극적으로 드러난 사건이 이른바 프로젝트 메이븐이었다.

2017년 4월, 미 국방부는 가지고 있는 방대한 영상 데이터를 분석해 무인 드론의 표적 정밀도를 높이는 사업을 출범시켰다. 사람의 눈으로 수십 시간의 드론 영상을 일일이 검토하던 작업을 AI가 대신하게 하려는 시도였다. 이 사업의 기술 파트너로 한 거대 검색 기업이 참여했는데, 그 사실이 2018년에 알려지자 회사 안에서 거센 반발이 터져 나왔다.

직원 3,100여 명이 최고경영자에게 보내는 청원서에 서명했다. 회사가 전쟁 관련 사업에 발을 들여서는 안 된다는 것이 청원의 첫머리에 담긴 요지였다. 약 12명은 항의의 뜻으로 회사를 떠났다. 직원들은 회사의 옛 모토였던 "악마가 되지 말자(Don't be evil)"를 경영진에게 되돌려 던졌다. 돈을 벌기 위해 나쁜 짓을 하지 않아도 충분히 돈을 벌 수 있다는 의미를 담은 구호였다. 당시 회사 클라우드 부문의 AI 수석과학자도 군사용 AI 계약이 통제하기 어려운 논란을 부를 것이라고 사내에 경고했다. 결국 경영진은 국방부와의 공동 연구를 잇지 않기로 했고, AI 활용에 관한 원칙을 새로 발표했다.

거부의 흐름은 한 회사에만 머물지 않았다. 2018년 7월, 인공지능 연구자 수천 명이 치명적 자율무기를 만들지도, 지지하지도 않겠다는 서약에 서명하기 시작했다. 한 비영리 연구기관이 주도한 이 서약에는 출범 시점에 160여 개 기관(36개국)과 2,400여 명(90개국)이 이름을 올렸고, 이후 서명자는 계속 늘었다. 딥러닝의 개척자로 꼽히는 한 연구자, 한 주요 AI 연구소의 공동 창업자 세 명, 그리고 잘 알려진 전기차 기업 창업자까지 서명자 명단에 포함됐다. 사람의 생명을 빼앗는 판단만큼은 기계에 맡겨서는 안 된다는 것이 서약의 핵심이었다.

개념

치명적 자율무기(LAWS, Lethal Autonomous Weapons Systems)란 사람이 결정하거나 승인하지 않아도 스스로 표적을 식별하고 공격하는 무기를 가리킨다. 연구자들이 두려워한 것은 단순히 무기가 강해지는 것이 아니라, 누구를 죽일지 고르는 판단 자체가 사람의 손을 떠나는 상황이었다.

3판이 뒤집힌 순간

전체 흐름을 먼저 펼쳐 보면 전환의 윤곽이 또렷해진다. 거부에서 수용으로 무게중심이 옮겨 간 분기점은 2022년이었다.

군사 AI를 향한 기술업계의 태도는 2022년을 분기점으로 거부에서 수용으로 기울었다. REAIM(Responsible AI in the Military Domain)은 군사 영역의 책임 있는 AI를 논의하는 국제 회의다.

2022년 러시아가 우크라이나를 침공했다. 유럽은 오랫동안 큰 전쟁을 겪지 않았고, 안보를 미국에 상당 부분 기대며 군사 지출을 꾸준히 줄여 왔다. 그런 유럽의 눈앞에서 전면전이 벌어진 것이다. 앞서 등장한 데이터 기업은 이 틈을 놓치지 않았다. 유럽 각국 지도자에게 공개 서한을 보내, 실리콘밸리의 기술로 안보 위기에 대응하라며 적극적인 영업에 나섰다.

유럽으로서는 여러모로 곤란한 시기였다. 미국 정치권에서는 북대서양조약기구(NATO, 나토)를 둘러싼 회의론이 거듭 제기됐다. 방위비 분담을 두고 미국이 유럽에 부담을 더 지라고 압박하는 가운데, 안보 위협은 현실이 됐다. 유럽 국가들은 일제히 움직이기 시작했다. 2023년 들어 다수 국가가 전년 대비 두 자릿수 비율로 군사 지출을 늘렸고, 이 흐름은 곧 기업과 투자로 옮겨붙었다.

방위 산업에 기술을 결합한 스타트업으로 자본이 몰렸다. 미국의 한 방산 테크 기업은 2024년 8월 15억 달러 규모의 투자를 유치하며 기업가치 140억 달러를 인정받았다. 2017년에 세워져 대드론 방어와 자율 시스템을 만드는 이 회사는, 미 공군의 무인 전투기 개발 사업자로 선정되기도 했다. 독일에서는 드론과 전투기의 전투 능력을 높이는 소프트웨어를 만드는 회사가 2024년에 약 4억 9천만 달러를 유치하며 기업가치 54억 달러에 이르렀다. 흥미롭게도 미국 회사의 이름 역시 톨킨의 세계관에 등장하는 검에서 따왔고, 앞서 본 데이터 기업 창업자의 펀드가 이 회사에도 투자했다.

기업뿐 아니라 나토도 직접 기술 투자에 나섰다. 인공지능과 로보틱스 같은 미래 기술에 자금을 대는 별도의 혁신 펀드를 꾸려, 유럽의 기술 기업에 투자하기 시작했다. 한때 윤리적 부담과 투자자들의 거부감 때문에 멀리하던 분야가, 불과 몇 해 만에 자본이 가장 선호하는 영역으로 바뀐 것이다.

유럽의 국방·안보 관련 벤처 투자액은 2024년 약 52억 달러로 역대 최고치를 기록했다. 5년 전과 비교하면 다섯 배 가까이 늘어난 규모다. 막대 높이는 비교를 위한 근사치다.

4전쟁터에서 드러난 두 얼굴

투자와 기술은 곧장 실제 전장으로 향했다. 우크라이나 전선은 AI 드론 기술이 한데 모여 시험되는 무대가 됐다. 우크라이나는 국방 기술을 군에 신속히 적용하는 전용 플랫폼을 만들어, 무인 드론과 무인 수중 차량 같은 기술을 빠르게 전선에 투입했다. 전쟁 초기만 해도 우크라이나가 이렇게 오래 버티리라 보기는 어려웠는데, 그 배경에는 외부의 무기 원조와 함께 이런 기술의 적극적 도입이 있었다.

그러나 AI를 실제 전투에 쓰는 일에는 풀리지 않은 윤리적 물음이 따라붙는다. AI에는 분명히 오류가 있는데 그로 인한 민간인 피해는 어떻게 책임질 것이며, 사람의 통제를 벗어난 무기를 어떻게 받아들여야 하는가 하는 질문이다. 한 국제기구의 인권 감시 보고서는 우크라이나 전쟁에서 드론에 의한 민간인 사상자가 매달 꾸준히 발생하고 있음을 보여 준다. 드론 기술은 점점 정교해지는데도 민간 사상자 규모는 도리어 커지는 흐름이 나타났다. 전체 사상자는 줄어드는 국면에서도 드론에 기인한 민간 사상자는 늘었다. 최근에는 통신 신호가 끊겨도 스스로 적을 공격하는 드론까지 보급되기 시작했는데, 여기서 한 걸음만 더 나아가면 사람의 개입 없이 살상을 결정하는 무기가 된다.

또 다른 전장에서는 AI 표적 산정의 그늘이 더 또렷하게 드러났다. 한 군대는 무장 조직을 공격하기 위해 두 종류의 AI를 함께 썼다. 하나는 폭격할 건물과 물리적 표적을 골라 주는 시스템이었고, 다른 하나는 인물을 표적 후보로 분류하는 시스템이었다. 보도에 따르면 인물 분류 시스템은 전쟁 초기 약 6주 동안에만 3만 7천 명가량을 표적 후보로 산출했다. 문제는 이 시스템의 오류율이 약 10퍼센트로 알려져 있었는데도 그대로 사용됐다는 점이다. 각 표적에 대한 사람의 검토는 평균 20초 남짓에 그쳤고, 정밀 유도탄 대신 재래식 폭탄이 동원된 경우가 많았다. 그 결과 표적 한 명을 노린 공격에 다수의 민간인이 함께 희생되는 일이 반복됐다.

대규모 감시 데이터에서 출발해 AI가 표적 후보를 대량으로 산출하고, 사람의 검토는 형식적인 수준에 그친 채, 정밀하지 않은 무기로 타격이 이어지는 구조다. 각 단계의 작은 오차가 마지막에 민간 피해로 누적된다.

비유

오류율 10퍼센트가 왜 치명적인지는 숫자를 펴 보면 분명해진다. 표적 후보 100명을 그대로 처리하면 그중 10명은 애초에 잘못 분류된 사람이다. 검문소에서 신원을 10초 만에 통과시키는 검사관이 열 명 중 한 명을 잘못 들여보낸다면, 그 검사관에게 한 도시 전체의 출입을 맡기지는 않을 것이다. 표적의 수가 수만 건으로 늘고 한 건당 검토가 20초로 줄면, 같은 비율의 오차가 곧 수천 명 규모의 피해로 불어난다.

이 전쟁에서 발생한 민간인 희생 규모는 같은 지역의 과거 군사 작전과 비교해도 이례적으로 컸다는 평가가 나온다. 신원이 확인된 사망자 가운데 어린이가 차지하는 비중이 높았고, 전투원으로 보기 어려운 사람들이 다수를 이뤘다는 분석도 제기됐다. AI가 전쟁을 더 정밀하게 만들 것이라는 기대와 달리, 표적을 빠르게 늘리는 데 쓰이면서 오히려 희생을 키운 역설이 드러난 것이다.

5규제는 기술을 따라잡지 못한다

AI를 군사 영역에 쓸 때 윤리적 기준을 지켜야 한다는 목소리는 계속 나왔다. 2023년 말 유엔 총회에서는 치명적 자율무기에 대응하는 결의가 채택됐다. 군사 영역의 책임 있는 AI를 논의하는 국제 회의도 열렸다. 2023년 헤이그에서 처음 모였을 때는 약 57개국이 행동촉구에 참여했고, 2024년 서울에서 열린 두 번째 회의에서는 61개국이 행동청사진을 지지했다. 전쟁에서 AI를 쓰더라도 국제인도법을 준수하고 민간인을 보호해야 한다는 원칙이 담겼다.

참여국이 늘어난 것은 반길 일이지만, 한계는 분명하다. 이런 합의는 모두 법적 구속력이 없는 선언이다. 자율 살상 무기에 구속력 있는 규정을 부과하자는 주장도 있지만, 군사 AI를 적극적으로 개발하는 일부 강국은 새로운 국제법이 굳이 필요하냐며 소극적이거나 반대하는 태도를 보인다. 서울 회의의 청사진에도 끝내 서명하지 않은 주요국이 있었다.

규제가 제자리걸음을 하는 사이, 기업들은 앞다투어 입장을 바꿨다. 앞서 거센 반발 끝에 거대 검색 기업이 손을 뗐던 국방부의 드론 영상 분석 사업은, 그 데이터 기업이 이어받아 거의 완성 단계에 이르렀다. 한때 발을 뺐던 기업조차 흐름을 되돌렸다. 거대 검색 기업은 한 국가의 정부 보안용 클라우드 사업에 참여했고, 이를 두고 항의한 직원 수십 명을 해고했다. 그리고 2025년 초에는 자사 AI 원칙에서 인공지능을 무기와 감시에 쓰지 않겠다던 조항을 삭제했다. 공교롭게도 이 회사의 AI 부문 책임자는, 앞서 본 자율무기 서약에 이름을 올렸던 인물이다.

대화형 AI를 만드는 기업도 비슷한 길을 걸었다. 자사 기술의 군사적 사용을 엄격히 금지했던 회사가 관련 조항을 완화한 뒤, 2024년 12월에는 한 방산 스타트업과 드론 방어 시스템을 함께 개발하기로 했다. 윤리적 거부에서 전략적 협력으로, 산업 전체의 무게중심이 옮겨 간 것이다.

57 → 61

군사 AI 책임 회의에 참여한 국가 수 (헤이그 2023 → 서울 2024)

구속력 없음

현재까지의 국제 합의는 모두 법적 강제력이 없는 선언

6이중용도라는 오래된 질문

지금의 상황은 사실 새로운 종류의 고민이 아니다. 한 세기 전, 공기 중의 질소를 붙잡아 인공 비료를 만드는 방법을 발견한 화학자가 있었다. 그 발견 덕에 인류는 만성적인 식량난의 공포에서 크게 벗어났다. 그런데 같은 방법을 응용해 수많은 사람을 죽음으로 몰아간 독가스를 처음 전장에 끌어들인 화학자도, 바로 그 동일 인물이었다. 식량을 늘린 손과 독가스를 만든 손이 하나였다.

화학 물질을 잘 쓰면 땅을 비옥하게 하는 비료가 되고, 잘못 쓰면 사람을 해치는 무기가 된다. 핵 기술도 그렇다. 같은 원리가 발전소의 전기가 되기도 하고 도시를 지우는 폭탄이 되기도 한다. 하나의 기술이 정반대의 결과를 낳을 수 있는 이런 성격을 이중용도(dual-use)라고 부른다.

같은 기술이 갈림길에서 정반대 방향으로 갈라진다. 무엇을 만들 수 있느냐가 아니라 어디에 쓰기로 하느냐가 결과를 가른다. AI도 이 갈림길 위에 서 있다.

지금까지 살펴본 AI도 다르지 않다. 같은 영상 인식 기술이 의료 진단을 돕기도 하고 폭격 표적을 고르기도 한다. 같은 자율 주행 알고리즘이 물류를 효율화하기도 하고 사람의 개입 없이 공격하는 드론을 움직이기도 한다. 기술 자체에는 선악이 없고, 그것을 어디에 놓느냐가 결과를 가른다는 점에서 AI는 비료이자 독가스가 될 수 있는 또 하나의 이중용도 기술이다.

차이가 있다면 속도다. 비료와 독가스 사이에는 수십 년의 시간과 국제 협약을 다듬을 여유가 있었다. 핵에도 비록 늦었지만 확산을 억제하는 체제가 자리를 잡았다. 그런데 군사 AI는 자본과 전장의 수요가 함께 밀어붙이면서, 규제가 논의를 시작하기도 전에 이미 실전에 배치되고 있다. 구속력 없는 선언이 회의장에서 오가는 동안, 표적을 고르는 알고리즘은 현장에서 작동하고 있다.

한때 군사 AI는 연구자들이 서약으로 거부하던 금기였고, 투자자들이 외면하던 영역이었다. 그 분위기가 불과 몇 년 사이에 골드러시로 뒤집혔다. 전쟁이라는 외부 충격이 방아쇠를 당겼고, 자본이 그 뒤를 따랐으며, 기업의 원칙은 시장의 방향에 맞춰 다시 쓰였다. 기술의 진보 자체를 멈출 수는 없을 것이다. 다만 지금의 무게중심이 어디로 기울어 있는지는 분명해 보인다. 인간 중심의 AI를 위해 AI 안전(safety)을 고민하기보다, 국가 중심의 AI를 위해 AI 안보(security)를 앞세우는 쪽이다. 기술이 비료가 될지 독가스가 될지를 가르는 것은 결국 그 균형을 어떻게 잡느냐의 문제로 남는다.