사이버 보안 · 정책
AI는 더 이상 해커 옆에서 조언만 하는 도구가 아니다. 표적 정찰부터 침투, 권한 상승, 자료 반출까지 공격의 전 과정을 스스로 실행하는 실행 주체로 넘어가기 시작했다. 공격의 속도와 규모가 사람의 손을 벗어나는 순간, 사람의 손에 맞춰 설계된 방어 체계는 시효를 다한다. 이 글은 AI 해킹 시대에 다시 설계해야 할 세 가지 축 — 인증 제도, 방어 권한, 그리고 중소기업 보안 시장 — 을 차례로 짚는다.
그동안 공격자들이 AI를 쓰는 방식은 보조 수준에 머물렀다. 피싱 문구를 다듬거나, 악성코드 일부를 짜거나, 알려진 취약점을 검색하는 데 활용하는 식이었다. 판단과 실행의 주도권은 사람에게 있었다.
2025년 9월 중순에 관측된 한 사건은 이 구도를 바꿔 놓았다. 국가 배후로 추정되는 한 공격 조직이 상용 AI 코딩 도구를 조종해, 전 세계 약 30곳의 대형 기술기업·금융기관·화학회사·정부기관을 동시에 표적으로 삼았다. 주목할 점은 공격 작업의 대부분 — 보고서 기준 80~90% — 을 AI가 사람의 개입 없이 자율적으로 수행했다는 사실이다. AI가 정찰을 하고, 취약점을 시험하고, 인증정보를 수집하고, 데이터를 빼냈다. 사람은 큰 방향만 잡고 일부 결정만 승인했다.
물론 자율성의 정도가 일부 과장됐다고 보는 전문가도 있다. AI가 만든 결과물에는 여전히 오류와 환각이 섞여 있고, 완전한 무인 공격과는 거리가 있다는 지적이다. 그럼에도 방향성은 분명하다. AI의 역할이 '조언'에서 '실행'으로 이동하고 있다는 것, 그리고 이 흐름은 되돌아가지 않는다는 것이다.
AI 공격이 위험한 이유는 새로운 수법을 발명해서가 아니다. 기존 수법을 사람이 따라잡을 수 없는 속도로, 동시에 수많은 표적에 적용하기 때문이다. 가장 단적인 지표가 침투 이후의 핸드오프 시간이다. 공격자가 한 시스템에 들어온 뒤 다음 단계(권한 탈취·내부 이동·자료 반출)로 제어권을 넘기는 데 걸리는 시간을 말한다.
한 글로벌 위협 분석 기관의 2026년 발표에 따르면, 이 시간은 2022년 평균 약 8시간에서 최근 평균 약 22초로 줄었다. 8시간이면 보안 담당자가 경보를 보고, 분석하고, 차단할 물리적 여유가 있었다. 22초는 담당자가 경보 화면을 여는 시간조차 되지 않는다.
속도와 함께 무너진 또 하나의 방벽은 진입장벽이다. 생성형 AI가 정찰, 코드 변형, 피싱 문구 작성, 탐지 회피를 대신해 주면서, 기술 수준이 낮은 공격자도 과거에는 전문가만 구사하던 공격을 흉내 낼 수 있게 됐다. 공격자의 수가 늘고, 표적의 범위가 넓어지고, 한 번에 처리하는 공격 건수가 폭증한다. 방어자 입장에서는 '한 명의 고수'가 아니라 '수천 개의 동시다발 자동 공격'을 상대해야 하는 셈이다.
이 속도전 앞에서 가장 먼저 흔들리는 것이 현행 보안 인증·점검 체계다. 우리가 흔히 의존하는 방식은 정해진 점검 항목(체크리스트)을 일정 시점에 한 번 확인하고 인증서를 발급하는 구조다. 문제는 이 체크리스트의 상당수가 AI는 물론, 개발과 운영을 통합한 데브옵스(DevOps, Development와 Operations의 합성어로 소프트웨어를 빠르게 개발·배포·운영하는 방식)가 보편화되기도 전에 만들어졌다는 점이다. 위협은 매주 진화하는데, 표준과 고시를 고쳐 항목을 바꾸는 데는 수년이 걸린다.
1년에 한 번 받는 종합건강검진과 같다. 검진 결과지에 '이상 없음'이라고 적혀 있어도, 그것은 검진받은 그날 하루의 사진일 뿐이다. 검진 다음 날 병이 생기면 다음 검진까지 1년을 무방비로 지낸다. 지금의 인증은 이 '스냅샷 검진'을 닮았다. 인증서 표지는 그날의 상태를 증명할 뿐, 1년 내내 안전하다는 보증이 아니다.
이 한계는 제도권에서도 인정되기 시작했다. 2026년 들어 정부는 현행 인증제의 '스냅샷' 방식 평가에 대수술이 필요하다고 공식화했다. 핵심 방향은 세 가지다.
결국 인증 제도의 무게중심이 특정 시점의 점검에서 상시적인 상태 관리로 옮겨가야 한다는 것이다. 기계 속도의 공격에는, 기계 속도로 끊임없이 자기 상태를 점검하고 대응하는 방어가 맞붙어야 한다.
방어를 아무리 촘촘히 해도 한 가지 비대칭이 남는다. 해커는 국경을 자유롭게 넘나들지만, 수사기관과 정부는 그럴 수 없다는 점이다. 악성 인프라가 해외의 저가 클라우드 서버에 숨어 있고 그 앞단을 보호 서비스로 가려 두면, 실제 서버 주인을 특정하는 데만 상당한 시간이 걸린다. 그 사이에도 공격 AI는 멈추지 않고 표적을 훑는다.
여기서 뜨거운 논쟁이 시작된다. 한쪽에서는 "정부가 통제된 권한으로 악성 인프라를 직접 무력화할 수 있어야 한다"는 주장이 나온다. 영장 발부, 지정된 장소와 장비, 복수 인원의 동시 승인, 모든 행위의 로그 보존 같은 통제 장치를 전제로 한다면, 해외에서 자국을 공격 중인 시스템을 신속히 차단하는 권한을 정부가 가져야 한다는 것이다.
그러나 이 권한에는 무거운 위험이 따른다. 공격 경유지로 악용된 무고한 제3자의 서버를 잘못 타격할 수 있고(오인 공격), 의도치 않은 부수 피해가 발생할 수 있으며, 한번 주어진 권한이 남용될 우려가 있다. 국가 간 분쟁으로 비화할 가능성도 무시할 수 없다. 실제로 현행 정보통신망법(정보통신망 이용촉진 및 정보보호 등에 관한 법률) 제48조는 정당한 접근권한 없이 정보통신망에 침입하는 행위를 금지하며, 이는 방어 목적의 역침입에도 동일하게 적용된다. 미국에서도 민간의 '해킹백'을 일부 허용하려던 능동 사이버 방어 법안(2017년 발의)이 거센 논쟁만 남기고 입법에 이르지 못했다.
이 두 입장 사이에서 현실적인 절충점으로 떠오른 개념이 능동적 방어(active defense)다. 직접 상대 시스템을 침입해 파괴하는 '공세적 대응'과는 선을 긋되, 단순히 들어오는 공격을 막기만 하는 '수동적 방어'에도 머물지 않는다. 법과 윤리의 테두리 안에서 위협 정보를 선제적으로 수집·활용해 공격자의 다음 수를 미리 읽고, 탐지와 차단을 자동화해 대응 시간을 기계 속도로 끌어올리는 접근이다.
핵심은 권한 자체가 아니라 통제다. 힘을 갖는 것이 문제가 아니라 힘을 남용하는 것이 문제이기 때문이다. 따라서 능동적·공세적 대응을 어디까지 허용할지는 기술의 문제가 아니라, 통제 장치를 얼마나 촘촘하게 설계할 수 있느냐의 문제로 귀결된다.
지금까지의 논의는 대기업과 정부 기관을 전제로 한다. 그러나 정작 무방비 상태에 가까운 쪽은 중소기업이다. 별도의 보안 담당자를 두지 못하고 IT 담당자가 보안까지 겸하거나, 그마저도 없는 곳이 많다. 디지털 연결은 갈수록 깊어지는데 방어는 그 속도를 따라가지 못한다.
세무 기장 서비스를 떠올려 보자. 작은 회사는 재무·회계 담당자를 따로 두기 어렵다. 그래서 매달 일정액을 내고 세무사 사무실에 부가세 신고, 급여 처리, 법인세 신고 같은 일을 맡긴다. 큰일이 있을 때만 비용을 더 낸다. 보안도 이렇게 '정기 구독'할 수 있어야 한다. 평소에는 정기 점검을 받고, 큰 사고나 연간 정밀 진단이 필요할 때만 비용을 추가하는 식이다.
그렇다면 왜 세무 기장은 시장으로 자리 잡았는데, 보안 구독은 그렇지 못했을까. 답은 단순하다. 세금 신고는 법으로 의무화돼 있어 '반드시 해야 하는 일'이고, 그래서 이를 대행하는 시장이 자연스럽게 형성됐다. 반면 보안은 의무가 아니어서 '있으면 좋은 것'에 머문다.
중소기업 대표가 보안에 돈을 안 쓰려는 것도 아니다. 진짜 문제는 비용보다 막막함이다. 사람을 뽑자니 누구를, 어느 수준으로 뽑아야 할지 모르겠고, 회사 규모상 보안 전담 인력을 두기도 애매하다. 그렇다고 방치하자니 불안하다. 이 막막함을 풀어 줄 표준화된 서비스가 합리적인 가격에 존재한다면, 중소기업도 기꺼이 보안에 지갑을 연다.
가장 빠른 방법은 정부 사업 입찰 요건에 보안 항목을 넣는 것이다. 적지 않은 중소기업이 정부·공공 사업을 주요 매출원으로 삼는 만큼, 입찰 자격에 일정 수준의 보안 조치를 요구하면 시장은 빠르게 형성된다. 다만 입찰 요건을 손대는 일은 진입장벽을 높인다는 반발을 부르기 쉬워, 제도 설계자에게는 정치적 부담이 큰 선택지이기도 하다.
정부도 손을 놓고 있는 것은 아니다. 영세 기업을 대상으로 한 무료 보안관제, 추가경정예산을 활용한 대규모 보안 점검 같은 지원이 늘고 있다. 2026년 초에는 수천 개 기업을 점검해 수만 건의 취약점을 조치하는 사업이 진행되기도 했다. 다만 이런 직접 지원은 예산이 끊기면 함께 사라진다는 한계가 있다. 보안 시장이 스스로 굴러가려면, 결국 일정 수준의 의무화를 통해 '내야 하는 비용'으로 자리매김시키는 제도적 뒷받침이 필요하다.
세 레버를 관통하는 전제는 하나다. 공격이 기계의 속도로 움직이는 시대에는, 방어도 사람의 속도가 아니라 기계의 속도로 탐지하고 대응해야 한다는 것. 인증도, 방어 권한도, 중소기업 지원도 결국 이 한 문장으로 수렴한다. 변화의 방향은 이미 정해졌고, 남은 것은 속도다.