미군은 현재 AI로 드론 표적을 식별하고, 물류 경로를 최적화하고, 사이버 공격을 탐지한다. 영화 이야기가 아니다. 지금 실제로 돌아가고 있는 시스템들이다. 문제는 여기서 한 발 더 나아가 AI가 ‘조언자’ 수준까지 격상되면 어떻게 되냐는 거다. 책임은 누가 지나, 국제법은 어디에 적용되나 — 전쟁의 규칙 자체를 다시 써야 하는 상황이 됐다.
군사 AI, 지금 어디까지 들어와 있나
군사 분야 AI 활용은 크게 네 층위로 나뉜다.
- 정보·감시·정찰(ISR): 위성 이미지, 드론 영상 같은 방대한 데이터를 실시간 분석해 적의 움직임을 파악한다. 인간 분석가가 수백 시간을 쏟아야 할 작업을 몇 분 만에 처리한다.
- 사이버전: 네트워크 이상 징후를 탐지하고, 공격 패턴을 학습해 방어 체계를 자동 조정한다.
- 물류·유지보수: 장비 고장 시점을 예측하고 보급로를 최적화해 전투 지속력을 높인다.
- 의사결정 지원: 수천 가지 시나리오를 시뮬레이션하고 지휘관에게 최적 선택지를 제시한다. 이 부분이 가장 논쟁적이다. 사실 이게 핵심이기도 하고.
미국 국방부가 추진 중인 합동전영역지휘통제(JADC2) 프로젝트는 이 네 층위를 하나로 통합하는 걸 목표로 한다. 육해공 드론, 위성, 병사 착용 센서까지 연결해 AI가 전장 전체를 한눈에 조망하는 구조다. 완성되면 지휘관 한 명이 파악하는 전황의 범위가 지금과는 차원이 달라진다.
AI가 전쟁 결정에 개입하는 세 단계
결정적 차이는 AI가 ‘언제’ 개입하느냐다. 현재 군사 AI는 세 단계로 분류된다.
- 인간 주도(Human-in-the-loop): AI가 분석하고 추천하지만 최종 결정은 사람이 내린다. 현재 대부분의 시스템이 여기에 해당한다.
- 인간 감독(Human-on-the-loop): AI가 자동으로 행동하되, 인간이 개입해 중단시킬 수 있다. 일부 방공 시스템이 이 방식을 쓴다.
- 완전 자율(Human-out-of-the-loop): AI가 독립적으로 판단하고 행동한다. 국제 사회에서 ‘킬러 로봇’이라 부르며 규제를 논의 중인 단계다.
MIT 테크놀로지 리뷰 보도를 보면, 최근 군사 AI는 단순 분석 도구를 넘어 ‘조언자’ 수준으로 격상되고 있다. 지휘관이 “이 작전의 최적 실행 방안은?”을 AI에게 묻고, AI가 구체적인 전술까지 제안하는 형태다. 인간 참모가 하던 역할을 AI가 밀어내기 시작한 것이다. 솔직히 이 지점에서 불편함을 느끼는 사람이 많을 거다.
미국, 중국, 이스라엘, 그리고 한국
군사 AI 경쟁은 사실상 미국과 중국의 대결 구도로 압축된다.
미국은 팔란티어(Palantir)의 Maven Smart System을 실전 배치했다. 우크라이나 전쟁에서 실전 테스트를 거쳤고, 표적 식별 속도가 인간 분석가 대비 수십 배 빠르다는 평가다. 앤드루릭(Anduril)은 자율 드론 시스템을 개발 중이고, 오픈AI도 국방부와의 협력을 공식화했다.
중국은 ‘지능화 전쟁(智能化战争)’을 공식 군사 독트린으로 채택했다. 인민해방군은 AI 기반 무인 전투체계 개발에 집중 투자하면서 민간 AI 기업과의 군민 융합을 제도화한 상태다.
이스라엘은 가장 실전 경험이 많은 군사 AI 운용국 중 하나다. 가자 분쟁에서 AI 표적 선정 시스템 ‘라벤더(Lavender)’와 ‘복음(Gospel)’이 사용됐다는 사실이 알려지면서 윤리 논란에 불을 붙였다. 단순한 기술 논쟁이 아니라 ‘누구를 죽일지 AI가 결정했다’는 문제라 파장이 컸다.
한국도 예외가 아니다. 국방과학연구소(ADD)는 AI 기반 드론 군집 운용과 자율 감시 시스템 개발을 진행 중이다. 전시작전통제권 전환과 맞물려 자율 방어 체계 투자도 꾸준히 늘고 있다.
국제법은 이걸 어떻게 처리하나
가장 뜨거운 논쟁은 ‘킬러 로봇’을 금지할 국제 조약이 필요하냐는 문제다.
현재 국제인도법(IHL)은 두 가지 원칙을 요구한다. 군사 목표물과 민간인을 구별해야 한다는 ‘구별 원칙’, 과도한 피해를 금지하는 ‘비례성 원칙’이다. 문제는 AI가 이 원칙을 실시간으로 적용하는 과정에서 오류를 낼 때 책임이 어디로 가느냐다.
- 개발사? 알고리즘 설계 결함이라면 가능은 하다. 하지만 전시에 민사 소송을 제기하는 건 현실적으로 무리다.
- 지휘관? AI의 결정을 사전에 승인했다면 책임이 있다. 수천 건의 자율 판단을 일일이 예측하기가 불가능한 게 문제지만.
- 국가? 지금으로선 가장 현실적인 책임 주체다. 실질적 억지력이 없다는 게 문제고.
유엔 특정재래식무기금지협약(CCW) 회의에서 자율무기 규제 논의가 수년째 이어지고 있다. 그런데 미국, 러시아, 중국 모두 법적 구속력 있는 조약에 반대한다. 군비 경쟁을 스스로 제한할 이유가 없으니까. 이쪽은 기술보다 정치가 더 큰 벽이다.
군사 AI가 안고 있는 구조적 위험 3가지
1. 속도의 역설: AI는 인간보다 빠르게 결정한다. 하지만 분쟁 상황에서 너무 빠른 결정은 위기를 확대한다. AI가 오판해 공격 명령을 내리면, 인간이 개입할 시간 자체가 사라진다. 1983년 소련 핵 경보 오작동 사건에서 장교 페트로프가 직감으로 발사 명령을 거부했다. AI에게는 그 직감이 없다.
2. 데이터 편향: AI는 학습 데이터의 편향을 그대로 흡수한다. 과거 분쟁 데이터로 훈련된 AI가 특정 인종, 복장, 지역을 위험 신호로 학습했다면? 편향된 표적 선정이 자동화된다. 최악의 시나리오다.
3. 해킹과 기만: 군사 AI 시스템은 적의 사이버 공격과 ‘적대적 예시(adversarial example)’ 공격에 취약하다. 정지 표지판에 스티커 하나를 붙여 자율주행 AI를 속이는 것처럼, 군사 드론의 표적 인식 AI도 같은 방식으로 교란될 수 있다. 아직 뚜렷한 해법이 없다.
자주 나오는 질문들
Q. AI가 핵 발사 결정을 내릴 수도 있나?
공식적으로 핵무기 지휘통제 체계에 AI를 연결하는 국가는 없다. 그런데 핵 조기경보 시스템의 데이터 분석에 AI가 개입하는 건 별개 문제다. 잘못된 경보를 AI가 ‘위협’으로 판단해 의사결정 흐름을 가속화할 위험은 실제로 존재한다.
Q. 민간 AI 기업은 군사 계약을 거부할 수 있나?
구글은 2018년 ‘프로젝트 메이븐’ 참여를 직원 반발로 철회했다. 하지만 오픈AI, 팔란티어 등 많은 기업이 국방 계약을 적극 수주하는 방향으로 선회했다. 사내 윤리 정책보다 시장 압력이 더 강하게 작동하는 현실이다.
Q. 한국군은 어떤 AI를 쓰나?
공개된 내용 기준으로는 드론 군집 제어, 영상 기반 감시 시스템, AI 기반 사이버 위협 탐지 분야에서 연구개발이 진행 중이다. 북한의 비대칭 위협에 대응하기 위한 자율 방어 체계 투자도 꾸준히 늘고 있다.
결국 기술보다 규칙이 문제다
군사 AI 기술은 이미 인간의 규범 논의 속도를 앞질렀다. 무기를 만드는 데는 18개월이면 되지만, 국제 조약을 체결하는 데는 수십 년이 걸린다.
핵심은 두 가지다. AI가 ‘최종 결정권’을 가져서는 안 된다는 원칙을 법제화하는 것. 군사 AI 오작동에 대한 명확한 책임 구조를 만드는 것. 이 두 가지 없이 기술만 발전하면, 전쟁의 문턱은 낮아지고 통제력은 약해지는 방향으로만 간다.
이 분야에서 지금 가장 필요한 건 더 강력한 AI가 아니다. AI를 어떻게 쓸지 결정하는 인간의 의지, 그리고 그 의지를 제도로 만드는 속도다. 기술 발전 속도를 따라잡을 수 있느냐가 관건이다.