2020년 아제르바이잔-아르메니아 전쟁에서 터키제 드론 바이락타르 TB2가 탱크 수십 대를 격파하는 영상이 퍼졌다. 전문가들은 그 장면을 두고 “AI와 드론이 전쟁의 판을 바꿨다”고 했다. 그게 불과 5년 전이다. 지금은 어디까지 왔을까.
국방 AI가 실제로 하는 일들
국방 AI라고 하면 살인 로봇부터 떠올리기 쉬운데, 실제 활용 범위는 훨씬 넓다. 군 물류 최적화, 사이버 침입 감지, 위성 이미지 분석까지 포함된다. 크게 5가지로 나뉜다.
- 감시 및 정찰: 드론·위성·센서 데이터를 AI가 실시간 분석해 적 움직임과 시설을 파악한다. 사람이 며칠 걸릴 영상 분석을 AI는 몇 분 만에 끝낸다.
- 자율 시스템: 무인 항공기(UAV), 무인 지상 차량(UGV), 무인 잠수정(UUV)이 정찰·수송·전투 임무를 직접 수행한다. 조종사 없이 위험 지역에 투입할 수 있다는 게 핵심이다.
- 지휘통제 및 의사결정 지원: 실시간 전장 데이터를 분석해 지휘관에게 작전 옵션을 제시한다. 인간의 인지 부하를 줄이고 판단 속도를 높인다.
- 사이버 보안 및 방어: 악성코드 탐지, 네트워크 침입 차단, 공격 패턴 분석. 사이버 전장 최전선에 AI가 서 있다.
- 물류 및 유지보수: 군수품 보급망 최적화, 장비 고장 예측. 탱크가 망가지기 전에 미리 부품을 교체하는 방식이다.
효율만 따지면 도입 안 할 이유가 없다. 문제는 그다음부터다.
‘킬러 로봇’ 논쟁 — LAWS의 세 가지 딜레마
자율 살상 무기 시스템(Lethal Autonomous Weapon Systems, LAWS). 인간 개입 없이 스스로 목표를 정하고 공격을 결정하는 무기다. ‘킬러 로봇’이라는 별명이 괜히 붙은 게 아니다.
이 기술을 둘러싼 윤리 논쟁은 세 축으로 모인다.
- 인간 존엄성 문제: 생명을 빼앗는 결정을 기계에 위임하는 건 도덕적 책임 회피다. 기계가 방아쇠를 당겼을 때 그 책임은 누구한테 묻나. 명확한 답이 없다는 게 문제다.
- 예측 불가능성: AI 오작동, 해킹, 의도치 않은 학습 결과 — 세 가지 중 하나만 터져도 민간인 오폭이나 국제 분쟁으로 번질 수 있다. 발사 후 되돌릴 방법도 마땅치 않다. 이게 좀 과한 우려처럼 들릴 수 있는데, 자율 시스템의 복잡성을 생각하면 충분히 현실적인 시나리오다.
- 확산 위험: LAWS 기술이 퍼지면 군사력 약소국도 저렴하게 강력한 무기를 확보하게 된다. 군비 경쟁 가속화, 지역 분쟁 격화. 핵무기보다 진입 장벽이 낮다는 게 더 무서운 지점이다.
유엔을 중심으로 LAWS 금지나 규제를 요구하는 목소리가 계속 나오고 있다. 그런데 각국 이해관계가 복잡하게 얽혀 있어 합의는 지지부진하다. 솔직히 이 부분이 가장 답답하다.
구글·마이크로소프트가 군에 기술을 팔면
최첨단 AI는 군이 아니라 민간에서 나온다. 구글, 마이크로소프트, 오픈AI, 앤트로픽 — 이들이 만든 AI 모델과 클라우드 인프라가 국방 분야에 직간접으로 흘러 들어가는 상황이다. 여기서 세 가지 문제가 생긴다.
- 기술 전용의 모호성: 이미지 인식 AI는 의료 영상 분석에 쓸 수도 있고, 적군 식별에 쓸 수도 있다. 민간 목적으로 만들었다고 군사 전용을 막을 수는 없다. 이걸 ‘이중 용도(dual-use)’ 문제라고 부른다.
- 기업의 윤리적 책임: 자기 기술이 사람을 죽이는 데 쓰인다면 기업은 어디까지 책임져야 하나. 구글이 2018년 미 국방부 프로젝트 메이븐(Project Maven)에서 철수한 사례가 대표적이다. 내부 직원들이 반발했고, 결국 계약을 연장하지 않았다.
- 투명성 부족: 국방 기관이 민간 AI를 도입하면 그 기술이 어떻게 작동하는지 외부에서 감시하기 어려워진다. 민주적 통제가 흐릿해지는 문제다.
결국 민간 AI 기업도 개발 단계부터 이중 용도 가능성을 인식하고, 자체 윤리 가이드라인을 세워야 한다는 얘기가 된다. 물론 이게 말처럼 쉽지 않다는 게 문제다.
국제사회가 움직이는 방향
국방 AI에 대한 우려가 커지면서 책임 있는 AI 개발과 배치(Responsible AI Development and Deployment)를 위한 논의가 여러 층위에서 진행 중이다.
- 원칙 수립: 미국 국방부, 유럽연합, OECD 등이 AI 투명성·설명 가능성·공정성·책임성·인권 존중·안전성을 담은 원칙들을 발표했다. 원칙은 나왔다. 이제 실행이 관건이다.
- 군축 논의: 유엔 주도로 LAWS 규제 방안을 모색하는 전문가 그룹이 정기 회의를 열고 있다. 일부 국가는 완전 금지 캠페인까지 벌인다. 합의는 느리지만, 멈추지는 않고 있다.
- 민관 협력: 정부·군·민간 AI 기업 간의 지속적인 대화가 필요하다. 기술 개발 초기 단계부터 윤리 검토를 끼워 넣는 구조가 핵심이다. 나중에 규제로 틀어막는 것보다 훨씬 효율적이기 때문이다.
이 노력들이 형식적인 선언에 그칠지, 실질적인 제동장치가 될지는 아직 모른다. 방향은 분명히 “기술만 달려선 안 된다”는 쪽이다.
결국 핵심은 ‘누가 결정하는가’
국방 AI 개발을 막을 방법은 없다. 각국이 이미 달리고 있고, 멈출 나라가 없다. 어떻게 달릴 것인가가 남는 질문이다.
- 지속적인 대화: 기술 개발자, 정책 입안자, 군 관계자, 윤리학자, 시민사회 — 이 다섯이 같은 테이블에 앉아야 한다. 한쪽만의 논의는 반쪽짜리다.
- 명확한 책임 소재: AI가 잘못된 판단을 내렸을 때 개발자인지, 운용자인지, 지휘관인지 — 책임 소재를 미리 정해두지 않으면 사고 후 모두가 손을 뺀다. 법적·윤리적 프레임워크가 먼저다.
- ‘인간 중심’ 원칙 유지: 결정적 순간에 인간이 개입해야 한다는 ‘human-in-the-loop’ 또는 ‘human-on-the-loop’ 원칙. 이게 무너지면 나머지는 다 의미가 없다.
국방 AI는 양날의 검이다. 더 안전한 세계를 만들 수도, 더 빠르게 파괴할 수도 있다. MIT Tech Review가 전한 바에 따르면, AI의 군사적 적용은 이미 ‘실험’을 넘어 ‘실전’ 단계에 진입했다. 기술은 갔다. 윤리가 따라가야 할 차례다.
AI리서치팀
Home-In-One AI리서치팀은 인공지능, 머신러닝, 생성형 AI의 최신 동향과 실용적 활용법을 연구합니다. ChatGPT, 클로드, 미드저니 등 AI 도구 비교 분석과 활용 가이드를 제공합니다.