영화 얘기가 아니다. 드론이 AI로 표적을 찾고, 사이버 공격이 발전소를 멈추는 일이 이미 일어나고 있다. 그 속에서 자꾸 나오는 질문 하나. AI가 인간을 전장에서 밀어내는 건 아닐까? 결론부터 말하면 그렇지 않다. 오히려 반대에 가깝다.
AI, 이제 전쟁의 필수 요소로 자리 잡다
AI는 이미 국방 전반에 깊이 들어와 있다. 단순한 표적 탐지를 넘어 정보 통합과 예측까지 소화하면서 지휘관의 의사 결정을 실시간으로 돕는다. 정찰 드론은 AI 영상 분석으로 이상 징후를 잡아내고, 사이버 보안에서는 악성코드 탐지가 사람 손 없이 돌아간다. 물류, 장비 정비, 훈련 시뮬레이션도 마찬가지다. AI가 들어간 자리마다 효율이 올라간다. 이건 장비 교체 수준이 아니라 작전 수행 방식 자체가 바뀌는 얘기다.
오토노미(Autonomy)의 양날의 검
자율성(Autonomy) 문제가 가장 뜨겁다. 자율 무기 시스템은 인간 개입 없이 표적을 선정하고 공격한다. 위험 지역에 병사를 보낼 필요가 줄고, 반응 시간도 단축된다. 전술적으로는 분명히 매력적이다. 그런데 AI가 민간인을 잘못 판단해 공격했다면? 책임은 누가 지나. 알고리즘이 책임을 질 수는 없다. 개발자인가, 지휘관인가, 국가인가. 이 질문이 자율 무기 개발 속도를 붙잡는 핵심 변수다. 기술이 가능하다고 해서 바로 쓸 수 있는 건 아니다.
인간은 관전자가 아니다: ‘휴먼 인 더 루프’의 실제 의미
AI 자율성이 높아진다고 인간이 빠지는 게 아니다. 역할이 달라지는 거다. 여기서 나오는 개념이 ‘휴먼 인 더 루프(Human-in-the-loop, HITL)’와 ‘휴먼 온 더 루프(Human-on-the-loop, HOTL)’다. HITL은 AI 결정에 인간이 직접 개입해 최종 승인하는 구조다. HOTL은 AI가 자율 운영되되 인간이 상위 감독자로 붙어 있는 형태다. 대부분의 군사 전문가들이 선호하는 건 완전 자율이 아닌 이 두 개념 사이 어딘가다. AI는 도구고, 책임은 사람한테 있다는 전제가 깔려 있기 때문이다. AI가 빠르게 처리할수록 인간은 전략 판단과 윤리적 결정에 더 집중해야 하는 구조가 된다. 오히려 더 중요해진다.
AI 기반 사이버전, 보이지 않는 전선
총 한 발 없이 국가 기반 시설을 마비시킬 수 있다. 사이버전 얘기다. 이미 빈번하게 일어나고 있고, AI는 이 공간에서 공격과 방어 양쪽의 핵심 무기가 됐다. 공격 측에서는 AI가 방대한 데이터를 분석해 취약점을 찾고 새 공격 벡터를 만들어낸다. 방어 측에서는 비정상 트래픽과 악성코드 패턴을 실시간으로 감지한다. 인간 분석가가 놓칠 수 있는 미세한 신호까지 잡아내는 게 AI의 강점이다. 사이버 공간에서 속도와 자율성이 결정적인 이유가 여기 있다.
윤리적 딜레마와 국제 규범 논의
살상 결정을 기계에 맡기는 게 도덕적으로 허용되나. 이 질문이 국제 무대에서 계속 반복된다. 알고리즘 편향(Bias) 때문에 특정 집단이 부당하게 표적이 될 가능성도 배제하기 어렵다. 유엔(UN)을 비롯한 국제기구들이 ‘치명적 자율 무기 시스템(LAWS)’ 규제 방안을 검토 중인 이유가 여기에 있다. 공론화와 규제 논의가 기술 개발 속도와 나란히 가야 한다는 공감대는 어느 정도 형성됐다. 다만 강제력 있는 국제 합의까지는 아직 갈 길이 멀다. 이 부분이 솔직히 가장 불안한 대목이다.
결국 기술보다 사람이 변수다
AI의 전장 도입은 막을 수 없는 흐름이다. 중요한 건 이 기술을 어떻게 이해하고, 어떻게 활용하며, 어떻게 통제하느냐다. 군사력 현대화는 단순히 AI 장비를 들여놓는 것을 넘어, AI가 어떻게 작동하고 어디서 실패하는지 명확히 인식하는 데서 출발한다. AI 기술 인력 양성, 윤리 가이드라인 확립, 국제 공조 강화. 이 세 가지는 AI 시대 국방력의 필수 조건이다. 인간은 AI의 단순 사용자가 아니다. 설계하고, 훈련시키고, 결과에 책임지는 주체다. AI가 만드는 전장의 미래는 기술 그 자체보다 그 기술을 다루는 인간의 판단에 달려 있다. 도구는 이미 충분히 강력해졌다. 문제는 우리가 그 도구에 걸맞은 지혜를 갖추고 있는가다.
AI리서치팀
Home-In-One AI리서치팀은 인공지능, 머신러닝, 생성형 AI의 최신 동향과 실용적 활용법을 연구합니다. ChatGPT, 클로드, 미드저니 등 AI 도구 비교 분석과 활용 가이드를 제공합니다.