보안 연구팀이 챗봇 API만 호출해서 탐지 회피 코드를 알아서 고쳐 쓰는 악성코드 샘플을 확인했다고 밝혔다. 사람이 코드 한 줄 안 짜도, 감염될 때마다 AI가 새 변종을 뽑아낸다는 얘기다. 낯설게 들리긴 하는데, 사실 보안 업계에서는 몇 년 전부터 나올 거라던 시나리오다. AI 악성코드가 정확히 뭔지, 기존 백신으론 왜 막기 힘든지, 실무에서는 뭘 준비해야 하는지 한번 정리해봤다.
AI 악성코드, 정확히 뭘 말하는 걸까
크게 두 갈래로 나뉜다. 하나는 생성형 AI한테 프롬프트로 부탁해서 만든 악성 스크립트 그 자체. 다른 하나는 실행 중에 LLM API를 불러서 자기 코드를 실시간으로 다시 쓰는 자가 변형형 악성코드다. 위협적인 쪽은 후자다. 감염 대상마다 코드 구조가 달라지니까, 같은 악성코드인데도 파일 해시나 패턴이 매번 바뀐다. 백신 입장에서는 매번 처음 보는 파일인 셈.
기존 악성코드와 다른 점 3가지
- 진입장벽이 사라진다 — 코딩 몰라도 프롬프트 몇 줄이면 스크립트가 나온다.
- 변형 속도가 다르다 — 감염될 때마다 함수명, 실행 흐름, 난독화 방식을 새로 짠다.
- 탐지 회피 패턴을 스스로 학습한다 — 백신 엔진 반응을 보고 우회 방식을 조정한 사례까지 나왔다.
어떤 식으로 만들어질까
대형 AI 모델 대부분은 악성코드 생성 요청을 거부하도록 설계돼 있다. 근데도 우회 사례는 계속 나온다. 대표적으로 세 가지다.
- 탈옥(jailbreak) 프롬프트로 안전장치를 무력화하는 방식
- 코드를 여러 조각으로 쪼개서 각각 정상 요청처럼 위장한 뒤 나중에 조합하는 방식
- 안전장치가 느슨한 오픈소스 모델을 로컬 PC에 직접 깔아서 제한 없이 쓰는 방식
세 번째가 골치 아프다. 클라우드 API 로그가 아예 안 남으니까 추적 자체가 힘들다. 보안팀 입장에선 제일 싫어하는 케이스.
백신이 못 막는 이유
전통적인 백신은 시그니처, 그러니까 알려진 악성코드의 지문 패턴을 대조해서 잡아낸다. 그런데 코드가 감염마다 달라지면 이 시그니처라는 개념 자체가 무의미해진다. 행동 기반 탐지(EDR)라고 완벽한 건 아니다. 정상 프로세스의 API 호출 순서를 흉내 내도록 AI가 코드를 재구성하면, 이상 행동 탐지 규칙을 슬쩍 피해가는 경우가 실제로 확인됐다. 이쯤 되면 좀 섬뜩하다.
기업 보안팀이 점검할 3가지
- EDR/XDR 도입 여부 — 시그니처 말고 행동 패턴과 이상 징후를 실시간으로 쫓는 체계가 이제 기본이다.
- 제로트러스트 접근 제어 — 내부 침투 후 수평 이동을 막는 구조가 없으면 변종 하나로 전체 네트워크가 뚫린다.
- 패치 주기 단축 — AI가 취약점 정보를 빠르게 학습해서 공격 코드에 반영하는 만큼, 패치 미루는 것 자체가 리스크다.
개인이 챙겨야 할 대비책
- OS랑 브라우저 자동 업데이트, 꺼두지 말 것.
- 피싱 메일 문구가 AI 덕분에 문법 오류 없이 정교해졌다. 그러니 발신 주소랑 링크 도메인은 직접 확인하는 습관을 들이자.
- 중요 파일은 클라우드랑 오프라인 백업을 같이 돌리자. 랜섬웨어 변종은 백업 유무로 피해 규모가 완전히 갈린다.
다음 수순은 — 공격도 방어도 AI
공격자만 AI 쓰는 거 아니다. 주요 EDR·백신 업체 대부분이 머신러닝 기반 이상 탐지를 이미 제품에 넣었고, 최근엔 공격 시도를 실시간으로 시뮬레이션해서 방어 규칙을 자동으로 만드는 기능까지 나왔다. 결국 AI 대 AI 구도로 넘어가는 셈이다. 여기서 밀리는 조직이 실제 침해 사고의 표적이 될 가능성, 꽤 크다.
이것도 궁금하죠?
Q. 지금 유포되는 악성코드 대부분이 AI 제작인가?
아니다. 아직은 실험적 사례랑 개념증명(PoC) 수준이 많다. 다만 탐지 회피 코드 일부를 AI로 다듬는 방식은 이미 실전 공격에서 확인됐다.
Q. 무료 백신으로도 방어가 되나?
기본적인 시그니처 기반 탐지는 여전히 유효하다. 근데 자가 변형형 악성코드까지 막으려면 행동 기반 탐지를 지원하는 유료 EDR급 솔루션 쪽이 유리하다.
핵심만 3줄 요약
- AI 악성코드는 감염마다 코드를 스스로 바꿔 시그니처 탐지를 무력화한다.
- 기업은 EDR, 제로트러스트, 짧은 패치 주기를 기본 세트로 갖춰야 한다.
- 방어 쪽도 이미 AI 기반 탐지로 맞서는 중이라, 결국 기술 경쟁 구도다.
AI리서치팀
Home-In-One AI리서치팀은 인공지능, 머신러닝, 생성형 AI의 최신 동향과 실용적 활용법을 연구합니다. ChatGPT, 클로드, 미드저니 등 AI 도구 비교 분석과 활용 가이드를 제공합니다.