[태그:] 클라우드보안

  • AI 에이전트 보안 관리, 기본기부터 안 챙기면 뚫린다

    AI 에이전트 보안 관리, 기본기부터 안 챙기면 뚫린다

    기업 로그인 계정 중 사람보다 기계가 더 많아진 지 꽤 됐다. API 키, 서비스 계정, 요즘 부쩍 늘어난 AI 에이전트까지 다 합치면 웬만한 조직 하나에 계정 수만 개가 떠다니는 일도 드물지 않다. 문제는 이 계정들, 누가 만들었는지도 모르고 권한이 뭔지도 모르고 심지어 아직 쓰이는지조차 아무도 모른다는 것. AI 에이전트 보안 얘기가 요즘 부쩍 나오는 이유이기도 하다.

    AI 에이전트, 왜 새로운 구멍이 됐나

    AI 에이전트는 사람 대신 이메일을 읽고 코드를 배포하고 데이터베이스를 조회한다. 이 과정에서 API 키나 OAuth 토큰 같은 자격 증명을 손에 쥐게 되는데, 한 번 발급되면 만료 없이 방치되는 경우가 태반이다. 사람 계정은 퇴사하면 바로 꺼지지만 에이전트 계정은 프로젝트가 끝나도 살아남는다. 그대로 공격 표면이 되는 셈이다. 토큰 하나만 털려도 공격자가 에이전트 권한을 고스란히 상속받아 내부 시스템을 헤집고 다닐 여지가 있다. 기존 피싱보다 탐지가 훨씬 까다로운 이유다.

    논휴먼 아이덴티티(NHI), 정확히 뭘 말하는 건가

    논휴먼 아이덴티티(Non-Human Identity, NHI)는 사람이 아닌 주체가 시스템에 접근할 때 쓰는 계정과 자격 증명 전체를 가리키는 말이다. 크게 네 가지로 나뉜다.

    • 서비스 계정: 애플리케이션이 다른 시스템에 접근할 때 쓰는 전용 계정
    • API 키 / 시크릿: 프로그램 간 인증에 쓰이는 문자열 형태의 자격 증명
    • AI 에이전트 계정: LLM 기반 에이전트가 도구를 호출하거나 데이터에 접근할 때 위임받는 권한
    • 워크로드 아이덴티티: 컨테이너, 서버리스 함수 같은 인프라 단위에 부여되는 신원

    보안팀이 골치 아픈 이유는 간단하다. 이 계정들이 사람 계정보다 훨씬 빨리 늘어나는데, 기존 IAM(계정 및 접근 관리) 도구 대부분은 사람이 브라우저로 로그인하는 상황을 전제로 설계돼 있다. 애초에 설계 사상 자체가 안 맞는다.

    기존 IAM으로는 왜 못 막나

    비밀번호 로그인, 다중 인증(MFA), 세션 타임아웃. 이런 방어 수단은 전부 사람이 브라우저 앞에 앉아 있다는 걸 가정한다. 에이전트나 서비스 계정엔 MFA를 걸기도 애매하고, 24시간 쉬지 않고 API를 호출하다 보니 평소와 다른 패턴을 기준으로 이상 행위를 잡아내기도 쉽지 않다. 말은 쉬운데 실제로 해보면 여기서 다들 걸린다.

    여기서 나온 게 ITDR(Identity Threat Detection and Response)이다. 권한 변화, 비정상적인 호출 빈도, 평소 안 건드리던 리소스 접근 같은 행위 패턴을 실시간으로 뜯어봐서 탈취나 오남용을 잡아내는 방식이다. 아이덴티티 업체들이 이 분야 스타트업을 줄줄이 사들여 제품군에 붙이는 흐름도 결국 같은 얘기다. 에이전트형 계정을 사람 계정만큼 감시하고 싶은 거다.

    지금 당장 점검해야 할 것들

    NHI 관리 체계를 세우려면 순서가 중요하다. 이 순서대로 정리하는 편이 확실히 효율적이다.

    • 인벤토리 작성: 조직 안의 모든 API 키, 서비스 계정, 에이전트 권한을 목록으로 정리한다. 파악조차 안 된 계정이 제일 위험하다.
    • 최소 권한 원칙: 에이전트에게 필요한 범위 이상 권한을 주지 않는다. 읽기만 해도 되는 작업에 쓰기 권한까지 얹지 않는다.
    • 자격 증명 로테이션: API 키와 시크릿을 주기적으로 교체하고, 만료 기한 없는 키는 아예 없애는 쪽으로 정책을 바꾼다.
    • 행위 기반 모니터링: 로그인 성공 여부가 아니라 실제로 뭘 했는지를 기준으로 이상 행위를 잡는다.
    • 소유자 지정: 서비스 계정과 에이전트 하나하나에 담당 부서나 담당자를 못 박아, 방치되는 계정을 없앤다.

    솔루션 고를 때 봐야 할 세 갈래

    시중 제품은 대략 세 갈래로 나뉜다. IAM/IGA는 계정 생성부터 권한 부여, 감사까지 생애주기 전체를 관리한다. PAM(Privileged Access Management)은 관리자 권한 같은 민감한 자격 증명을 금고에 넣어두고 필요할 때만 잠깐 빌려주는 방식이다. ITDR/CIEM은 클라우드 환경 전체의 권한 설정과 실시간 행위를 감시해 이상 신호를 걸러낸다. 오크타, 마이크로소프트, 크라우드스트라이크 같은 업체들이 이 세 영역을 하나의 플랫폼으로 묶으려고 인수합병을 이어가는 것도 이 때문이다. 도구를 따로따로 쓰면 로그가 흩어져서 상관관계 분석 자체가 안 된다.

    도입할 때 흔히 하는 실수 세 가지

    제일 흔한 실수는 인벤토리를 건너뛰고 바로 도구부터 사는 것. 지금 뭐가 얼마나 있는지도 모르는 상태에서는 어떤 솔루션을 들여놔도 제 성능이 안 나온다. 두 번째는 개발팀 편하라고 만료 없는 키를 발급해두고 그냥 잊어버리는 습관이다. 세 번째는 에이전트 권한을 사람 계정 권한과 다른 절차로, 그러니까 대충 검토하는 것이다. 에이전트는 코드 한 번 배포하면 권한 범위가 통째로 바뀔 수 있어서, 정기 검토 주기를 사람 계정보다 짧게 잡는 게 맞다. 이 세 개, 솔직히 안 걸리는 조직을 거의 못 봤다.

    핵심만 3줄 요약

    AI 에이전트와 서비스 계정 수가 사람 계정을 넘어서면서, 이 계정들을 노린 공격이 실제 침해 사고의 주요 경로로 자리 잡았다. 방어의 출발점은 화려한 도구가 아니라 인벤토리 작성과 최소 권한 원칙 같은 기본기다. 이 기본이 갖춰진 다음에야 ITDR 같은 행위 기반 탐지 도구가 제 역할을 한다.

    출처: TechCrunch

  • AI 서비스 보안, API 키 관리 완벽 가이드

    AI 서비스 보안, API 키 관리 완벽 가이드

    AI 평가 스타트업 Braintrust가 해킹당했다. 피해 규모보다 더 충격적이었던 건 대응 방식이었다. 회사는 모든 고객에게 즉시 민감한 키를 교체하라고 통보했다. TechCrunch가 전한 이 사건은, 뛰어난 AI 모델을 만드는 데만 집중하다가 보안의 기본을 놓쳤을 때 어떤 일이 벌어지는지 보여주는 꽤 직접적인 사례다.

    API 키(Application Programming Interface Key)는 AI 서비스가 외부 시스템과 연결할 때 자신을 증명하는 식별자다. 비밀번호처럼 보이지만, 실제로는 훨씬 넓은 범위의 권한을 담고 있다. 이 키 하나로 민감한 문서를 무단 번역하거나, 이미지 생성 API를 불법으로 대량 호출하거나, 데이터베이스 전체를 조회하는 게 가능하다. 그러니 단순히 ‘비밀번호를 잘 관리하자’는 차원이 아니다.

    왜 AI 서비스는 더 뚫리기 쉬운가

    과거 시스템 보안은 단순했다. 특정 데이터베이스나 서버에 누가 접근할 수 있는지만 통제하면 됐다. AI 서비스는 다르다. 학습 데이터, 추론 요청, 외부 API 연동까지 — 데이터가 흐르는 경로 자체가 훨씬 복잡하다. 공격 지점(Attack Surface)이 기하급수적으로 넓어진 셈이다.

    • 데이터 민감도: AI 모델은 개인정보나 기업 기밀을 처리하는 경우가 많다. 학습 데이터에 개인정보가 섞여 있다면, 모델 자체가 유출 경로가 된다.
    • 연결 복잡도: 결제 API, 검색 API, 이미지 생성 API… 연동 서비스가 늘수록 각각의 키가 취약점이 될 수 있다. 하나만 뚫려도 연쇄 피해가 생긴다.
    • 새로운 공격 방식: 프롬프트 인젝션(Prompt Injection)처럼 AI 고유의 공격 기법도 등장했다. 기존 방어 전략만으로는 부족하다는 신호다.

    API 키는 이 복잡한 구조 안에서 가장 자주 노출되는 약점이다. 코드에 그냥 박아넣거나, 깃허브에 실수로 올리거나, 환경 변수 파일을 잘못 관리하는 것만으로도 노출된다. 이런 실수는 생각보다 훨씬 자주 일어난다.

    API 키는 ‘디지털 신분증’이다

    API 키가 단순 비밀번호와 다른 이유는 세 가지다.

    • 권한 범위가 넓다: 사용자 로그인과 달리, API 키 하나가 서비스 전체 기능에 대한 접근권을 포함하는 경우가 있다.
    • 노출되기 쉽다: 코드에 직접 하드코딩되거나, 설정 파일에 평문으로 저장되다가 실수로 공개 저장소에 올라가는 사고가 반복된다.
    • 피해가 연쇄적이다: 키 하나가 뚫리면, ê·¸ 키와 연결된 모든 서비스가 동시에 위험에 노출된다.

    ê²°êµ­ API 키는 ‘디지털 신분증’이자 접근 권한 증명서로 다뤄야 한다. 직원증을 아무데나 놓고 다니는 사람은 없지 않나. 같은 논리다.

    실전 보안 전략 5가지

    말만 많고 적용하기 어려운 보안 가이드가 많다. 여기서는 실제로 쓸 수 있는 것들만 추렸다.

    1. 최소 권한 원칙 + 환경 분리
      각 API 키에는 딱 필요한 권한만 줘야 한다. 번역 API를 호출하는 키가 이미지 생성 기능까지 건드릴 수 있으면 안 된다. 개발·테스트·운영 환경도 키를 따로 써야 한다. 키가 하나 유출돼도 다른 환경은 멀쩡한 상태를 유지할 수 있다.
    2. 정기 키 로테이션(갱신)
      키를 주기적으로 바꿔야 한다. 노출됐는지 모르는 상태에서도 주기적으로 갱신하면 잠재적 위협을 무력화할 수 있다. 자동화된 로테이션 시스템을 구축해두면 관리 부담을 크게 줄일 수 있다.
    3. 시크릿 관리 도구 사용
      HashiCorp Vault, AWS Secrets Manager, Azure Key Vault 같은 전용 도구를 써야 한다. 코드에 키를 직접 박아넣는 건 가장 위험한 방식이다. 이 도구들은 암호화된 형태로 키를 저장하고, 애플리케이션이 필요할 때만 안전하게 가져갈 수 있게 해준다.
    4. 네트워크 접근 제한
      IP 화이트리스트를 설정하면, 등록된 IP 주소 대역에서만 API 호출을 허용할 수 있다. 웹 서비스라면 CORS(Cross-Origin Resource Sharing) 정책으로 특정 도메인에서만 요청을 받도록 제한할 수 있다. 키가 유출돼도 공격자가 특정 환경 밖에서 쓰기 어렵게 만드는 방식이다.
    5. 사용 패턴 모니터링 + 로깅
      API 호출 현황을 계속 들여다봐야 한다. 평소보다 호출량이 갑자기 10배 늘거나, 낯선 IP에서 새벽 3시에 집중적으로 접근하거나 — 이런 패턴이 보이면 즉시 경고가 뜨도록 설정해야 한다. 침해 시도를 조기에 잡아내는 핵심 수단이다.

    클라우드에서 AI 보안 레벨 올리는 법

    AWS, Azure, GCP 같은 클라우드 위에서 AI 서비스를 돌리고 있다면, 클라우드가 제공하는 보안 기능을 적극 활용해야 한다. 이미 거기 있는 도구들인데, 안 쓰는 건 솔직히 아깝다.

    • IAM(Identity and Access Management): AI 서비스에 접근하는 계정마다 역할에 딱 맞는 최소 권한만 부여해야 한다. 세밀한 권한 제어가 핵심이다. 관리자 계정으로 모든 걸 처리하는 방식은 사고가 났을 때 피해 범위를 키울 뿐이다.
    • VPC(Virtual Private Cloud) + 보안 그룹: AI 모델과 데이터가 저장된 네트워크를 외부와 격리해야 한다. 불필요한 외부 접근을 차단하는 것만으로도 공격 경로를 대폭 좁힐 수 있다.
    • 클라우드 WAF(Web Application Firewall): 웹 기반 AI 서비스라면 SQL 인젝션, XSS(Cross-Site Scripting) 같은 공격을 막기 위해 WAF 도입을 검토할 만하다.
    • 활동 로그 감사: API 호출, 자원 변경 — 클라우드에서 발생하는 모든 활동을 기록하고 주기적으로 감사해야 비정상 패턴을 잡아낼 수 있다.

    여기서 중요한 인식의 전환이 하나 있다. 클라우드는 ‘공유 책임 모델’로 운영된다. AWS나 Azure가 인프라 보안을 책임지지만, ê·¸ 위에서 돌아가는 AI 서비스의 데이터와 API 키 관리는 전적으로 사용하는 기업의 몫이다.