소식

집중하려고 ‘차분한 재즈’ 플레이리스트를 틀었더니 세 번째 곡부터 갑자기 보사노바가 흘러나왔다. 분위기가 달라도 너무 달랐다. AI가 추천해줬다고 믿었던 목록인데. 이런 경험 한 번쯤은 있을 것이다. 스포티파이, 애플 뮤직, 유튜브 뮤직 — 다들 AI 추천을 무기로 내세우는데, 실제로는 얼마나 쓸 만할까.

AI 음악 추천이 하는 일, 구체적으로

AI 음악 추천은 인기 차트를 보여주는 게 아니다. 개인 청취 이력을 기반으로 ‘나만의 플레이리스트’를 자동으로 짜주는 기술이다. 단순히 들은 횟수만 세는 게 아니라, 재생 후 스킵했는지, 얼마나 반복 재생했는지, 특정 시간대에 어떤 장르를 찾는지까지 분석한다.

실질적으로 제공하는 기능은 크게 세 가지다.

• 맥락 기반 플레이리스트: ‘출근길 활기찬 팝’이나 ‘고요한 밤 명상 음악’처럼 상황을 입력하면 그에 맞는 곡 목록을 뽑아준다. AI가 개인 음악 비서 역할을 하는 셈이다.
• 새 아티스트 발굴: 기존에 좋아하던 음악과 비슷하면서도 처음 듣는 곡들을 연결해준다. ‘내 취향 확장’ 믹스 같은 기능이 여기 해당한다.
• 감정·활동 기반 추천: 운동 중이거나 공부할 때, 혹은 단순히 기분이 처진 날 — 그 상태에 맞는 곡을 제안한다. 직접 검색하기 귀찮을 때 꽤 유용한 기능이다.

음악 스트리밍 시장의 경쟁이 갈수록 치열해지면서, 이 AI 추천 기능이 서비스 간 핵심 차별점으로 굳어지는 중이다.

스포티파이, 애플 뮤직, 유튜브 뮤직 — 각자 뭐가 다른가

셋 다 AI 추천을 하지만, 방식과 강점은 제법 다르다. 하나씩 짚어보자.

• 스포티파이: 개인화 추천의 기준점
  AI 추천 하면 대부분 스포티파이를 먼저 떠올린다. ‘발견 믹스(Discover Weekly)’, ‘데일리 믹스(Daily Mix)’, 그리고 최근 도입한 ‘AI DJ’까지. AI DJ는 선곡과 동시에 DJ처럼 코멘트를 넣어 라디오 듣는 것 같은 분위기를 만든다. 청취 데이터를 정밀하게 쌓아 사용자 취향을 깊이 학습한다는 점이 가장 큰 강점이다. 다만 써보면 알겠지만, 가끔 너무 익숙한 곡만 반복 추천하는 게 좀 지루하게 느껴질 때가 있다.
• 애플 뮤직: 음질과 기기 연동이 전부
  애플 기기를 쓰는 사람에겐 자연스러운 선택이다. 아이폰·아이패드·맥 간 연동이 끊김 없고, 무손실 오디오와 공간 음향을 지원한다. AI 추천은 ‘즐겨찾는 노래 믹스’, ‘새로운 음악 믹스’ 등을 제공하며, 텍스트 프롬프트로 플레이리스트를 생성하는 기능도 최근 추가됐다. 솔직히 여기서 갈린다 — The Verge 보도에 따르면, ‘분위기 있는 연주 블랙 메탈’ 같은 섬세한 장르·무드 요청에는 AI가 완전히 따라가지 못하는 경우가 있다.
• 유튜브 뮤직: 라이브러리 크기가 압도적
  공식 음원뿐 아니라 라이브 공연, 커버 영상, 리믹스까지 포함된다. 유튜브 전체 생태계가 뒤에 있으니 라이브러리 폭은 당연히 넓다. 개인화 추천은 시청·청취 이력 기반으로 이뤄지며, ‘믹스테이프’나 ‘나만의 플레이리스트’로 제공된다. 다만 음악 외 콘텐츠(뮤직비디오, 유사 영상 등)가 섞여 들어오는 게 단점이라는 평이 꾸준히 나온다. 순수하게 음악만 듣고 싶을 때 방해가 된다.

AI는 어떻게 취향을 배울까

알고리즘이 단순히 “많이 들은 곡 = 좋아하는 곡”으로만 보지는 않는다. 데이터를 여러 층으로 쌓는 구조다.

• 행동 데이터: 재생, 스킵, ‘좋아요’, 플레이리스트 추가 — 모든 클릭이 데이터가 된다. 30초 듣고 넘긴 곡과 세 번 반복한 곡은 알고리즘에 완전히 다른 신호로 잡힌다.
• 콘텐츠 분석: 음악 자체의 템포, 장르, 분위기, 악기 구성, 가사 주제까지 분해해서 라벨을 붙인다. 이 라벨이 비슷한 곡들을 묶어준다.
• 협업 필터링: 나와 A·B 두 곡 모두 좋아하는 사람이 C도 자주 들었다면, AI는 내게도 C를 추천할 가능성이 높다고 본다. “비슷한 취향의 사람들은 이런 것도 들었어요”의 원리다.
• 딥러닝 + 자연어 처리(NLP): ‘비 오는 날 듣기 좋은 감성적인 팝’처럼 텍스트로 입력한 요청을 AI가 해석하려면 NLP가 필요하다. 뉘앙스를 얼마나 정확히 읽느냐가 서비스 간 품질 차이를 만든다.

그래도 여전히 아쉬운 것들

AI 추천이 꽤 발전했지만, 한계도 뚜렷하다. 그냥 쓰다 보면 느낀다.

• 감정의 복잡함을 못 따라간다: ‘슬프지만 희망적인’, ‘격정적이면서 고요한’ — 이런 복합 감정을 AI는 아직 잘 못 잡는다. ‘블랙 메탈’을 요청하면 빠른 비트와 거친 보컬에만 반응하고, ‘연주곡’이나 ‘분위기’라는 사용자의 의도는 흘려버리는 식이다. 미묘한 뉘앙스를 놓칠 여지가 크다. 이건 좀 과한 기대였을 수도 있지만, 그렇다고 납득이 되진 않는다.
• 콜드 스타트 문제: 처음 가입했거나 갑자기 새 장르를 탐색하기 시작한 경우, 축적 데이터가 없어서 추천이 부실해진다. 한동안은 직접 검색할 수밖에 없다.
• 필터 버블: 좋아할 만한 것만 계속 추천하다 보면, 결국 비슷한 음악만 도는 현상이 생긴다. 취향의 폭이 좁아지는 부작용이다. 의도적으로 ‘좋아요’를 안 누르거나, 새 플레이리스트를 직접 검색해봐야 빠져나올 수 있다.
• 인간 큐레이션의 자리: 음악 전문가가 문화적 맥락을 읽고 고른 플레이리스트는 AI가 쉽게 따라 하기 어렵다. 데이터로 처리하기 힘든 ‘영감’의 영역이 분명히 있다.

서비스 고를 때 실제로 따져볼 것

취향보다 환경이 먼저다. 어떤 기기를 쓰느냐에 따라 최적 서비스가 달라진다.

• 애플 기기 중심이라면: 애플 뮤직이 연동성 측면에서 유리하다. 아이폰·맥·에어팟 간 끊김이 없다.
• 안드로이드·멀티기기 사용자라면: 스포티파이나 유튜브 뮤직이 더 유연하다. 플랫폼 제약이 적다.
• 니치한 장르나 인디 음악을 좋아한다면: 스포티파이의 데이터 기반 추천이 강점을 발휘하는 구간이다. 대중적이지 않은 곡일수록 협업 필터링의 깊이가 드러난다.
• 새 음악 발굴이 목표라면: 스포티파이 ‘발견 믹스’나 ‘AI DJ’가 효과적이다. 안정적으로 좋아하는 곡 위주로 듣고 싶다면 애플 뮤직이나 유튜브 뮤직도 충분하다.
• 음질이 최우선이라면: 무손실 오디오와 공간 음향을 지원하는 애플 뮤직이 현재 기준으로 가장 위다. 가족 요금제나 구독료 정책도 서비스마다 다르니 비교해보는 게 좋다.

다음 수순은 — 멀티모달 추천의 시대

AI 음악 추천은 계속 바뀐다. 텍스트 기반 요청을 처리하는 수준에서, 앞으로는 감정 상태나 주변 환경까지 분석해 더 정밀한 추천을 내놓는 방향으로 간다. 대화형 AI(LLM)와 결합이 고도화되면, ‘오늘 날씨에 어울리는, 긍정적인 메시지를 담은 어쿠스틱 팝을 틀어줘’ 같은 복합 요청도 무리 없이 처리될 것이다.

시각 정보나 생체 데이터까지 활용하는 멀티모달 방향도 열려 있다. 결국 AI는 인간의 음악 경험을 더 풍부하게 만드는 도구로 자리를 굳힐 테고, 섬세한 취향을 얼마나 잘 읽느냐를 두고 서비스들 사이의 경쟁은 계속될 것이다.

출처: The Verge AI

시리한테 복잡한 질문 던졌다가 실망한 경험, 한두 번이 아닐 것이다. iOS 27부터는 그 불만이 줄어들 가능성이 생겼다. 블룸버그 보도에 따르면, 이번 업데이트부터 아이폰 시리에 서드파티 AI 챗봇을 연동하는 기능이 추가될 예정이다. 구글 제미니(Gemini)나 앤트로픽 클로드(Claude) 같은 외부 AI를 시리의 응답 엔진으로 쓸 수 있게 된다는 얘기다. 단순 기능 추가 정도가 아니다. 아이폰 AI 경험의 구조 자체가 바뀌는 거다.

시리, 이제 단순한 비서가 아니다

기존 시리는 애플 자체 AI 모델 위에서 돌아갔다. 애플 생태계 안에서는 꽤 매끄럽게 작동했지만, 복잡한 정보 검색이나 긴 질의응답에서는 아쉬운 게 사실이었다. 서드파티 AI 연동은 그 빈틈을 메운다. 시리는 더 이상 단독 AI가 아닌, 사용자가 선택한 AI 챗봇으로 가는 관문이 된다. 어떤 검색 엔진을 기본으로 쓰느냐에 따라 브라우저 경험이 달라지는 것과 같은 원리다. 개인 맞춤형 AI 비서 시대, 본격적으로 시작되는 셈이다.

나에게 맞는 AI 챗봇 선택 기준 3가지

• 첫째, 사용 목적과 특화 기능: 챗봇마다 강점이 확연히 다르다.
  • 정보 검색 및 요약: 최신 정보를 빠르게 건져야 한다면 웹 검색 기능이 강한 AI가 맞다.
  • 창의적인 글쓰기 및 코딩: 소설 초안이든 복잡한 코드든, 언어 유연성과 창의성이 높은 모델을 골라야 한다.
  • 데이터 분석 및 전문 지식: 특정 분야 전문 지식이나 대규모 데이터 처리가 필요하면, 플러그인 연동이 자유로운 AI가 유리하다.
• 둘째, 프라이버시 및 보안 정책: AI 챗봇에 입력하는 내용은 꽤 민감할 수 있다. 업무 내용이나 개인 대화를 많이 나눌 계획이라면, 데이터 처리 방식, 저장 여부, 보안 조치를 미리 확인하는 게 좋다. 정책이 불투명한 서비스는 일단 거르는 게 낫다.
• 셋째, 비용 효율성 및 연동성: 무료 플랜도 있지만 고급 기능이나 무제한 사용은 대부분 유료다. 사용 빈도와 필요 기능에 맞는 요금제를 따져야 한다. 이미 쓰는 이메일, 캘린더, 클라우드와 얼마나 자연스럽게 연결되는지도 무시 못할 포인트다.

주요 AI 챗봇, 이런 특징들을 가졌다

지금 시장에서 가장 많이 쓰이는 건 구글 제미니, 앤트로픽 클로드, 오픈AI ChatGPT, 이렇게 세 가지다. 각자 색깔이 다르다.

• 제미니(Gemini): 구글의 방대한 데이터와 멀티모달 기능이 무기다. 텍스트는 물론 이미지, 오디오, 비디오까지 처리한다. 구글 검색이나 Google Workspace와의 연동 측면에서는 세 모델 중 단연 앞선다.
• 클로드(Claude): 앤트로픽이 만든 챗봇으로, 안정성과 안전성 중심의 윤리적 AI를 지향한다. 긴 문맥을 처리하는 능력이 좋아서, 복잡한 문서 요약이나 장문 글쓰기에서 실용성이 높다.
• ChatGPT: 오픈AI 대표 모델. 플러그인 생태계와 사용자 커뮤니티 규모가 세 가지 중 가장 크다. 범용 질문, 창작, 코딩 지원 등 두루두루 쓸 수 있다.

이 세 가지 외에도 특정 산업이나 용도에 맞춘 소규모 챗봇들이 계속 나오고 있다. 각 서비스의 업데이트 방향과 로드맵을 주기적으로 체크해두면 선택할 때 참고가 된다.

아이폰 시리 AI 챗봇 설정 및 활용 팁

원하는 챗봇을 골랐다면, 실제로 어떻게 쓰는지도 알아두자. 정확한 설정 인터페이스는 iOS 27 정식 출시 후 공개되겠지만, 흐름 자체는 어느 정도 예측 가능하다.

• App Store를 통한 설치: 원하는 AI 챗봇 앱을 App Store에서 받는다.
• 시리 설정에서 연동: 설정 > 시리 및 검색 메뉴에 기본 AI 챗봇을 지정하는 옵션이 추가될 것으로 예상된다. 여기서 설치한 챗봇을 연결하면 된다.
• 음성 명령 활용: 평소처럼 시리를 부르고 질문하면, 지정한 챗봇이 응답한다. “시리, 클로드에게 이 내용 요약해줘” 식의 직접 호출 명령도 지원할 여지가 있다.
• 단축어와의 조합: iOS 단축어(Shortcuts) 기능을 쓰면 상황에 따라 다른 챗봇을 자동 호출하거나 복합 작업을 연결하도록 세팅할 수 있다. 출근길엔 뉴스·날씨 요약 챗봇, 퇴근 후엔 일정 관리 챗봇을 부르는 식이다.

AI 챗봇 활용 시 유의할 점

아무리 성능이 올라가도, AI는 틀린다. 쓰기 전에 알아두면 좋을 주의 사항이 있다.

• 환각(Hallucination) 현상: AI는 없는 정보를 그럴듯하게 만들어내기도 한다. 중요한 사실은 반드시 다른 출처로 교차 확인해야 한다. 어떤 챗봇을 써도 마찬가지다.
• 데이터 프라이버시: 민감한 정보는 입력하지 않는 게 원칙이다. 각 챗봇의 개인정보 처리 방침을 한 번은 읽어봐야 한다. 생각보다 중요한 내용이 담겨 있다.
• 과도한 의존 경계: AI는 강력한 도구지만, 판단과 창의적 문제 해결은 여전히 사람 몫이다. AI 답변은 참고 자료로 쓰는 게 맞다. 맹신하면 결국 틀린다.

다음 수순은? 진정한 개인 비서 시대

시리의 외부 AI 연동은 애플이 단순 하드웨어 제조사를 넘어 AI 생태계의 허브로 자리잡으려는 시도로 읽힌다. 사용자 입장에서는 이제 자신의 필요에 딱 맞는 AI 비서를 직접 구성할 수 있게 된다. AI 서비스 시장의 경쟁은 더 치열해질 것이고, 그 결과는 결국 더 나은 사용자 경험으로 돌아온다. 앞으로 어떤 챗봇들이 시리와 깊이 통합될지, 지켜볼 이유가 충분하다.

출처: The Verge AI

채용 담당자가 AI 추천 시스템을 믿고 지원자를 탈락시켰는데, 나중에 알고 보니 그 알고리즘이 특정 대학 출신을 일관되게 걸러내고 있었다. 이게 실제로 일어난 일이다. 아마존이 내부적으로 쓰다가 조용히 폐기한 AI 채용 툴 얘기다. 기술이 발전할수록 이런 사례는 늘어날 수밖에 없다. 바로 거기서 AI 규제 논의가 시작된다.

AI를 규제해야 하는 이유, 구체적으로

막연히 “위험하니까 규제하자”는 말은 설득력이 약하다. 실제로 어떤 문제가 생기는지를 봐야 한다.

• 알고리즘 편향과 차별: AI가 자율적으로 의사결정을 내릴 때, 학습 데이터에 내재된 편향이 결과에 그대로 반영된다. 채용, 대출 심사, 보험료 산정 같은 영역에서 특정 성별이나 인종이 불리한 판정을 받는 일이 이미 여러 차례 보고됐다.
• 개인정보와 데이터 보안: AI 모델 하나를 훈련시키려면 수억 건의 데이터가 필요하다. 그 과정에서 개인의 민감 정보가 동의 없이 활용되거나 외부로 새어나갈 위험은 현실적이다.
• 책임 소재의 공백: 자율주행차 사고가 났을 때 제조사가 책임을 지나, 소프트웨어 개발사가 지나, 아니면 차주가 지나. 명확한 기준이 없으면 피해자는 어디에도 하소연할 데가 없다. AI 의료 진단 오류도 마찬가지다.
• 딥페이크와 여론 조작: 사람 얼굴을 합성해 가짜 영상을 만드는 기술은 이미 일반인도 쓸 수 있는 수준이 됐다. 선거철에 이게 퍼지면 어떤 일이 벌어지는지는 여러 나라가 이미 경험했다.

방치하면 기술이 준 혜택보다 부작용이 더 커진다는 건 어느 쪽도 부정하기 어렵다.

EU, 미국, 중국의 접근법 — 셋 다 다르다

세 지역을 나란히 놓고 보면 규제 철학의 차이가 선명하게 드러난다.

• 유럽연합(EU) AI Act: 가장 촘촘하다. AI 시스템을 위험 수준에 따라 4단계로 분류한다 — 허용 불가, 고위험, 제한적 위험, 최소 위험. 고위험 AI(의료·교육·채용·인프라 관련)는 출시 전 적합성 평가를 통과해야 하고, 이후에도 지속적인 감시를 받는다. GDPR 제정 때부터 쌓아온 “인권이 먼저다”는 철학이 그대로 이어진 결과다.
• 미국의 자율 규제 중심 접근: 분위기가 다르다. 법으로 묶기보다는 가이드라인과 자발적 참여를 유도하는 방식이다. 백악관에서 AI 정책 고문을 두고 분야별 지침을 만들긴 하지만, 실질적 강제력은 약하다. 다만 국가 안보나 핵심 인프라에 관련된 AI는 별도로 강하게 다룬다. 혁신을 막고 싶지 않다는 산업계 논리가 꽤 강하게 작용하는 구조다.
• 중국의 국가 주도 모델: 정부가 개발 방향 자체를 정한다. 사회주의 가치에 부합하는 AI를 육성하고, 데이터 주권을 국가가 쥐는 방식이다. 안면 인식 감시 기술이 이미 광범위하게 쓰이는 만큼, 이 분야의 규제는 서방과 결이 완전히 다르다.

목적지는 비슷해도 가는 길이 이렇게나 다르다. 어떤 접근이 더 효과적인지는 솔직히 아직 모른다. 두고 봐야 안다.

가장 첨예한 쟁점 4가지

규제 논의에서 의견이 가장 갈리는 지점들이 있다. 딱 4가지만 짚는다.

• 알고리즘 투명성, ‘블랙박스’를 열어라: AI가 어떤 근거로 그 결론을 냈는지 설명할 수 있어야 한다는 요구다. 신용 점수를 깎인 사람, 보험을 거절당한 사람, 범죄 위험도가 높게 찍힌 사람 — 이들은 이유를 알 권리가 있다. 기술적으로 불가능한 게 아닌데, 기업들이 영업 비밀을 이유로 공개를 꺼린다. 여기서 갈등이 생긴다.
• 데이터 거버넌스: 누구의 데이터를, 어떻게 모아서, 어떻게 쓰는가. AI 학습 데이터셋에 무단으로 포함된 개인정보 문제는 이미 여러 소송으로 이어졌다. 편향된 데이터로 훈련된 AI는 편향된 결과를 낸다는 것도 이미 증명된 사실이다.
• 책임 소재 확정: AI 오작동으로 피해가 발생했을 때 법적 책임의 주체를 명확히 하는 문제다. 개발사인지, 배포사인지, 사용자인지. 이게 불분명하면 기업은 AI 도입을 주저하고, 피해자는 보상을 못 받는다. 둘 다 나쁜 결과다.
• 일자리 대체 대응: AI가 기존 직군을 얼마나, 얼마나 빠르게 대체할 것인가에 대한 추정치는 기관마다 크게 다르다. 어느 쪽이 맞든 간에, 재교육 프로그램과 사회 안전망 확충은 규제와 세트로 논의돼야 한다는 건 이제 이견이 거의 없다.

이 쟁점들을 제대로 풀려면 기술 전문가만으론 안 된다. 법률가, 윤리학자, 사회학자, 그리고 실제 피해를 입은 당사자들이 논의 테이블에 함께 앉아야 실질적인 결론이 나온다.

AI와 암호화폐, 규제 당국의 공통된 두통

암호화폐 규제를 먼저 경험한 나라들이 AI 규제에서도 비슷한 패턴에 빠지는 걸 보고 있다. 기술 발전 속도가 법을 앞질러 버리는 문제가 반복된다.

• 법이 따라가지 못하는 속도: 규제 초안을 만드는 동안 이미 다음 세대 기술이 나와 있다. 암호화폐도 그랬고, AI도 마찬가지다.
• 국경을 무력화하는 기술: AI 모델과 암호화폐 모두 서버가 어디에 있든 전 세계 어디서나 접근된다. 한 나라가 강하게 규제하면, 기업은 규제가 약한 나라로 옮겨간다. 국제 공조 없이는 실효성이 없다.
• 예측 불가능한 리스크: 출시 전에는 어떤 부작용이 생길지 다 알기 어렵다. 혁신과 동시에 예상치 못한 문제가 터지는 게 반복되는 패턴이다.
• 진흥 vs. 보호의 줄다리기: 산업 키우자는 쪽과 소비자·사회 보호하자는 쪽이 항상 충돌한다. 암호화폐 때 각국이 이 갈등을 어떻게 처리했는지 — 그 경험이 AI 규제 설계의 참고 자료가 되고 있다.

The Verge가 전한 바에 따르면, AI·암호화폐 정책 조율을 담당했던 데이비드 삭스가 자리에서 물러났다. 미국의 규제 방향에 어떤 신호를 주는 건지는 아직 읽기 어렵다.

이상적인 규제란 어떤 모습인가

논의를 거듭한 끝에 대체로 합의된 조건이 몇 가지 있다. 쉽게 실현되는 얘기는 아니지만.

• 기술 중립적 접근: 특정 기술 방식이 아니라, 그 기술이 사회에 끼치는 영향과 위험 수준을 기준으로 규제해야 한다. 음악 추천 알고리즘과 범죄 예측 시스템이 같은 규제를 받는 건 말이 안 된다.
• 국제 표준과 공조: AI는 국경이 없다. 주요국이 공통된 기준을 만들지 않으면 결국 규제 회피 천국만 생겨난다. 국제 협력은 선택이 아니다.
• 복수 주체의 참여: 정부와 기업만 논의 테이블에 앉으면 안 된다. AI 개발사, 시민사회단체, 연구기관, 윤리학자가 함께 참여해야 편향되지 않은 결론이 나온다.
• 위험 기반 차등 규제(Risk-based approach): EU가 채택한 이 방식이 현재로선 가장 현실적이라는 평가를 받는다. 고위험 AI에는 엄격한 사전 검증을, 저위험 AI에는 최소한의 가이드라인을 적용한다. 모든 AI를 똑같이 옥죄는 건 혁신을 죽이는 길이다.

남은 변수들

AI 규제는 완성된 게 아니라 계속 만들어지는 중이다. EU AI Act도 시행 과정에서 수정이 불가피할 거고, 미국의 접근 방식도 어느 시점엔 더 구체화될 것이다. 기술 발전 속도가 워낙 빠르니, 오늘 정한 규제가 3년 뒤엔 낡은 기준이 되는 일도 얼마든지 생긴다.

핵심은 규제가 기술의 발목을 잡는 게 아니라 방향을 잡아주는 역할을 하는 거다. 채용 AI가 특정 집단을 차별하지 않도록, 딥페이크가 선거를 뒤흔들지 않도록, 자율주행 사고 피해자가 보상을 받도록 — 이 구체적인 문제들을 하나씩 풀어가는 속도가 결국 규제의 질을 결정한다. 거창한 슬로건보다 그게 먼저다.

출처: The Verge AI

군 작전 시스템에 AI가 들어간다. 행정 처리도, 치안 판단도 AI가 보조한다. 이건 먼 미래 얘기가 아니다. 지금 실제로 일어나고 있는 일이다. 그런데 여기서 조용히 터지는 문제가 있다. 바로 AI 공급망 위험이다. 민간 기업에서도 골치 아픈 문제인데, 국방이나 공공 서비스에선 한 번 잘못되면 국가 안보까지 흔들린다. 성능이 좋냐 나쁘냐를 넘어서, 그 AI가 어디서 왔고 누가 만들었으며 어떻게 관리되는지가 국가 시스템 전체의 안정성을 좌우하는 셈이다.

왜 지금 이 문제가 터졌나

예전엔 소프트웨어 공급망 위험이라 하면 오픈소스 라이브러리 취약점 정도였다. Log4j 사태 같은 거. 그런데 AI 시대엔 범위가 완전히 달라졌다. 학습 데이터가 편향돼 있거나 출처가 불분명한 경우, 개발 과정이 불투명한 경우, 특정 해외 기업에 지나치게 의존하는 경우 — 전부 위험 요인으로 분류된다. 심지어 개발사의 윤리 기준이나 정부와의 협력 태도까지 따진다. AI가 단순한 도구가 아니라 실제 의사결정에 개입하기 시작했으니, 그 전 과정이 다 리스크 영역에 들어오는 거다.

• 데이터 편향성 및 오염: AI 판단의 품질은 결국 학습 데이터에서 결정된다. 편향된 데이터는 잘못된 결론으로 이어지고, 오염된 데이터는 백도어 공격 통로가 될 여지도 있다.
• 블랙박스 문제: AI가 왜 그 결정을 내렸는지 추적이 안 된다. 국방 분야에서 이건 치명적이다. 오류가 나도 원인을 모르면 대응이 불가능하다.
• 공급자 의존도: 소수 기업에 몰리면 그 기업이 갑자기 정책을 바꾸거나 협조를 거부했을 때 시스템 전체에 타격을 줄 수 있다. 기술 종속은 생각보다 빠르게 심해진다.
• 보안 취약점: 모델 자체, 학습 인프라, 배포 파이프라인까지 — AI 생명주기 전반이 사이버 공격 표적이 된다.

도입 전에 따져봐야 할 것들

국방·공공 AI는 민간이랑 기준 자체가 다르다. 인명과 국가 기밀이 걸려 있으니. 성능 벤치마크만 보고 사면 안 된다는 얘기다. 시스템 신뢰성과 보안성을 먼저 따지는 게 순서다.

• 기술 독립성과 국산화: 핵심 AI를 해외 단일 기업에 의존하는 구조는 장기적으로 위험하다. 유사시에 공급이 끊겼을 때 대안이 없으면 그냥 멈추는 거다. 국내 기술 역량을 키우는 방향을 병행해야 한다.
• 개발사 신뢰도 검증: 기술력만 볼 게 아니다. 그 회사의 정보 보안 정책, 정부 협력 의지, 지배 구조까지 확인해야 한다. 투자자가 어떤 국가 자본인지도 변수가 된다.
• 데이터 거버넌스: 학습 데이터 수집부터 폐기까지 전 과정에 명확한 정책이 있어야 한다. 개인정보와 국가 기밀 유출 차단이 핵심이다.
• 설명 가능한 AI(XAI) 적용: 결정 과정을 추적하고 감사할 수 있어야 한다. 책임 소재를 가려야 할 때 블랙박스면 아무것도 못 한다.
• 보안 인증과 정기 감사: 국제 표준 인증 여부는 기본이고, 배포 후에도 외부 감사를 정기적으로 돌려야 한다. 한 번 통과했다고 끝이 아니다.

공급망 위험, 어떻게 줄이나

기술 하나로 해결되는 문제가 아니다. 접근 자체를 여러 층위로 가져가야 한다. 단일 대응책으로 커버되는 영역이 없다는 게 이 문제의 어려운 지점이다.

• 공급망 다각화: 단일 벤더에 몰빵하지 않는 게 첫 번째다. 상호 보완 가능한 기술 스택을 여러 업체에 분산시켜야 한 곳이 무너져도 버텨낼 수 있다.
• 표준화와 상호운용성: AI 모델과 데이터 포맷을 표준화하면 벤더 락인을 막는다. 갈아탈 수 있는 구조를 처음부터 설계해 두는 게 맞다.
• 지속 모니터링: 배포하고 끝이 아니다. 새 취약점이 발견되거나 성능이 이상하게 떨어질 때 즉각 대응하는 체계가 없으면 시스템은 서서히 썩는다.
• 법·제도 정비: 계약 단계에서 공급자의 책임과 의무를 못박아야 한다. 특정 기업이 정부 사업 참여에 제약을 받을 경우의 절차와 기준도 사전에 명확히 해야 한다. 이게 없으면 나중에 분쟁만 생긴다.
• 내부 역량 확보: 외부 전문가에 전부 맡기는 구조는 취약하다. 공급망 위험을 직접 식별하고 판단할 수 있는 내부 인력을 키워야 한다. 판단 능력이 없으면 좋은 벤더도 구별하지 못한다.

AI 스타트업, 정부 계약 따내려면

공공·국방 계약은 스타트업 입장에서 매력적인 시장이다. 규모도 크고 안정적이니까. 근데 민간이랑 룰이 다르다는 걸 모르고 들어갔다가 낭패 보는 경우가 꽤 있다.

• 보안이 최우선: 국가 기밀과 개인정보를 다루는 만큼, 일반 SaaS 수준의 보안으론 안 된다. 인증 획득은 기본이고, 회사 내부 보안 문화 자체를 뜯어고쳐야 하는 경우도 있다.
• 투명한 개발 프로세스: 모델 편향성이나 윤리 문제가 터졌을 때 “우린 몰랐다”가 통하지 않는다. 처음부터 책임 구조와 추적 체계를 갖춰야 한다.
• 장기 협력 태도: 계약 따고 튀는 식이면 안 된다. 실제로 한 AI 스타트업이 정부와의 관계에서 ‘비협조적인 태도’를 이유로 공급망 위험으로 지정될 여지가 있다는 보도가 나온 적 있다. The Verge AI가 전한 이 사례는 기술력 외에 태도도 평가 항목이라는 걸 보여준다.
• 컴플라이언스 준수: 정부 조달 법규는 작은 절차 실수 하나로도 계약이 날아갈 수 있다. 꼼꼼히 따지고 들어가야 한다.

결국 ‘믿을 수 있는 AI’를 어떻게 만드느냐의 문제

AI 공급망 위험 관리의 핵심은 기술적 완성도가 아니다. 신뢰성이다. 국방과 공공 서비스에 AI가 깊이 들어올수록, 그 기반이 되는 공급망이 얼마나 단단한지가 국가 안보와 직결된다. AI 기업 입장에선 혁신적인 기술을 파는 걸 넘어 신뢰할 수 있는 파트너로 보여야 한다. 정부 기관은 단기 성능 비교가 아니라 장기 전략으로 공급망 전체를 설계해야 한다. 지금 이 판단을 잘못 내리면 나중에 수습 비용이 훨씬 커진다.

출처: The Verge AI

Claude Code를 직접 만든 사람은 어떻게 쓸까. Anthropic의 Claude Code 개발 책임자 Boris Cherny가 자신의 AI 코딩 워크플로우를 공개했고, 개발자 커뮤니티에서 상당한 반향을 일으켰다. VentureBeat AI 보도에 의하면, 이 방식을 따르면 개발자 한 명이 소규모 엔지니어링 팀 수준의 아웃풋을 낼 수 있다고 한다. 처음엔 과장처럼 들린다. 그런데 실제 방법을 뜯어보면 납득이 간다. 소프트웨어 개발 분야에서 AI는 이미 단순한 코드 자동 완성 도구를 넘어섰다. Cherny의 워크플로우는 그 다음 단계가 어떤 모습인지를 구체적으로 보여준다.

AI를 비서 1명처럼 쓰면 안 된다

대부분의 개발자가 AI를 활용하는 방식은 단순하다. 질문 하나를 던지고, 답을 받고, 또 질문한다. 근본적으로 1:1 대화 구조에서 벗어나지 못한다. Cherny는 완전히 다른 방식을 택한다.

그는 터미널에서 Claude 인스턴스를 5개 동시에 실행한다. 각 탭에 1번부터 5번까지 번호를 붙이고, iTerm2의 시스템 알림 기능으로 각 인스턴스가 입력을 기다릴 때마다 알림을 받는다. 이건 그가 X 게시글에서 직접 밝힌 내용이다.

병렬 처리의 효과는 명확하다. 1번 AI가 테스트 스위트를 돌리는 동안, 2번은 레거시 모듈을 리팩토링하고, 3번은 문서 초안을 쓴다. 개발자는 코드를 직접 타이핑하는 대신, 각 AI 에이전트에 지시를 내리고 결과를 조율한다. 실시간 전략 게임에서 유닛을 운용하는 것과 비슷한 느낌이다. 사령관 역할이다. 로컬 터미널 외에도 claude.ai 웹에서 5~10개의 Claude 세션을 동시에 운영하며, ‘텔레포트’ 명령으로 로컬과 웹을 유연하게 오간다. 이렇게 환경을 세팅하면 개발자의 에너지 배분이 달라진다. 문법을 타이핑하는 데 쓰던 에너지가 고수준의 문제 해결과 아키텍처 설계로 이동한다. 이게 핵심이다.

왜 느린 모델 Opus 4.5를 고집하나

AI 개발에서 빠른 모델이 좋은 모델이라는 건 착각이다. Cherny는 Anthropic의 가장 무겁고 느린 모델인 Opus 4.5를 모든 작업에 쓴다. “내가 사용해 본 코딩 모델 중 최고”라는 게 그의 말이다.

이 선택의 배경에는 핵심적인 통찰이 있다. 현대 AI 개발의 진짜 병목은 AI가 코드를 생성하는 속도가 아니다. 개발자가 AI의 실수를 수정하는 데 드는 시간이다. 작고 빠른 모델은 초기 응답은 빠르지만, 오류가 많아 수정에 더 많은 사람의 시간이 들어간다. 반면 Opus 4.5 같은 고성능 모델은 초기 컴퓨팅 비용이 높더라도, 오류가 적고 도구 사용 능력이 뛰어나 전체적인 수정 시간을 대폭 줄인다. 컴퓨팅 비용을 더 내는 대신 수정 비용을 아끼는 구조다. 결과적으로 더 빠른 개발이 가능하다. 기업 기술 리더들에게 이 계산은 상당히 중요한 시사점을 준다.

AI 건망증을 고치는 CLAUDE.md 파일

AI의 고질적인 문제다. 어제 가르쳐 준 것을 오늘 또 모른다. 세션이 바뀌면 리셋이다. 기업의 코딩 스타일이나 아키텍처 결정 사항을 AI가 지속적으로 기억하게 하려면 어떻게 해야 할까.

Cherny 팀은 Git 저장소에 CLAUDE.md라는 파일 하나를 유지하는 방식으로 이 문제를 해결한다. 이 파일이 AI에게 전달되는 지속적인 지침서 역할을 한다. “Claude가 잘못된 작업을 할 때마다, 다음번에는 그러지 않도록 CLAUDE.md에 추가한다”고 그는 설명했다.

이 방식은 코드베이스를 스스로 교정하는 유기체처럼 만든다. PR을 리뷰하다가 AI가 만든 오류를 발견하면, 코드만 고치지 않는다. AI의 지침을 업데이트하도록 태그를 지정한다. 제품 리더 아카쉬 굽타(Aakash Gupta)의 표현이 딱 맞다. “모든 실수가 규칙이 된다.” 팀이 함께 AI를 쓰는 시간이 쌓일수록 AI 에이전트는 점점 그 팀의 방식에 맞게 다듬어진다.

반복 작업을 없애는 슬래시 명령어와 서브 에이전트

Cherny의 워크플로우에서 반복 작업은 슬래시 명령어로 처리한다. 프로젝트 저장소에 커스텀 슬래시 명령어를 추가해 복잡한 절차를 키 입력 한 번으로 끝낸다. 예를 들어 /commit-push-pr은 하루에 수십 번 호출하는 명령어다.

이 명령어 하나가 처리하는 일이 있다. git 명령어 입력, 커밋 메시지 작성, 풀 리퀘스트 열기 — 이 세 단계를 AI 에이전트가 자율적으로 처리한다. 수동으로 반복하던 버전 관리 작업 전체가 없어지는 셈이다. 이건 개발자가 지루한 절차에 쓰던 시간을 실제 문제 해결로 돌리는 핵심 전략이다.

서브 에이전트도 빼놓을 수 없다. 메인 작업이 끝나면 아키텍처를 정리하는 ‘코드 간소화(code-simplifier)’ 에이전트가 동작하고, 최종 배포 전에는 ‘앱 검증(verify-app)’ 에이전트가 엔드 투 엔드 테스트를 돌린다. 각 개발 단계를 전담하는 AI 페르소나들이다. 단순한 자동화가 아니라 개발 파이프라인 자체를 AI 에이전트 체인으로 재설계하는 것에 가깝다.

AI가 직접 검증하는 루프 — 코드 품질이 달라진다

AI가 코드를 만들고 끝. 이게 대부분의 방식이다. Cherny는 다르다. 검증 루프(verification loop)를 추가한다. 이 루프가 AI 생성 코드의 품질을 2~3배 끌어올린다고 그는 주장한다.

구체적으로 이렇다. “Claude는 Claude Chrome 확장 프로그램을 사용해 claude.ai/code에 적용하는 모든 변경 사항을 테스트한다.” AI가 브라우저를 직접 열어 UI를 확인하고, 코드가 작동하고 사용자 경험이 만족스러울 때까지 반복적으로 수정한다. 텍스트 생성기가 아니라 테스터로 동작하는 것이다.

이것이 뜻하는 바는 분명하다. AI에게 자신의 작업을 검증할 수단을 줘야 한다. 브라우저 자동화, 셸 명령어 실행, 테스트 스위트 실행 — 이 수단들이 AI를 단순한 코드 작성기에서 결과물 책임자로 바꾼다. 코드를 쓰는 것과 그 코드가 작동한다는 걸 스스로 증명하는 건 전혀 다른 일이다. 그 차이가 최종 결과물의 신뢰성을 바꾼다.

결국 개발자의 역할이 바뀐다

Boris Cherny의 워크플로우가 드러내는 건 도구의 변화가 아니다. 역할의 변화다. AI 코딩이 IDE 자동 완성 기능에 머물렀던 건 이미 지난 이야기가 됐다. 지금 AI는 개발 노동 그 자체를 위한 운영 체제로 기능한다.

이 변화는 개발자의 역할을 다시 정의한다. 직접 코딩하는 사람이 아닌, AI 에이전트 부대를 지휘하고 복잡한 시스템을 설계하며 AI의 학습을 돕는 전략가이자 아키텍트. AI를 보조 도구가 아닌 협업하는 워크포스로 인식하고 이 패러다임에 적응하는 개발자가 앞으로의 경쟁에서 실질적인 우위를 점한다. 예측이 아니다. 이미 진행 중인 현실이다.

출처: VentureBeat AI