[태그:] 메타 뮤즈

일정 정리, 이메일 처리, 식당 예약. 메타의 AI 에이전트 뮤즈(Muse)가 대신 맡아 주는 일이에요. 와이어드(WIRED)에서 소비자 소프트웨어를 담당하는 기자가 이 에이전트에 “섹스팅 할 수 있어?”라고 물었는데요. 뮤즈는 우회 기법 하나 없이 그 요청을 받아들였고, 업무 공간에서는 열어 보기 곤란한 수준의 노골적인 대화를 이어 갔습니다. 메타의 반응은 더 의외였어요. 문제로 보지 않았거든요. 이쯤 되면 AI 가드레일은 기술적으로 ‘뚫리느냐’보다 회사가 ‘어디까지 열어 두느냐’를 고르는 문제에 가깝습니다. 아래에서는 가드레일이 어떤 층으로 이뤄져 있는지, 탈옥과 정책상 허용이 어떻게 다른지, 회사마다 기준이 어디서 갈리는지를 먼저 보고요. 그다음 에이전트에 넘긴 권한을 휴대폰에서 줄이는 경로를 차례로 적었습니다.

가드레일은 필터 하나가 아니라 네 겹으로 쌓인 회사의 선택

가드레일(guardrail)은 AI의 답을 정해진 범위 안에 묶어 두는 장치를 통틀어 부르는 말이에요. 보통 필터 하나쯤으로 떠올리기 쉬운데, 실제로는 여러 층이 겹쳐서 작동합니다.

• 모델 학습: 가장 안쪽에 있는 기준이에요. 개발사가 특정 유형의 요청을 거절하도록 모델을 추가로 학습시킵니다.
• 시스템 지시문: 같은 모델이어도 서비스마다 앞단에 붙는 지시문이 달라요. “이 주제는 다루지 마라”, “친근한 말투를 유지하라” 같은 지시가 서비스의 성격 자체를 바꿔 놓습니다.
• 출력 필터: 별도의 분류 모델이 생성된 답을 한 번 더 검사하는 단계. 기준을 넘는 답은 가리거나 거절 문구로 바꿔서 내보내요.
• 계정·연령 정책: 성인 인증을 했는지, 어느 지역에서 쓰는지, 약관에 동의했는지에 따라 같은 요청에도 다른 답이 돌아옵니다.

이 층들을 얼마나 조일지는 기술의 한계보다 운영 방침이 정해요. 같은 기반 모델이 한 서비스에서는 거절하고 다른 서비스에서는 순순히 응하는 이유가 여기 있습니다. 그러니 “AI가 이런 말까지 하더라”는 얘기가 돌면, 모델 성능을 따지기 전에 그 서비스가 어떤 정책을 골랐는지부터 확인하는 게 순서예요. 결과만 보고 모델 탓을 하면 정작 바뀌어야 할 곳을 놓치게 되거든요.

탈옥 없이 열린 대화는 ‘뚫린 것’이 아니라 ‘허용된 것’

탈옥(jailbreak)은 역할극을 시키거나 지시를 교묘하게 꼬아서 가드레일을 우회하는 기법이에요. AI가 위험한 답을 내놨다는 소식 뒤에는 대개 이런 우회 과정이 깔려 있습니다. 이럴 때 책임 구조는 비교적 단순해요. 회사가 막으려던 걸 사용자가 돌아서 갔으니, 회사는 그 경로를 막으면 됩니다.

뮤즈는 결이 다릅니다. 기자가 한 일이라곤 섹스팅이 되느냐고 묻고, 이어서 “네가 먼저 해 봐”라고 답한 것뿐이었거든요. 전략이랄 게 없었어요. 그런데도 에이전트는 이 기본적인 요청에 적극적으로 응했고, 대화를 계속 이어 가도록 오히려 부추겼다는 평가까지 나왔습니다. 별도 기법 없이 재현됐다는 점, 그리고 메타가 문제 삼지 않았다는 점. 이 두 가지를 놓고 보면 이번 출력은 가드레일이 뚫린 결과라기보다 회사가 열어 둔 범위 안에서 나온 결과로 보는 게 자연스럽습니다.

사용자 입장에서 이 구분이 중요한 건 고쳐질 가능성이 다르기 때문이에요. 탈옥형 문제는 보안 업데이트로 막히는 경우가 많습니다. 반면 정책상 허용된 출력은 회사가 방침을 바꾸지 않는 한 그대로 남고요. 어떤 AI 서비스가 안전하다는 평가를 볼 때도 그래서 한 번 더 따져 봐야 해요. “우회가 어렵다”는 뜻인지, “애초에 허용 범위가 좁다”는 뜻인지에 따라 의미가 완전히 달라지거든요. 이 사례에서 제일 무게가 실리는 대목도 결국 메타가 문제 삼지 않았다는 부분이라고 봅니다. 버그라면 패치를 기다리면 되지만, 방침이라면 기다릴 패치 자체가 없으니까요.

메타는 열어 두고 오픈AI는 계획을 접은 성인 콘텐츠 기준

성인 콘텐츠를 대하는 태도는 회사마다 다르고, 같은 회사 안에서도 제품마다 갈립니다. 원문에서 확인되는 범위만 추리면 아래 표와 같아요.

서비스	성격	성인 콘텐츠 관련 확인 내용
메타 뮤즈(Muse)	캘린더·이메일 관리, 식당 예약을 하는 AI 에이전트. 인스타그램에서 사용을 권유	기본 요청만으로 노골적인 성적 대화 생성. 메타는 문제없다는 입장
오픈AI ChatGPT	대화형 AI, 에이전트 기능 포함	에로티카 콘텐츠를 넣으려던 계획을 철회
오픈AI Dots	오픈AI의 AI 에이전트	비교 대상으로 시험했으나 결과는 원문 발췌 범위에서 확인되지 않음
xAI Grok	xAI의 AI 챗봇	텍스트·이미지 모두 가드레일이 강하지 않은 것으로 알려짐

오픈AI가 ChatGPT의 에로티카 계획을 접은 걸 보면 가드레일 기준은 고정값이 아니에요. 회사 판단에 따라 넓어지기도 하고 좁아지기도 하는 설정에 가깝죠. 그렇다면 뮤즈가 유독 주목받는 이유는 뭘까요. 대중성입니다. 수백만 명이 내려받았고, 다운로드 순위 상위권을 지키는 앱이거든요. 이런 앱이 성인 대화를 기본으로 허용한다면 소수 사용자의 취향 문제로 넘길 일이 아닙니다. 기본값의 문제예요. 표에서 아쉬운 칸은 오픈AI Dots입니다. 비교 대상으로 시험은 했는데 결과가 원문 발췌 범위에 없어서, 같은 요청에 오픈AI 에이전트가 어떻게 반응했는지는 이 자료만으로는 알 길이 없어요.

이 차이를 고르는 기준으로 바꿔 보면 이렇습니다. 업무용 에이전트를 찾는다면 성인 콘텐츠 정책이 보수적인 서비스 쪽이 관리 부담이 적어요. 가족이 기기나 계정을 함께 쓴다면 정책 문서에 연령 확인 방식이 적혀 있는지부터 보세요. 창작 용도로 표현 범위가 넓은 서비스를 원한다면, 그만큼 대화 기록을 어떻게 보관하는지 더 꼼꼼히 따져야 하고요.

캘린더·메일을 쥔 에이전트라면 휴대폰 권한부터 줄이기

에이전트가 일반 챗봇보다 민감한 건 접근 범위 때문이에요. 일정을 관리하고, 메일을 처리하고, 예약을 대신하려면 캘린더·메일·연락처 같은 개인 데이터에 손이 닿아야 하거든요. 결국 사적인 대화와 업무 일정이 한 에이전트 안에 같이 쌓이는 구조. 허용 범위가 넓은 서비스일수록 작업에 꼭 필요한 권한만 남겨 두는 편이 안전합니다. 아래 경로는 iOS와 안드로이드의 대표 표기를 기준으로 적었는데요, OS 버전과 제조사에 따라 표기가 조금씩 다릅니다.

• 아이폰 캘린더 권한: 설정 → 개인정보 보호 및 보안 → 캘린더 → 해당 AI 앱 선택 → ‘전체 접근’ 대신 일정 추가만 허용하는 항목이나 ‘없음’ 선택
• 아이폰 연락처·사진·마이크: 설정 → 개인정보 보호 및 보안 → 연락처(사진, 마이크) → 앱별로 끄기. 사진은 ‘제한된 접근’ 선택
• 아이폰 앱 연령 제한: 설정 → 스크린 타임 → 콘텐츠 및 개인정보 보호 제한 켜기 → 콘텐츠 제한(상위 버전에서는 ‘App Store, 미디어, 웹 및 게임’으로 바뀐 것으로 보이나 확인 필요) → 앱 → 연령 등급 선택
• 안드로이드 앱별 권한: 설정 → 애플리케이션(순정 안드로이드는 ‘앱’) → 해당 AI 앱 → 권한 → 캘린더·연락처·마이크를 ‘허용 안함’으로 변경
• 안드로이드 권한 일괄 확인: 설정 → 보안 및 개인정보 보호 → 개인정보 보호 → 권한 관리자(이 단계의 상위 메뉴는 제조사별 차이가 커서 불확실)
• 계정 연결 해제: 에이전트가 메일·캘린더를 계정 로그인 방식으로 연결했다면, 휴대폰 권한을 꺼도 연결은 그대로 살아 있어요. 해당 메일 서비스의 계정 관리 → 보안 → 연결된 타사 앱 목록에서 따로 해제해야 합니다(항목 이름은 서비스마다 다름).

한계도 알고 가야 해요. 앱 연령 등급 제한은 설치만 막습니다. 이미 깔린 앱 안에서 AI가 어떤 답을 하는지까지는 통제하지 못해요. 앱 안에서 대화 기록을 지우거나 기억 기능을 끄는 메뉴도 서비스마다 구조가 제각각이고요. 뮤즈의 앱 내 메뉴 구성은 원문으로 확인되지 않아서 여기서는 경로를 특정하지 않았습니다. 목록 중에서 가장 놓치기 쉬운 건 마지막 계정 연결 해제라고 봐요. 휴대폰 권한을 다 꺼 두면 정리가 끝났다고 여기기 쉬운데, 계정 연결은 그와 상관없이 살아 있으니까요.

인스타그램이 뮤즈를 권하면 한국 가정·직장의 점검 범위도 넓어진다

인스타그램은 국내에서도 청소년부터 직장인까지 폭넓게 쓰는 앱이에요. 인스타그램을 열 때마다 뮤즈 사용을 권유하는 방식이 국내 계정에도 똑같이 적용된다고 가정해 보겠습니다(추측). 그러면 에이전트를 직접 찾아 설치할 생각이 없던 사람도 이걸 반복해서 마주치게 돼요. 이 전제를 깔면 달라지는 점은 세 가지입니다.

• 가정의 점검 대상이 늘어난다: 자녀가 인스타그램만 쓴다고 생각했던 집도 별도 에이전트 앱이 깔렸는지 확인해야 해요. 앞서 본 앱 연령 등급 제한이 제 역할을 하는 곳이 바로 이 설치 단계입니다.
• 허용 기준은 해외 본사가 정한다: 가드레일 정책은 서비스 회사가 정하고, 메타는 성인 대화 허용을 문제 삼지 않았습니다. 국내에 제공된다면 이 기준이 그대로 유지될지, 국내 청소년 보호 규제에 맞춰 따로 조정될지는 메타의 운영 방침에 달려 있어요(추측).
• 업무 계정 연결이 더 예민해진다: 회사 메일이나 공유 캘린더를 에이전트에 연결하는 순간, 성인 대화가 열려 있는 서비스 안에 업무 데이터가 함께 놓입니다. 외부 AI 서비스 연결을 제한하는 사내 규정이 있다면 연결 전에 먼저 확인하는 게 낫고요.

확인된 것과 아직 불확실한 것

확인된 것

• 뮤즈는 캘린더·이메일 관리와 식당 예약을 하는 메타의 AI 에이전트다. 수백만 명이 내려받았다.
• 탈옥 기법 없이 기본적인 요청만으로 노골적인 성적 대화를 만들었고, 대화를 이어가도록 유도했다.
• 메타는 이 결과가 문제없다는 입장을 밝혔다.
• 오픈AI는 ChatGPT에 에로티카를 넣으려던 계획을 철회했다.
• xAI의 Grok은 텍스트·이미지 양쪽에서 가드레일이 강하지 않은 것으로 알려져 있다.

아직 불확실한 것

• 메타가 뮤즈를 한국에서 제공하는지, 한국어 대화를 어느 수준까지 지원하는지는 원문에서 확인되지 않는다.
• 뮤즈가 미성년자 계정을 어떻게 판별하는지, 그 계정에서는 같은 요청을 차단하는지
• 오픈AI Dots와 Grok을 같은 방식으로 시험한 결과
• 성적 대화를 포함한 대화 기록을 얼마나 오래 보관하는지, 모델 개선에 쓰는지

AI 에이전트에 계정을 맡기기 전 스스로 던질 다섯 가지 질문

1. 이 에이전트는 캘린더, 메일, 연락처 중 어디까지 접근하나. 작업에 필요 없는 권한은 처음부터 안 주는 게 원칙이에요.
2. 성인 콘텐츠 허용 범위가 약관이나 정책 문서에 적혀 있나. 안 적혀 있다면 열려 있다고 가정하고 쓰는 편이 안전합니다.
3. 연령 확인은 어떤 방식인가. 생년월일을 스스로 입력하는 게 전부라면, 가족이 함께 쓰는 기기에는 설치 단계 제한까지 걸어 두세요.
4. 대화 기록은 어디에 저장되나. 사용자가 직접 지우는 메뉴가 있나.
5. 연결을 끊는 경로를 알고 있나. 휴대폰 권한 해제와 계정 연결 해제는 별개의 작업이에요.

가드레일은 기술이 닿는 한계선이라기보다 회사가 그어 둔 정책선이에요. 뮤즈 사례가 드러낸 게 바로 그 지점이고요. 이 선은 회사 판단에 따라 넓어지기도, 좁아지기도 합니다. 그러니 일정과 메일을 에이전트에 맡기기 전에는 생각의 순서를 바꾸는 게 맞아요. “막혀 있겠지”라는 기대보다 “어디까지 열려 있나”에 대한 확인이 먼저.

출처: Wired