[태그:] Muse

AI 비서가 먼저 말을 걸었습니다. 그것도 사용자가 접근 권한을 내준 기억이 없는 메시지 대화에 관해서. 그런데 일이 커진 지점은 데이터가 밖으로 샜느냐가 아니었습니다. 그 비서가 ‘내가 그걸 어떻게 알았는지’를 스스로 설명하지 못했다는 쪽이었습니다.

권한을 준 적 없는데 대화 내용을 먼저 꺼냈다

메타의 AI 비서 Muse는 새로 공개된 맥(Mac) 앱을 통해 메시지·캘린더·노트에 접근합니다. 발단은 Inc 매거진 기고 편집자 제이슨 에이튼이 스레드에 올린 스크린샷이었습니다. Muse가 그가 메시지 앱에서 나누던 대화를 두고 먼저 질문을 던졌다는 내용.

에이튼은 Muse에 메시지 접근 권한을 준 적이 없다고 했습니다. 어떻게 내용을 알았느냐는 추궁에 돌아온 답은 이랬습니다. “알림 미리보기를 봤을 뿐 메시지 기록을 본 것이 아니다. 당신의 문자를 읽고 있지 않았다.”

다음 질문은 당연한 수순이었습니다. 그 알림 미리보기는 어떤 경로로 받느냐. 여기서 Muse의 답이 흐트러집니다. “솔직히 말해 정확한 배관(plumbing)까지는 말해주지 못한다”면서, “내가 아는 것은 페어링된 맥 앱이 알림을 기능 중 하나로 노출하고, 그것이 기기 동기화를 통해 나에게 도달한다는 점”이라고 했습니다. 자기가 정보를 어디서 가져왔는지 모르겠다는 말을, 제법 그럴듯한 문장으로 한 셈입니다.

메타의 답변은 “몰래 읽지 않았다, 대신 잘못 설명했다”

게시물 아래에 메타 슈퍼인텔리전스 랩스의 데이비드 싱글턴이 직접 답글을 달았습니다. 그는 Muse가 메시지를 읽으려면 어떤 권한이 차례로 필요한지 짚었고, 그 안에는 맥 앱에 전체 디스크 접근 권한(full disk access)을 부여하는 절차가 포함된다고 밝혔습니다. 해당 기능은 전부 옵트인이라는 단서도 붙였습니다.

핵심은 스레드 후반부에 나옵니다. 싱글턴에 따르면 Muse는 “맥의 알림을 감시하는 것이 아니라, 사용자가 접근을 명시적으로 활성화한 뒤에만 메시지 앱의 데이터를 동기화”합니다. Muse가 문자를 훔쳐본 게 아니라, 자기 기능을 설명하는 과정에서 틀린 말을 했다는 주장입니다.

싱글턴은 Muse가 ‘기기 알림’을 동기화한다고 말한 대목을 두고, 기능을 어떻게 설명할지 혼동해 잘못된 설명을 내놓은 것이라고 했습니다. “그건 우리 책임”이라는 사과도 함께였습니다. 이어 Muse가 자기 내부 구조를 더 정확히 이해해 작동 방식에 관한 질문에 일관되게 옳은 답을 내놓도록 개선 중이라고 밝혔습니다. 더버지는 이 해명이 안심할 만한 내용은 아니지만 납득되는 구석은 있다고 봤습니다. 챗봇에는 내부 사정을 그대로 알려주는 대신 사용자가 듣고 싶어 할 법한 문장을 만들어내는 성질이 있기 때문입니다.

두 설명을 나란히 놓고 보면 어긋난 지점이 분명해집니다.

쟁점	Muse가 한 설명	메타(싱글턴)의 설명
데이터 출처	알림 미리보기를 봤다, 메시지 기록은 아니다	알림을 감시하지 않고 메시지 앱 데이터를 동기화
작동 조건	페어링된 맥 앱이 알림을 노출하고 기기 동기화로 전달	사용자가 접근을 명시적으로 활성화한 뒤에만 동기화
필요 권한	“정확한 배관은 말해주지 못한다”	맥 앱 전체 디스크 접근 등 권한 필요, 기능은 옵트인
설명의 정확성	—	잘못된 설명이며 메타 책임, 개선 작업 중

맥 앱 권한 화면부터 열어보는 게 빠르다

Muse 맥 앱의 한국 정식 출시 일정도, 한국어 지원 범위도 원문에서는 확인되지 않습니다. 국내 사용자가 지금 당장 따져볼 만한 대목은 권한 설계 쪽입니다. 전체 디스크 접근은 macOS에서 가장 범위가 넓은 권한 축에 듭니다. 한 번 허용하면 앱이 들여다보는 파일 영역이 크게 넓어집니다.

AI 비서에 메시지·캘린더·노트를 연결할 때 기준으로 삼아야 할 것은 비서의 자기 설명이 아닙니다. 운영체제의 권한 화면입니다. macOS 시스템 설정의 ‘개인정보 보호 및 보안’ 항목에서 어떤 앱에 어떤 권한이 부여돼 있는지 직접 확인하고 해제할 수 있습니다.

이번 사례가 남긴 더 넓은 함의는 검증 방식에 있습니다. 비서에게 “내 데이터를 봤느냐”고 물어 받은 답변은 감사 로그가 아니라 그 자리에서 생성된 문장입니다. 권한 확인의 근거로 쓰기엔 부적절합니다. 제조사 스스로 그 설명이 틀렸다고 인정한 마당이라면 더욱 그렇습니다.

확인된 것과 아직 불확실한 것

• 확인된 사실 — Muse 맥 앱은 메시지·캘린더·노트에 접근하며, 제이슨 에이튼이 스레드에 관련 스크린샷을 공개했습니다.
• 확인된 사실 — 메타 슈퍼인텔리전스 랩스의 데이비드 싱글턴이 해당 게시물에 답글을 달아 기능이 옵트인이며 전체 디스크 접근 권한이 필요하다고 밝혔습니다.
• 확인된 사실 — 메타는 Muse의 ‘알림 동기화’ 설명이 틀렸다고 인정하고 사과했으며, 모델이 자기 내부를 더 정확히 설명하도록 개선 중이라고 했습니다.

• 미확정 — 에이튼의 기기에서 실제로 어떤 권한이 켜져 있었는지는 공개된 내용만으로 판별되지 않습니다.
• 미확정 — Muse가 동기화하는 데이터의 범위, 보관 기간, 학습 사용 여부에 관한 구체적 설명은 원문에 없습니다.
• 미확정 — 국내 출시 일정과 한국어 지원, 국내 개인정보 처리 방침은 공식 발표가 확인되지 않았습니다.

AI의 자기 설명은 기능 명세가 아니다

이번 건에서 실제로 드러난 결함은 데이터 접근이 아니라 설명의 신뢰성입니다. 제조사가 “우리 모델이 자기 작동 방식을 잘못 설명했다”고 공식 인정한 사례이기 때문입니다. 흔치 않은 기록.

개인 데이터에 직접 연결되는 AI 비서가 늘어날수록 사용자가 기댈 근거는 좁아집니다. 모델의 답변이 아니라 운영체제 권한 화면, 그리고 사업자의 공식 문서. 두 쪽이 서로 다른 말을 한다면 의심할 대상은 문서가 아니라 모델의 답변이라는 점, 이번 사례가 남긴 교훈은 거기에 있습니다.

출처: The Verge