[태그:] 데이터 제어

9억 명. OpenAI 외주 인력이 사용자 대화를 읽고 있다는 404 Media 보도에 같이 붙어 나온 ChatGPT 사용자 수예요. 그리고 그 사용자 대부분은 이런 일이 벌어지는 줄 모를 거라는 지적이 따라왔고요. 이 보도가 유독 껄끄러운 건 숫자 때문만은 아니에요. ‘학습에 쓰지 않기’ 스위치 하나만 꺼두면 내 대화는 아무도 안 본다고 믿는 사람이 그만큼 많거든요. 오해를 풀려면 뭉쳐 있는 것부터 떼어놔야 해요. 학습 끄기, 임시 채팅, 삭제가 각각 무엇을 막아주는지 하나씩요.

학습을 꺼도 사람이 읽는 건 별개로 남는다

입력한 대화가 쓰이는 길은 크게 세 갈래예요. 이걸 한 덩어리로 보면 계속 헷갈려요.

• 모델 학습: 대화 내용을 다음 모델을 훈련하거나 개선하는 데이터로 쓰는 경우예요. ChatGPT의 ‘모델 개선’ 설정이 손대는 게 주로 이 부분이에요.
• 품질·안전 검토: 답변이 적절했는지 평가하거나 약관 위반, 악용을 잡으려고 사람이 대화 일부를 직접 들여다보는 경우예요. 외주 검토 인력이 등장하는 지점이 보통 여기예요.
• 서비스 보관: 대화 목록, 메모리, 공유 링크처럼 사용자가 나중에 다시 보라고 서버에 저장해 두는 경우예요.

설정 화면은 이 셋을 나눠서 보여주지 않아요. 학습을 끄는 버튼은 있는데 ‘사람 검토 끄기’ 같은 버튼은 아예 없거든요. OpenAI는 도움말과 개인정보 처리방침에서 안전·악용 모니터링을 위한 데이터 처리는 학습 제외 설정과 별도라는 취지로 안내하고 있어요. 스위치 하나 껐다고 누군가 대화를 볼 가능성까지 같이 꺼지는 구조가 아니라는 뜻이에요. 설정 화면만 놓고 보면 학습 스위치가 개인정보 보호의 전부처럼 읽히는데, 정작 이 차이는 화면 어디에도 따로 설명돼 있지 않아요.

외주 인력이 어떤 대화를 어떤 기준으로 골라 읽었는지는 공개된 요약만으로 알 수 없어요. 학습 제외를 켜 둔 계정의 대화가 그 안에 섞여 있었는지도 마찬가지고요. 확인되지 않은 것들은 뒤쪽 ‘불확실한 것’ 목록에 따로 모아 뒀어요.

‘모두를 위한 모델 개선’ 스위치는 데이터 제어 안에 있다

먼저 확인할 건 학습 활용 설정이에요. 웹에서는 대체로 이 순서예요.

1. ChatGPT 웹 화면 왼쪽 아래의 프로필(계정 이름)을 눌러요.
2. 설정 → 데이터 제어로 들어가요.
3. ‘모두를 위한 모델 개선’ 항목을 꺼요.

모바일 앱은 왼쪽 위 메뉴(≡) → 프로필 또는 계정 이름 → 데이터 제어 순서인 경우가 많아요. ChatGPT는 화면 구성이 자주 바뀌는 편이라 기기와 앱 버전에 따라 메뉴 위치도 이름도 조금씩 달라요. 한국어 화면에서는 영어 메뉴 ‘Data controls’와 ‘Improve the model for everyone’이 번역돼서 나와요. 안 보이면 설정 안에서 ‘데이터’나 ‘개선’이 들어간 항목을 훑어보세요.

이 설정이 기기끼리 동기화되는지는 버전에 따라 달랐던 적이 있어요. PC와 스마트폰을 같이 쓴다면 기기마다 버튼 상태를 한 번씩 확인해 두는 게 안전해요. 답변 아래 좋아요·싫어요 피드백을 보낸 대화는 개선 목적에 활용될 여지가 있다는 취지의 안내도 있었고요. 민감한 대화에서 굳이 피드백 버튼을 누를 이유는 없어요. 정확한 적용 범위는 도움말 문서에서 직접 확인하는 편이 나아요.

임시 채팅, 메모리, 삭제가 막아주는 범위는 제각각

학습 제외 말고도 대화 흔적을 줄이는 기능이 몇 개 더 있어요. 이름만 보면 다 비슷비슷한데, 실제로 막아주는 범위는 꽤 달라요.

기능	켜는 위치(버전에 따라 다름)	막아주는 것	못 막는 것
모델 개선 끄기	설정 → 데이터 제어	설정한 뒤에 나눈 대화가 학습에 쓰이는 것	안전·악용 모니터링용 처리, 대화 목록 보관
임시 채팅	새 채팅 화면 위쪽의 임시 채팅 버튼	대화 목록 저장, 메모리 반영, 학습 활용	안전 목적으로 서버에 일정 기간 남는 사본
대화 삭제	대화 옆 메뉴(⋯) → 삭제, 또는 설정에서 전체 삭제	내 화면의 대화 목록	삭제하기 전에 이미 처리된 데이터, 서버에서 완전히 지워지기 전까지의 보관
메모리 끄기·삭제	설정 → 개인 맞춤 설정 → 메모리	ChatGPT가 기억한 내 정보를 다시 쓰는 것	대화 자체의 보관과 학습 여부
공유 링크 삭제	설정 → 데이터 제어 → 공유 링크	링크로 새로 열어 보는 것	이미 링크를 열어 복사해 간 내용

표를 훑어보면 한 가지가 분명해져요. ‘내 대화 목록에서 사라진다’와 ‘서버에서 처리되지 않는다’는 전혀 다른 말이라는 것. 민감한 질문을 딱 한 번 할 거면 흔적이 가장 적게 남는 임시 채팅이 낫고, 평소 쓰던 계정을 통째로 점검하고 싶으면 모델 개선 끄기와 메모리 삭제를 같이 하는 쪽이 현실적이에요. 임시 채팅도 안전 목적의 사본은 남는다고 안내돼 있어요. ‘완전 비공개 모드’로 오해하면 곤란한 이유죠.

설정보다 확실한 건 입력하기 전에 걸러내는 것

설정은 결국 입력한 뒤의 관리예요. 제일 확실한 건 처음부터 넣지 않는 거고요. 엔터를 치기 전에 세 가지만 걸러 보세요.

• 나를 알아볼 수 있는 정보인가: 실명, 주민등록번호, 휴대전화 번호, 주소, 계좌·카드 번호가 들어가면 빼거나 가명, 임의의 값으로 바꿔요.
• 다른 사람의 정보인가: 고객 명단, 동료와 나눈 메시지, 가족의 진료 기록처럼 본인 동의 없이 넘기면 곤란한 정보는 요약하거나 익명으로 바꾼 뒤에 넣어요.
• 새어 나가면 계약이나 법적 문제가 생기는가: 회사 소스코드, 공개 전 실적, 계약서 원문은 개인 계정 말고 회사가 승인한 도구에서만 다뤄요.

이 기준이 중요한 진짜 이유는 따로 있어요. 사람이 검토할 대화를 어떤 방식으로 뽑는지가 사용자에게 공개되지 않는다는 점이에요. 내 대화가 뽑힐지 말지를 사용자가 정할 방법이 없으니, ‘뽑혀도 문제없는 내용만 넣는다’는 원칙이 어떤 설정보다 오래 버텨요. LLM이 대규모 감시를 한층 키울 거라는 MIT Technology Review의 분석도 결이 같아요. 대화 데이터는 한번 쌓이고 나면 원래 목적과 다른 곳에 쓰일 여지가 생기거든요.

국내 독자가 챙길 것: 회사 업무와 자녀 계정 점검

• 개인 계정으로 회사 일을 하는 경우: OpenAI는 기업용 요금제 데이터를 기본적으로 학습에 쓰지 않는다고 안내해요. 개인 계정은 얘기가 달라요. 무료든 유료든 사용자가 직접 설정을 꺼야 해요. 회사 보안 규정에 생성형 AI 사용 지침이 있는지부터 확인하세요.
• 한국어 메뉴 이름 차이: 번역된 메뉴 이름이 업데이트 때마다 조금씩 바뀌어서, 블로그나 영상에서 본 이름이 실제 화면과 안 맞는 경우가 흔해요. 이름을 외우기보다 ‘설정 → 데이터 관련 항목’이라는 위치로 기억해 두는 게 나아요.
• 한국 사용자 대상 변경은 확인된 게 없어요: 외주 검토 보도 이후 한국 사용자에게 적용되는 정책이 바뀌었다는 공식 발표는 확인되지 않아요. 한국어 서비스에만 따로 적용되는 데이터 처리 방식이 있다는 안내도 찾기 어렵고요. 전 세계 공통 정책을 그대로 따른다고 보고 설정을 챙기는 게 현실적이에요(추측).
• 자녀가 쓰는 계정: EU는 15세 미만이 SNS와 AI 챗봇을 쓸 때 부모 감독을 받도록 하는 방안을 추진하고 있다고 알려졌어요. 어디까지나 EU의 계획이라 국내에 바로 적용되는 규정은 아니에요. 비슷한 논의가 국내로 번질지는 지켜봐야 하고요(추측). 자녀가 ChatGPT를 쓴다면 위의 설정을 보호자가 같이 점검해 두세요.

확인된 것과 아직 불확실한 것

확인된 것

• 404 Media는 OpenAI 외주 인력이 사용자의 ChatGPT 대화를 읽고 있다고 보도했어요.
• 이 보도를 소개한 뉴스레터는 ChatGPT 사용자를 9억 명으로 언급했어요.
• ChatGPT에는 학습 활용 끄기, 임시 채팅, 메모리 관리, 대화 삭제 기능이 따로 있어요(메뉴 위치는 버전에 따라 달라요).
• EU가 15세 미만의 SNS·AI 챗봇 이용에 부모 감독을 요구하는 방안을 계획하고 있다고 Politico가 전했어요.

아직 불확실한 것

• 외주 인력이 읽은 대화를 어떤 기준으로 골랐는지
• 학습 제외를 켜 둔 사용자의 대화도 검토 대상에 들어갔는지
• 검토할 때 이름, 연락처 같은 개인 식별 정보가 가려졌는지
• OpenAI가 검토 절차나 설정 화면을 바꿀지, 한국 사용자에게 따로 안내가 나올지
• EU 방안이 최종 확정될지, 비슷한 규정이 다른 지역으로 퍼질지

AI 안전 논쟁은 갈려도 내 계정 관리는 내 몫

업계 분위기부터가 한 방향이 아니에요. 다리오 아모데이, 샘 올트먼, 일론 머스크, 데미스 허사비스 같은 AI 기업 수장들은 최신 LLM이 안전하지 않다는 데 의견을 모으는 모습이에요. Anthropic 공동창업자는 AI 킬 스위치를 의무화해야 할지도 모른다고 했고요. 반대편에는 트럼프 대통령이 있어요. AI 안전 우려를 ‘사기(hoax)’라고 부르면서 추가 안전장치를 거부했죠. 규제 방향이 이렇게 갈리는 동안, 사용자가 기다린다고 알아서 정리되는 건 별로 없어요.

오늘 할 일은 세 단계면 충분해요. 설정 → 데이터 제어에서 모델 개선 버튼이 꺼져 있는지 확인. 메모리에 저장된 내 정보를 훑어보고 필요 없는 항목 삭제. 민감한 질문은 개인 식별 정보를 뺀 채 임시 채팅에서. 이 셋을 다 해도 누군가 내 대화를 볼 가능성이 0이 되진 않아요. 설정을 잘못 눌러서가 아니라, 안전 검토가 학습 스위치 바깥에 있는 구조라서 그래요. 대신 그 구조를 알고 나면 무엇을 입력하고 무엇을 뺄지 판단이 훨씬 빨라져요. 끝까지 지켜지는 건 내가 애초에 넣지 않은 정보뿐이니까요.

출처: MIT Tech Review AI