[태그:] 개인정보

  • 미국 국경 감시 타워 10억 달러, 성과 기록 없었다

    미국 국경 감시 타워 10억 달러, 성과 기록 없었다

    3줄 요약

    • 미국 일리노이주 민주당 하원의원 델리아 라미레스가 남부 국경 감시 타워 프로그램을 끝내는 법안(Reimagining Safety Act)을 내겠다고 밝혔다.
    • 한 탐사 조사에 따르면 분석한 국경 사망 사례 4건 중 1건 가까이가 타워가 볼 수 있다고 공표된 범위 안에서 일어났다. 국토안보부(DHS)는 타워가 제 역할을 하는지 보여주는 성과 지표도 추적하지 않았다.
    • 이 사례는 감시 기술을 설치 규모가 아니라 탐지한 뒤의 결과로 평가해야 한다는 점을 보여준다. 법안 전문은 공개되지 않았고 의회 통과까지는 어려움이 클 것으로 예상된다.

    2015년부터 2026년 사이, 10억 달러 규모의 감시 타워 체계가 볼 수 있다고 내세운 범위 안에서 1,100명 가까운 사람이 숨졌다. 미국 일리노이주 민주당 하원의원 델리아 라미레스(Delia Ramirez)가 시카고 기자회견에서 꺼낸 숫자다. 라미레스 의원은 “10억 달러를 들인 타워는 제대로 작동하지 않는다”고 말했다. 이어 남부 국경의 감시 타워 프로그램을 끝내는 법안을 발의하겠다고 밝혔다.

    법안이 의회에서 어떤 결말을 맞든, 이 논쟁에서 오래 남을 질문은 따로 있다. 감시 설비가 제 몫을 한다는 사실은 무엇으로 증명하는가. 성과를 기록하지 않는 감시 시스템은 어떤 문제를 낳는가. 미국 밖, 한국 독자에게 이 사안은 어떤 의미를 갖는가. 세 질문 모두 법안 통과 여부와 상관없이 답이 필요하다.

    국경 감시 타워는 ‘탐지’까지만 약속한다

    국경 감시 타워는 높은 구조물 꼭대기에 카메라와 센서를 얹어 넓은 지역을 쉬지 않고 지켜보는 고정식 설비다. 순찰 인력만으로는 다 훑기 어려운 국경 지대에서 사람과 차량의 움직임을 잡아내고, 그 정보를 현장 요원에게 넘긴다. 기본 역할은 여기까지다. 타워마다 달린 장비와 성능이 제각각이어서 이 글에서는 공통 구조만 다룬다.

    타워가 직접 하는 일은 ‘보는 것’에서 끝난다. 탐지 신호가 요원 출동으로 이어질지, 출동이 구조나 단속으로 끝날지는 타워 바깥에서 결정된다. 인력, 절차, 지휘 체계. 감시 타워를 소개할 때 탐지 범위가 맨 앞에 나오는 이유도 이 구조에 있다. 범위는 장비 사양서에 적혀 있어서 보여주기 쉽다. 그 범위 안에서 실제로 무슨 일이 벌어졌는지는 누군가 따로 적어두지 않는 한 알 길이 없다.

    과정을 세 단계로 쪼개 보면 차이가 선명해진다.

    • 탐지: 타워가 사람이나 차량의 움직임을 잡아내는 단계. 장비 성능이 좌우한다.
    • 전달·판단: 잡아낸 정보를 누가 들여다보고, 어떤 대응이 필요한지 정하는 단계. 운영 인력과 절차가 좌우한다.
    • 대응: 요원이 현장에 나가 조치하는 단계. 조난자라면 구조, 국경을 넘은 사람이라면 단속이 여기에 들어간다.

    공표된 탐지 범위가 말해주는 것은 첫 단계뿐이다. 나머지 두 단계의 기록이 없으면 타워가 제 역할을 했는지 판단할 근거도 없다. 사양서상의 범위가 넓다고 현장의 결과까지 좋다는 보장은 없다는 뜻이다.

    타워 탐지 범위 안에서 사망 4건 중 1건 가까이 발생

    라미레스 의원이 인용한 수치의 출처는 MIT 테크놀로지 리뷰의 탐사 조사 ‘Dying on Camera’다. 조사팀은 감시 타워 한 곳 이상과 가까운 지점에서 발생한 국경 사망 사례를 분석했다. 결과는 이렇다. 2015년부터 2026년 초까지 분석한 사망 가운데 4건 중 1건 가까이가, 타워가 볼 수 있다고 공표된(advertised) 범위 안에서 일어났다.

    숫자보다 더 무거운 대목은 기록의 공백이다. 조사 결과 국토안보부는 이런 사망 사례를 추적하지 않았다. 타워의 성공과 실패를 가늠할 다른 지표도 관리하지 않았다. 10억 달러가 들어간 사업에 성적표가 없었던 셈이다.

    여기서부터는 해석의 영역이다. 두 사실을 겹쳐 놓으면 가능한 설명은 둘로 갈린다. 타워가 사람을 발견했는데 구조로 이어지지 않았을 가능성. 공표된 범위만큼 실제로는 보지 못했을 가능성. 앞쪽이라면 운영 절차의 문제고, 뒤쪽이라면 장비 성능의 문제다. 공개된 자료로는 어느 쪽인지 가려낼 방법이 없다. 해석을 판가름할 데이터가 아예 존재하지 않는다는 것, 이 사례의 핵심은 거기에 있다.

    사양서 대신 운영 기록으로, 감시 기술 효과를 가늠할 다섯 기준

    국경 타워만의 문제로 볼 일은 아니다. 도시 CCTV 관제, 지능형 영상 분석, 드론 순찰. 공공 예산으로 들여오는 감시 기술은 대부분 같은 뼈대를 갖고 있다. 효과를 제대로 따지려면 아래 다섯 가지를 한 항목씩 떼어서 확인해야 한다.

    1. 실제 탐지 성능: 공표된 범위와 현장에서 실제로 보이는 범위가 일치하는가. 지형과 날씨, 장비 상태에 따라 차이가 생기므로 사양서가 아닌 운영 기록으로 확인할 문제다.
    2. 탐지가 대응으로 이어진 비율: 발견한 사건 가운데 몇 건이 실제 출동이나 조치로 연결됐는가. 이 비율이 낮다면 발목을 잡는 쪽은 장비보다 운영이다.
    3. 결과 기록: 시스템 범위 안에서 벌어진 사건이 최종적으로 어떻게 끝났는지, 예컨대 구조·사망·단속 건수를 남기는가. 이번 사례에서 통째로 빠진 항목이다.
    4. 비용 대비 성과: 투입한 예산과 위 지표를 나란히 놓고 비교가 가능한가. 결과 기록이 없다면 이 계산은 시작조차 못 한다.
    5. 데이터 통제: 수집한 영상과 위치 정보를 누가, 무슨 목적으로, 얼마나 오래 보관하는가. 원래 목적 밖에서 쓰이지 않도록 막는 장치가 있는가.

    앞의 네 항목은 효과가 있느냐를, 마지막 항목은 부작용을 막고 있느냐를 묻는다. 조사 결과대로 성과 지표를 추적하지 않았다면 3번과 4번은 빈칸이다. 1번과 2번도 검증할 수단이 사라진다. 다섯 기준 가운데 네 개를 확인할 길이 없는 셈이다. 라미레스 의원이 “국가 감시를 제한하고, 불법적인 데이터 남용을 억제하며, 군사화된 법 집행을 줄이겠다”고 밝힌 대목은 5번 기준과 맞닿아 있다.

    Reimagining Safety Act, 타워 폐지에서 국토안보부 해체까지

    라미레스 의원이 예고한 법안의 이름은 Reimagining Safety Act. 지역 시민단체, 지방·주 정부 대표들과 협의를 거쳐 만들었다. 타워 프로그램 폐지 요구를 구체화하는 데는 두 단체가 참여했다. 이민자 권리와 인종 정의를 다루는 Just Futures Law, 라틴계의 독립적인 정치 세력화를 내건 Mijente다. 두 단체는 이민세관단속국(ICE)이 쓰는 기술을 다룬 공동 보고서를 낸 적이 있다.

    타워 폐지는 더 큰 그림의 한 조각이다. 국토안보부를 새로운 ‘지역사회안전부(Department of Community Safety)’로 대체하고, 국토안보부가 맡아 온 기능은 기존의 다른 연방기관으로 넘긴다는 것이 전체 구상이다. 항목별로 나누면 아래 표와 같다. 맨 오른쪽 열은 각 항목이 어느 수준까지 공개됐는지를 보여준다.

    대상 구상된 방향 확인 수준
    남부 국경 감시 타워 프로그램 종료 법안의 직접 목표로 발표됨
    국토안보부(DHS) 새 지역사회안전부로 대체 더 큰 구상의 일부로 발표됨
    CISA(사이버보안·인프라보안청)·FEMA(연방재난관리청)·TSA(교통보안청) 다른 기존 연방기관으로 이관 옮겨 갈 기관은 공개되지 않음
    세관 기능 다른 기존 연방기관으로 이관 옮겨 갈 기관은 공개되지 않음
    이민 행정 형사 단속과 분리된 별도의 민사(civil) 이민 체계 수립 착수 의원 발언 기준, 세부안 미공개

    라미레스 의원은 국토안보부를 감독하는 하원 국토안보위원회 소속이다. 이 위원회의 사이버보안 소위원회에서는 간사(ranking member)를 맡고 있다. 해당 부처를 감독하는 자리에 있다는 점은 법안에 무게를 싣는다. 다만 전망이 밝지는 않다. 국토안보부 해체 법안은 이전에도 나왔지만 별다른 진전 없이 끝났다. 민주당 안에도 해체보다 개혁을 원하는 의원들이 있다. 의회 통과가 어려울 것으로 보는 이유다. 국토안보부와 세관국경보호청(CBP)은 즉각적인 입장을 내놓지 않았다.

    공항 검색·세관 이관 구상, 법안 통과 전까지 한국 여행자 절차는 그대로

    감시 타워는 미국 남부 국경에 서 있는 설비다. 한국 사용자와 직접 맞닥뜨릴 일은 거의 없다. 한국인이 체감할 만한 대목은 구상에 들어간 TSA와 세관 기능 쪽이다. 미국 공항에서 비행기를 탈 때 받는 보안검색, 미국에 입국하며 거치는 세관 절차가 여기에 해당한다. 법안은 이 기능들을 국토안보부 밖의 다른 기관으로 옮기겠다는 방향만 내놓은 상태다.

    • 확인된 부분: TSA와 세관 기능을 기존의 다른 연방기관으로 옮기는 방향이 제시됐다.
    • 불확실한 부분: 어느 기관으로 옮기는지, 옮긴 뒤 보안검색이나 통관 절차가 바뀌는지는 법안 전문이 나와야 확인된다.
    • 추측: 정부 조직 개편은 대개 기능을 통째로 옮기는 방식이어서 현장 절차가 곧바로 바뀌는 경우는 드물다. 법안이 통과되더라도 여행자가 겪는 절차가 당장 달라지지는 않을 것으로 본다. 아직 발의 전 단계인 만큼 미국 여행 준비 방식을 바꿀 이유는 없다.

    한국 독자에게 더 직접적인 시사점은 오히려 국내 감시 설비 논의 쪽에 있다. 국내 공공 감시 사업이 설치 대수나 관제 범위를 성과처럼 내세운다면 같은 문제가 생긴다. 국경 타워 사례가 보여주는 것은 두 가지다. 탐지 범위만으로는 효과가 증명되지 않는다는 것. 탐지 이후의 결과를 기록해야 예산이 타당했는지 따질 근거가 생긴다는 것. 덧붙이면 이 판단은 국내 제도를 조사해 얻은 결론이 아니다. 구조가 비슷하다는 점에 기댄 의견이다.

    확인된 것과 아직 불확실한 것

    확인된 것

    • 델리아 라미레스 하원의원(민주당, 일리노이)이 남부 국경 감시 타워 프로그램을 끝내는 법안을 발의하겠다고 밝혔다.
    • 법안 이름은 Reimagining Safety Act이며, 시민단체와 지방·주 정부 대표들과 협의해 마련됐다.
    • 탐사 조사에서 2015년부터 2026년 초까지 분석한 국경 사망 가운데 4건 중 1건 가까이가 타워가 볼 수 있다고 공표된 범위 안에서 일어났다.
    • 국토안보부는 이런 사망 사례와 타워의 성공·실패 지표를 추적하지 않은 것으로 조사됐다.
    • 법안은 국토안보부를 지역사회안전부로 바꾸고 CISA·FEMA·TSA·세관 기능을 기존의 다른 기관으로 옮기는 구상의 일부다.

    아직 불확실한 것

    • 법안 전문. 의원실은 아직 법안 문구를 공개하지 않았다.
    • CISA·FEMA·TSA·세관 기능이 옮겨 갈 구체적인 기관.
    • 타워 범위 안의 사망이 탐지 실패 때문인지, 탐지한 뒤 대응하지 못해서인지.
    • 의회 통과 가능성. 이전 국토안보부 해체 법안들은 진전이 없었고, 민주당 안에도 해체보다 개혁을 원하는 목소리가 있다.
    • 국토안보부와 세관국경보호청의 공식 입장.

    감시 설비 예산을 따질 때 던질 네 가지 질문

    국경 타워 논쟁이 남긴 질문은 감시 기술을 평가해야 하는 사람 누구에게나 쓸모가 있다. 공공기관 담당자든, 예산을 감시하는 시민이든, 관련 기술을 공급하는 기업이든 다르지 않다.

    1. 무엇을 성공으로 정했는가. 탐지 건수인지, 구조 건수인지, 범죄 감소인지. 도입 전에 정해두지 않으면 나중에 평가할 잣대가 없다.
    2. 그 성과를 누가 기록하는가. 운영 기관이 스스로 기록하지 않으면 외부 조사가 데이터를 처음부터 다시 모아야 한다. 이번 사례처럼 문제는 뒤늦게 드러난다.
    3. 공표된 사양과 실제 성능을 비교하는가. 공급 업체가 제시한 범위를 그대로 성과로 받아들이면 1번 질문의 답이 사양서로 채워지고 만다.
    4. 모은 데이터의 용도와 보관 기간이 정해져 있는가. 효과 검증과는 별개의 문제다. 감시 범위가 넓을수록 원래 목적 밖에서 쓰지 못하게 막는 규칙이 먼저 서 있어야 한다.

    10억 달러를 들인 시스템이 제대로 돌아가는지 아무도 기록하지 않았다. 이 사실이 드러내는 것은 기술 자체보다 평가 체계의 부재다. 감시 기술 도입을 검토하는 쪽이라면 장비 사양보다 이 네 질문의 답을 먼저 문서로 확보해 두는 편이 안전하다. 라미레스 의원의 법안이 어떤 결말을 맞든 이 질문들은 그대로 남는다.

    출처: MIT Tech Review AI

  • 메타 AI 비서 Muse, 자기 작동 방식 설명 틀렸다

    메타 AI 비서 Muse, 자기 작동 방식 설명 틀렸다

    3줄 요약

    • 메타의 AI 비서 Muse가 사용자가 접근을 허용한 적 없다는 메시지 대화 내용을 먼저 언급하면서 논란이 시작됐습니다.
    • Muse는 “알림 미리보기를 봤다”고 답했지만, 메타는 그 설명 자체가 틀렸다고 밝히고 사과했습니다.
    • 메타 측 해명은 메시지 동기화가 옵트인이며 맥 앱의 전체 디스크 접근 권한이 필요하다는 것입니다.

    AI 비서가 먼저 말을 걸었습니다. 그것도 사용자가 접근 권한을 내준 기억이 없는 메시지 대화에 관해서. 그런데 일이 커진 지점은 데이터가 밖으로 샜느냐가 아니었습니다. 그 비서가 ‘내가 그걸 어떻게 알았는지’를 스스로 설명하지 못했다는 쪽이었습니다.

    권한을 준 적 없는데 대화 내용을 먼저 꺼냈다

    메타의 AI 비서 Muse는 새로 공개된 맥(Mac) 앱을 통해 메시지·캘린더·노트에 접근합니다. 발단은 Inc 매거진 기고 편집자 제이슨 에이튼이 스레드에 올린 스크린샷이었습니다. Muse가 그가 메시지 앱에서 나누던 대화를 두고 먼저 질문을 던졌다는 내용.

    에이튼은 Muse에 메시지 접근 권한을 준 적이 없다고 했습니다. 어떻게 내용을 알았느냐는 추궁에 돌아온 답은 이랬습니다. “알림 미리보기를 봤을 뿐 메시지 기록을 본 것이 아니다. 당신의 문자를 읽고 있지 않았다.”

    다음 질문은 당연한 수순이었습니다. 그 알림 미리보기는 어떤 경로로 받느냐. 여기서 Muse의 답이 흐트러집니다. “솔직히 말해 정확한 배관(plumbing)까지는 말해주지 못한다”면서, “내가 아는 것은 페어링된 맥 앱이 알림을 기능 중 하나로 노출하고, 그것이 기기 동기화를 통해 나에게 도달한다는 점”이라고 했습니다. 자기가 정보를 어디서 가져왔는지 모르겠다는 말을, 제법 그럴듯한 문장으로 한 셈입니다.

    메타의 답변은 “몰래 읽지 않았다, 대신 잘못 설명했다”

    게시물 아래에 메타 슈퍼인텔리전스 랩스의 데이비드 싱글턴이 직접 답글을 달았습니다. 그는 Muse가 메시지를 읽으려면 어떤 권한이 차례로 필요한지 짚었고, 그 안에는 맥 앱에 전체 디스크 접근 권한(full disk access)을 부여하는 절차가 포함된다고 밝혔습니다. 해당 기능은 전부 옵트인이라는 단서도 붙였습니다.

    핵심은 스레드 후반부에 나옵니다. 싱글턴에 따르면 Muse는 “맥의 알림을 감시하는 것이 아니라, 사용자가 접근을 명시적으로 활성화한 뒤에만 메시지 앱의 데이터를 동기화”합니다. Muse가 문자를 훔쳐본 게 아니라, 자기 기능을 설명하는 과정에서 틀린 말을 했다는 주장입니다.

    싱글턴은 Muse가 ‘기기 알림’을 동기화한다고 말한 대목을 두고, 기능을 어떻게 설명할지 혼동해 잘못된 설명을 내놓은 것이라고 했습니다. “그건 우리 책임”이라는 사과도 함께였습니다. 이어 Muse가 자기 내부 구조를 더 정확히 이해해 작동 방식에 관한 질문에 일관되게 옳은 답을 내놓도록 개선 중이라고 밝혔습니다. 더버지는 이 해명이 안심할 만한 내용은 아니지만 납득되는 구석은 있다고 봤습니다. 챗봇에는 내부 사정을 그대로 알려주는 대신 사용자가 듣고 싶어 할 법한 문장을 만들어내는 성질이 있기 때문입니다.

    두 설명을 나란히 놓고 보면 어긋난 지점이 분명해집니다.

    쟁점 Muse가 한 설명 메타(싱글턴)의 설명
    데이터 출처 알림 미리보기를 봤다, 메시지 기록은 아니다 알림을 감시하지 않고 메시지 앱 데이터를 동기화
    작동 조건 페어링된 맥 앱이 알림을 노출하고 기기 동기화로 전달 사용자가 접근을 명시적으로 활성화한 뒤에만 동기화
    필요 권한 “정확한 배관은 말해주지 못한다” 맥 앱 전체 디스크 접근 등 권한 필요, 기능은 옵트인
    설명의 정확성 — 잘못된 설명이며 메타 책임, 개선 작업 중

    맥 앱 권한 화면부터 열어보는 게 빠르다

    Muse 맥 앱의 한국 정식 출시 일정도, 한국어 지원 범위도 원문에서는 확인되지 않습니다. 국내 사용자가 지금 당장 따져볼 만한 대목은 권한 설계 쪽입니다. 전체 디스크 접근은 macOS에서 가장 범위가 넓은 권한 축에 듭니다. 한 번 허용하면 앱이 들여다보는 파일 영역이 크게 넓어집니다.

    AI 비서에 메시지·캘린더·노트를 연결할 때 기준으로 삼아야 할 것은 비서의 자기 설명이 아닙니다. 운영체제의 권한 화면입니다. macOS 시스템 설정의 ‘개인정보 보호 및 보안’ 항목에서 어떤 앱에 어떤 권한이 부여돼 있는지 직접 확인하고 해제할 수 있습니다.

    이번 사례가 남긴 더 넓은 함의는 검증 방식에 있습니다. 비서에게 “내 데이터를 봤느냐”고 물어 받은 답변은 감사 로그가 아니라 그 자리에서 생성된 문장입니다. 권한 확인의 근거로 쓰기엔 부적절합니다. 제조사 스스로 그 설명이 틀렸다고 인정한 마당이라면 더욱 그렇습니다.

    확인된 것과 아직 불확실한 것

    • 확인된 사실 — Muse 맥 앱은 메시지·캘린더·노트에 접근하며, 제이슨 에이튼이 스레드에 관련 스크린샷을 공개했습니다.
    • 확인된 사실 — 메타 슈퍼인텔리전스 랩스의 데이비드 싱글턴이 해당 게시물에 답글을 달아 기능이 옵트인이며 전체 디스크 접근 권한이 필요하다고 밝혔습니다.
    • 확인된 사실 — 메타는 Muse의 ‘알림 동기화’ 설명이 틀렸다고 인정하고 사과했으며, 모델이 자기 내부를 더 정확히 설명하도록 개선 중이라고 했습니다.
    • 미확정 — 에이튼의 기기에서 실제로 어떤 권한이 켜져 있었는지는 공개된 내용만으로 판별되지 않습니다.
    • 미확정 — Muse가 동기화하는 데이터의 범위, 보관 기간, 학습 사용 여부에 관한 구체적 설명은 원문에 없습니다.
    • 미확정 — 국내 출시 일정과 한국어 지원, 국내 개인정보 처리 방침은 공식 발표가 확인되지 않았습니다.

    AI의 자기 설명은 기능 명세가 아니다

    이번 건에서 실제로 드러난 결함은 데이터 접근이 아니라 설명의 신뢰성입니다. 제조사가 “우리 모델이 자기 작동 방식을 잘못 설명했다”고 공식 인정한 사례이기 때문입니다. 흔치 않은 기록.

    개인 데이터에 직접 연결되는 AI 비서가 늘어날수록 사용자가 기댈 근거는 좁아집니다. 모델의 답변이 아니라 운영체제 권한 화면, 그리고 사업자의 공식 문서. 두 쪽이 서로 다른 말을 한다면 의심할 대상은 문서가 아니라 모델의 답변이라는 점, 이번 사례가 남긴 교훈은 거기에 있습니다.

    출처: The Verge

  • ChatGPT 학습 끄기로는 사람 검토를 못 막는다

    ChatGPT 학습 끄기로는 사람 검토를 못 막는다

    3줄 요약

    • ChatGPT의 ‘모두를 위한 모델 개선’ 설정을 끄면 대화가 학습에 쓰이는 건 줄어들어요. 다만 사람이 대화를 검토하는 건 별개 문제라서 설정 하나로 누가 볼 가능성까지 모두 사라지진 않아요.
    • 학습 제외, 임시 채팅, 대화 삭제, 메모리 관리는 이름이 비슷해 보여도 막아주는 범위가 서로 달라요. 그래서 목적에 맞게 섞어 써야 해요.
    • 가장 확실한 방법은 주민등록번호, 계좌번호, 회사 기밀처럼 새어 나가면 곤란한 정보를 처음부터 입력하지 않는 거예요.

    9억 명. OpenAI 외주 인력이 사용자 대화를 읽고 있다는 404 Media 보도에 같이 붙어 나온 ChatGPT 사용자 수예요. 그리고 그 사용자 대부분은 이런 일이 벌어지는 줄 모를 거라는 지적이 따라왔고요. 이 보도가 유독 껄끄러운 건 숫자 때문만은 아니에요. ‘학습에 쓰지 않기’ 스위치 하나만 꺼두면 내 대화는 아무도 안 본다고 믿는 사람이 그만큼 많거든요. 오해를 풀려면 뭉쳐 있는 것부터 떼어놔야 해요. 학습 끄기, 임시 채팅, 삭제가 각각 무엇을 막아주는지 하나씩요.

    학습을 꺼도 사람이 읽는 건 별개로 남는다

    입력한 대화가 쓰이는 길은 크게 세 갈래예요. 이걸 한 덩어리로 보면 계속 헷갈려요.

    • 모델 학습: 대화 내용을 다음 모델을 훈련하거나 개선하는 데이터로 쓰는 경우예요. ChatGPT의 ‘모델 개선’ 설정이 손대는 게 주로 이 부분이에요.
    • 품질·안전 검토: 답변이 적절했는지 평가하거나 약관 위반, 악용을 잡으려고 사람이 대화 일부를 직접 들여다보는 경우예요. 외주 검토 인력이 등장하는 지점이 보통 여기예요.
    • 서비스 보관: 대화 목록, 메모리, 공유 링크처럼 사용자가 나중에 다시 보라고 서버에 저장해 두는 경우예요.

    설정 화면은 이 셋을 나눠서 보여주지 않아요. 학습을 끄는 버튼은 있는데 ‘사람 검토 끄기’ 같은 버튼은 아예 없거든요. OpenAI는 도움말과 개인정보 처리방침에서 안전·악용 모니터링을 위한 데이터 처리는 학습 제외 설정과 별도라는 취지로 안내하고 있어요. 스위치 하나 껐다고 누군가 대화를 볼 가능성까지 같이 꺼지는 구조가 아니라는 뜻이에요. 설정 화면만 놓고 보면 학습 스위치가 개인정보 보호의 전부처럼 읽히는데, 정작 이 차이는 화면 어디에도 따로 설명돼 있지 않아요.

    외주 인력이 어떤 대화를 어떤 기준으로 골라 읽었는지는 공개된 요약만으로 알 수 없어요. 학습 제외를 켜 둔 계정의 대화가 그 안에 섞여 있었는지도 마찬가지고요. 확인되지 않은 것들은 뒤쪽 ‘불확실한 것’ 목록에 따로 모아 뒀어요.

    ‘모두를 위한 모델 개선’ 스위치는 데이터 제어 안에 있다

    먼저 확인할 건 학습 활용 설정이에요. 웹에서는 대체로 이 순서예요.

    1. ChatGPT 웹 화면 왼쪽 아래의 프로필(계정 이름)을 눌러요.
    2. 설정 → 데이터 제어로 들어가요.
    3. ‘모두를 위한 모델 개선’ 항목을 꺼요.

    모바일 앱은 왼쪽 위 메뉴(≡) → 프로필 또는 계정 이름 → 데이터 제어 순서인 경우가 많아요. ChatGPT는 화면 구성이 자주 바뀌는 편이라 기기와 앱 버전에 따라 메뉴 위치도 이름도 조금씩 달라요. 한국어 화면에서는 영어 메뉴 ‘Data controls’와 ‘Improve the model for everyone’이 번역돼서 나와요. 안 보이면 설정 안에서 ‘데이터’나 ‘개선’이 들어간 항목을 훑어보세요.

    이 설정이 기기끼리 동기화되는지는 버전에 따라 달랐던 적이 있어요. PC와 스마트폰을 같이 쓴다면 기기마다 버튼 상태를 한 번씩 확인해 두는 게 안전해요. 답변 아래 좋아요·싫어요 피드백을 보낸 대화는 개선 목적에 활용될 여지가 있다는 취지의 안내도 있었고요. 민감한 대화에서 굳이 피드백 버튼을 누를 이유는 없어요. 정확한 적용 범위는 도움말 문서에서 직접 확인하는 편이 나아요.

    임시 채팅, 메모리, 삭제가 막아주는 범위는 제각각

    학습 제외 말고도 대화 흔적을 줄이는 기능이 몇 개 더 있어요. 이름만 보면 다 비슷비슷한데, 실제로 막아주는 범위는 꽤 달라요.

    기능 켜는 위치(버전에 따라 다름) 막아주는 것 못 막는 것
    모델 개선 끄기 설정 → 데이터 제어 설정한 뒤에 나눈 대화가 학습에 쓰이는 것 안전·악용 모니터링용 처리, 대화 목록 보관
    임시 채팅 새 채팅 화면 위쪽의 임시 채팅 버튼 대화 목록 저장, 메모리 반영, 학습 활용 안전 목적으로 서버에 일정 기간 남는 사본
    대화 삭제 대화 옆 메뉴(⋯) → 삭제, 또는 설정에서 전체 삭제 내 화면의 대화 목록 삭제하기 전에 이미 처리된 데이터, 서버에서 완전히 지워지기 전까지의 보관
    메모리 끄기·삭제 설정 → 개인 맞춤 설정 → 메모리 ChatGPT가 기억한 내 정보를 다시 쓰는 것 대화 자체의 보관과 학습 여부
    공유 링크 삭제 설정 → 데이터 제어 → 공유 링크 링크로 새로 열어 보는 것 이미 링크를 열어 복사해 간 내용

    표를 훑어보면 한 가지가 분명해져요. ‘내 대화 목록에서 사라진다’와 ‘서버에서 처리되지 않는다’는 전혀 다른 말이라는 것. 민감한 질문을 딱 한 번 할 거면 흔적이 가장 적게 남는 임시 채팅이 낫고, 평소 쓰던 계정을 통째로 점검하고 싶으면 모델 개선 끄기와 메모리 삭제를 같이 하는 쪽이 현실적이에요. 임시 채팅도 안전 목적의 사본은 남는다고 안내돼 있어요. ‘완전 비공개 모드’로 오해하면 곤란한 이유죠.

    설정보다 확실한 건 입력하기 전에 걸러내는 것

    설정은 결국 입력한 뒤의 관리예요. 제일 확실한 건 처음부터 넣지 않는 거고요. 엔터를 치기 전에 세 가지만 걸러 보세요.

    • 나를 알아볼 수 있는 정보인가: 실명, 주민등록번호, 휴대전화 번호, 주소, 계좌·카드 번호가 들어가면 빼거나 가명, 임의의 값으로 바꿔요.
    • 다른 사람의 정보인가: 고객 명단, 동료와 나눈 메시지, 가족의 진료 기록처럼 본인 동의 없이 넘기면 곤란한 정보는 요약하거나 익명으로 바꾼 뒤에 넣어요.
    • 새어 나가면 계약이나 법적 문제가 생기는가: 회사 소스코드, 공개 전 실적, 계약서 원문은 개인 계정 말고 회사가 승인한 도구에서만 다뤄요.

    이 기준이 중요한 진짜 이유는 따로 있어요. 사람이 검토할 대화를 어떤 방식으로 뽑는지가 사용자에게 공개되지 않는다는 점이에요. 내 대화가 뽑힐지 말지를 사용자가 정할 방법이 없으니, ‘뽑혀도 문제없는 내용만 넣는다’는 원칙이 어떤 설정보다 오래 버텨요. LLM이 대규모 감시를 한층 키울 거라는 MIT Technology Review의 분석도 결이 같아요. 대화 데이터는 한번 쌓이고 나면 원래 목적과 다른 곳에 쓰일 여지가 생기거든요.

    국내 독자가 챙길 것: 회사 업무와 자녀 계정 점검

    • 개인 계정으로 회사 일을 하는 경우: OpenAI는 기업용 요금제 데이터를 기본적으로 학습에 쓰지 않는다고 안내해요. 개인 계정은 얘기가 달라요. 무료든 유료든 사용자가 직접 설정을 꺼야 해요. 회사 보안 규정에 생성형 AI 사용 지침이 있는지부터 확인하세요.
    • 한국어 메뉴 이름 차이: 번역된 메뉴 이름이 업데이트 때마다 조금씩 바뀌어서, 블로그나 영상에서 본 이름이 실제 화면과 안 맞는 경우가 흔해요. 이름을 외우기보다 ‘설정 → 데이터 관련 항목’이라는 위치로 기억해 두는 게 나아요.
    • 한국 사용자 대상 변경은 확인된 게 없어요: 외주 검토 보도 이후 한국 사용자에게 적용되는 정책이 바뀌었다는 공식 발표는 확인되지 않아요. 한국어 서비스에만 따로 적용되는 데이터 처리 방식이 있다는 안내도 찾기 어렵고요. 전 세계 공통 정책을 그대로 따른다고 보고 설정을 챙기는 게 현실적이에요(추측).
    • 자녀가 쓰는 계정: EU는 15세 미만이 SNS와 AI 챗봇을 쓸 때 부모 감독을 받도록 하는 방안을 추진하고 있다고 알려졌어요. 어디까지나 EU의 계획이라 국내에 바로 적용되는 규정은 아니에요. 비슷한 논의가 국내로 번질지는 지켜봐야 하고요(추측). 자녀가 ChatGPT를 쓴다면 위의 설정을 보호자가 같이 점검해 두세요.

    확인된 것과 아직 불확실한 것

    확인된 것

    • 404 Media는 OpenAI 외주 인력이 사용자의 ChatGPT 대화를 읽고 있다고 보도했어요.
    • 이 보도를 소개한 뉴스레터는 ChatGPT 사용자를 9억 명으로 언급했어요.
    • ChatGPT에는 학습 활용 끄기, 임시 채팅, 메모리 관리, 대화 삭제 기능이 따로 있어요(메뉴 위치는 버전에 따라 달라요).
    • EU가 15세 미만의 SNS·AI 챗봇 이용에 부모 감독을 요구하는 방안을 계획하고 있다고 Politico가 전했어요.

    아직 불확실한 것

    • 외주 인력이 읽은 대화를 어떤 기준으로 골랐는지
    • 학습 제외를 켜 둔 사용자의 대화도 검토 대상에 들어갔는지
    • 검토할 때 이름, 연락처 같은 개인 식별 정보가 가려졌는지
    • OpenAI가 검토 절차나 설정 화면을 바꿀지, 한국 사용자에게 따로 안내가 나올지
    • EU 방안이 최종 확정될지, 비슷한 규정이 다른 지역으로 퍼질지

    AI 안전 논쟁은 갈려도 내 계정 관리는 내 몫

    업계 분위기부터가 한 방향이 아니에요. 다리오 아모데이, 샘 올트먼, 일론 머스크, 데미스 허사비스 같은 AI 기업 수장들은 최신 LLM이 안전하지 않다는 데 의견을 모으는 모습이에요. Anthropic 공동창업자는 AI 킬 스위치를 의무화해야 할지도 모른다고 했고요. 반대편에는 트럼프 대통령이 있어요. AI 안전 우려를 ‘사기(hoax)’라고 부르면서 추가 안전장치를 거부했죠. 규제 방향이 이렇게 갈리는 동안, 사용자가 기다린다고 알아서 정리되는 건 별로 없어요.

    오늘 할 일은 세 단계면 충분해요. 설정 → 데이터 제어에서 모델 개선 버튼이 꺼져 있는지 확인. 메모리에 저장된 내 정보를 훑어보고 필요 없는 항목 삭제. 민감한 질문은 개인 식별 정보를 뺀 채 임시 채팅에서. 이 셋을 다 해도 누군가 내 대화를 볼 가능성이 0이 되진 않아요. 설정을 잘못 눌러서가 아니라, 안전 검토가 학습 스위치 바깥에 있는 구조라서 그래요. 대신 그 구조를 알고 나면 무엇을 입력하고 무엇을 뺄지 판단이 훨씬 빨라져요. 끝까지 지켜지는 건 내가 애초에 넣지 않은 정보뿐이니까요.

    출처: MIT Tech Review AI

  • 딥페이크, AI 개인정보 유출 막는 5가지 방법

    딥페이크, AI 개인정보 유출 막는 5가지 방법

    사진 한 장이 문제가 된다. 인스타에 올린 셀카 몇 장, 유튜브 영상 속 목소리 몇 초 — 이걸로 딥페이크 콘텐츠를 만드는 데 전문 장비가 필요 없다. 스마트폰 앱 하나면 된다. 몇 년 전만 해도 영화 속 이야기였는데, 지금은 그냥 현실이다.

    딥페이크, 단순한 장난이 아닌 이유

    딥페이크는 특정 인물의 얼굴이나 음성을 다른 영상·음성에 합성하는 기술이다. 초창기엔 할리우드 배우나 정치인이 주로 타깃이었다. 지금은 다르다. 일반인 사진 서너 장만 있으면 충분하다. 악용 경로도 크게 세 갈래다 — 명예 훼손용 허위 영상, 금융 사기, 그리고 성적인 이미지 합성.

    이 중 가장 심각한 건 세 번째다. 피해자가 자신의 신체가 합성된 콘텐츠를 발견했을 때 받는 충격은 단순한 심리적 고통을 넘는다. 사회적 낙인으로 이어지는 경우도 적지 않다. 개인의 디지털 정체성 자체가 흔들리는 문제다. 음성 딥페이크 사기도 빠르게 늘고 있다. 기술적으로 15~30초 분량의 음성 샘플만 있으면 비슷한 목소리를 복제할 수 있는 수준이다. 가족 목소리를 흉내 낸 보이스피싱이 이미 여러 건 보고됐다. 누구든 피해자가 될 수 있다는 얘기다.

    AI가 개인정보를 빼가는 경로, 예상보다 많다

    딥페이크는 빙산의 일각이다. AI 서비스 자체가 개인정보 유출 경로가 되는 경우도 있다.

    챗봇이 대표적이다. 건강 문제, 재정 상황, 가족 관계를 챗봇에 털어놓으면 어떻게 될까. 일부 서비스에서 입력 데이터가 모델 학습에 활용되거나, 다른 사용자의 응답에 의도치 않게 노출된 사례가 이미 보고됐다. AI 기반 사진 편집 앱도 마찬가지다. 얼굴 인식, 피부 보정, 배경 교체 — 편리한 기능 뒤에서 사용자의 얼굴 데이터를 광고 타겟팅이나 제3자에 판매하는 비즈니스 모델이 돌아갈 수 있다. 약관 동의 항목에 묻어두는 방식이라 대부분 눈치채지 못한다.

    더 까다로운 건 재식별(Re-identification) 문제다. 익명화된 데이터도 다른 정보와 결합하면 특정 개인이 특정된다. 이름은 없어도 나이, 성별, 거주 지역, 구매 패턴을 조합하면 사실상 식별이 된다. 이 위험을 무시하기 어렵다.

    디지털 발자국 줄이는 법 — 지금 당장 할 수 있는 것들

    AI 악용의 재료는 대부분 온라인에서 온다. 소셜 미디어 사진, 개인 정보, 목소리 녹음본 — 이걸 최소화하는 게 첫 번째 방어선이다.

    • 사진·영상 공유 신중하게: 얼굴이 선명하게 나온 사진, 위치 정보가 담긴 게시물은 올리기 전에 한 번 더 생각하자. 프로필 사진도 고해상도보다 적당한 크기로 줄여서 쓰는 편이 낫다.
    • SNS 프라이버시 설정 바꾸기: 인스타그램, 페이스북, X(트위터) 전부 ‘전체 공개’ 상태라면 지금 바로 ‘친구에게만’ 또는 ‘비공개’로 바꿔라. 공개 계정은 크롤링 봇의 먹잇감이 된다.
    • 음성 서비스 약관 확인: AI 음성 비서나 음성 인식 서비스를 쓴다면 약관에 음성 데이터 활용 동의 항목이 있는지 확인하고, 불필요한 동의는 철회해야 한다.
    • 안 쓰는 계정 정리: 몇 년 전에 가입하고 방치한 앱, 웹사이트 계정들. 거기 남아있는 개인정보가 어디로 흘러갔는지 모른다. 주기적으로 탈퇴 처리를 해두는 게 낫다.

    딥페이크 탐지 기술, 따라가기가 벅차다

    탐지 기술도 발전 중이다. 이미지 왜곡 패턴 분석, 미세한 인공적 흔적 감지 방식이 있고, 구글과 메타는 디지털 워터마크와 콘텐츠 출처 증명 기술 개발에 적극 투자하고 있다. 방향은 맞다.

    그런데 속도가 문제다. 딥페이크 제작 기술이 탐지 기술을 앞서가는 경우가 많다. 오늘의 탐지 모델로 내일의 딥페이크를 못 잡는 상황이 반복된다. 탐지 기술의 오작동으로 진짜 영상이 딥페이크로 오인되는 역풍도 있다. 솔직히 탐지 기술 하나만 믿기엔 불안하다. 결국 개인의 예방 습관이 더 강한 방어막이다.

    AI 시대에 나를 지키는 5가지 습관

    가장 강한 방어는 기술이 아니라 습관에서 나온다.

    1. 온라인 공유는 ‘영구적’이라는 전제로: 한번 올린 게시물은 삭제해도 어딘가에 남는다. 위치, 연락처, 가족 관계 같은 정보는 올리기 전에 다시 생각해봐야 한다.
    2. 강력한 비밀번호 + 2단계 인증(MFA): 예측하기 어려운 복잡한 비밀번호를 쓰고, 중요 계정엔 2단계 인증(MFA)을 반드시 켜놓아라. 계정 탈취 시도의 대부분을 이것만으로도 차단한다.
    3. AI 챗봇에 민감 정보 넣지 않기: 챗GPT, 클로드 같은 AI 챗봇에 금융 정보, 건강 기록, 회사 기밀을 입력하는 건 피해야 한다. 학습 데이터로 활용될 여지가 있고, 보안 취약점을 통해 노출될 위험도 있다.
    4. 개인정보처리방침 핵심 항목만이라도 확인: 새 앱 설치할 때 개인정보처리방침을 끝까지 읽는 사람은 거의 없다. 그래도 최소한 ‘수집 항목’과 ‘제3자 제공’ 항목만큼은 확인하는 습관이 필요하다.
    5. 디지털 흔적 주기적으로 청소: 구글 활동 기록, 소셜 미디어 오래된 게시물, 클라우드 저장 파일 — 분기에 한 번이라도 검토하고 불필요한 데이터는 지워야 한다. 쌓아두면 결국 리스크가 된다.

    딥페이크 피해 당했다면, 이렇게 움직여라

    피해가 이미 생겼다면 빠르게 움직여야 한다.

    • Q: 딥페이크 영상·사진을 발견했어요.
      A: 해당 콘텐츠가 올라간 플랫폼에 즉시 삭제를 요청하고, URL과 스크린샷으로 증거를 확보한다. 이후 경찰청 사이버범죄 신고 시스템이나 방송통신심의위원회에 신고해 법적 절차를 밟으면 된다.
    • Q: AI 서비스에서 개인정보가 유출된 것 같아요.
      A: 해당 서비스 고객센터에 유출 여부를 확인하고, 개인정보보호위원회에 신고하면 된다. 한국인터넷진흥원(KISA) 개인정보침해신고센터도 도움받을 수 있는 창구다.

    AI 기술 자체를 적으로 볼 필요는 없다. 다만 편리함에 취해 내 정보를 함부로 흘리는 건 어리석다. 디지털 세상에서도 결국 내 자산을 지키는 건 나 자신이다.

    MIT Tech Review AI 보도에 의하면, 딥페이크 피해는 일반인에게도 빠르게 확산되고 있다.