몇 년 전까지만 해도 특정인 사진 한 장 올리면 나체 이미지로 바꿔주는 앱이, 버젓이 앱스토어에 있었다. ‘누디파이(Nudify)’라 불리는 이 앱들, AI로 사진 속 옷을 지우고 나체처럼 보이게 합성한다. 동의는 없다. 그런데도 이런 이미지가 퍼지면서 피해자만 계속 늘었다. 검색해서 여기까지 왔다면, 작동 원리부터 신고 절차까지 정리해봤다.
누디파이 앱, 정확히 뭘 하는 프로그램인가
원리는 생성형 AI의 이미지 인페인팅 기술이다. 원본 사진에서 옷으로 가려진 부분을, AI가 학습 데이터를 바탕으로 ‘추정’해서 그려 넣는 식이다. 실제 신체는 당연히 아니다. 다만 합성 결과물이 실사에 가까워지면서 문제가 커졌다. 명예훼손 도구로, 또 성적 착취 도구로 악용되는 사례가 쌓이고 있다. 앱 대부분은 결과물을 몇 초 만에 뽑아내고, 구독형 결제로 돈을 번다.
앱스토어 심사는 어떻게 통과했나
애플과 구글 둘 다 노골적인 선정성 콘텐츠는 정책상 막아놨다. 그런데 누디파이 앱 다수가 ‘사진 편집’, ‘엔터테인먼트’ 카테고리로 우회 등록됐다. 실제 기능은 설명에 적지 않는 식이다. 앱 소개만 봐서는 그냥 포토샵 앱과 구분이 안 되는 경우도 많다. 그래서 규제 당국이 직접 앱마켓 운영사에 삭제를 요구하는 사례가 늘었고, 미국에서는 지방정부 차원의 소송까지 제기됐다.
한국에서는 어떻게 처벌되나
국내 적용 법은 성폭력처벌법과 정보통신망법이다. 동의 없이 타인 얼굴을 성적 이미지에 합성해 만들고 퍼뜨리면 허위영상물 편집·반포죄로 처벌받는다. 2020년 이후 법 개정으로 처벌 수위는 강화된 상태다. 눈여겨볼 점 하나, 단순 소지만으로도 처벌 대상이 된다는 것. 피해자가 미성년자라면 아동청소년성보호법까지 같이 적용돼 형량이 더 무거워진다.
실제로 피해를 당했다면 뭐부터 해야 하나
- 증거부터 확보: 유포된 게시물 URL, 게시 시각, 계정 정보를 캡처해둔다. 삭제되기 전 스크린샷이 제일 중요한 증거다.
- 디지털성범죄피해자지원센터 신고: d4u.stop.or.kr에서 삭제 지원과 확산 방지를 신청할 수 있다.
- 경찰 신고: 사이버수사대에 정식 고소장을 낸다. 증거가 명확할수록 처리 속도가 빠르다.
- 플랫폼 신고: 구글, 애플, 각 소셜미디어에 ‘비동의 성적 이미지(NCII)’ 카테고리로 신고하면, 자동화된 삭제 프로세스가 돌아가는 경우가 많다.
앱마켓이 이걸 다 걸러낼 수 있을까
기술적으로는 가능하다. 다만 완벽하진 않다. 앱 이름과 설명만 바꿔서 다시 올라오는, 이른바 ‘카피캣’ 앱이 끊임없이 등장하기 때문이다. 구글과 애플은 AI 기반 콘텐츠 심사 시스템을 도입해서 키워드 필터링과 스크린샷 분석을 강화하는 추세다. 그런데 웹 브라우저로 바로 접속하는 형태의 누디파이 서비스는, 애초에 앱스토어 규제망 밖에 있다. 결국 앱마켓 규제만으로는 부족하고, 웹사이트 차단이나 결제망 차단 같은 여러 겹의 대응이 같이 필요하다.
내 사진, 어떻게 지킬까
완벽한 차단은 어렵다. 그래도 위험은 줄일 수 있다.
- SNS 프로필 사진 화질을 낮추거나 워터마크를 넣어서 도용 난이도를 높인다.
- 얼굴이 뚜렷하게 나온 전신 사진은 공개 범위를 ‘친구 공개’로 좁힌다.
- 가끔 본인 이름과 얼굴 이미지를 역이미지 검색해서 무단 사용 여부를 점검한다.
- 피해가 의심되면 일단 캡처부터 한다. 삭제 요청은 그다음이다. 증거 없이 삭제부터 하면 법적 대응이 오히려 어려워진다.
기업들은 어디까지 책임지게 될까
플랫폼 사업자한테 콘텐츠 유통 책임을 묻는 흐름, 갈수록 강해지는 중이다. 앱마켓 운영사가 문제 앱으로 챙긴 수수료 수익까지 환수 대상으로 거론되는 사례가 나오면서, 단순히 ‘통로 역할만 했다’는 항변으로는 면책되기 어려운 분위기가 만들어지고 있다. 국내에서도 정보통신망법상 정보통신서비스 제공자의 삭제 의무가 명시돼 있다. 신고를 받고도 조치하지 않으면, 플랫폼 역시 책임에서 자유롭지 않다.
출처: Ars Technica
테크가이드팀
Home-In-One 테크가이드팀은 IT 기기 비교, 소프트웨어 추천, 트러블슈팅 가이드 등 실용적인 기술 콘텐츠를 제작합니다. 초보자도 쉽게 따라할 수 있는 단계별 가이드를 지향합니다.