미네소타주가 8월 1일부터 시행하려던 'AI 누디파이(nudification) 금지법'에 제동이 걸렸다. 일론 머스크의 AI 스타트업 xAI가 시행을 닷새 앞둔 7월 27일, 미네소타 주 검찰총장 키스 엘리슨을 상대로 연방법원에 소송을 냈다.
전국 최초, 미네소타의 초강력 규제
문제의 법 이름은 'HF 1606'. 동의 없이 신체 특정 부위를 노출한 것처럼 사진을 조작하는 이른바 '누디파이' 앱을 정조준했다. 미국 주 단위 입법으로는 첫 사례다.
핵심은 처벌 방식에 있다. 이용자가 어떤 의도로 썼는지, 플랫폼이 알고 있었는지는 따지지 않는다. 위반 1건당 최대 50만 달러(약 7억 원)의 민사 벌금을 물릴 수 있는 엄격책임 조항이다. 면책 조항(safe harbor)도 없다. 고의성을 입증해야 한다는 요건도 없다. 그런데도 이 법안, 미네소타 하원에서 132대 1, 상원에서는 65대 0으로 통과됐다. 여야 가리지 않고 표를 몰아준 셈이다.
xAI 소송의 요지
xAI 주장은 단순하다. 이 법이 수정헌법 1조가 보장하는 표현의 자유를 침해하는 '과잉 범위의 내용 기반 규제'라는 것. 소장에서 xAI는 법이 그대로 시행되면 자사 이미지 생성 도구 '그록 이미지(Grok Imagine)'의 편집 기능을 여러 방식으로 제한하는 것 말고는 실질적인 대안이 없다고 밝혔다.
- 7월 27일 미네소타 연방지방법원에 제소
- 피고는 키스 엘리슨 주 검찰총장
- 법 시행일은 8월 1일, 소송은 그 직전에 제기
- 쟁점은 '엄격책임 + 고액 벌금' 조합의 위헌 여부
왜 하필 지금인가, 그록의 전과가 있다
이 소송, 뜬금없이 나온 게 아니다. 그록의 이미지 편집 기능은 2025년 12월 출시 직후부터 '디지털 옷 벗기기' 도구로 악용됐다. 2025년 12월 29일부터 2026년 1월 8일까지, 단 열흘 남짓한 기간에 아동을 대상으로 한 성적 이미지가 약 2만 3천 건 만들어졌다는 추정치가 나왔다. 여성을 대상으로 한 성적 이미지 게시물은 최소 180만 건. 숫자만 봐도 아찔하다.
후폭풍은 컸다. 테일러 스위프트를 비롯한 유명인 합성 이미지가 SNS를 뒤덮으며 논란이 커졌다. xAI는 1월 9일 이미지 생성 기능을 유료 구독자로 제한했고, 1월 14일에는 실존 인물 관련 콘텐츠 생성을 추가로 단속하겠다고 발표했다. 딱 반년 만에 규제 당국과 정면으로 맞서는 처지가 된 셈이다.
미네소타 하나로 끝날 문제가 아니다
xAI를 겨냥한 법적 압박, 이번이 처음이 아니다. 여성과 미성년자 피해자들이 낸 민사소송이 최소 두 건 더 진행 중이다. 미국 하원 에너지·상업위원회 민주당 의원들은 그록의 비동의 성적 이미지 확산 실태를 별도로 조사하고 있다. 여러 주 검찰총장이 공동으로 xAI에 경고 서한을 보낸 일도 있었다.
이번 미네소타 소송이 다른 점, 방향이 거꾸로라는 것이다. 앞선 사건들은 피해자나 정부가 xAI를 상대로 문제 삼는 구도였다. 이번엔 xAI가 먼저 정부를 상대로 '규제가 과하다'며 칼을 빼 들었다. 법정에서 이 논리가 통할지는 별개 문제다. 다만 여론의 뭇매를 맞은 지 반년도 안 돼 표현의 자유 카드를 꺼내 든 타이밍, 묘하다.
딥페이크 처벌법, 한국은 지금 어디쯤
한국은 이미 딥페이크 성범죄에 대해 제작·유포 모두 처벌하는 법 체계를 갖췄다. 영리 목적이 아니어도, 유포 의사가 없었어도 처벌 대상이 될 만큼 국내 처벌 규정은 촘촘하다. 다만 미네소타법처럼 플랫폼 사업자 자체에 건당 억대 벌금을 매기는 엄격책임 조항까지는 아직 없다.
네이버 클로바나 카카오 같은 국내 빅테크도 이미지 생성 기능을 속속 붙이는 중이다. 이번 소송의 결론, 남의 나라 일로만 보기 어려운 이유다. 미국 법원이 xAI 손을 들어주면 '플랫폼 책임을 어디까지 물을 수 있는가'를 둘러싼 논쟁이 국내 입법 과정에도 참고 사례로 인용될 여지가 크다. 반대로 미네소타법이 유지되면 국내에서도 플랫폼 단위 책임을 강화하자는 목소리에 힘이 실릴 것으로 보인다. 개인적으로는, 표현의 자유와 피해자 보호 사이 균형점을 법원이 어떻게 그을지 이 재판이 하나의 기준점이 될 거라 본다.
출처: The Verge
글로벌뉴스 데스크
Home-In-One 글로벌뉴스 데스크는 전 세계 IT·기술 뉴스를 실시간으로 모니터링하여 한국 독자에게 가장 중요한 소식을 전합니다. 실리콘밸리, 유럽, 아시아의 최신 기술 동향을 한국 시장 관점에서 분석합니다.