틱톡이 조용히 새 기능 하나를 시험대에 올렸다. 내 얼굴을 도용해 AI가 만든 영상을 자동으로 찾아주는 기능이다. 소셜미디어 컨설턴트 매트 나바라가 먼저 포착해 알렸는데, 방식은 이렇다. 크리에이터가 동의하면(옵트인) 자기 얼굴이 AI로 합성된 콘텐츠를 스캔해서 알려주고, 그 자리에서 틱톡에 신고까지 이어지게 해준다.
테스트 중인 게 정확히 뭐냐면
틱톡 미국 대변인 재커리 카이저가 더버지 취재에 확인해준 내용을 보면, 이 기능은 지금 미국의 일부 크리에이터에게만 열려 있다. 신청한 크리에이터의 얼굴을 기준 삼아 플랫폼 안의 다른 영상들을 훑고, AI가 만든 걸로 의심되는 콘텐츠가 나오면 알려준 뒤 신고 절차로 곧장 넘겨주는 구조로 보인다.
전면 공개는 아직이다. 그래서 탐지 정확도가 얼마나 되는지, 오탐은 얼마나 나는지, 신고 이후 처리는 어떻게 되는지 세부 내용은 베일에 싸여 있다. 옵트인 방식이라는 점도 눈에 걸린다. 크리에이터 본인이 자기 얼굴 데이터를 틱톡 시스템에 먼저 등록해야 돌아가는 구조라, 결국 참여율이 관건이 될 것 같다.
왜 하필 지금인가
AI 영상 생성 도구가 몇 달 새 눈에 띄게 좋아졌다. 그러면서 유명인이든 일반 크리에이터든, 남의 얼굴 가져다 쓴 딥페이크 콘텐츠가 SNS에 쏟아지기 시작했다. 오픈AI의 소라 같은 영상 생성 모델이 대중화되면서 실존 인물의 얼굴과 목소리를 합성하는 문턱이 확 낮아진 탓이다.
- 동의 없이 얼굴이 합성된 광고·홍보 영상 확산
- 가짜 발언이 담긴 정치·시사 관련 딥페이크 논란
- 크리에이터 초상권 침해로 인한 소송 및 분쟁 증가
방치하면 규제 리스크와 이용자 이탈, 두 가지를 한꺼번에 떠안아야 하는 상황이다. 그러니 플랫폼 입장에서는 선제적으로 대응 도구를 내놓는 모양새가 나올 수밖에 없다.
유튜브도 같은 문제를 붙들고 있다
더버지 기사를 보면 유튜브 역시 비슷한 얼굴 탐지 도구를 준비 중이라고 한다. 유튜브는 크리에이터가 자기 얼굴이나 목소리가 무단으로 쓰인 영상을 발견하면 삭제 요청을 할 수 있는 시스템을 이미 일부 시험해봤다. 이번 틱톡의 움직임도 결국 같은 문제의식에서 나온 셈이다.
구글과 바이트댄스, 경쟁사인 두 회사가 비슷한 시기에 같은 방향의 기능을 내놓는다는 건 의미가 있다. 딥페이크 대응이 이제 선택 사항이 아니라 플랫폼이 살아남기 위한 필수 조건이 됐다는 신호로 읽힌다.
크리에이터 입장에선 반가운 소식, 그런데
얼굴 자체가 수익 자산인 인플루언서나 크리에이터라면 이런 도구, 반가울 수밖에 없다. 팔로워 수십만 명을 거느린 크리에이터의 얼굴이 가짜 다이어트 제품 광고나 사기성 투자 콘텐츠에 무단으로 쓰이는 사례, 이미 여러 건 보고됐다.
다만 한계도 뚜렷하다. 탐지 모델이 최신 생성 AI를 얼마나 따라잡을 수 있을지는 미지수다. 옵트인 방식이라 등록하지 않은 일반 이용자는 여전히 사각지대에 남는다. 초상권 보호를 개인 신청에 맡기는 구조라는 점에서, 근본적인 한계라는 지적이 나올 만하다.
국내 K팝·연예 업계엔 남 얘기가 아니다
한국은 K팝 아이돌과 배우 얼굴을 이용한 딥페이크 피해가 이미 사회 문제로 불거진 지역이다. 실제로 일부 여성 아이돌 얼굴을 합성한 불법 영상물 유통 사건이 언론에 여러 차례 보도됐고, 국회에서도 딥페이크 처벌을 강화하는 법안이 통과됐다.
틱톡과 유튜브 모두 한국에서 이용자 기반이 압도적이다. 그래서 이런 탐지 기능이 국내에도 확대 적용될지가 관건이다. 다만 미국 크리에이터 중심으로 먼저 검증되는 단계라는 걸 감안하면, 국내 도입까지는 시차가 있을 가능성이 높다. 국내 엔터테인먼트 업계와 MCN 업체들도 이런 플랫폼 차원의 대응책을 참고해서 자체 모니터링 체계를 갖출 필요가 커지는 시점이다.
출처: The Verge
글로벌뉴스 데스크
Home-In-One 글로벌뉴스 데스크는 전 세계 IT·기술 뉴스를 실시간으로 모니터링하여 한국 독자에게 가장 중요한 소식을 전합니다. 실리콘밸리, 유럽, 아시아의 최신 기술 동향을 한국 시장 관점에서 분석합니다.