[태그:] 딥페이크

SNS를 내리다가 멈췄다. 인물 사진인데 손가락이 7개였다. 미드저니, 스테이블 디퓨전 같은 AI 이미지 생성기가 일상이 되면서 진짜 사진과 AI가 만든 이미지를 구분하기가 점점 까다로워지고 있다. 유명 매거진에서조차 AI로 만든 인물 초상을 표지에 실어 논란이 된 사건도 이미 있었다. AI 이미지를 걸러내는 능력이 새로운 디지털 리터러시가 됐다. 진짜와 가짜를 갈라놓는 결정적인 단서들, 직접 뜯어봤다.

가장 먼저 손을 보자

AI 이미지 구별법의 고전. 그리고 여전히 효과적이다. 인물의 손을 자세히 보는 것이다. AI는 다른 신체 부위에 비해 손을 그리는 데 유독 약하다. 이유가 복합적이다. 손은 수십 개의 관절로 구성되고, 쥐고 펴는 동작이 복잡하며, 다른 물체에 가려지는 경우도 많다. 학습 데이터 안에서도 깔끔하게 정리된 손 이미지가 상대적으로 부족하다는 점도 한몫한다.

• 손가락 개수: 가장 흔한 실수다. 4개이거나 6개, 심하면 7개까지 나온다.
• 기괴한 형태: 손가락 두 개가 합쳐지거나, 불가능한 각도로 꺾이거나, 비정상적으로 길게 늘어진다.
• 손바닥과 손등: 손바닥이 두 개처럼 보이거나 손등 질감이 지나치게 매끄러워 비닐 장갑 같은 느낌이 나기도 한다.

최신 AI 모델들은 손 생성 능력이 꽤 개선됐다. 그래도 확대해서 들여다보면 어색한 부분이 남아있을 확률이 높다. 의심스러운 이미지를 봤다면 손부터 확대하는 게 습관이다.

물리 법칙이 무너지는 순간

AI는 세상이 어떻게 돌아가는지 실제로 모른다. 방대한 데이터에서 확률적으로 그럴듯한 픽셀 조합을 뽑아낼 뿐이다. 그래서 현실 물리 법칙이나 논리적 개연성을 무너뜨리는 실수를 자주 저지른다.

안경 쓴 인물을 예로 들면, 안경 다리가 귀가 아닌 뺨을 파고드는 그림이 나온다. 안경알 양쪽 디자인이 미묘하게 다르기도 하고. 책을 들고 있으면 책에 적힌 글자가 의미 없는 기호 나열처럼 보인다. AI가 아직 문자 렌더링에 약하다는 증거다. 그림자도 단서가 된다. 물체는 하나인데 그림자가 두 개로 생기거나, 빛의 방향과 그림자 방향이 완전히 엇나가는 경우가 전형적이다. 이건 좀 과한 듯 싶을 정도로 티가 나기도 한다.

배경에 숨어있는 허점

시선은 보통 중심 피사체에 간다. 그런데 AI 이미지의 허점은 배경에 숨어있는 경우가 많다. AI는 이미지 전체를 하나의 픽셀 덩어리로 인식하기 때문에, 중요도가 낮다고 판단한 배경에서 디테일을 뭉개거나 이상하게 조합하는 경향이 있다.

인물 사진 배경에 있는 행인들 얼굴을 자세히 보자. 눈, 코, 입이 뭉개지거나 비대칭인 경우가 자주 보인다. 건물 창문이나 타일 같은 반복 패턴이 중간에 어긋난다든가, 벽과 바닥이 만나는 경계선이 뒤틀려 있는 것도 신호다. 주인공이 아닌 배경 엑스트라와 사물들에 집중하면 의외로 금방 찾아낼 수 있다.

그 특유의 ‘AI 질감’

이건 좀 감각적인 영역이긴 한데, 분명히 존재한다. AI 이미지, 인물 피부에서 가장 두드러진다. 너무 완벽하게 매끄럽다. 전문 리터칭을 과하게 한 것처럼 모공, 잔주름, 미세한 흉터 같은 자연스러운 결점이 전혀 없다. ‘불쾌한 골짜기(Uncanny Valley)’를 건드리는 밀랍 인형 같은 질감이다. 솔직히 여기서 갈리는 경우가 많다.

머리카락도 확인할 만하다. 가닥가닥이 따로 놀지 않고 뭉쳐서 하나의 덩어리처럼 보이거나, 스파게티 면처럼 비현실적인 광택을 띠기도 한다. 전체적으로 모든 게 지나치게 선명하거나, 반대로 부드러운 안개가 낀 듯한 두 가지 느낌이 이상하게 공존하면 AI 작품일 가능성이 크다.

탐지 도구, 참고는 하되 맹신은 금물

눈으로 구분이 안 될 때는 도구를 써볼 수 있다. AI 생성 이미지를 판별해주는 온라인 도구들이 여럿 나와 있다. 이미지를 업로드하면 AI가 분석해 인공지능으로 생성됐을 확률을 알려준다. 이미지의 미세한 픽셀 패턴, 생성 모델 특유의 ‘워터마크’ 같은 흔적을 잡아내는 방식이다.

단, 100% 믿으면 안 된다. AI 이미지 생성 기술이 발전하는 만큼 탐지 기술을 우회하는 방법도 같이 발전한다. 창과 방패의 싸움이다. 탐지 도구 결과는 참고 자료 정도로만 쓰고, 앞서 얘기한 시각적 단서들과 종합해서 판단하는 게 현명하다.

결국 비판적으로 보는 눈이 전부다

AI 이미지를 무조건 배척할 필요는 없다. 창의적인 표현을 위한 도구로서 가치가 있고, 아이디어를 빠르게 시각화하는 데도 쓸모가 크다. 문제는 악의적으로 쓰일 때다. 가짜 뉴스를 퍼뜨리거나 특정 인물을 모함하는 딥페이크가 대표적이다.

온라인에서 보는 이미지를 한 번쯤 의심해보는 시각이 필요해진 시대다. 출처 불명의 자극적인 이미지를 보면 공유하기 전에 잠깐 멈춰라. 손가락 개수가 맞는지, 배경이 이상하지 않은지. 그 짧은 2초가 가짜 정보의 확산을 끊는다. AI 시대에 가장 결정적인 안전장치는 결국 비판적 사고다.

출처: The Verge AI

틱톡 광고를 보다가 손가락이 여섯 개인 모델을 발견한 적 있다면, 이미 딥페이크를 한 번 본 거다. The Verge 보도에 의하면 틱톡 광고 속 AI 이미지를 일반인이 알아채기가 점점 어려워지고 있다고 한다. 얼굴은 완벽하고, 피부 결도 사실적이다. 그런데 어딘가 묘하게 불편하다. 그 불편함의 정체를 알면 구별이 훨씬 쉬워진다. 손가락, 그림자, 텍스트 — 이 세 가지만 봐도 꽤 걸러진다.

손가락과 귀 — AI가 유독 못하는 두 가지

가장 고전적인 방법인데 아직도 유효하다. 인물 사진에서 손과 귀를 확대해서 보는 것. AI는 얼굴은 거의 완벽하게 그리지만 손에서 자주 무너진다. 손이라는 게 워낙 변수가 많아서다. 뭔가를 쥐고, 겹치고, 비틀리는 구조를 수백만 장 학습해도 실수가 나온다.

• 손가락이 6개거나 4개
• 마디가 이상한 방향으로 구부러짐
• 손가락 끝이 녹아내리듯 뭉개짐

귀도 비슷하다. 머리카락이나 귀걸이에 가려지는 경우가 많아서 AI가 학습할 데이터 자체가 적다. 귓바퀴 구조가 뭉개지거나 좌우 비대칭이 심한 사진이 생각보다 많다. 얼굴이 아무리 완벽해도 귀를 확대해보면 무너지는 경우가 꽤 있다.

빛과 그림자가 안 맞으면 의심부터

현실에서 모든 사물은 빛의 방향에 따라 그림자가 일관되게 생긴다. AI는 이 물리 법칙을 아직 완벽하게 따르지 못한다. 창문이 오른쪽에 있다면 코 그림자는 왼쪽에 생겨야 한다. 주변 사물 그림자도 마찬가지다. 근데 AI 이미지에서는 이게 뒤죽박죽인 경우가 생각보다 많다.

• 광원 충돌: 창문은 오른쪽인데 그림자는 왼쪽. 광원이 두 개인 것처럼 어긋나 있는 경우
• 그림자 형태 오류: 사물 모양과 전혀 맞지 않는 그림자, 혹은 그냥 없는 그림자
• 반사 오류: 안경 렌즈나 물웅덩이에 비친 장면이 주변 환경과 완전히 다른 경우

이런 물리적 오류는 이미지 전체에 묘한 위화감을 준다. 뭔가 어색한데 왜 어색한지 모르겠다면, 십중팔구 그림자가 문제다. 조금만 신경 써서 보면 충분히 발견할 수 있는 단서다.

배경과 텍스트 — 여기서 가장 자주 무너진다

AI는 주인공에만 집중한다. 인물이나 상품은 잘 만들지만 배경은 손을 좀 놓는다. 이미지의 주인공이 아니라 그 주변을 훑어보는 습관이 필요하다.

건물 창문틀이 물결처럼 휘어져 있거나, 타일 바닥 선이 중간에서 꺾이거나, 책장 책들이 녹아내리듯 뭉개져 있다면 거의 확실하다. 그중에서도 텍스트가 제일 확실한 단서다. 간판, 옷에 적힌 글씨, 책 제목을 읽어보면 금방 안다. AI는 아직 문자를 제대로 생성하지 못한다. 얼핏 한글이나 영어처럼 생겼는데 읽어보면 아무 의미 없는 기호의 조합인 경우가 태반이다. 이건 솔직히 보자마자 바로 알 수 있다.

영상 딥페이크는 눈 깜빡임과 목소리 톤으로 판단

정지 이미지보다 영상이 훨씬 어렵다. 그래도 허점은 남아 있다. 가장 대표적인 게 눈 깜빡임 빈도다. 실제 사람은 1분에 15~20회 눈을 깜빡인다. 초창기 딥페이크 모델들은 이걸 제대로 학습하지 못해서 눈을 아예 안 깜빡이거나 반대로 너무 자주 깜빡이는 경향이 있었다. 최신 기술은 많이 나아졌지만, 여러 명이 나오는 영상에서 특정 인물만 이상하게 눈을 깜빡이지 않는 경우는 여전히 있다.

목소리도 놓쳐선 안 되는 단서다. 입 모양과 소리가 미세하게 어긋나거나, 감정이 격해지는 순간에도 목소리 톤이 단조롭게 일정하다면 딥페이크를 의심해볼 만하다. 사람 목소리는 감정 상태에 따라 결이 달라지는데, 합성 음성은 그걸 아직 자연스럽게 흉내 내지 못한다. 기술이 빠르게 발전하고 있지만, 지금은 아직 유효한 방법이다.

습관이 기술을 이긴다

솔직히 말하면, 여기서 소개한 방법들은 머지않아 쓸모없어질 거다. 손가락 오류는 최신 모델에서 이미 많이 줄었고, 빛과 그림자 처리 능력도 하루가 다르게 나아지고 있다. 기술이 오류를 스스로 메우는 속도가 생각보다 빠르다.

결국 남는 건 태도다. 너무 완벽하거나, 너무 자극적이거나, 현실에 없을 것 같은 콘텐츠를 마주했을 때 잠깐 멈추는 것. ‘이게 진짜일까?’ 한 번쯤 생각해보는 것. 출처를 확인하고, 다른 언론이나 신뢰할 수 있는 기관에서도 같은 내용을 다루는지 교차 확인하는 것. 이 정도 루틴이 자연스러워지면 충분하다. AI 시대에 이건 이미 선택이 아니다. 디지털 시민의 기본 역량이 된 셈이다.

출처: The Verge AI