틱톡 광고를 보다가 손가락이 여섯 개인 모델을 발견한 적 있다면, 이미 딥페이크를 한 번 본 거다. The Verge 보도에 의하면 틱톡 광고 속 AI 이미지를 일반인이 알아채기가 점점 어려워지고 있다고 한다. 얼굴은 완벽하고, 피부 결도 사실적이다. 그런데 어딘가 묘하게 불편하다. 그 불편함의 정체를 알면 구별이 훨씬 쉬워진다. 손가락, 그림자, 텍스트 — 이 세 가지만 봐도 꽤 걸러진다.
손가락과 귀 — AI가 유독 못하는 두 가지
가장 고전적인 방법인데 아직도 유효하다. 인물 사진에서 손과 귀를 확대해서 보는 것. AI는 얼굴은 거의 완벽하게 그리지만 손에서 자주 무너진다. 손이라는 게 워낙 변수가 많아서다. 뭔가를 쥐고, 겹치고, 비틀리는 구조를 수백만 장 학습해도 실수가 나온다.
- 손가락이 6개거나 4개
- 마디가 이상한 방향으로 구부러짐
- 손가락 끝이 녹아내리듯 뭉개짐
귀도 비슷하다. 머리카락이나 귀걸이에 가려지는 경우가 많아서 AI가 학습할 데이터 자체가 적다. 귓바퀴 구조가 뭉개지거나 좌우 비대칭이 심한 사진이 생각보다 많다. 얼굴이 아무리 완벽해도 귀를 확대해보면 무너지는 경우가 꽤 있다.
빛과 그림자가 안 맞으면 의심부터
현실에서 모든 사물은 빛의 방향에 따라 그림자가 일관되게 생긴다. AI는 이 물리 법칙을 아직 완벽하게 따르지 못한다. 창문이 오른쪽에 있다면 코 그림자는 왼쪽에 생겨야 한다. 주변 사물 그림자도 마찬가지다. 근데 AI 이미지에서는 이게 뒤죽박죽인 경우가 생각보다 많다.
- 광원 충돌: 창문은 오른쪽인데 그림자는 왼쪽. 광원이 두 개인 것처럼 어긋나 있는 경우
- 그림자 형태 오류: 사물 모양과 전혀 맞지 않는 그림자, 혹은 그냥 없는 그림자
- 반사 오류: 안경 렌즈나 물웅덩이에 비친 장면이 주변 환경과 완전히 다른 경우
이런 물리적 오류는 이미지 전체에 묘한 위화감을 준다. 뭔가 어색한데 왜 어색한지 모르겠다면, 십중팔구 그림자가 문제다. 조금만 신경 써서 보면 충분히 발견할 수 있는 단서다.
배경과 텍스트 — 여기서 가장 자주 무너진다
AI는 주인공에만 집중한다. 인물이나 상품은 잘 만들지만 배경은 손을 좀 놓는다. 이미지의 주인공이 아니라 그 주변을 훑어보는 습관이 필요하다.
건물 창문틀이 물결처럼 휘어져 있거나, 타일 바닥 선이 중간에서 꺾이거나, 책장 책들이 녹아내리듯 뭉개져 있다면 거의 확실하다. 그중에서도 텍스트가 제일 확실한 단서다. 간판, 옷에 적힌 글씨, 책 제목을 읽어보면 금방 안다. AI는 아직 문자를 제대로 생성하지 못한다. 얼핏 한글이나 영어처럼 생겼는데 읽어보면 아무 의미 없는 기호의 조합인 경우가 태반이다. 이건 솔직히 보자마자 바로 알 수 있다.
영상 딥페이크는 눈 깜빡임과 목소리 톤으로 판단
정지 이미지보다 영상이 훨씬 어렵다. 그래도 허점은 남아 있다. 가장 대표적인 게 눈 깜빡임 빈도다. 실제 사람은 1분에 15~20회 눈을 깜빡인다. 초창기 딥페이크 모델들은 이걸 제대로 학습하지 못해서 눈을 아예 안 깜빡이거나 반대로 너무 자주 깜빡이는 경향이 있었다. 최신 기술은 많이 나아졌지만, 여러 명이 나오는 영상에서 특정 인물만 이상하게 눈을 깜빡이지 않는 경우는 여전히 있다.
목소리도 놓쳐선 안 되는 단서다. 입 모양과 소리가 미세하게 어긋나거나, 감정이 격해지는 순간에도 목소리 톤이 단조롭게 일정하다면 딥페이크를 의심해볼 만하다. 사람 목소리는 감정 상태에 따라 결이 달라지는데, 합성 음성은 그걸 아직 자연스럽게 흉내 내지 못한다. 기술이 빠르게 발전하고 있지만, 지금은 아직 유효한 방법이다.
습관이 기술을 이긴다
솔직히 말하면, 여기서 소개한 방법들은 머지않아 쓸모없어질 거다. 손가락 오류는 최신 모델에서 이미 많이 줄었고, 빛과 그림자 처리 능력도 하루가 다르게 나아지고 있다. 기술이 오류를 스스로 메우는 속도가 생각보다 빠르다.
결국 남는 건 태도다. 너무 완벽하거나, 너무 자극적이거나, 현실에 없을 것 같은 콘텐츠를 마주했을 때 잠깐 멈추는 것. ‘이게 진짜일까?’ 한 번쯤 생각해보는 것. 출처를 확인하고, 다른 언론이나 신뢰할 수 있는 기관에서도 같은 내용을 다루는지 교차 확인하는 것. 이 정도 루틴이 자연스러워지면 충분하다. AI 시대에 이건 이미 선택이 아니다. 디지털 시민의 기본 역량이 된 셈이다.
출처: The Verge AI
AI리서치팀
Home-In-One AI리서치팀은 인공지능, 머신러닝, 생성형 AI의 최신 동향과 실용적 활용법을 연구합니다. ChatGPT, 클로드, 미드저니 등 AI 도구 비교 분석과 활용 가이드를 제공합니다.