[태그:] 딥페이크

SNS 피드를 내리다 보면 어딘가 기묘한 그림을 마주칠 때가 있다. 완벽하게 아름다운 인물인데 손가락이 여섯 개라거나, 분명 한글 간판인데 외계어 같은 글자가 적혀있는 식이다. 미드저니, 스테이블 디퓨전 같은 AI 이미지 생성기가 대중화되면서 이제 진짜 사진과 AI가 만든 이미지를 구분하기가 점점 어려워지고 있다. 최근 한 유명 매거진에서조차 AI로 만든 인물 초상을 표지에 사용해 논란이 되기도 했다. 이제는 AI가 만든 이미지를 구별하는 능력이 새로운 디지털 리터러시로 자리 잡고 있다. 진짜와 가짜를 구별하는 몇 가지 결정적인 단서들을 정리했다.

가장 먼저, ‘손’을 확인하세요

AI 이미지 구별법의 가장 고전적이면서도 여전히 유효한 방법은 인물의 손을 자세히 보는 것이다. AI는 인체의 다른 부위에 비해 손을 그리는 데 유독 어려움을 겪는다. 이유는 복합적이다. 손은 수많은 관절로 이루어져 있고, 매우 복잡한 형태로 움직이며, 다른 사물에 의해 가려지는 경우도 많기 때문이다. AI가 학습한 데이터 속에서도 완벽하고 명확한 손 이미지가 부족한 탓도 있다.

• 손가락 개수: 가장 흔한 실수다. 손가락이 4개이거나 6개인 경우가 많다.
• 기괴한 형태: 손가락이 비정상적으로 길거나, 서로 다른 손가락이 합쳐지거나, 불가능한 각도로 꺾여 있기도 하다.
• 손바닥과 손등: 손바닥이 두 개처럼 보이거나 손등의 질감이 부자연스러운 경우도 확인할 필요가 있다.

물론 최신 AI 모델들은 손 생성 능력이 상당히 개선되었지만, 여전히 확대해서 자세히 보면 어색한 부분을 발견할 확률이 높다. 의심스러운 이미지가 있다면 가장 먼저 손부터 확인하는 습관을 들이는 것이 좋다.

비정상적인 디테일과 물리 법칙

AI는 세상이 어떻게 작동하는지에 대한 근본적인 이해가 없다. 그저 방대한 데이터를 학습해 확률적으로 가장 그럴듯한 픽셀 조합을 만들어낼 뿐이다. 이 때문에 현실 세계의 물리 법칙이나 논리적 개연성을 무시하는 실수를 자주 저지른다.

안경을 쓴 인물을 예로 들어보자. 안경 다리가 귀가 아닌 뺨을 파고들거나, 안경알 양쪽의 디자인이 미묘하게 다를 수 있다. 책을 들고 있다면 책에 적힌 글자가 의미 없는 기호의 나열처럼 보일 것이다. AI는 아직 문자를 정확하게 렌더링하는 데 취약하다. 그림자나 빛 반사도 중요한 단서다. 물체는 하나인데 그림자가 두 개로 생기거나, 빛의 방향과 그림자의 방향이 전혀 맞지 않는 경우가 대표적이다.

배경에 숨어있는 어색함

우리는 보통 이미지의 중심 피사체에 시선을 집중한다. 하지만 AI 이미지의 허점은 종종 배경에 숨어있다. AI는 전체 이미지를 하나의 조화로운 픽셀 덩어리로 인식하기 때문에, 중요도가 낮다고 판단하는 배경에서 디테일을 뭉개거나 이상하게 조합하는 경향이 있다.

인물 사진의 배경에 있는 행인들의 얼굴을 자세히 보자. 눈, 코, 입이 뭉개져 있거나 비대칭인 경우가 많다. 건물의 창문이나 타일 같은 반복적인 패턴이 부자연스럽게 이어진다거나, 벽과 바닥이 만나는 경계선이 이상하게 뒤틀려 있는 것도 AI가 만든 이미지일 가능성이 높다는 신호다. 주인공이 아닌 배경의 엑스트라와 사물들에 주목하면 의외로 쉽게 답을 찾을 수 있다.

특유의 ‘AI 질감’을 찾아라

이건 좀 더 감각적인 영역이지만, AI 이미지는 특유의 질감을 가지고 있다. 특히 인물 피부에서 두드러지는데, 너무나도 완벽하게 매끄럽다. 마치 전문 리터칭을 과하게 한 것처럼 모공, 잔주름, 미세한 흉터 같은 자연스러운 피부 결점이 전혀 보이지 않는다. ‘불쾌한 골짜기(Uncanny Valley)’를 유발하는 밀랍 인형 같은 질감이다.

머리카락 역시 좋은 단서다. 머리카락 가닥들이 개별적으로 보이기보다는 뭉쳐서 하나의 덩어리처럼 보이거나, 스파게티 면처럼 비현실적인 광택을 띠기도 한다. 전체적으로 모든 것이 지나치게 선명하거나, 반대로 부드러운 안개가 낀 듯한 느낌이 공존한다면 AI의 작품일 확률이 높다.

AI 이미지 탐지 도구를 활용하는 법

육안으로 구분이 어려울 때는 기술의 도움을 받을 수 있다. AI가 만든 이미지를 판별해주는 온라인 도구들이 속속 등장하고 있다. 이런 웹사이트에 이미지를 업로드하면, AI가 이미지를 분석해 인공지능으로 생성되었을 확률을 알려준다. 이 도구들은 이미지의 미세한 픽셀 패턴, 생성 모델 특유의 ‘워터마크’ 등을 분석하는 원리로 작동한다.

다만, 이런 탐지 도구들이 100% 정확한 것은 아니다. AI 이미지 생성 기술이 발전하는 만큼, 탐지 기술을 우회하는 방법도 함께 발전하는 ‘창과 방패’의 싸움이 계속되고 있기 때문이다. 따라서 탐지 도구의 결과는 참고 자료로만 활용하고, 앞서 설명한 여러 단서들을 종합적으로 판단하는 것이 현명하다.

결국, 비판적으로 보는 습관이 답이다

AI 이미지를 무조건 배척할 필요는 없다. 창의적인 표현을 위한 훌륭한 도구이며, 아이디어를 빠르게 시각화하는 데 큰 도움을 준다. 문제는 이것이 악의적인 목적으로 사용될 때다. 가짜 뉴스를 퍼뜨리거나, 특정 인물을 모함하는 데 사용되는 딥페이크가 대표적이다.

이제 우리는 온라인에서 접하는 모든 이미지를 일단 한 번쯤 의심해보는, 건강한 비판적 시각을 가져야 한다. 출처가 불분명한 자극적인 이미지를 보면 곧이곧대로 믿고 공유하기 전에, 손가락은 괜찮은지, 배경에 어색한 점은 없는지 잠시 멈춰서 생각해보는 습관이 필요하다. AI 시대의 디지털 시민에게는 그 어떤 기술보다 ‘비판적 사고’라는 안전장치가 결정적으로 중요하다.

출처: The Verge AI

SNS 피드를 내리다 보면 너무 완벽해서 오히려 어색한 광고 모델이나, 현실에 없을 법한 환상적인 풍경 이미지에 ‘좋아요’를 누른 경험이 있을 겁니다. 그런데 그중 상당수가 실제 사진이 아닌, AI가 만들어낸 이미지라는 사실을 알고 계셨나요? 기술이 발전하면서 AI가 생성한 이미지와 영상은 이제 전문가도 구별하기 어려울 만큼 정교해졌습니다. The Verge 같은 해외 테크 미디어에서도 틱톡 광고 속 AI 이미지를 일반인이 구별하기 어렵다는 점을 지적할 정도죠. 이제는 ‘디지털 리터러시’의 기본 소양으로 AI 생성 콘텐츠를 구별하는 능력이 중요해지고 있습니다. 진짜 같은 가짜 속에서 진실을 찾아내는 몇 가지 실용적인 팁을 정리했습니다.

손가락과 귀, AI가 아직 어려워하는 부분

가장 널리 알려졌고, 아직도 꽤 유용한 구별법은 바로 인물의 신체 일부, 특히 손가락과 귀를 자세히 보는 것입니다. AI는 수많은 이미지를 학습하지만, 복잡하고 다양한 형태를 가진 손을 완벽하게 그려내는 데는 종종 실패하거든요. 왜냐하면 손은 겹쳐지거나, 무언가를 쥐는 등 변수가 너무 많기 때문입니다. 그래서 다음과 같은 오류를 쉽게 발견할 수 있습니다.

• 손가락이 6개이거나 4개인 경우
• 손가락 마디의 위치나 구부러지는 방향이 비정상적인 경우
• 손가락이 비현실적으로 길거나 짧고, 끝이 뭉개진 경우

귀 역시 마찬가지입니다. 귀걸이나 머리카락에 가려진 경우가 많아 AI가 학습할 데이터가 부족한 편이라, 귀의 형태가 대칭이 아니거나 귓바퀴 구조가 이상하게 뭉개져 있는 경우가 많습니다. 이미지 속 인물의 얼굴이 아무리 완벽해 보여도 손과 귀를 확대해보면 어색한 점을 발견할 가능성이 높습니다.

어색한 그림자와 빛의 불일치

현실 세계의 모든 사물은 빛과 그림자라는 물리 법칙의 지배를 받습니다. 하지만 AI는 이 법칙을 항상 정확하게 이해하지는 못합니다. 이미지 속 빛의 방향과 그림자의 일관성을 확인하는 것은 좋은 구별법 중 하나입니다. 예를 들어, 햇빛이 인물의 왼쪽에서 비추고 있다면, 코의 그림자는 오른쪽에 생기고 주변 사물의 그림자도 모두 같은 방향으로 뻗어 나가야 합니다. 하지만 AI 생성 이미지에서는 이런 디테일이 틀리는 경우가 많습니다.

• 광원의 불일치: 창문은 오른쪽에 있는데, 인물의 그림자는 왼쪽에 생기는 등 빛의 출처가 여러 개인 것처럼 보이는 경우
• 그림자의 형태 오류: 사물의 형태와 맞지 않는 이상한 모양의 그림자가 생기거나, 아예 그림자가 없는 경우
• 반사의 오류: 안경 렌즈나 물웅덩이에 비친 모습이 주변 환경과 전혀 다른 엉뚱한 이미지인 경우

이런 물리적 오류는 이미지가 어딘가 부자연스럽고 위화감이 들게 만드는 주된 요인입니다. 조금만 신경 써서 보면 충분히 찾아낼 수 있는 단서죠.

배경과 텍스트의 미세한 왜곡

AI는 주로 이미지의 핵심 피사체(예: 인물, 상품)에 집중해서 결과물을 만들어냅니다. 그러다 보니 상대적으로 중요도가 떨어지는 배경을 처리할 때 실수를 하곤 합니다. 이미지의 주인공이 아니라, 그 주변을 샅샅이 훑어보는 습관이 필요합니다.

배경에 있는 건물의 창문틀이나 타일 바닥의 선이 물결치듯 휘어져 있거나, 책장의 책들이 마치 녹아내리는 것처럼 뭉개져 있다면 AI 생성 이미지일 확률이 높습니다. 또한, 이미지 속 간판이나 책, 옷에 적힌 셔츠의 글씨를 자세히 보세요. AI는 아직 문자를 완벽하게 이해하고 생성하지 못해서, 우리가 알 수 없는 기괴한 형태의 문자를 만들어내거나 단어의 철자가 틀리는 경우가 허다합니다. 얼핏 보면 그럴듯한 텍스트 같지만, 자세히 읽어보면 아무 의미 없는 글자인 셈이죠.

비디오 딥페이크, 눈 깜빡임과 목소리 톤

이미지를 넘어 영상으로 넘어가면 구별은 더 어려워집니다. 하지만 딥페이크 영상에도 아직 허점은 남아있습니다. 가장 대표적인 것이 눈 깜빡임의 빈도입니다. 실제 사람은 보통 1분에 15~20회 정도 눈을 깜빡이지만, 초창기 딥페이크 모델들은 눈 깜빡임을 제대로 학습하지 못해 부자연스럽게 눈을 계속 뜨고 있거나, 반대로 너무 자주 깜빡이는 경향을 보였습니다. 최근 기술은 많이 개선됐지만, 여전히 여러 사람이 나오는 영상에서는 특정 인물만 눈을 깜빡이지 않는 등 어색한 모습을 보이기도 합니다.

목소리 역시 중요한 단서입니다. 입 모양과 목소리의 싱크가 미세하게 맞지 않거나, 감정이 격해지는 순간에도 목소리 톤이 로봇처럼 단조롭다면 딥페이크를 의심해볼 만합니다. 기술이 발전할수록 이런 차이는 줄어들겠지만, 아직은 유효한 구별법입니다.

AI 구별, 이제는 ‘습관’이 되어야 한다

소개된 구별법들은 AI 기술이 발전함에 따라 점차 무용지물이 될지도 모릅니다. 손가락 오류는 최신 AI 모델에서는 거의 사라졌고, 빛과 그림자 처리 능력도 하루가 다르게 발전하고 있으니까요. 결국 중요한 것은 특정 기술을 암기하는 것이 아니라, 콘텐츠를 비판적으로 소비하는 태도입니다.

너무 자극적이거나, 현실적으로 믿기 어려운 정보, 혹은 완벽해서 오히려 이상한 콘텐츠를 마주했을 때, ‘이게 정말일까?’ 하고 한 번쯤 멈춰서 생각해보는 습관이 필요합니다. 이미지의 출처를 확인하고, 다른 언론이나 신뢰할 수 있는 기관에서도 같은 내용을 다루는지 교차 확인하는 과정이 자연스러워져야 합니다. AI 시대의 디지털 시민에게는 이제 선택이 아닌 필수 역량인 셈입니다.

출처: The Verge AI