SNS를 내리다가 멈췄다. 인물 사진인데 손가락이 7개였다. 미드저니, 스테이블 디퓨전 같은 AI 이미지 생성기가 일상이 되면서 진짜 사진과 AI가 만든 이미지를 구분하기가 점점 까다로워지고 있다. 유명 매거진에서조차 AI로 만든 인물 초상을 표지에 실어 논란이 된 사건도 이미 있었다. AI 이미지를 걸러내는 능력이 새로운 디지털 리터러시가 됐다. 진짜와 가짜를 갈라놓는 결정적인 단서들, 직접 뜯어봤다.
가장 먼저 손을 보자
AI 이미지 구별법의 고전. 그리고 여전히 효과적이다. 인물의 손을 자세히 보는 것이다. AI는 다른 신체 부위에 비해 손을 그리는 데 유독 약하다. 이유가 복합적이다. 손은 수십 개의 관절로 구성되고, 쥐고 펴는 동작이 복잡하며, 다른 물체에 가려지는 경우도 많다. 학습 데이터 안에서도 깔끔하게 정리된 손 이미지가 상대적으로 부족하다는 점도 한몫한다.
- 손가락 개수: 가장 흔한 실수다. 4개이거나 6개, 심하면 7개까지 나온다.
- 기괴한 형태: 손가락 두 개가 합쳐지거나, 불가능한 각도로 꺾이거나, 비정상적으로 길게 늘어진다.
- 손바닥과 손등: 손바닥이 두 개처럼 보이거나 손등 질감이 지나치게 매끄러워 비닐 장갑 같은 느낌이 나기도 한다.
최신 AI 모델들은 손 생성 능력이 꽤 개선됐다. 그래도 확대해서 들여다보면 어색한 부분이 남아있을 확률이 높다. 의심스러운 이미지를 봤다면 손부터 확대하는 게 습관이다.
물리 법칙이 무너지는 순간
AI는 세상이 어떻게 돌아가는지 실제로 모른다. 방대한 데이터에서 확률적으로 그럴듯한 픽셀 조합을 뽑아낼 뿐이다. 그래서 현실 물리 법칙이나 논리적 개연성을 무너뜨리는 실수를 자주 저지른다.
안경 쓴 인물을 예로 들면, 안경 다리가 귀가 아닌 뺨을 파고드는 그림이 나온다. 안경알 양쪽 디자인이 미묘하게 다르기도 하고. 책을 들고 있으면 책에 적힌 글자가 의미 없는 기호 나열처럼 보인다. AI가 아직 문자 렌더링에 약하다는 증거다. 그림자도 단서가 된다. 물체는 하나인데 그림자가 두 개로 생기거나, 빛의 방향과 그림자 방향이 완전히 엇나가는 경우가 전형적이다. 이건 좀 과한 듯 싶을 정도로 티가 나기도 한다.
배경에 숨어있는 허점
시선은 보통 중심 피사체에 간다. 그런데 AI 이미지의 허점은 배경에 숨어있는 경우가 많다. AI는 이미지 전체를 하나의 픽셀 덩어리로 인식하기 때문에, 중요도가 낮다고 판단한 배경에서 디테일을 뭉개거나 이상하게 조합하는 경향이 있다.
인물 사진 배경에 있는 행인들 얼굴을 자세히 보자. 눈, 코, 입이 뭉개지거나 비대칭인 경우가 자주 보인다. 건물 창문이나 타일 같은 반복 패턴이 중간에 어긋난다든가, 벽과 바닥이 만나는 경계선이 뒤틀려 있는 것도 신호다. 주인공이 아닌 배경 엑스트라와 사물들에 집중하면 의외로 금방 찾아낼 수 있다.
그 특유의 ‘AI 질감’
이건 좀 감각적인 영역이긴 한데, 분명히 존재한다. AI 이미지, 인물 피부에서 가장 두드러진다. 너무 완벽하게 매끄럽다. 전문 리터칭을 과하게 한 것처럼 모공, 잔주름, 미세한 흉터 같은 자연스러운 결점이 전혀 없다. ‘불쾌한 골짜기(Uncanny Valley)’를 건드리는 밀랍 인형 같은 질감이다. 솔직히 여기서 갈리는 경우가 많다.
머리카락도 확인할 만하다. 가닥가닥이 따로 놀지 않고 뭉쳐서 하나의 덩어리처럼 보이거나, 스파게티 면처럼 비현실적인 광택을 띠기도 한다. 전체적으로 모든 게 지나치게 선명하거나, 반대로 부드러운 안개가 낀 듯한 두 가지 느낌이 이상하게 공존하면 AI 작품일 가능성이 크다.
탐지 도구, 참고는 하되 맹신은 금물
눈으로 구분이 안 될 때는 도구를 써볼 수 있다. AI 생성 이미지를 판별해주는 온라인 도구들이 여럿 나와 있다. 이미지를 업로드하면 AI가 분석해 인공지능으로 생성됐을 확률을 알려준다. 이미지의 미세한 픽셀 패턴, 생성 모델 특유의 ‘워터마크’ 같은 흔적을 잡아내는 방식이다.
단, 100% 믿으면 안 된다. AI 이미지 생성 기술이 발전하는 만큼 탐지 기술을 우회하는 방법도 같이 발전한다. 창과 방패의 싸움이다. 탐지 도구 결과는 참고 자료 정도로만 쓰고, 앞서 얘기한 시각적 단서들과 종합해서 판단하는 게 현명하다.
결국 비판적으로 보는 눈이 전부다
AI 이미지를 무조건 배척할 필요는 없다. 창의적인 표현을 위한 도구로서 가치가 있고, 아이디어를 빠르게 시각화하는 데도 쓸모가 크다. 문제는 악의적으로 쓰일 때다. 가짜 뉴스를 퍼뜨리거나 특정 인물을 모함하는 딥페이크가 대표적이다.
온라인에서 보는 이미지를 한 번쯤 의심해보는 시각이 필요해진 시대다. 출처 불명의 자극적인 이미지를 보면 공유하기 전에 잠깐 멈춰라. 손가락 개수가 맞는지, 배경이 이상하지 않은지. 그 짧은 2초가 가짜 정보의 확산을 끊는다. AI 시대에 가장 결정적인 안전장치는 결국 비판적 사고다.
출처: The Verge AI
AI리서치팀
Home-In-One AI리서치팀은 인공지능, 머신러닝, 생성형 AI의 최신 동향과 실용적 활용법을 연구합니다. ChatGPT, 클로드, 미드저니 등 AI 도구 비교 분석과 활용 가이드를 제공합니다.