[태그:] SynthID

페인트를 새로 칠했다는 백악관 기둥 사진이 구글의 AI 워터마크 탐지기에 걸렸다. 도널드 트럼프 미국 대통령이 백악관 보수 공사 성과를 보여주려고 트루스소셜에 올린 ‘복원 전후’ 비교 사진이다. 공사 자체는 실제로 했을 가능성이 남아 있다. 문제가 된 건 그 공사를 증명하려고 올린 사진이다. 탐지기는 이 사진을 AI로 손본 이미지로 판정했다.

계단 수에서 골판지 위치까지, 레딧 이용자들이 찾아낸 네 가지 흔적

트럼프 대통령은 백악관 리모델링 사진 여러 장을 연달아 게시했다. 논란은 그중 한 장에서 시작됐다. 낡은 기둥과 ‘복원된’ 기둥을 나란히 붙인 비교 사진이다. 얼핏 보면 흔한 비포·애프터 이미지다. 레딧 이용자들이 디테일을 하나씩 뜯어보자 수상한 점이 줄줄이 나왔다.

• 계단 수가 맞지 않는다: ‘복원 후’ 사진에서 기둥 왼쪽과 오른쪽의 계단 수가 서로 다르다. ‘복원 전’ 사진과 견줘도 개수가 어긋난다.
• 구도가 사실상 같다: 두 사진의 촬영 각도와 세부 묘사가 거의 똑같다.
• 반사와 소품도 그대로: 창문에 비친 모습이 거의 일치한다. 기둥 아래 깔린 보호용 골판지도 같은 자리에 놓인 것으로 보인다.
• 질감이 부자연스럽다: ‘새로 칠한’ 기둥 표면은 실제 도장 면으로 보기 어려울 만큼 매끈하다.

여기부터는 해석이다. 시간 차를 두고 따로 찍은 두 장이라면 창문 반사와 골판지 위치까지 맞아떨어지기 어렵다. ‘전’ 사진을 바탕으로 기둥 부분만 새로 그려 ‘후’ 사진을 만든 게 아니냐는 의심이 나온 이유다. 어디까지나 정황에 기댄 추정이다. 실제로 어떻게 편집했는지는 아직 밝혀지지 않았다.

구글 SynthID, 기둥 사진에 ‘오픈AI로 제작·편집’ 판정

정황만 쌓였다면 ‘보는 사람 눈에 따라 다르다’는 반론에 묻혔을지도 모른다. 이번에는 탐지기 판정까지 나왔다. 해당 사진은 구글의 AI 탐지 도구에서 “made or edited with OpenAI”라는 결과를 받았다. 오픈AI 도구로 만들었거나 편집했다는 뜻이다. 미국 IT 매체 더버지도 트루스소셜에 올라온 사진을 SynthID 탐지기에 직접 넣어 보고 AI 생성 판정이 나오는 것을 확인했다고 전했다.

SynthID 탐지기는 이미지·영상·오디오에 들어 있는, 눈에 보이지 않는 워터마크를 찾는 도구다. 이 워터마크는 콘텐츠가 AI로 ‘생성 또는 편집’됐다는 표시다. 계단 수나 창문 반사 같은 시각적 단서는 보는 사람마다 해석이 갈린다. 워터마크는 다르다. 파일 자체에 남은 표식이라 증거로서 훨씬 무겁다. 구글이 만든 탐지기가 경쟁사 오픈AI 도구의 흔적을 잡아냈다는 점도 짚어둘 대목이다. 다른 회사 도구로 만든 이미지의 워터마크를 실제로 식별해 낸 사례로 볼 만하다.

게시된 사진	담긴 장면	SynthID 워터마크
기둥 ‘복원 전후’ 비교	낡은 기둥과 새로 칠한 기둥	검출 (오픈AI로 제작·편집)
백악관 외관	백악관 정면 파사드	검출 안 됨
헬기장	백악관 헬기장	검출 안 됨

올라온 사진이 모두 AI 이미지였던 건 아니다. 표에서 보듯 흔적은 성과를 가장 극적으로 보여주는 비교 사진 한 장에서만 나왔다. 트럼프 대통령이 AI 이미지를 쓴 것도 이번이 처음은 아니다. 그는 AI로 만든 자기 캐리커처를 자주 올려 왔다. 백악관도 인종차별적인 AI 밈을 게시한 적이 있다. 시위 참가자가 괴로워하는 것처럼 보이도록 속여 편집한 사진을 올린 적도 최소 한 번 있다.

그렇다고 이번 일을 같은 부류로 묶기는 어렵다. 캐리커처나 밈은 누가 봐도 연출이다. ‘복원 전후’ 사진은 실제 공사 결과를 증명하는 기록 사진처럼 보인다. 대통령 계정이 내건 ‘증거 사진’이 AI 편집물로 판정됐으니, 백악관이 올리는 공식 사진 전반의 신뢰 문제로 번질 소지가 크다고 본다.

국내로 퍼지는 정상 SNS 사진, 이제는 검증부터 해야 한다

트루스소셜 게시물은 뉴스 인용이나 커뮤니티 캡처를 타고 국내에도 금세 퍼진다. 이번 일로 한 나라 정상이 직접 올린 기록 사진도 AI 편집을 거쳤을 가능성이 드러났다. 비슷한 전후 비교 사진을 보게 된다면 이번에 나온 단서를 체크리스트로 쓸 만하다.

• 계단·창문·난간처럼 반복되는 구조물의 개수가 좌우, 전후 사진에서 맞는가
• 다른 시점에 찍었다는 두 사진의 반사, 그림자, 소품 위치가 지나치게 똑같지 않은가
• 보수·청소 ‘후’ 표면이 현실에서 보기 힘들 만큼 매끈하지 않은가

업무에 AI 이미지 편집을 쓰는 직장인도 참고할 만하다. 이번 판정은 오픈AI 도구로 손본 이미지를 다른 회사의 탐지기가 잡아낸 사례다. 홍보물이나 보고서용 사진을 AI로 보정했다면, 눈에 보이지 않는 ‘편집됨’ 표식이 남아 나중에 드러날 수 있다고 생각하는 편이 안전해 보인다(추정). 반대로 워터마크가 안 나왔다고 보정하지 않은 원본이라고 단정해서도 안 된다. 탐지기는 워터마크를 찾는 방식으로 작동한다. 워터마크를 남기지 않는 도구로 고친 사진까지 잡아낸다고 보기는 어렵다.

확인된 것과 아직 불확실한 것

확인된 것

• 트럼프 대통령이 트루스소셜에 백악관 보수 공사 사진 여러 장을 올렸다.
• 그중 기둥 전후 비교 사진이 구글 SynthID 탐지기에서 “made or edited with OpenAI” 판정을 받았다. 언론사가 직접 업로드해 검증했을 때도 AI 생성 판정이 나왔다.
• 함께 올라온 백악관 외관·헬기장 사진에서는 SynthID 워터마크가 검출되지 않았다.
• 6월에 사람들이 백악관 정면을 칠하는 모습을 찍은 실제 사진이 있다.
• 백악관은 논평 요청에 즉시 답하지 않았다.

아직 불확실한 것

• 사진 속 기둥을 실제로 새로 칠했는지
• 누가 어떤 오픈AI 도구로 사진의 어느 부분을 편집했는지
• ‘복원 후’ 사진을 통째로 생성했는지, 원본 일부만 보정했는지
• 백악관이 사진 출처와 편집 경위를 해명할지
• 워터마크가 나오지 않은 나머지 사진들이 보정 없는 원본인지

공사가 진짜라도 증거 사진이 흔들리면 성과도 흔들린다

아이러니하게도 공사 자체는 진짜였을지도 모른다. 6월에 사람들이 백악관 정면을 칠하는 장면이 실제로 사진에 찍혔다. 그러니 기둥에도 새 페인트를 칠했을 가능성은 충분하다. 하지만 그 결과를 보여주는 사진을 AI로 다듬는 순간 실제로 한 공사까지 의심받게 된다.

당장 지켜볼 것은 백악관의 답변이다. 지금까지 확인된 건 논평 요청에 즉시 답하지 않았다는 사실뿐이다. 실제로 찍은 원본을 공개한다면 논란은 ‘과한 보정’ 정도로 정리될 가능성이 있다. 아무 설명 없이 시간이 지나면 사정이 달라진다. 공식 계정이 올리는 사진마다 검증 요구가 따라붙을 것으로 보인다. 어느 쪽이든 AI 워터마크 탐지가 정치 콘텐츠를 검증하는 실제 도구로 쓰이기 시작했다는 신호로 읽힌다.

출처: The Verge