AI 이미지 생성 도구 하나면 몇 초 만에 그럴듯한 가짜 사진이 나온다. 텍스트든 이미지든 영상이든, 이제 육안으로 진짜와 가짜를 가르기가 쉽지 않다. 정교하게 조작된 콘텐츠는 소셜미디어를 타고 순식간에 퍼진다. 정부와 플랫폼 기업은 이걸 걸러내는 방법을 놓고 계속 부딪힌다. 실전에서 써먹을 수 있는 구별법과 관련 용어, 그리고 논쟁의 핵심까지 정리해봤다.
가짜뉴스도 종류가 다르다 — 미스인포메이션 vs 디스인포메이션
가짜뉴스를 부르는 말이 하나가 아니다. 미스인포메이션(misinformation)은 퍼뜨리는 사람한테 악의가 없는 경우를 가리킨다. 잘못 알고 그냥 공유해버리는 흔한 사례가 여기 속한다. 반대로 디스인포메이션(disinformation)은 다르다. 여론을 흔들거나 특정 세력한테 이득을 주려고 일부러 만들어 퍼뜨리는 허위 정보다. 국가가 뒤에서 벌이는 정보전에서 자주 쓰이는 용어이기도 하다.
여기에 하나 더, 맬인포메이션(malinformation)이라는 개념도 있다. 사실이긴 한데 맥락을 왜곡해서 해를 끼치려는 목적으로 유포되는 정보를 뜻한다. 사적인 정보를 짜깁기해 특정 인물을 저격하는 식이다. 세 용어를 구분해둬야 관련 정책 기사나 팩트체크 보도를 제대로 읽어낼 수 있다.
AI는 가짜뉴스를 어디까지 정교하게 만드나
생성형 AI가 나오기 전엔 조작된 이미지나 영상 하나 만들려 해도 편집 기술이 필요했다. 지금은? 텍스트 프롬프트 몇 줄만 입력하면 실제 인물의 얼굴과 목소리를 합성한 딥페이크 영상이 몇 분 안에 나온다. 대규모언어모델(LLM)은 그럴듯한 문체로 가짜 기사를 대량 찍어내는 데도 쓰인다. 이 정도면 웬만한 전문가도 한 번에 못 알아챈다.
- 텍스트: 실제 언론사 문체를 흉내 낸 가짜 기사, 봇 계정으로 대량 유포
- 이미지: 실존하지 않는 인물이나 사건을 담은 합성 사진
- 음성·영상: 정치인이나 유명인의 발언을 조작한 딥페이크
텍스트 가짜뉴스, 체크포인트 3가지만 기억하자
첫째, 출처부터 본다. 기사 하단에 기자명과 발행사가 적혀 있는지, 그 매체가 실제로 검색되는 언론사인지 확인한다. 둘째, 교차 확인. 같은 내용을 다른 매체에서도 다뤘는지 찾아본다. 단독 매체 한 곳에서만 도는 자극적인 소식은 일단 의심하고 보는 게 맞다. 셋째, 제목과 본문이 맞는지 본다. 감정을 자극하는 제목에 비해 실제 팩트가 빈약하면, 조작 가능성이 높다.
이미지·영상 딥페이크, 여기서 허점이 드러난다
딥페이크 영상은 눈 깜빡임 빈도, 조명과 그림자의 부자연스러움, 입 모양과 음성 사이 미세한 싱크 오차에서 허점이 드러나는 경우가 많다. 이미지라면 구글 렌즈(Google Lens)나 틴아이(TinEye) 같은 역이미지 검색 도구로 원본 출처를 추적할 수 있다. 영상 검증이 필요할 땐 InVID-WeVerify 같은 브라우저 확장 프로그램이 쓸만하다. 프레임 단위 분석이나 메타데이터 확인까지 되니까.
팩트체크 사이트, 이 정도는 즐겨찾기 해두자
직접 검증하기 어려운 소식은 팩트체크 전문 기관을 거치는 편이 빠르다.
- SNU 팩트체크: 서울대 언론정보연구소가 운영하는 국내 언론 협업 검증 플랫폼
- 네이버 팩트체크: 포털 안에서 이슈별 검증 기사를 모아 보여주는 서비스
- 구글 팩트체크 익스플로러: 전 세계 팩트체크 매체의 검증 결과를 키워드로 검색
- 스노프스(Snopes): 해외발 루머와 도시전설까지 폭넓게 다루는 원조 팩트체크 사이트
정부 규제 vs 표현의 자유, 이 논쟁이 안 끝나는 이유
정부 차원에서 허위정보 대응 조직을 두는 나라가 늘고 있다. 선거철 외국발 정보 조작이나 공중보건 관련 허위정보를 추적한다는 명분이다. 문제는 이 조직의 판단 기준이 불투명할 때 터진다. 정부나 플랫폼이 특정 정치 성향 콘텐츠만 골라 걸러낸다는 의혹이 나오면, 논쟁은 곧장 검열 시비로 번진다. 미국에서는 이런 대응 체계를 두고 ‘검열산업복합체(censorship-industrial complex)’라는 말까지 나왔다. 정부 기관과 빅테크, 학계 연구기관이 손잡고 특정 여론을 억누른다는 비판적 시선을 담은 조어다.
유럽연합은 디지털서비스법(DSA)으로 플랫폼에 허위정보 대응 의무를 지운다. 반면 미국은 수정헌법 1조에 따른 표현의 자유 침해 여부를 놓고 정부 개입 자체에 회의적인 목소리가 크다. 둘 중 어느 쪽이 맞는지는 아직 결론이 안 났다. 솔직히 여기서 갈린다. 콘텐츠 검증 책임을 정부, 플랫폼, 이용자 중 누가 얼마나 짊어져야 하는지에 대한 답이 지역마다 다르기 때문이다.
자주 나오는 질문들
Q. 팩트체크 사이트도 편향될 수 있나?
가능하다. 팩트체크 기관도 특정 이슈를 어떻게 고르고 해석하느냐를 두고 편향 논란을 겪는다. 한 곳의 판정만 믿기보다 여러 매체의 검증 결과를 비교하는 습관, 이게 안전하다.
Q. 딥페이크 탐지 AI는 얼마나 정확한가?
탐지 모델과 생성 모델은 서로 학습하며 발전하는 관계다. 쫓고 쫓기는 셈이다. 현재 상용 탐지 도구의 정확도는 콘텐츠 종류와 조작 수준에 따라 편차가 크다. 도구 하나에만 기대지 않는 게 좋다.
Q. 개인이 허위정보 유포에 연루되면 법적 책임이 있나?
나라마다 다르다. 다만 명백한 허위 사실 적시로 명예훼손이나 업무방해에 해당하면 처벌로 이어진 사례도 있다. 단순히 공유만 했더라도 악의적 의도가 확인되면 책임을 피하기 어렵다.
AI리서치팀
Daily News Korea AI리서치팀은 인공지능, 머신러닝, 생성형 AI의 최신 동향과 실용적 활용법을 연구합니다. ChatGPT, 클로드, 미드저니 등 AI 도구 비교 분석과 활용 가이드를 제공합니다.