[태그:] AI

세포 37조 개. 사람 몸 하나에 들어있는 세포 수다. 이 세포 하나하나가 어떤 유전자를 켜고 끄는지 낱낱이 기록해서 지도로 만들겠다는 프로젝트가 몇 년째 전 세계 연구소를 끌어모으고 있다. 이름하여 ‘휴먼 셀 아틀라스(Human Cell Atlas)’. 그런데 이 지도, 성인 데이터에만 쏠려 있다는 지적이 나오면서 소아·발달 단계 세포를 채워 넣으려는 움직임이 최근 이어지는 중이다. 세포 지도가 정확히 뭐고, AI가 왜 여기서 필수 도구로 쓰이는지 짚어본다.

휴먼 셀 아틀라스, 뭘 만들겠다는 건가

휴먼 셀 아틀라스는 2016년 무렵 시작된 국제 컨소시엄 프로젝트다. 목표는 단순하다. 인체에 존재하는 세포 유형을 종류별로 빠짐없이 분류하고, 각 세포가 어떤 유전자를 발현하는지 기록해서 하나의 참조 지도로 묶는 것. 화학에 주기율표가 있듯, 생물학에도 기준표 하나 만들겠다는 발상이다. 스케일이 좀 큰가 싶지만, 실제로 영국 웰컴 트러스트 생어 연구소를 비롯해 전 세계 수십 개 기관이 이미 뛰어들었다. 지금까지 공개된 세포 데이터만 수천만 건. 적은 숫자가 아니다.

지도를 그리는 핵심 기술, 단일세포 시퀀싱

단일세포 RNA 시퀀싱(scRNA-seq)이 이 지도의 뼈대다. 예전 유전자 분석은 조직 하나를 통째로 갈아서 평균값을 뽑는 식이었다. 세포 수천 개가 뒤섞인 채로 측정하니 개별 세포의 개성은 죄다 뭉개졌던 셈. 단일세포 시퀀싱은 세포를 하나씩 분리해서 각각의 유전자 발현을 따로 읽어낸다. 덕분에 같은 조직 안에서도 전혀 다른 역할을 하는 세포 아형(subtype)까지 구분해낸다. 시퀀싱 비용이 10년 전보다 수십 분의 1로 떨어진 것도 이 프로젝트가 현실이 될 수 있었던 배경 중 하나다.

AI 없이는 애초에 불가능했던 작업

세포 하나당 측정되는 유전자는 2만 개가 넘는다. 여기에 수백만 개 세포 데이터가 쌓이면 사람 손으로 일일이 분류하는 건 사실상 불가능하다. 그래서 이 작업의 대부분을 머신러닝이 떠맡는다. UMAP이나 t-SNE 같은 차원 축소 알고리즘으로 비슷한 발현 패턴의 세포를 묶고, 분류 모델이 세포 유형에 이름을 붙이는 식이다. 최근엔 scGPT, Geneformer처럼 유전자 발현 데이터로 사전학습한 생물학 파운데이션 모델까지 나왔다. 처음 보는 조직의 세포도 기존 지도와 대조해 유형을 추정하는 수준까지 왔다는 얘기다. 텍스트 대신 유전자 발현 벡터를 학습한 언어모델, 이라고 생각하면 이해가 빠르다.

성인 지도만으론 부족했다 — 소아·발달 데이터의 빈틈

MIT 테크놀로지 리뷰가 다룬 사례를 보면, 필라델피아 아동병원 소속 연구자가 이 빈틈을 알아챈 경위도 비슷하다. 지금까지 쌓인 데이터 대부분이 성인 조직에서 나왔다는 게 문제였다. 태아기부터 청소년기까지 세포가 분화하고 조직이 자라는 과정은 성인 세포와 발현 패턴 자체가 다르다. 소아암, 선천성 심장질환, 발달장애처럼 어린 시기에만 나타나는 질환을 연구하려면 그 시기의 세포 지도가 따로 필요한데, 정작 그 구간이 텅 비어 있었던 것. 요즘 태아·영유아·청소년 단계 세포를 모아 별도의 소아 세포 지도를 구축하려는 연구가 속도를 내는 이유다. 성장 과정을 시간순으로 담은 지도가 생기면, 특정 유전자가 언제 켜지고 꺼지는지까지 추적하는 일도 가능해진다.

세포 지도, 실제로 어디에 쓰이나

이렇게 완성된 지도는 논문 속에만 머무르지 않는다. 실제 활용처를 꼽아보면 이렇다.

• 신약 타깃 발굴: 질병 조직에만 특이적으로 나타나는 세포와 유전자를 찾아내면, 그 유전자를 겨냥한 치료제 후보를 훨씬 빠르게 좁힐 수 있다.
• 희귀질환 진단: 정상 세포 지도와 환자 세포 데이터를 비교해서 어느 단계에서 발달이 어긋났는지 짚어낸다.
• 암 조기 발견: 암세포로 변하기 직전 단계의 미세한 유전자 발현 변화를, 정상 지도와 대조해 잡아낸다.
• 재생의료: 특정 세포를 인공적으로 배양할 때, 진짜 그 세포가 맞는지 검증하는 기준표로 쓴다.

바이오인포매틱스, 커리어로 볼 만한가

이 판이 커지면서 자연스럽게 뜨는 직군이 바이오인포매틱스다. 생물학 지식만으로는 부족하다. 파이썬이나 R로 대용량 유전체 데이터를 다루는 능력, 여기에 머신러닝 모델을 직접 돌려볼 줄 아는 역량까지 겹쳐야 몸값이 오른다. 국내에서도 제약사와 바이오 스타트업 중심으로 단일세포 데이터 분석 경력자를 찾는 채용 공고가 꾸준히 올라온다. 순수 개발자 출신이 이 분야로 넘어가는 사례도 늘고 있다. 데이터 엔지니어링이나 ML 파이프라인 구축 경험이 생물학 도메인 지식보다 먼저 통하는 경우도 많다고 한다. 생물학은 일하면서 배워도 늦지 않다는 얘기, 현업 연구자들에게서 은근히 자주 듣는다.

출처: MIT Tech Review AI

지하주차장 입구, 차단기 옆 카메라가 번호판을 찍는다. 톨게이트도 마찬가지고, 대형마트 주차장 들어갈 때도 똑같다. 이게 ALPR, 번호판 자동인식 시스템이다. 최근 미국에서는 이 기술을 운영하는 대표 업체가 경찰의 데이터 접근 권한을 스스로 줄였다는 소식이 나왔다. 카메라가 실제로 뭘 얼마나 모으고 누가 들여다보는지, 궁금해하는 사람이 확실히 늘었다는 뜻이다. 국내도 CCTV와 번호판 인식기가 촘촘히 깔린 건 마찬가지라, 원리와 논란을 한번 정리해본다.

번호판 자동인식 카메라, 정확히 뭐길래

ALPR은 Automatic License Plate Recognition의 줄임말. 카메라로 찍은 번호판을 광학문자인식(OCR)으로 텍스트 데이터로 바꾸는 시스템이다. 국내에서는 보통 차량번호 자동인식 시스템, 번호판 인식기 정도로 부른다. 핵심은 단순 촬영이 아니라 데이터화라는 점이다. 이미지를 문자로 바꿔서 데이터베이스에 저장하면, 어떤 차가 언제 어디를 지나갔는지 시간과 장소가 같이 남는다. 사진 한 장이 아니라 이동 기록이 쌓이는 구조. 일반 CCTV와는 바로 이 지점에서 갈린다.

작동 원리는 의외로 단순하다

동작 방식은 크게 3단계다.

• 적외선 카메라로 야간이나 역광에도 번호판을 선명하게 촬영한다
• OCR 소프트웨어가 이미지 속 문자와 숫자를 인식해 텍스트로 변환한다
• 변환된 번호를 데이터베이스와 대조해 수배차량, 도난차량, 주차 정산 대상 등을 가려낸다

이 과정이 차량 한 대당 1초 안팎에 끝난다. 그러니 고속도로 톨게이트처럼 차가 쌩쌩 지나가는 구간에서도 별 무리 없이 돌아간다.

어디까지 깔려 있나

생각보다 범위가 넓다. 이쯤 되면 안 걸리는 게 이상할 지경이다.

• 아파트·오피스텔 지하주차장 출입 관제
• 고속도로 하이패스·무정차 통행료 정산
• 대형마트, 백화점 주차 할인 자동 적용
• 경찰의 수배·도난 차량 조회
• 속도위반, 신호위반 등 교통법규 단속

일상에서 마주치는 카메라 대부분, 이미 이 기술 쓴다고 보면 된다.

왜 갑자기 시끄러워졌나

문제는 이 데이터가 누구 손에, 얼마나 오래 남느냐다. 미국에서는 경찰이 아니라 민간 업체가 전국 단위로 번호판 데이터를 모아 지방정부와 연방기관에 파는 구조 자체가 도마에 올랐다. 대표적으로 한 번호판 인식 업체는 이민 단속 기관이나 특정 수사기관이 별다른 제한 없이 위치 이력을 조회하게 열어뒀다가 시민단체 반발을 샀다. 이 대목에서 좀 소름 돋는다. 결국 경찰 접근 권한을 축소하는 쪽으로 정책을 바꿨다. 우려는 크게 세 가지로 압축된다.

• 영장 없이 특정 차량의 이동 경로를 몇 달치씩 조회할 수 있다는 점
• 수집된 데이터가 필요 이상으로 오래 보관되거나 제3자에게 넘어갈 수 있다는 점
• 범죄 수사가 아니라 이민자, 시위 참가자 등 특정 집단을 추적하는 데 악용될 여지가 있다는 점

국내는 좀 다를까

한국은 인구 대비 CCTV 밀집도가 세계적으로 높은 축에 속한다. 개인정보보호법에 CCTV 설치·운영 기준이 있긴 하지만, 번호판 인식 데이터를 얼마나 보관하고 어떻게 쓰는지는 기관마다 제각각이다. 아파트 관리사무소, 마트, 경찰이 각자 다른 기준으로 데이터를 다루다 보니, 정작 내 차량 정보가 어디까지 남아있는지 파악하기 힘든 구조다.

내 번호판 정보, 어디까지 남았는지 확인하는 법

불안하다고 손 놓고 있을 필요는 없다. 실제로 확인하고 요청할 수 있는 절차가 마련돼 있다.

• 개인정보보호위원회 홈페이지에서 개인정보 열람·삭제 청구가 가능하다
• 아파트나 상가 관리사무소에는 CCTV 운영방침 열람을 요청할 권리가 있다
• 부당한 데이터 활용이 의심되면 국민신문고를 통해 민원을 제기할 수 있다
• 차량용 블랙박스나 내비게이션 앱의 위치 기록 공유 설정도 함께 점검해두면 좋다

결국 핵심은 기술이 아니라 관리 방식

ALPR 자체는 도난 차량 찾고, 통행료 자동 정산하고, 주차장 출입 편하게 만드는 실용적인 기술이다. 기술 자체를 없애자는 논의로 흘러가는 경우는 거의 없다. 당연한 얘기다. 진짜 쟁점은 누가 데이터를 얼마나 오래 쥐고 있고, 어떤 절차로 조회하느냐다. 해외에서 벌어진 규제 강화 움직임도 결국 이 지점을 겨냥한 거다. 국내에서도 번호판 인식 데이터의 보관 기간과 접근 권한을 명확히 하자는 논의가 이어질 가능성이 크다. 차를 몰고 다니는 이상 이 카메라들과 마주치는 일을 피하긴 어렵다. 다만 내 정보가 어떻게 쓰이는지 확인하는 습관 정도는 들여둘 만하다.

출처: MIT Tech Review AI

기업 10곳 중 8곳이 AI 에이전트를 검토 중이거나 이미 쓰고 있다고 답했다. 실험 단계는 진작에 지났다는 뜻이다. 근데 진짜 문제는 그 다음부터다. 도입은 했는데, 기대했던 성과가 안 나온다는 하소연이 여기저기서 들린다. 원인을 하나씩 파고 들어가 보면 결국 한 지점에서 막힌다. 데이터.

챗봇이랑 뭐가 다른데?

AI 에이전트랑 챗봇을 같은 걸로 착각하는 사람, 생각보다 많다. 챗봇은 물어보면 답만 한다. 에이전트는 다르다. 스스로 판단하고, 여러 단계를 거쳐 실제로 일을 처리한다.

• 고객 문의를 읽고 환불 규정 확인한 다음, 진짜로 환불까지 처리
• 재고 데이터 조회해서 부족한 품목을 발주 시스템에 자동 등록
• 코드 저장소 뒤져서 버그 찾고 수정안까지 작성

핵심은 행동이다. 대답만 던지고 끝나는 게 아니라 실제 시스템을 건드린다. 이 지점에서 챗봇과는 완전히 다른 물건이 된다.

데이터가 왜 생사여탈권을 쥐고 있나

에이전트가 알아서 움직인다는 건 양날의 검이다. 데이터가 정확하면 업무 속도는 몰라보게 빨라진다. 근데 데이터가 틀렸거나 오래됐으면? 그 오류가 그대로 실행된다. 챗봇이 이상한 답을 뱉으면 사람이 걸러내고 넘어가면 그만이다. 에이전트는 걸러낼 틈도 없이 주문을 넣고, 이메일을 보내고, 시스템 값을 바꿔버린다. 되돌리기 번거로운 일들이다.

MIT 테크놀로지 리뷰가 짚은 대로, 에이전트 프로젝트의 ROI는 모델 성능보다 데이터 인프라 쪽에 달려 있는 경우가 많다고 한다. 아무리 좋은 모델을 붙여놔도 참조하는 데이터가 사일로에 갇혀 있거나 갱신이 느리면, 결과물은 부실할 수밖에 없다. 모델 탓이 아니라는 얘기다.

도입한 기업들, 다 이 벽에 걸린다

실제 사례를 뜯어보면 패턴이 비슷하다.

• 데이터 사일로 — 부서마다 다른 시스템에 데이터가 흩어져 있어서 에이전트가 전체 그림을 못 본다
• 신선도 부족 — 하루 한 번 배치로 갱신되는 데이터를 실시간 판단에 쓰다 보니 엇박자가 난다
• 권한 관리 공백 — 누가 어떤 데이터에 접근해서 뭘 했는지 추적이 안 되는 경우가 태반이다

이 셋 중 하나만 걸려도 프로젝트는 파일럿 단계에서 멈춘다. 셋 다 걸리면? 말할 것도 없다.

믿고 쓸 만한 데이터 인프라, 조건은 네 가지

에이전트를 실전에 투입하려면 최소 이 네 가지는 갖춰야 한다.

• 정확성 — 출처가 검증된 데이터, 중복이나 오류 없는 값
• 접근성 — API나 MCP(Model Context Protocol) 같은 표준 연동으로 여러 시스템을 한 창구에서 조회
• 거버넌스 — 누가 뭘 봤고 뭘 바꿨는지 남는 감사 로그, 세밀한 권한 설정
• 실시간성 — 재고, 가격, 상태값처럼 자주 바뀌는 데이터는 최소 몇 분 단위로 갱신

개인적으로 이 넷 중에서 거버넌스를 제일 늦게 챙기다가 뒤통수 맞는 조직, 진짜 많이 봤다. 초반엔 다들 정확성이랑 속도에만 매달린다. 그러다 에이전트가 잘못된 권한으로 민감 데이터를 건드리는 사고가 한 번 터지면, 그제서야 부랴부랴 손보기 시작한다. 순서가 항상 거꾸로다.

도입 전에 체크해야 할 것들

실무에서 바로 써먹을 수 있는 점검 항목이다.

• 에이전트가 접근할 데이터 소스 목록, 전부 파악했는가
• 각 데이터의 갱신 주기와 신뢰도를 알고 있는가
• 잘못된 행동을 했을 때 되돌릴 롤백 절차가 있는가
• 사람이 최종 승인해야 하는 액션과 자동 실행해도 되는 액션, 구분해뒀는가
• 파일럿 성공 여부를 판단할 명확한 KPI(처리 시간, 오류율, 비용 절감액 등)를 세웠는가

결국 남는 조직과 사라지는 조직

성과 낸 조직들 보면 접근 방식이 비슷하다. 전사 도입부터 밀어붙이지 않는다. 반복 업무 하나 골라서 좁게 시작한다. 그 안에서 데이터 파이프라인 다듬고 거버넌스 체계 검증한 다음에야 범위를 넓힌다. 처음부터 완벽한 데이터 인프라 갖추고 시작하는 조직, 거의 없다. 작은 실패를 빨리 겪고 고쳐나가는 속도. 그게 결과를 가른다.

궁금할 만한 것들

Q. AI 에이전트 도입에 꼭 대규모 데이터팀이 필요한가?
아니다. 소규모 팀도 데이터 소스를 3~4개로 좁혀서 시작하면 충분히 검증 가능하다. 규모보다 데이터 정합성 체크 프로세스가 있느냐가 관건이다.

Q. RAG(검색증강생성)만 잘 구축하면 데이터 문제는 해결되나?
RAG는 참조용 데이터를 잘 찾아오는 기술이다. 그 데이터 자체의 정확성이나 신선도까지 보장해주는 건 아니다. 소스 데이터 관리가 먼저다.

Q. 기존 챗봇 시스템에서 에이전트로 넘어갈 때 뭐부터 바꿔야 하나?
권한 체계부터 다시 짜는 걸 추천한다. 챗봇은 답변만 하지만 에이전트는 실행 권한을 갖는다. 기존의 느슨한 접근 제어를 그대로 가져가면, 사고 확률이 확 올라간다.

출처: MIT Tech Review AI

2017년, 구글 연구진이 트랜스포머 구조를 세상에 내놨다. 벌써 9년 전 일이다. 그런데 지금 나오는 AI 모델을 보면, 거의 다 이 뼈대를 그대로 쓴다. GPT 계열도, 제미나이도, 클로드도 예외는 없다. 근데 최근 분위기가 좀 달라졌다. 이 표준에 도전장을 내미는 스타트업들이 하나둘 늘고 있어서다. 트랜스포머 다음은 뭐가 될지, 학계 연구 흐름은 어디로 튀고 있는지 한번 정리해봤다.

왜 다들 트랜스포머를 쓰나

핵심은 셀프 어텐션(self-attention)이다. 문장 안의 모든 단어가 서로 얼마나 관련 있는지, 한 번에 계산해버리는 방식. 이 덕분에 GPU로 병렬 학습이 가능해졌고, 학습 속도가 확 빨라졌다. 데이터랑 연산량을 늘리면 성능이 예측 가능한 곡선을 그리며 좋아진다는 ‘스케일링 법칙’도 여기서 나왔다. 오픈AI, 구글, 앤스로픽… 다 이 위에 모델을 쌓아 올린 이유다.

근데 약점도 뚜렷하다

문제는 셀프 어텐션의 연산량이 입력 길이의 제곱에 비례한다는 것. 문장이 두 배 길어지면 연산량은 네 배로 뛴다. 긴 문서, 긴 대화를 다룰수록 메모리와 비용이 기하급수적으로 불어난다. 긴 문맥 창 지원한다고 광고하는 모델일수록, 뒤에서는 추론 비용이 만만치 않게 들어간다. 이건 좀 아이러니한 부분이다. 실시간 응답이 필요한 서비스나 스마트폰 같은 온디바이스 환경에서는, 이 구조가 부담스러울 수밖에.

그래서 나온 대안들, 뭐가 다를까

• SSM(상태공간모델): 대표주자는 Mamba다. 연산량이 입력 길이에 비례해서 늘어난다. 긴 시퀀스 처리에 유리한 이유다.
• MoE(전문가 혼합): 전체 파라미터 중 일부만 골라 활성화하는 방식. 미스트랄의 Mixtral이 대표적이다. 모델은 크게 키우되, 실제 연산은 아껴 쓰는 셈.
• RWKV: RNN 구조를 현대적으로 재해석했다. 추론 비용 낮추는 데 초점을 맞췄다.
• 하이브리드 구조: 트랜스포머 레이어 사이에 SSM을 섞는다. AI21의 Jamba가 대표 사례.

스타트업들이 새 구조에 뛰어드는 진짜 이유

빅테크만큼 GPU를 쌓아둘 수 없는 스타트업 입장에서, 연산 효율은 곧 생존 문제다. 추론 비용을 낮추면 그만큼 서비스 마진을 확보할 여지가 생긴다. 음성 AI 스타트업 카르테시아(Cartesia)가 SSM 기반 모델을 밀고 있는 것도, AI21이 하이브리드 구조 Jamba를 내놓은 것도 다 이런 배경에서다. 코드 생성, 음성 처리, 로봇 제어처럼 특정 영역에 특화된 모델을 만들 때는, 범용 트랜스포머보다 목적에 맞춘 구조가 훨씬 잘 먹힌다.

학계 연구 흐름도 슬쩍 바뀌는 중

초대형 모델을 처음부터 학습시키려면 수백억 원대 연산 비용이 든다. 대학 연구실이 감당할 규모가 아니다. 그러다 보니 새 아키텍처를 밑바닥부터 설계하는 연구는, 빅테크와 자금력 있는 스타트업 쪽으로 무게중심이 옮겨갔다. 대신 학계는 다른 쪽으로 눈을 돌렸다. 모델 성능을 검증하는 벤치마크 설계, 모델 내부가 어떻게 작동하는지 뜯어보는 해석가능성 연구, 그리고 작은 모델로도 성능을 끌어올리는 경량화·압축 연구. 메타나 미스트랄 같은 곳이 모델 가중치를 오픈소스로 풀면서, 학계도 실험할 발판을 얻은 게 이 흐름을 거들었다.

그래서 실무자는 지금 뭘 챙겨야 하나

특정 API 하나에만 발 담그기보다, 아키텍처별 특성을 알아두는 편이 낫다. 긴 문서나 긴 대화 이력을 다루는 서비스를 만든다면, SSM이나 하이브리드 계열 모델을 한번 벤치마크 해볼 만하다. 비용이 서비스 마진을 좌우하는 구조라면, MoE 기반 모델부터 검토하는 게 맞다. 이 부분은 직접 벤치마크 돌려보면 확실히 체감된다. 허깅페이스 트렌딩 모델이나 오픈소스 리더보드를 주기적으로 훑어보는 것만으로도, 흐름을 놓치지 않을 수 있다.

그럼 트랜스포머는 없어지나

아니다. 당장은. 트랜스포머는 여전히 압도적 다수 모델의 기반이고, 생태계와 도구가 가장 잘 갖춰진 구조다. 다만 모든 상황에 다 맞는 만능 구조는 아니라는 공감대가 커지는 중이다. 앞으로는 상황에 맞춰 SSM, MoE, 하이브리드를 섞어 쓰는 쪽으로 재편될 가능성이 높다. 어떤 구조가 표준이 되든, 그 변화를 먼저 알아채는 쪽이 서비스 설계에서 유리한 고지를 차지하게 될 거다.

출처: MIT Tech Review AI

AI 이미지 생성 도구 하나면 몇 초 만에 그럴듯한 가짜 사진이 나온다. 텍스트든 이미지든 영상이든, 이제 육안으로 진짜와 가짜를 가르기가 쉽지 않다. 정교하게 조작된 콘텐츠는 소셜미디어를 타고 순식간에 퍼진다. 정부와 플랫폼 기업은 이걸 걸러내는 방법을 놓고 계속 부딪힌다. 실전에서 써먹을 수 있는 구별법과 관련 용어, 그리고 논쟁의 핵심까지 정리해봤다.

가짜뉴스도 종류가 다르다 — 미스인포메이션 vs 디스인포메이션

가짜뉴스를 부르는 말이 하나가 아니다. 미스인포메이션(misinformation)은 퍼뜨리는 사람한테 악의가 없는 경우를 가리킨다. 잘못 알고 그냥 공유해버리는 흔한 사례가 여기 속한다. 반대로 디스인포메이션(disinformation)은 다르다. 여론을 흔들거나 특정 세력한테 이득을 주려고 일부러 만들어 퍼뜨리는 허위 정보다. 국가가 뒤에서 벌이는 정보전에서 자주 쓰이는 용어이기도 하다.

여기에 하나 더, 맬인포메이션(malinformation)이라는 개념도 있다. 사실이긴 한데 맥락을 왜곡해서 해를 끼치려는 목적으로 유포되는 정보를 뜻한다. 사적인 정보를 짜깁기해 특정 인물을 저격하는 식이다. 세 용어를 구분해둬야 관련 정책 기사나 팩트체크 보도를 제대로 읽어낼 수 있다.

AI는 가짜뉴스를 어디까지 정교하게 만드나

생성형 AI가 나오기 전엔 조작된 이미지나 영상 하나 만들려 해도 편집 기술이 필요했다. 지금은? 텍스트 프롬프트 몇 줄만 입력하면 실제 인물의 얼굴과 목소리를 합성한 딥페이크 영상이 몇 분 안에 나온다. 대규모언어모델(LLM)은 그럴듯한 문체로 가짜 기사를 대량 찍어내는 데도 쓰인다. 이 정도면 웬만한 전문가도 한 번에 못 알아챈다.

• 텍스트: 실제 언론사 문체를 흉내 낸 가짜 기사, 봇 계정으로 대량 유포
• 이미지: 실존하지 않는 인물이나 사건을 담은 합성 사진
• 음성·영상: 정치인이나 유명인의 발언을 조작한 딥페이크

텍스트 가짜뉴스, 체크포인트 3가지만 기억하자

첫째, 출처부터 본다. 기사 하단에 기자명과 발행사가 적혀 있는지, 그 매체가 실제로 검색되는 언론사인지 확인한다. 둘째, 교차 확인. 같은 내용을 다른 매체에서도 다뤘는지 찾아본다. 단독 매체 한 곳에서만 도는 자극적인 소식은 일단 의심하고 보는 게 맞다. 셋째, 제목과 본문이 맞는지 본다. 감정을 자극하는 제목에 비해 실제 팩트가 빈약하면, 조작 가능성이 높다.

이미지·영상 딥페이크, 여기서 허점이 드러난다

딥페이크 영상은 눈 깜빡임 빈도, 조명과 그림자의 부자연스러움, 입 모양과 음성 사이 미세한 싱크 오차에서 허점이 드러나는 경우가 많다. 이미지라면 구글 렌즈(Google Lens)나 틴아이(TinEye) 같은 역이미지 검색 도구로 원본 출처를 추적할 수 있다. 영상 검증이 필요할 땐 InVID-WeVerify 같은 브라우저 확장 프로그램이 쓸만하다. 프레임 단위 분석이나 메타데이터 확인까지 되니까.

팩트체크 사이트, 이 정도는 즐겨찾기 해두자

직접 검증하기 어려운 소식은 팩트체크 전문 기관을 거치는 편이 빠르다.

• SNU 팩트체크: 서울대 언론정보연구소가 운영하는 국내 언론 협업 검증 플랫폼
• 네이버 팩트체크: 포털 안에서 이슈별 검증 기사를 모아 보여주는 서비스
• 구글 팩트체크 익스플로러: 전 세계 팩트체크 매체의 검증 결과를 키워드로 검색
• 스노프스(Snopes): 해외발 루머와 도시전설까지 폭넓게 다루는 원조 팩트체크 사이트

정부 규제 vs 표현의 자유, 이 논쟁이 안 끝나는 이유

정부 차원에서 허위정보 대응 조직을 두는 나라가 늘고 있다. 선거철 외국발 정보 조작이나 공중보건 관련 허위정보를 추적한다는 명분이다. 문제는 이 조직의 판단 기준이 불투명할 때 터진다. 정부나 플랫폼이 특정 정치 성향 콘텐츠만 골라 걸러낸다는 의혹이 나오면, 논쟁은 곧장 검열 시비로 번진다. 미국에서는 이런 대응 체계를 두고 ‘검열산업복합체(censorship-industrial complex)’라는 말까지 나왔다. 정부 기관과 빅테크, 학계 연구기관이 손잡고 특정 여론을 억누른다는 비판적 시선을 담은 조어다.

유럽연합은 디지털서비스법(DSA)으로 플랫폼에 허위정보 대응 의무를 지운다. 반면 미국은 수정헌법 1조에 따른 표현의 자유 침해 여부를 놓고 정부 개입 자체에 회의적인 목소리가 크다. 둘 중 어느 쪽이 맞는지는 아직 결론이 안 났다. 솔직히 여기서 갈린다. 콘텐츠 검증 책임을 정부, 플랫폼, 이용자 중 누가 얼마나 짊어져야 하는지에 대한 답이 지역마다 다르기 때문이다.

자주 나오는 질문들

Q. 팩트체크 사이트도 편향될 수 있나?
가능하다. 팩트체크 기관도 특정 이슈를 어떻게 고르고 해석하느냐를 두고 편향 논란을 겪는다. 한 곳의 판정만 믿기보다 여러 매체의 검증 결과를 비교하는 습관, 이게 안전하다.

Q. 딥페이크 탐지 AI는 얼마나 정확한가?
탐지 모델과 생성 모델은 서로 학습하며 발전하는 관계다. 쫓고 쫓기는 셈이다. 현재 상용 탐지 도구의 정확도는 콘텐츠 종류와 조작 수준에 따라 편차가 크다. 도구 하나에만 기대지 않는 게 좋다.

Q. 개인이 허위정보 유포에 연루되면 법적 책임이 있나?
나라마다 다르다. 다만 명백한 허위 사실 적시로 명예훼손이나 업무방해에 해당하면 처벌로 이어진 사례도 있다. 단순히 공유만 했더라도 악의적 의도가 확인되면 책임을 피하기 어렵다.

출처: MIT Tech Review AI