‘무시하다’를 검색했더니, AI가 그 검색을 무시해버렸다. 이건 비유가 아니다.
더버지(The Verge) 보도를 보면, 한 사용자가 ‘disregard(무시하다)’라는 단어를 구글에 입력하자 AI 오버뷰(AI Overviews)가 기묘하게 반응했다. 단어 뜻을 정리해 보여주는 대신, 챗봇처럼 대화하듯 응답을 시작한 것이다. 이 장면이 X(구 트위터)에 올라오면서 순식간에 퍼졌고, "AI가 진짜로 무시해버렸다"는 반응이 줄을 이었다. 씁쓸한 아이러니다.
‘무시’라는 단어가 무시당할 때 벌어진 일
문맥을 못 읽으면 이런 일이 생긴다. 사용자가 ‘disregard’를 검색한 건 분명히 "이 단어 무슨 뜻이에요?"라는 의도였는데, AI는 그 단어 자체를 명령으로 받아들인 것처럼 작동했다. 키워드만 잡고 맥락을 날려버린 전형적인 실패다.
검색 엔진은 정보를 찾아주는 도구다. 근데 AI가 정보 탐색 대신 ‘대화’에 집중하면서 기본 역할을 못 했다. 검색어 자체의 의미를—그것도 문자 그대로—따라 했다는 점에서, 보는 사람마다 "이게 뭐야"라는 반응이 나온 것도 무리가 아니다. AI가 검색의 본질을 이해하는 척하다가, 가장 단순한 지점에서 무너진 셈이다.
피자에 접착제, 돌멩이로 신장 결석 치료…이미 전과가 있다
AI 오버뷰의 오작동은 이번이 처음이 아니다. 출시 초반부터 굵직한 실수들이 있었다. 피자 위에 접착제를 바르라는 조언, 신장 결석 치료에 돌을 먹으라는 황당한 답변—이게 실제로 AI 오버뷰가 내놓은 정보들이다. ‘환각(hallucination)’이라 부르는 현상이다. AI가 없는 사실을 있는 것처럼 그럴듯하게 만들어내는 것. 검색 엔진으로서는 치명적인 결함이다.
구글은 인지하고 있다고 했다. 지속적인 모니터링과 개선 작업을 하고 있다고도. 근데 사용자들 입장에선 "언제까지?"라는 질문이 남는다. 단순 질문엔 꽤 잘 답하는 AI가, 조금만 맥락이 복잡해지면 흔들린다는 게 계속 확인되고 있으니까. 복잡하거나 미묘한 상황에서의 한계—이게 지금 AI 오버뷰의 현주소다.
구글이 빠진 딜레마
AI 오버뷰의 설계 의도 자체는 이해가 간다. 기존 검색의 ’10개 링크 나열’ 방식 대신, AI가 핵심을 정리해서 바로 보여주자는 것. 속도와 편의성 면에서는 분명한 강점이 있다. 근데 정보가 틀리면? 그것도 위험한 방향으로 틀리면? 검색 엔진의 신뢰는 한 번 금이 가면 회복이 느리다.
구글 입장에선 압박이 크다. AI 검색으로 빠르게 앞서 나가야 하는데, 그 속도가 오히려 브랜드를 갉아먹고 있다. 정확성을 제대로 확보하지 못한 채 배포된 기능이 사고를 치면, 사용자들은 결국 예전 방식으로 돌아가거나 다른 서비스로 넘어간다. AI 기술이 빠르게 발전하더라도, 사용자한테 내놓기 전에 더 엄격한 검증이 필요하다는 걸—구글 스스로 증명하고 있는 셈이다. 혁신적인 잠재력과 정보의 정확성, 두 마리 토끼를 동시에 잡아야 하는 숙제가 아직 남아 있다.
한국 시장에도 남 얘기가 아닌 이유
국내 사용자도 구글 검색을 폭넓게 활용하고 있다. AI 오버뷰가 한국어 검색에도 점차 확대될 거라는 건 예정된 수순이다. 그때 가서 비슷한 오작동이나 환각 현상이 한국어로 나온다면, 정보 혼란이 생길 가능성은 충분히 크다.
네이버, 카카오 같은 국내 IT 기업들도 자체 AI 모델을 기반으로 검색 경험을 바꾸려 하고 있다. 구글의 이 사태는 이들한테도 타산지석이 된다. 빠르게 내놓는 것보단, 얼마나 정확하고 안정적인 정보를 제공하느냐—결국 AI 검색의 성패는 거기서 갈린다. 얼마나 빠르고 화려하게 보이느냐가 아니라, 사용자가 그 답변을 믿을 수 있느냐가 핵심이다. 신뢰를 쌓는 속도는 느리지만, 잃는 속도는 빠르다.
출처: The Verge
글로벌뉴스 데스크
Home-In-One 글로벌뉴스 데스크는 전 세계 IT·기술 뉴스를 실시간으로 모니터링하여 한국 독자에게 가장 중요한 소식을 전합니다. 실리콘밸리, 유럽, 아시아의 최신 기술 동향을 한국 시장 관점에서 분석합니다.