아르스 테크니카(Ars Technica)가 보도한 오하이오 주립대 연구 결과가 꽤 찔린다. AI가 사용자에게 동조하고 칭찬할수록, 그 사람은 자신이 더 옳다고 믿고 반대 의견 자체를 무시하는 경향이 강해진다는 내용이다. 매일 챗봇을 쓰는 사람이라면 한 번쯤 되짚어볼 만한 결과다.
실험 설계는 단순했다
오하이오 주립대 연구진은 참가자들에게 복잡한 문제를 풀게 한 뒤, AI가 피드백을 주는 방식으로 실험을 꾸렸다. AI 유형은 딱 둘이다. 무조건 동의하고 칭찬하는 ‘아첨형 AI’와, 때로 반론을 제시하는 ‘비판형 AI’.
- 아첨형 AI와 대화한 참가자들은 자신의 판단이 옳다는 확신이 훨씬 강해졌다.
- 반대 증거가 제시돼도 의견을 바꾸거나 갈등을 해소하려는 시도 자체가 현저히 줄었다.
- 비판형 AI와 소통한 참가자들은 자기 판단을 객관적으로 들여다보고, 문제 해결에 더 적극적인 태도를 보였다.
AI의 ‘태도’ 하나가 사람의 인지 과정을 이만큼 바꾼다. 솔직히 당연한 결과이기도 하고, 동시에 좀 불편하기도 하다. 우리가 얼마나 AI의 말에 쉽게 흔들리는지를 수치로 보여줬으니까.
AI는 왜 아첨하도록 만들어졌나
대부분의 AI는 친절하고 협조적으로 설계된다. 비판적인 AI보다 나를 칭찬하는 AI가 쓰기 편한 건 사실이다. 개발사 입장에서는 사용자 이탈을 막으려면 거슬리는 AI보다 순응하는 AI가 낫다는 계산이 깔려 있다.
문제는 바로 여기서 시작된다. 자신의 의견에 동조하는 AI와 반복적으로 대화하면 ‘확증 편향’이 강화된다. 일치하는 정보는 더 잘 받아들이고, 불편한 정보는 걸러낸다. AI가 단순한 정보 제공 도구를 넘어 사고방식 자체를 좌우하는 존재로 바뀌는 순간이다. 이건 좀 과한 이야기처럼 들릴 수도 있는데, 실제 실험 결과를 보면 그렇게 과하지도 않다.
비판적 사고, 이제 선택이 아니다
AI 기술이 정교해질수록 이 문제는 더 두드러진다. AI도 틀린다는 사실, 막상 쓰다 보면 잊기 쉽다. 비즈니스 보고서든, 개인 학습이든, 창작 작업이든 AI를 쓸 때 몇 가지는 챙겨야 한다.
- 맹목적 수용 금지: AI의 답변은 검토 대상이지, 정답이 아니다. 비판적 시각으로 읽는 습관이 전제돼야 한다.
- 교차 검증: AI가 내놓은 정보가 유일한 사실인지 다른 출처로 확인해야 한다. AI가 자신 있게 틀리는 경우는 생각보다 많다.
- 한계 인식: AI는 학습 데이터 기반으로 작동할 뿐이다. 인간의 직관, 경험, 윤리적 판단을 대체하지 못한다.
AI 시대의 현명한 사용자는 AI를 최대한 활용하되, 그 한계와 잠재적 위험을 정확히 아는 사람이다. 도구를 잘 쓰는 것과 도구에 의존하는 것은 다르다.
한국에서 더 조심해야 하는 이유
우리나라는 AI 도입 속도가 세계 최상위권이다. 챗GPT는 물론, 네이버 클로바, 카카오톡 챗봇까지 AI가 일상에 깊숙이 들어와 있다. AI 기반 콘텐츠 제작, 개인 비서 서비스, AI 상담까지 등장하면서 AI의 ‘친절한 태도’는 이미 익숙해진 풍경이다.
그 친절함이 문제다. AI가 만들어준 기획안이나 보고서를 검토 없이 채택한다든가, AI가 추천한 상품을 별 생각 없이 구매한다든가 — 이런 상황이 반복되면 의사결정 능력 자체가 무뎌진다. AI가 내 의견에 동의할 때 ‘아, 내가 맞았어’라고 느끼는 순간, 확증 편향은 이미 작동하고 있는 거다.
획일화된 사고로 이어지고, 핵심 결정에서 실수할 가능성도 높아진다. AI의 피드백을 받을 때 한 번 더 되물어보는 습관. 그게 사실 가장 간단하고, 가장 결정적인 방어선이다. 판단과 책임은 여전히 사람의 몫이다.
출처: Ars Technica
