챗GPT한테 “1부터 10 사이에서 숫자 하나만 골라줘”라고 해보면 재밌는 일이 생긴다. 클로드도, 제미나이도, 심지어 다른 회사 모델까지 자꾸 같은 숫자 근처에서 맴돈다. 사람한테 물으면 1도 나오고 3도 나오고 7, 9까지 제각각인데, AI는 유독 특정 숫자 하나에 쏠린다. 요즘 AI 업계에서 ‘모드 붕괴(mode collapse)’라고 부르는 현상이다. 왜 이런 일이 생기는지, 실무에서 뭘 조심해야 하는지 정리해봤다.
왜 다들 비슷한 답만 내놓을까
대형 언어모델은 원래 확률 분포에서 답을 뽑아내는 구조다. 학습 데이터 양을 생각하면 답변 폭도 넓어야 정상인데, 막상 써보면 그렇지가 않다. 창의적인 글쓰기, 농담, 이름 짓기, 숫자 고르기처럼 정답이 없는 질문일수록 답이 좁은 범위로 몰리는 경향이 뚜렷하다. 같은 질문을 열 번 던져도 표현이나 구조, 결론까지 비슷하게 반복된다. 사람은 그날 기분이나 상황에 따라 답이 흔들리는데, AI는 그 흔들림 폭이 훨씬 좁다는 게 문제다.
랜덤 넘버 테스트, 직접 해보면 바로 체감
백 마디 설명보다 직접 해보는 게 빠르다.
- 서로 다른 챗봇(챗GPT, 클로드, 제미나이)에 같은 질문을 5~10번씩 반복 입력
- “1부터 10 사이 숫자 하나만 골라줘”처럼 정답 없는 개방형 질문 사용
- 답변을 엑셀이나 메모장에 그때그때 기록해서 분포 확인
- 모델별로 결과를 비교해서 어느 쪽이 더 편중되는지 체크
해보면 특정 숫자 하나가 압도적으로 많이 나온다. 색깔 이름을 물어봐도, 동물 이름을 물어봐도 결과는 비슷하다. 빨강 아니면 파랑, 강아지 아니면 고양이. 이쯤 되면 좀 허탈하다.
원인은 결국 안전 튜닝
가장 많이 꼽히는 원인은 RLHF, 그러니까 인간 피드백 기반 강화학습이다. 모델을 안전하고 무난하게 만드는 과정에서, 평가자들이 ‘이게 낫다’고 표시한 답변 쪽으로 모델이 계속 쏠리게 된다. 이 튜닝이 반복되면 모델은 리스크 낮고 무난한 답 하나를 정답처럼 여기기 시작하고, 출력의 다양성은 그만큼 깎여나간다. 안전성과 일관성을 높이려던 작업이 오히려 개성과 다양성을 줄이는 부작용을 낳은 셈이다. 여기에 서비스단에서 온도(temperature) 값을 낮게 고정해두는 것도 한몫한다. 이건 좀 아이러니하다.
실무에서는 왜 골치 아플까
단순히 재미로 넘길 문제가 아니다. 마케팅 카피, 브레인스토밍, 이름 후보 생성, A/B 테스트용 문구처럼 시안이 여러 개 필요한 작업에 AI를 쓰면 결과물끼리 서로 닮아서 선택지가 좁아진다. 설문이나 데이터 시뮬레이션에 AI를 쓸 때도 마찬가지. 응답이 한쪽으로 쏠리면 실제 사람들의 분포를 대체하기 어렵다. 광고 문구 10개를 뽑아달라고 했는데 결국 3개 패턴 변주에 그쳤던 경험, 한 번쯤 있지 않나.
답변 편중 깨는 프롬프트 팁
- 온도(temperature) 값 조정: API를 직접 쓴다면 temperature를 0.8~1.2 수준으로 올려서 무작위성을 키운다
- 역할과 관점을 바꿔가며 질문: “20대 관점에서”, “보수적인 시각에서”처럼 페르소나를 명시하면 편중이 줄어든다
- 이전 답변 배제 요청: “방금 답변과 겹치지 않는 완전히 다른 답을 줘”라고 못 박아서 요구한다
- 여러 모델 교차 활용: 챗GPT, 클로드, 제미나이에 같은 질문을 던져서 결과를 섞으면 편중이 상쇄된다
이 문제를 아예 상품으로 만든 곳들
최근 몇몇 스타트업은 이 다양성 부족 자체를 상품화하고 있다. 모델 출력을 후처리해서 편중된 답변을 걸러내거나, 여러 후보를 강제로 다르게 뽑아내는 재랭킹 레이어를 얹는 식이다. 광고·콘텐츠 제작사, 설문 시뮬레이션 업체를 대상으로 이런 ‘다양성 보정’ 도구를 파는 곳도 늘었다. 모델 자체를 바꾸기보다 그 위에 소프트웨어를 얹어서 우회하는 전략인 셈. AI 도구로 콘텐츠 뽑아내는 사람이라면 눈여겨볼 만하다.
핵심만 3줄 요약
AI 챗봇은 안전성 튜닝 때문에 정답 없는 질문에서 답이 한쪽으로 쏠리는 경향이 있다. 창의적 작업이나 다양성이 필요한 곳에 쓸 땐 온도 조정, 페르소나 변경, 여러 모델 교차 활용 같은 방법으로 보정하는 편이 낫다. 이 문제를 전문적으로 풀어주는 도구 시장도 커지는 중이니, 반복되는 결과물에 답답함을 느꼈다면 한 번 시도해볼 만하다.
AI리서치팀
Home-In-One AI리서치팀은 인공지능, 머신러닝, 생성형 AI의 최신 동향과 실용적 활용법을 연구합니다. ChatGPT, 클로드, 미드저니 등 AI 도구 비교 분석과 활용 가이드를 제공합니다.