챗봇 아무거나 켜서 “1부터 10 사이 숫자 하나만 말해줘”라고 쳐보자. 십중팔구, 7이다. “하나 더”라고 물으면 이번엔 3이나 4쯤 나오고, 그다음엔 8이나 9 언저리를 맴돈다. 사람한테 물어봐도 비슷한 쏠림이 생기긴 한다. 근데 진짜 문제는 따로 있다. ChatGPT든 클로드든 제미나이든, 브랜드를 안 가리고 거의 같은 숫자로 수렴한다는 거다. AI가 ‘무작위’라는 말을 근본적으로 오해하고 있는 셈인데, 이유를 알아두면 실무에서 AI 다루는 감각이 확 달라진다.
AI는 애초에 주사위를 던지지 않는다
대형언어모델, 그러니까 LLM은 다음에 올 단어(정확히는 토큰)를 확률 분포로 계산해서 뽑는 방식으로 돌아간다. “1부터 10 사이 숫자”라는 문장 뒤에 어떤 숫자가 나올 확률이 제일 높은지, 답은 이미 학습 데이터 안에 있다. 사람들이 인터넷에 “랜덤으로 숫자 하나 골라봐”라는 글을 남길 때 유독 7을 자주 썼고, 심리학 쪽 연구를 봐도 사람이 ‘진짜 무작위처럼 느껴지는’ 숫자로 7을 제일 많이 고른다는 결과가 있다. AI는 이 편향을 그대로 흡수해서 되풀이할 뿐이다. 결국 AI한테 무작위 숫자를 요구하는 건 동전을 던지라는 게 아니라, “사람들이 무작위라고 생각할 때 가장 많이 답한 숫자를 말해줘”라고 시키는 것과 다를 게 없다.
온도(Temperature)라는 손잡이의 정체
API 좀 만져본 사람이라면 temperature라는 파라미터, 한 번쯤 봤을 거다. 이게 바로 확률 분포에서 얼마나 과감하게 골라잡을지를 정하는 다이얼이다.
- temperature가 0에 가까우면 가장 확률 높은 답만 골라서, 물어볼 때마다 거의 똑같은 결과가 나온다
- 1 이상으로 올리면 확률 낮은 후보들도 뽑힐 틈이 생겨서 답이 다채로워진다
- ChatGPT 웹이나 클로드 웹처럼 대부분의 챗봇 서비스는 이 값을 사용자가 직접 못 만지게 해놨다. 서비스 쪽에서 적당히 낮게 고정해둔 경우가 많다
그래서 개발자용 API 콘솔이나 코드로 직접 호출할 때는 temperature를 1.0~1.3 사이로 올려보자. 답변이 다양해지는 게 바로 체감된다.
여러 AI가 똑같이 획일화되는 진짜 문제
숫자 하나 못 맞히는 거야 사실 별일 아니다. 진짜 골치 아픈 건 브레인스토밍, 아이디어 도출, 창작 작업에서도 비슷한 쏠림이 나타난다는 점이다. 회사 이름 지어달라, 소설 도입부 써달라, 마케팅 문구 뽑아달라 하면 — 서로 다른 회사 모델인데도 구조나 표현이 신기하리만치 겹친다. 학계에서는 이걸 모드 붕괴(mode collapse)라고 부른다. 사람 피드백으로 모델을 미세조정하는 RLHF 과정에서, 평가자들이 무난하고 안전한 답을 선호하다 보니 모델이 점점 ‘정답처럼 보이는 하나의 스타일’로 수렴해버리는 현상이다. 결과적으로 독립적으로 만들어진 모델들인데도 사고방식이 비슷해지는, 일종의 집단사고 상태에 빠지는 셈이다.
진짜 무작위 값이 필요할 땐 이렇게
추첨, 게임, 통계 시뮬레이션처럼 진짜 무작위성이 필요한 작업이라면, 챗봇한테 직접 묻는 것보다 다음 방법이 낫다.
- 프로그래밍 언어의 난수 함수를 쓴다. 파이썬이면 random.randint(), 자바스크립트면 Math.random()
- random.org처럼 대기 소음 기반으로 진짜 난수를 뽑아주는 서비스를 이용한다
- AI한테 직접 답을 내라고 하지 말고, “파이썬 코드로 1~10 사이 난수를 뽑아서 실행해줘”처럼 코드 실행 기능으로 우회시킨다. 코드 실행 환경이 붙어 있는 도구라면 이 방식이 훨씬 믿을 만하다
답변을 다채롭게 뽑아내는 프롬프트 팁
창작이나 아이디어 작업에서 획일화를 피하고 싶으면 프롬프트 자체를 바꿔보는 것도 방법이다. “완전히 다른 3가지 관점에서 답해줘”, “기존과 겹치지 않는 답만 골라줘”, “일부러 덜 흔한 선택지를 제시해줘”처럼 다양성을 못 박아서 요구하면 결과가 확 달라진다. 같은 질문을 여러 AI 서비스에 동시에 던져서 답을 비교해보는 것도 획일화에서 벗어나는 실용적인 방법이다. 결국 AI 답변의 패턴을 한번 이해하고 나면, 언제 AI한테 맡기고 언제 진짜 난수 도구나 사람 판단을 더해야 하는지 감이 잡힌다. 이건 알아두면 두고두고 쓸 일이 많다.
