LLM 추론엔 알파고 37수의 탐색 장치가 없다

대략 1만 분의 1. 알파고 안에서 직관을 맡은 정책망이, 전문 기사가 그 자리에 돌을 놓을 확률로 매긴 값이에요. 그 자리가 바로 37수예요. 기계의 직관이 번뜩인 장면으로 흔히 소개되는 수인데, 정작 직관 담당은 그 수를 별것 아닌 수로 넘겼던 셈이죠.

장면부터 다시 떠올려 볼게요. 서울에서 열린 알파고와 이세돌의 5번기, 두 번째 판. 알파고가 5선에 돌을 놓자 일부 해설자는 프로그램 오류부터 의심했어요. 상대에게 그냥 내주는 수처럼 보였거든요. 그 판은 알파고가 이겼고 대국 전체는 4대 1로 끝났어요. 이세돌은 알파고를 확률 계산에 기반한 기계로만 여겼는데, 이 수를 보고 생각이 바뀌었다고 했죠. 알파고는 창의적이라는 말까지 남겼고요.

알파고 개발에 참여했던 한 연구자가 MIT 테크놀로지 리뷰에 실은 기고문은 ‘기계 직관’이라는 해석을 오해라고 짚어요. 37수를 만든 건 직관이 아니라 추론 장치였고, LLM 기반 챗봇에는 바로 그 장치가 빠져 있다는 주장이에요. 챗봇이 화면에 띄워 주는 ‘생각 과정’을 어디까지 믿어야 할지 헷갈렸던 사람이라면, 이 구분 하나만 잡아 둬도 판단이 꽤 쉬워져요.

37수를 끌어올린 건 직관이 아니라 탐색이었다

알파고는 두 부분으로 이뤄져 있어요. 하나는 정책망(policy network). 강한 인간 기사가 어디에 둘지 맞히도록 학습된, 말하자면 직관 담당이에요. 앞에서 본 1만 분의 1이라는 숫자가 여기서 나왔어요. 전문 기사가 그 자리에 둘 확률을 그 정도로 낮게 평가했으니, 직관만 따랐다면 37수는 판 위에 놓이지 않았을 거예요.

나머지 하나가 탐색 장치인데요. 당장 그럴듯해 보이는지에서 멈추지 않고, 후보 수를 뒀을 때 그 뒤에 벌어질 일을 저울질하는 부분이에요. 알파고는 수천 개의 가지를 가진 게임 트리를 명시적으로 만들어 탐색했어요. 가지 하나하나가 서로 다른 미래였고요. 37수를 끌어올린 건 이쪽이에요.

대니얼 카너먼이 널리 알린 구분에 대입하면 이해가 빨라요. 시스템 1은 빠르고 직감적이며 힘이 들지 않는 사고, 시스템 2는 느리고 단계적이며 숙고하는 사고. 알파고에서는 신경망이 “이 수가 유망해 보인다, 이 국면은 이긴 것 같다”는 감을 내놓고, 탐색이 그 감을 이어질 수와 응수에 비춰 시험했어요. 한쪽만으로는 안 됐을 거예요. 직관만으로는 37수를 고르지 못했을 테고, 힘으로 밀어붙이는 탐색만으로는 그 많은 후보를 걸러내기 벅찼을 테니까요.

체스의 딥블루, 그리고 LLM 챗봇까지 한 표에 나란히 놓으면 구조 차이가 한눈에 들어와요. 답을 고르는 방식, 숙고의 규모, 검토한 내용을 남기는지. 이 세 줄만 따라가도 충분해요.

구분	딥블루	알파고	LLM 챗봇
답을 고르는 방식	사람이 하드코딩한 규칙으로 포지션 평가	정책망이 후보를 내고 탐색이 미래 결과를 검증	다음 토큰을 반복해서 선택
숙고의 규모	선수당 6~8수 앞, 초당 2억 개 포지션 평가	수천 개 가지의 게임 트리를 명시적으로 구성	사고 사슬을 쓰면 같은 예측을 더 길게 반복
검토 내용의 기록	기고문에서 따로 다루지 않음	게임 트리에 변화와 신경망 판단을 남기고 계속 갱신	명시적이고 지속되며 들여다볼 수 있는 인식 상태가 대체로 없음

딥블루의 ‘검토 내용의 기록’ 칸은 원문이 그 대목을 설명하지 않아서 저렇게 적었어요. 딥블루가 기록을 남기지 않았다는 뜻으로 읽으면 곤란해요.

바둑에 딥블루 방식이 통하지 않는 이유도 이 표 언저리에서 나와요. 돌 하나의 가치는 멀리 떨어진 돌 무리와 집이 수십 수에 걸쳐 어떻게 전개되느냐에 달려 있는데, 가능한 결과의 일부만 계산하려 해도 슈퍼컴퓨터로 수십억 년이 걸리거든요. 계산량으로 밀어붙일 규모가 아닌 거죠. 알파고가 누가 앞서는지 한눈에 감 잡는 능력과, 그 감을 검증하는 탐색을 같이 가져야 했던 이유예요.

사고 사슬은 같은 예측을 더 오래 돌린 결과다

LLM이 하는 일은 단순해요. 다음 토큰을 고르고, 또 고르는 것. 기고문은 이걸 시스템 1이 작동하는 모습으로 봐요. 빠르고 연상적이며, 사람이 글로 남기는 거의 모든 주제에서 놀랄 만큼 잘 맞는 패턴 완성이라는 거죠.

ChatGPT가 등장하고 얼마 지나지 않아 업계는 말이 유창한 것만으로는 쓸모가 모자란다는 걸 알아챘어요. 거기서 나온 해법이 곧바로 답하지 않고 중간 단계를 먼저 쓰게 하는 방식이에요. 문제를 쪼개고, 부분 결과를 다음 단계로 넘기고, 그 결과가 뒤따르는 풀이에 영향을 주게 하는 식이죠. 사고 사슬(chain of thought)이라고 부르는 과정이에요.

효과가 없다는 얘기는 아니에요. 수학과 코딩에서 성과가 뚜렷했거든요. 다만 알파고의 탐색처럼 따로 떨어진 추론 장치가 생긴 건 아니에요. 중간 풀이도 똑같은 다음 토큰 예측이 만들어 내고, 답을 확정하기 전에 그 과정을 더 오래 돌릴 뿐. 개발자 감각으로 비유하면 검증용 모듈을 새로 붙인 게 아니라 같은 함수를 더 여러 번 호출한 셈이에요. 성과가 좋다는 것과 구조가 그대로라는 건 서로 부딪치는 말이 아니고, 기고문이 문제 삼는 건 구조 쪽이에요.

챗봇의 풀이 과정을 추론이라 부르기 어려운 세 가지 이유

기고문은 챗봇이 하는 일이 과학자가 인정할 만한 의미의 추론에 못 미친다고 보고, 이유를 세 가지 들어요.

1. 들여다볼 장부가 없다. 어떤 가설을 검토 중인지, 각 설명을 얼마나 믿는지, 어떤 증거를 저울질하는지, 어떤 질문이 아직 안 풀렸는지. 이런 걸 적어 둔 공개 장부가 없어요. 새 정보가 들어오면 체계적으로 고쳐 써야 할 내용인데, 모델은 보통 이런 명시적이고 지속적인 상태를 유지하지 않아요.
2. 아는 것과 다루는 방식이 한 덩어리다. 지식과 추론이 신경망 가중치 안에 뒤엉켜 있어요. 따로 꺼내 볼 독립된 믿음의 목록이 없다는 뜻이에요.
3. 보여 주는 풀이가 실제 경로와 다를 때가 있다. 사고 사슬은 숙고처럼 보이지만, 한 경로로 답에 도달해 놓고 다른 경로를 보고하는 식으로 사후에 지어내는 일이 잦다는 연구 결과가 있어요.

셋 중에 일하면서 바로 걸리는 건 세 번째라고 봐요. 앞의 둘은 모델 내부 구조 얘기지만, 세 번째는 지금 화면에 떠 있는 단계별 풀이를 믿어도 되느냐는 문제니까요.

의료·공학·과학 연구처럼 판돈이 큰 분야에서는 결론만큼이나 그 결론에 이른 과정이 중요해요. 진단이나 치료에서 실수가 나오면 어디가 틀렸는지 짚어야 하잖아요. 추론이 잘못됐는지, 근거로 삼은 증거가 무효였는지, 가정이 틀렸는지. 로그가 실제 실행 경로와 다르게 찍히는 서비스에서 장애 원인을 찾는 상황을 떠올리면 감이 올 거예요. 로그를 아무리 꼼꼼히 읽어도 원인에 닿기 어려운 구조인 거죠.

게임 트리를 본뜬 ‘인식 상태’ 장부라는 대안

기고자는 구글 딥마인드를 떠났어요. 이유로 든 건 알파고의 구조에서 출발하는 새로운 기계 추론 접근이 필요하다는 점이에요. 알파고는 한 국면에 대해 아는 내용을 게임 트리라는 기록으로 유지하거든요. 이 자료구조에는 검토한 변화, 즉 가능한 미래가 전부 담기고 수와 국면마다 신경망의 판단이 주석처럼 붙어요. 추론이 진행되면 트리를 갱신하고, 마지막에 그 정보를 종합해 둘 수를 정하죠.

일반적인 추론에도 같은 뼈대를 쓰자는 게 제안의 핵심이에요. 시스템이 확정으로 보는 것, 의심하는 것, 배제한 것, 열어 둔 질문을 담은 인식 상태(epistemic state)를 유지하자는 거죠. 이렇게 되면 추론은 그 상태를 바꿔 가는 수의 연속이 돼요. 귀결을 연역하는 것도, 문제를 부분으로 나누는 것도, 다음에 어떤 질문을 던지고 어떤 계산이나 실험을 할지 정하는 것도 전부 한 수.

쉬운 일이라고 포장하지는 않아요. 열린 세계에서의 추론은 바둑이나 체스보다 어렵다고 기고자 스스로 인정하거든요. 현재 상황은 일부만 알려져 있고, 가능한 행동은 많은 데다 수시로 바뀌며, 행동의 결과는 확률적이거나 아예 알 수 없으니까요. 그런데도 도전할 여건이 생겼다고 보는 근거는 LLM과 다른 신경망 모델의 발전이에요. LLM은 알려진 사실과 쓸 수 있는 자원을 바탕으로 문제 접근법을 제안하고, API나 코드로 도구를 다루고, 어떤 주장이 증거로 뒷받침되는지 평가하는 일을 도와요. LLM을 버리자는 얘기가 아니에요. 직관 부품으로 쓰고 그 위에 장부와 검증을 얹자는 그림으로 읽혀요. 알파고에서 정책망과 탐색이 나눠 맡았던 역할을 그대로 옮겨 놓은 구도죠.

챗봇을 업무에 쓰는 한국 사용자가 바꿔야 할 검증 습관

새 제품 소식이 아니라서 당장 설치하거나 바꿀 설정은 없어요. 달라지는 건 챗봇 출력을 대하는 방식 하나. 그 대국이 서울에서 열렸던 만큼 한국 사용자에게는 ‘기계가 직관을 가졌다’는 인상이 강하게 남아 있을 텐데요, 그 인상을 챗봇에 그대로 옮기면 곤란해요.

• 풀이 과정을 감사 기록으로 쓰지 않기. 화면에 보이는 단계별 설명은 모델이 실제로 밟은 경로와 다를 때가 있어요. 보고서나 결재 문서에 “AI가 이런 과정으로 판단했다”고 옮겨 적는 건 피하는 게 좋아요.
• 수학·코드는 결과를 직접 돌려 보기. 사고 사슬의 성과가 뚜렷한 영역이긴 해요. 그래도 맞는지 확인하는 수단은 풀이의 그럴듯함이 아니라 재계산과 실행이에요.
• 장부를 사람이 대신 만들기. 답과 별개로 전제한 가정, 근거로 쓴 자료, 아직 확인하지 못한 질문을 항목별로 나눠 달라고 요청하고, 그 목록을 하나씩 직접 확인해요. 모델 안에 장부가 없으니 바깥에 두는 거죠. 주의할 점 하나. 이렇게 받은 목록도 같은 방식으로 생성된 글이라, 확인을 끝낸 뒤에야 믿을 근거가 생겨요.

의료나 설계처럼 책임 소재가 걸린 업무에서는 결론보다 과정 기록을 먼저 요구하는 쪽으로 기준이 움직일 것으로 보여요. 근거라고 해 봐야 기고문이 고위험 분야를 콕 집어 문제 삼았다는 점 하나라서, 여기서부터는 내 추측이에요.

확인된 것과 아직 불확실한 것

확인된 사실

• 알파고의 정책망은 37수를 전문 기사가 둘 확률이 약 1만 분의 1인 수로 평가했고, 그 수를 고른 건 게임 트리 탐색이었어요.
• 딥블루는 선수당 6~8수 앞을 내다보며 초당 2억 개의 포지션을 평가했고, 규칙은 사람이 하드코딩했어요.
• 사고 사슬은 수학과 코딩에서 실제 성과를 냈지만, 만들어지는 방식은 다음 토큰 예측의 반복이에요.
• 챗봇이 보고하는 풀이가 실제로 답에 도달한 경로와 다른 경우가 많다는 연구 결과가 있어요.

아직 불확실한 것

• 인식 상태를 유지하는 시스템이 바둑판 바깥의 열린 문제에서도 제대로 작동할지는 검증되지 않았어요.
• 기고문은 시스템을 정직하게 유지하려면 독립된 부분이 필요하다고 언급하는데, 그 부분이 구체적으로 어떻게 설계되는지는 확인하지 못했어요.
• “LLM은 추론하지 않는다”는 말은 한 연구자의 주장이에요. ‘추론’을 어떻게 정의하느냐에 따라 결론이 달라지는 문제라 학계 전체의 합의로 읽으면 안 돼요.
• 이 접근이 언제 어떤 형태의 결과물로 나올지도 알려진 바가 없어요.

그럴듯한 풀이를 만났을 때 던질 세 가지 질문

기고문이 오류의 원인으로 꼽은 갈래는 추론, 증거, 가정 세 가지였어요. 순서만 뒤집으면 그대로 점검표가 돼요.

1. 깔고 있는 가정이 무엇인가. 답이 전제한 조건이 내 상황과 맞는지부터 봐요. 버전, 환경, 대상 범위 같은 전제가 어긋나 있으면 뒤의 풀이가 아무리 매끄러워도 소용없거든요.
2. 근거가 확인 가능한가. 인용한 수치나 문서가 실제로 존재하는지, 내가 직접 열어 볼 수 있는지 확인해요.
3. 단계 사이의 연결이 맞는가. 가정과 근거가 옳아도 중간 계산이 틀릴 수 있어요. 핵심 단계 하나는 손으로 다시 따라가 봐요.

37수는 양쪽으로 읽혀요. 그럴듯해 보이지 않던 수가 탐색을 거치니 승리로 이어지는 수였고, 반대로 그럴듯해 보이는 풀이가 검증을 거치면 틀린 것으로 드러나기도 해요. 판단 기준을 ‘그럴듯함’에서 ‘검증을 통과했는가’로 옮겨 두면, 챗봇이 어떤 구조로 바뀌든 같은 습관을 계속 쓰게 될 거예요.

출처: MIT Tech Review AI