AI 기업들이 그리는 가장 대담한 로드맵 하나. AI가 스스로를 개선해서 인간 개입 없이도 발전을 이어간다는 시나리오다. 코드를 짜고, 실험을 설계하고, 다음 버전 모델을 훈련시키는 전 과정을 AI 혼자 담당한다는 구상인데 — 실제 연구 현장 사정은 이보다 훨씬 지저분하다. ‘재귀적 자기개선’이라는 말이 정확히 뭘 뜻하는지, 왜 아직 멀었는지, 실무에서는 뭘 기준으로 판단해야 하는지 정리해봤다.
재귀적 자기개선, 정확히 뭘 말하는 걸까
재귀적 자기개선(Recursive Self-Improvement, RSI)은 AI 시스템이 자기 자신의 설계, 코드, 학습 방식을 스스로 고쳐 성능을 끌어올리고, 그렇게 개선된 버전이 다시 다음 개선을 수행하는 순환 구조를 말한다. 개념 자체는 새롭지 않다. 1965년 수학자 I. J. 굿이 내놓은 ‘지능 폭발(intelligence explosion)’ 가설에서 출발했고, 지금은 AGI(범용인공지능) 논의의 핵심 축이 됐다. 초기 시드 AI(seed AI)가 자신을 개선하는 속도가 빨라질수록 성능이 기하급수적으로 늘어난다는 게 이 가설의 골자다.
여기서 구분해야 할 게 하나 있다. AI가 코드 자동완성이나 버그 수정을 돕는 것과, AI가 차세대 모델의 아키텍처와 학습 데이터, 훈련 파이프라인 전체를 스스로 설계하는 것은 차원이 다르다. 전자는 이미 상용화됐다. 후자가 바로 RSI가 가리키는 상태다.
왜 다시 화두로 떠올랐나
OpenAI, 구글 딥마인드, 앤스로픽 같은 주요 연구소는 AI 연구원 역할 자체를 자동화하는 프로젝트에 막대한 자원을 쏟아왔다. AI 모델이 논문을 읽고, 실험 코드를 작성하고, 결과를 해석해서 다음 실험을 제안하는 파이프라인을 구축하는 식이다. SWE-bench, RE-Bench 같은 벤치마크도 AI가 실제 소프트웨어 엔지니어링 작업을 얼마나 자율적으로 처리하는지 숫자로 재보려고 만든 것들이다.
문제는 이 벤치마크 점수가 꾸준히 오른다고 해서 곧바로 ‘자기개선 루프가 돌아가기 시작했다’는 뜻은 아니라는 점이다. 특정 작업을 자동화하는 것과, 그 자동화가 다음 세대 모델의 근본적인 능력을 스스로 끌어올리는 것 사이에는 여전히 큰 간극이 있다. 이 둘을 섞어서 말하는 기사가 은근히 많다.
속도를 늦추는 기술적 병목들
RSI가 이론처럼 빠르게 진행되지 않는 이유, 몇 가지로 정리된다.
- 검증 비용: AI가 스스로 제안한 개선안이 진짜 성능을 높이는지 확인하려면 대규모 재훈련과 평가가 필요하다. 이 과정에 막대한 컴퓨팅 자원과 시간이 들어간다.
- 자기평가의 한계: 모델이 자기 출력이 옳은지 스스로 판단하는 능력은 아직 인간 전문가 수준에 못 미친다. 오류를 오류로 인식 못 하면, 개선이 아니라 오차만 누적된다.
- 데이터 고갈: 웹에서 긁어모을 수 있는 고품질 텍스트 데이터는 이미 상당 부분 바닥났다는 분석이 나온다. 합성 데이터로 메우려는 시도는 늘고 있지만, 품질 관리가 만만치 않다.
- 보상 함수 설계: ‘더 나은 모델’을 정의하는 지표 자체가 허술하면, 자기개선 루프는 지표만 최적화하고 실제 능력은 제자리걸음일 여지가 있다.
컴퓨팅과 전력이 진짜 발목을 잡는다
모델을 재훈련하고 검증하는 사이클 하나하나에 GPU 클러스터와 전력이 대량으로 들어간다. 엔비디아의 최신 GPU 공급이 늘어도 데이터센터 건설과 전력망 증설 속도가 못 따라가는 경우가 흔하다. 여름철 데이터센터 발열 문제도 같은 맥락이다. GPU 밀도가 높아질수록 냉각에 드는 에너지 비중이 커지고, 이건 곧 운영 비용과 확장 속도를 좌우하는 변수가 된다. 액체 냉각 방식으로 갈아타는 사업자가 느는 이유도 여기 있다.
결국 자기개선 루프를 몇 배속으로 돌리고 싶어도, 물리적 인프라가 그 속도를 못 받쳐주면 이론상 기하급수적 성장은 현실에서 완만한 곡선으로 바뀐다. 전기가 부족하면 알고리즘이 아무리 좋아도 소용없다는 얘기다.
자기개선 AI와 AGI는 같은 말이 아니다
많이들 두 개념을 섞어 쓰는데, 구분은 필요하다. AGI(범용인공지능)는 인간 수준의 폭넓은 인지 능력을 가리키는 상태 개념이고, RSI는 그 상태에 도달하는 하나의 경로 혹은 메커니즘이다. AGI는 RSI 없이도 점진적 연구개발만으로 도달 가능하다는 주장이 있는가 하면, 반대로 RSI가 먼저 가동되면 AGI 단계를 건너뛰고 곧바로 초지능(ASI)으로 도약한다는 시나리오도 있다.
지금 시장에 나온 AI 코딩 에이전트 — 클로드 코드, 데빈 같은 것들 — 는 RSI의 아주 초기 단계, 그러니까 ‘연구개발 업무의 부분 자동화’에 해당한다. 전체 파이프라인을 인간 개입 없이 스스로 설계하고 실행하는 수준과는 아직 거리가 멀다.
실무자라면 이 지표부터 확인하자
RSI 관련 로드맵이나 발표를 접할 때, 과장된 주장과 실제 진척을 가르는 기준은 이렇다.
- 벤치마크 점수 상승이 실제 프로덕션 코드 품질로 이어지는지, 아니면 벤치마크 특화 최적화에 그치는지 확인한다.
- 연구소가 공개하는 자동화 비율이 ‘연구 아이디어 제안’인지 ‘전체 개발 사이클 완결’인지 구분한다.
- 모델 훈련에 들어가는 컴퓨팅 예산과 전력 조달 계획이 함께 공개되는지 본다. 인프라 투자 없이 자기개선을 주장하면 일단 의심하는 게 맞다.
- 안전성 검증(레드팀, 정렬 평가) 절차가 자동화 속도와 함께 강화되고 있는지 살핀다.
Q&A로 정리하는 핵심 3가지
Q. RSI가 실현되면 AI 개발자 일자리는 사라지나?
연구개발의 반복 작업(실험 설계, 코드 리뷰 보조)은 자동화 폭이 커지겠지만, 문제 정의와 검증 기준 설정 같은 상위 판단은 당분간 인간 영역으로 남는다는 분석이 우세하다.
Q. RSI와 오픈소스 모델은 어떤 관계가 있나?
오픈소스 진영도 자체 파인튜닝 자동화 도구를 늘리는 중이다. 다만 대규모 재훈련에 필요한 컴퓨팅 자원 격차 탓에, 상업 연구소 대비 루프 속도는 여전히 느리다.
Q. 몇 년 안에 RSI가 본격화될까?
정해진 답은 없다. 검증 비용과 전력 인프라, 이 두 병목이 동시에 풀려야 하는 문제라서 단일 기술 돌파보다는 인프라 투자 속도가 실제 타임라인을 좌우할 가능성이 크다.
참고: MIT Tech Review AI 보도 내용을 바탕으로 정리했다.
