“나는 버블을 보면 알아본다.” 엘리자베스 워렌 상원의원(민주당, 매사추세츠)이 워싱턴 DC 밴더빌트 정책 가속기 행사에서 꺼낸 말이다. 2008년 금융 위기 직후 소비자금융보호국(CFPB) 설립을 주도했던 인물이 꺼낸 경고다. 그녀가 지금의 AI 열풍에서 서브프라임 모기지 사태와 “소름 돋는” 유사점을 봤다고 한다. 기우일까, 아니면 진짜일까.
2008년의 데자뷔, 워렌이 본 것
워렌 의원의 핵심 지적은 단순하다. 아무도 제대로 이해하지 못하는 복잡한 금융 상품이 시장을 장악했고, 결국 터졌다. 서브프라임 모기지 채권이 파생상품으로 포장돼 위험이 숨겨졌던 것처럼, 오늘날 AI 모델도 작동 원리를 속속들이 파악하기 어렵다. 개발사조차 전부 모르는 경우가 허다하다.
더버지(The Verge) 보도를 보면, 워렌 의원은 AI가 예상치 못한 방식으로 반응하거나 제대로 작동하지 않을 경우 금융 시장 전체에 예측 불가능한 혼란이 올 수 있다고 봤다. 단순한 기술 오류 얘기가 아니다. 시스템 전체가 흔들리는 이야기거든요. 소수의 거대 기술 기업이 제공하는 AI 모델이 금융 시장을 장악하게 되면, 그중 하나의 실패가 시스템 전체 붕괴로 이어지는 구조가 된다.
AI가 위험한 이유 — 워렌이 짚은 3가지
워렌 의원이 AI 버블 위험을 경고하는 데는 세 가지 요인이 있다.
- 블랙박스 문제: AI 알고리즘은 복잡도가 너무 높아서 개발자조차 전체 작동 방식을 정확히 알기 어렵다. 투자 결정이나 대출 심사에 이런 시스템이 깊이 파고들수록, 문제가 생겼을 때 원인 파악 자체가 미궁으로 빠진다.
- 소수로의 권력 집중: 지금 AI 개발은 손에 꼽히는 빅테크 기업들이 주도한다. 금융 시스템이 이들 몇 곳에 과도하게 의존하게 되면, 한 기업의 실패가 연쇄 붕괴를 일으키는 구조가 만들어진다. 2008년 리먼브라더스 사태를 떠올리면 이해가 빠르다.
- 알고리즘 편향과 취약성: AI는 학습 데이터에 담긴 편향을 그대로 흡수한다. 작은 오류에도 민감하게 반응하고, 경우에 따라 시장 조작이나 급격한 변동성을 유발할 여지가 생긴다. 솔직히 이 부분이 가장 불안하다. 사람이라면 ‘이건 이상한데’라며 멈출 수 있지만, 알고리즘은 멈추지 않는다.
이 세 가지가 맞물리면 2008년과 비슷한 그림이 그려진다. 서브프라임 모기지 채권이 복잡한 파생상품으로 둔갑해 위험을 숨겼던 것과 같은 맥락이다.
사고 나기 전에 안전벨트를
워렌 의원은 2008년 금융 위기 이후 사후 처방에 급급했던 경험을 강하게 비판했다. “우리는 이미 이 영화를 봤다”는 게 그녀의 표현이다. 자동차 안전벨트를 사고 난 뒤에 달지 않듯, AI도 위기가 현실화되기 전에 선제적으로 통제 장치를 갖춰야 한다는 주장이다.
AI 기술 발전 속도가 규제 당국이 따라잡기 버거울 만큼 빠른 건 사실이다. 그렇다고 손을 놓고 있어야 한다는 뜻은 아니다. 워렌의 메시지는 AI 혁신을 막자는 게 아니라, 잠재적 위험으로부터 사회와 경제를 보호할 최소한의 안전장치를 미리 깔아두자는 것이다. 이 둘을 같은 얘기로 뭉개면 곤란하다.
한국 시장도 예외는 없다
워렌의 경고를 미국만의 얘기로 흘려들을 수 없는 이유가 있다. 국내 금융권도 AI 기반 투자 알고리즘, 대출 심사, 자산 관리 등에 AI 활용을 빠르게 늘리고 있는데요. 글로벌 금융 시장은 촘촘하게 연결돼 있어서, 미국이나 다른 주요 경제권에서 AI발 위기가 터지면 그 파장이 국내 시장을 비켜가기 어렵다.
금융 당국과 기업들이 지금 해야 할 일이 있다. AI 모델 의존도 점검, 시스템 투명성 강화, 책임 소재를 명확히 하는 규제 프레임워크 마련. 사전에 안 해두면 나중에 훨씬 큰 비용을 치른다. 투자자 입장도 마찬가지다. AI 관련 투자 열기가 뜨겁지만, 버블 가능성을 배제한 채 달려드는 건 위험하다. AI가 가져올 혁신은 분명하지만, 그 이면에 숨은 위험을 간과해서는 안 될 때다.
출처: The Verge