[태그:] AI 인프라

  • 데이터센터 투표 41건 중 40건 반대, 텍사스 격변

    데이터센터 투표 41건 중 40건 반대, 텍사스 격변

    3줄 요약

    • 2026년 미국 중간선거에서 데이터센터 관련 주민투표 41건 중 40건이 반대로 기울었어요. 여섯 개 도시는 데이터센터를 아예 금지하기로 표결했고요.
    • 텍사스는 미국에서 데이터센터 시장이 가장 빠르게 크는 곳이에요. 여기서 데이터센터를 핵심 쟁점으로 내건 민주당이 주지사, 연방 상원 의석, 주 하원을 모두 가져갔어요.
    • 반대하는 이유는 전력망 부담, 전기요금, 물, 소음처럼 생활에서 체감하는 비용이에요. 실제 제동도 연방보다 주와 지방에서 먼저 걸리고 있어요.

    41건 중 40건. 2026년 미국 중간선거에서 데이터센터를 놓고 치러진 주민투표의 결과예요. 한 건만 빼고 전부 유권자가 반대 쪽에 섰어요.

    여섯 개 도시는 한발 더 나갔어요. 데이터센터 건설 자체를 금지하기로 표결했죠. 생성형 AI를 돌리는 거대한 서버 건물이 기술면 기사에서 빠져나와 동네 선거의 쟁점이 된 셈이에요.

    41건 가운데 40건이면 몇몇 지역의 특수한 사정으로 넘기기 어려운 숫자예요. 한두 곳의 반발이 아니라 여러 지역에서 같은 방향의 신호가 나온 거니까요.

    MIT 테크놀로지 리뷰는 이 흐름의 한복판에 텍사스를 놓았어요. 빅테크의 초대형 AI 인프라가 가장 많이 몰리던 곳에서 정치 지형이 뒤집혔기 때문이에요. 선거 결과 자체보다 오래 남을 질문은 세 가지예요.

    • 주민들은 왜 데이터센터에 반대하나
    • 그 결정은 누가 내리나
    • AI 서비스를 쓰는 사람에게는 어떤 의미인가

    AI 데이터센터 ‘그라운드 제로’ 텍사스에서 뒤집힌 판

    텍사스는 미국에서 데이터센터 시장이 가장 빠르게 크던 곳이에요. 빅테크가 가장 큰 규모의 AI 데이터센터를 짓는 ‘그라운드 제로’라는 별명까지 붙었고요.

    2026년 중간선거 결과는 이렇게 나왔어요.

    • 연방 상원: 민주당 제임스 탈라리코 당선
    • 주지사: 민주당 지나 이노호사 당선
    • 주 하원: 민주당이 24년 만에 처음으로 다수당

    민주당은 선거운동 내내 데이터센터를 핵심 쟁점으로 밀었고, 그 전략으로 이겼어요. 데이터센터 유치의 상징 같던 주에서 데이터센터를 문제 삼은 쪽이 승리한 거예요.

    무게가 실리는 건 데이터센터 사업의 구조 때문이에요. 주 정부와 지방 정부의 결정에 크게 기대거든요. 다음 같은 사항이 상당 부분 이 단계에서 정해져요.

    • 땅을 어떤 용도로 쓸 수 있는지
    • 전력망에 언제 연결해 주는지
    • 세금을 얼마나 깎아 주는지

    바로 그 결정권을 쥔 자리에 데이터센터에 비판적인 공약을 내건 사람들이 앉았어요. 텍사스에 큰 계획을 세워 둔 하이퍼스케일러라면 일정과 비용을 다시 계산해야 할 상황이에요. 공약이 실제 정책으로 얼마나 옮겨질지는 아직 지켜봐야 하지만요.

    불안은 텍사스 밖으로도 번지고 있어요. 미국 전체의 AI 인프라 확장이 멈출 수 있다는 걱정이 함께 커졌고, 메타는 데이터센터를 짓는 일이 훨씬 어려워졌다고 밝혔어요. 텍사스의 정치 지형 변화는 일론 머스크와 스페이스X에도 적잖은 충격이었고요.

    갈등의 출발점은 하이퍼스케일러와 AI 데이터센터의 덩치

    하이퍼스케일러는 엄청난 수의 서버를 직접 운영하면서 클라우드와 AI 서비스를 전 세계에 공급하는 초대형 사업자예요. 메타 같은 빅테크가 대표적이죠.

    이들이 짓는 시설은 회사 건물 안 전산실과는 급이 달라요. 건물 하나 들어서는 것만으로 지역 전력 수요가 크게 바뀔 수 있는 규모예요.

    AI 데이터센터는 여기서 한 단계 더 나가요. AI 모델을 학습시키고 답을 만들어 내는 작업에는 GPU 같은 가속기를 촘촘하게 꽂은 서버가 들어가요. 같은 공간에서 일반 서버보다 전기를 훨씬 많이 쓰고, 열도 그만큼 많이 내죠. 자연히 입지를 고르는 기준은 네 가지로 좁혀져요.

    • 넓은 부지: 건물과 변전 설비, 냉각 설비가 함께 들어갈 땅
    • 대용량 전력: 안정적으로, 그리고 빨리 연결받을 수 있는 전력망
    • 냉각 수단: 물을 쓰든 공기를 쓰든 열을 빼낼 방법
    • 빠른 인허가: 착공까지 걸리는 시간을 줄여 줄 행정 환경

    조건이 맞는 지역에는 수요가 몰리고, 비슷한 시설이 연달아 들어서요. 하나일 때는 잘 안 보이던 부담이 여러 개 쌓이면 주민 눈에 띄기 시작하죠. 그게 투표함까지 이어진 것으로 보여요.

    반대표 뒤에 있는 다섯 가지 생활 비용

    ‘우리 동네엔 안 된다’는 님비(NIMBY)로 한데 묶어 버리기 쉬워요. 하지만 데이터센터 반대는 꽤 구체적인 생활 비용 문제에서 출발해요.

    41건마다 결정적인 이유야 제각각이었겠죠. 그래도 데이터센터 논쟁에서 되풀이되는 쟁점은 대체로 다음 다섯 가지예요.

    • 전력망 부담과 전기요금: 대형 시설이 들어오면 송전선과 변전소를 새로 깔거나 키워야 해요. 그 비용이 일반 가정 요금에 얹힐 수 있다는 우려가 커요. 전력 수요가 몰리는 시기에 전력망이 버텨 줄지도 걱정거리고요.
    • 물 사용: 냉각 방식에 따라 물을 많이 쓰는 시설이 있어요. 가뭄을 겪는 지역일수록 예민하게 반응하는 대목이에요.
    • 소음과 경관: 냉각 설비와 비상 발전기에서 소음이 나와요. 창문 없는 거대한 건물이 주거지 바로 옆에 들어서는 것 자체를 꺼리는 사람도 많아요.
    • 세금 혜택 대비 일자리: 건설 기간엔 일자리가 생겨요. 하지만 완공 뒤 상주 인력은 시설 규모에 비해 적은 편이라, 세금을 깎아 준 만큼 지역에 돌아오는 게 있느냐는 질문이 따라붙어요.
    • 온실가스 배출: 늘어난 전력 수요를 화석연료 발전으로 메우면 지역과 주 전체의 배출량이 늘 수 있어요.

    다섯 가지를 관통하는 건 하나예요. 비용은 지역이 떠안고 이익은 대부분 지역 밖으로 빠져나간다는 인식. AI 서비스는 전 세계 이용자가 쓰는데, 전기요금과 소음은 그 동네 사람들 몫이에요.

    41건 중 40건이라는 결과도 여기서 풀려요. 추상적인 기술 논쟁이 아니라 전기 고지서와 창밖 풍경의 문제라서 쉽게 공감대를 얻었다고 해석할 수 있어요.

    연방 의회보다 주·지방 결정이 무거운 이유

    2026년 중간선거로 민주당은 연방 상원과 하원을 모두 장악했어요. 그런데도 트럼프 대통령이 재임하는 동안에는 굵직한 연방 기후·에너지 법안이 나오기 어려울 거라는 전망이 나와요.

    걸림돌은 거부권이에요. 의회가 법안을 통과시켜도 대통령이 막을 수 있으니까요.

    주와 지방은 사정이 달라요. 이번 선거가 에너지 정책의 큰 분기점이 될 수 있는 단위예요. 주 전력망부터 데이터센터 개발, 재생에너지, 온실가스 배출까지 이 단계의 결정이 직접 영향을 주거든요.

    결정 단위 확인된 변화 데이터센터·에너지에 걸린 것
    연방 의회 민주당이 상원·하원 모두 장악 트럼프 대통령 재임 중 대형 기후·에너지 법안은 어려울 전망, 대통령 거부권 존재
    연방 인허가 법안(BAAJA) 상원 표결 11월 9일 예정, 일부 환경단체 반대 느리고 복잡한 에너지 프로젝트 승인 절차를 고치는 출발점
    텍사스 주 지나 이노호사 주지사 당선, 민주당 24년 만에 주 하원 다수당, 제임스 탈라리코 연방 상원 당선 데이터센터가 선거 핵심 쟁점, 하이퍼스케일러 확장 계획에 부담
    지역 주민투표 41건 중 40건에서 반대, 6개 도시 전면 금지 개별 프로젝트와 도시 단위에서 직접 제동

    연방 쪽에서 눈여겨볼 건 인허가 개혁이에요. ‘Bipartisan American Affordability and Jobs Act(BAAJA)’는 에너지 프로젝트 승인 과정이 느리고 복잡하다는 문제를 고치려는 법안이에요. 상원 표결은 11월 9일로 잡혀 있어요.

    발전소나 송전선 하나를 지으려 해도 넘어야 할 관문이 여럿이에요. 환경 검토, 각종 허가, 전력망 연결 심사. 이 과정이 길어질수록 전력 공급도 늦어져요.

    법안이 이 병목을 줄이면 데이터센터에 필요한 전력을 확보하기도 쉬워질 여지가 생겨요. 다만 이건 법안 취지에서 끌어낸 해석이에요. 실제 효과는 최종 조문이 나와야 가늠할 수 있어요.

    관건은 속도를 얻는 대가로 무엇을 내주느냐예요. 일부 환경단체가 법안 전체나 일부 조항에 반대하는 것도, 절차를 줄이다 보면 환경 검토가 약해질 수 있다는 우려 때문으로 읽혀요.

    더 큰 변수는 따로 있어요. 연방 인허가가 빨라진다고 지역 주민투표나 주 정부 판단이 따라오는 건 아니거든요. 연방이 문을 열어 줘도 지역에서 문이 닫히는 엇갈린 상황이 생길 수 있어요. 41건 중 40건이라는 숫자를 보면, 데이터센터 사업자에게 더 높은 문턱은 지금 지역 쪽이라고 보는 게 합리적이에요.

    미국 데이터센터 제동이 한국 AI 이용자와 업계에 남길 파장

    미국 지방 선거 결과 때문에 지금 쓰는 AI 챗봇이나 클라우드 서비스가 당장 바뀌지는 않아요. 이미 돌아가는 데이터센터가 멈추는 건 아니니까요.

    길게 보면 영향을 줄 만한 지점은 몇 가지 있어요. 아래 항목은 모두 추측이에요. 확인된 사실이 아니라 흐름을 읽은 전망으로 봐 주세요.

    • AI 서비스 이용 한도와 요금(추측): 미국에서 새 데이터센터를 짓기 어려워지면 AI 기업이 연산 자원을 확보하는 데 돈도 시간도 더 들어요. 그 부담이 새 기능이 나오는 속도, 무료 이용 한도, 요금제 설계에 반영될 수 있어요.
    • 데이터센터 수요의 지역 이동(추측): 미국 안에서 막히면 수요가 다른 주나 다른 나라로 옮겨갈 수 있어요. 미국 중간선거 결과가 오히려 중국의 AI 야망에 힘을 실어 줄 수 있다는 분석도 같은 맥락이에요. 한국이 그 수요를 받아 올 수 있을지는 결국 전력 공급 여건에 달렸어요.
    • 국내 입지 논쟁의 참고 사례(추측): 국내에서도 데이터센터를 둘러싼 전력 공급과 주민 반발 문제는 꾸준히 거론돼 왔어요. 미국에서 반대가 이만큼 몰린 이상, 국내 지자체와 사업자도 전기요금 부담, 물 사용, 지역에 돌려줄 몫을 처음부터 설명하라는 압박을 더 받게 될 가능성이 커요.
    • 전력·냉각 관련 산업 뉴스를 읽는 법: 미국 데이터센터 수요를 근거로 한 전망을 볼 때 연방 정책만 봐서는 부족해요. 주·지방 정치 변수까지 함께 놓고 봐야 해요.

    확인된 것과 아직 불확실한 것

    확인된 것

    • 2026년 미국 중간선거 데이터센터 관련 주민투표 41건 중 40건에서 반대
    • 6개 도시가 데이터센터 전면 금지를 표결
    • 텍사스에서 제임스 탈라리코 연방 상원 당선, 지나 이노호사 주지사 당선, 민주당 24년 만에 주 하원 다수당
    • 텍사스 민주당이 데이터센터를 선거 핵심 쟁점으로 삼음
    • 민주당의 연방 상원·하원 장악
    • 메타가 데이터센터 건설이 훨씬 어려워졌다고 언급
    • BAAJA 상원 표결 11월 9일 예정, 일부 환경단체 반대

    아직 불확실한 것

    • 텍사스 새 주 정부의 구체적인 데이터센터 정책(세제 혜택, 전력망 비용 분담 방식)
    • 이미 승인됐거나 공사 중인 프로젝트에 미칠 영향의 범위
    • BAAJA 표결 결과와 최종 조문
    • 6개 도시 금지 조치의 적용 범위와 법적 다툼 가능성
    • 미국 AI 인프라 확장 둔화가 AI 서비스 요금과 이용 한도에 미칠 영향

    데이터센터 건설 소식, 투자액보다 먼저 볼 다섯 가지

    데이터센터 뉴스는 대개 투자 금액이나 전력 규모 같은 큰 숫자로 시작해요. 정작 프로젝트의 앞날은 그 숫자보다 아래 다섯 가지에서 더 잘 드러나요. 순탄하게 갈지, 지역 반발에 부딪힐지 대략 감이 오거든요.

    1. 전력은 어디서 오나: 기존 전력망에서 끌어오는지, 자체 발전 설비나 새 발전소를 함께 짓는지, 재생에너지 계약이 있는지 봐요.
    2. 전력망 증설 비용은 누가 내나: 사업자가 내는지, 일반 요금에 얹히는 구조인지. 주민 반응이 갈리는 지점이 바로 여기예요.
    3. 냉각 방식과 물 사용량을 공개했나: 물을 많이 쓰는 방식인지, 사용량을 밝혔는지 확인해요.
    4. 세금 혜택과 일자리 약속: 감면 규모와 기간은 완공 뒤 상주 인력 계획과 나란히 놓고 봐야 해요. 그래야 실제로 지역에 얼마나 도움이 될지 가늠할 수 있어요.
    5. 최종 결정은 누가 내리나: 연방 인허가인지, 주 정부 승인인지, 지방 의회나 주민투표 대상인지에 따라 변수가 완전히 달라져요. 이번 선거에서 실제 제동이 걸린 곳도 주와 지방이었어요.

    텍사스 지역구의 민주당 하원의원 그렉 카사르는 “데이터센터에 대한 반발은 2026년 선거의 최대 쟁점 중 하나였고, 몇 년 뒤 돌아보면 미국 정치를 뒤흔들 훨씬 큰 AI 지진의 초기 진동에 불과했다고 보게 될 것”이라고 말했어요.

    정치인의 예측이니 곧이곧대로 믿을 필요는 없어요. 그래도 41건 중 40건이라는 결과 앞에서 한 가지는 분명해 보여요. 데이터센터는 더 이상 기술 기업만의 일이 아니에요. 전기요금과 동네 환경의 문제로 다뤄지기 시작했어요.

    출처: MIT Tech Review AI

  • 텍사스 AI 데이터센터 모라토리엄, 핵심은 전기요금

    텍사스 AI 데이터센터 모라토리엄, 핵심은 전기요금

    3줄 요약

    • 데이터센터 모라토리엄은 새 시설의 인허가를 일정 기간 멈추는 조치로, 공사 중인 프로젝트의 지연이나 영구 금지와는 구분해 봐야 한다.
    • 텍사스에서는 1,820MW급 스타게이트 프런티어와 6,400MW급 넥서스 허바드 같은 초대형 AI 데이터센터가 건설 중이다.
    • 유권자 반발의 핵심은 전기요금이고, 인허가 권한이 시·카운티·주에 나뉘어 있어 모라토리엄 공약이 그대로 실행되기는 어렵다.

    1,820메가와트(MW). 텍사스 섀클퍼드 카운티에 들어서는 스타게이트 프런티어 데이터센터 한 곳이 쓸 것으로 예상되는 전력이다. 지금 텍사스에서 돌아가는 가장 큰 데이터센터의 두 배가 넘는다. 미국에서 데이터센터 시장이 가장 빨리 크는 곳이 텍사스다. 바로 그 텍사스에서 이런 시설의 신규 인허가를 멈추자는 ‘모라토리엄’을 들고 나온 후보들이 선거에서 이겼다고 MIT 테크놀로지 리뷰가 전했다.

    결과부터 보자. 연방 상원의원 선거에서는 민주당 제임스 탈라리코가 켄 팩스턴을 꺾었다. 주지사 선거에서는 지나 이노호사가 공화당 현직 그레그 애벗을 눌렀다. 민주당은 24년 만에 처음으로 텍사스 주 하원 다수당이 된다. 탈라리코와 이노호사는 둘 다 유세 내내 데이터센터를 핵심 쟁점으로 내세웠다. 개표 결과보다 오래 붙들고 있을 질문은 따로 있다. 모라토리엄은 정확히 무엇을 멈추는지, AI 데이터센터 덩치는 왜 메가와트로 재는지, 건설을 허가하거나 막을 권한은 누구 손에 있는지. 이 세 가지를 차례로 풀어 보자.

    모라토리엄은 새 인허가를 멈출 뿐, 짓던 시설을 허물진 않는다

    모라토리엄(moratorium)은 말 그대로 ‘일시 정지’다. 데이터센터 정책에서는 정부가 새 시설의 인허가 신청을 일정 기간 받지 않거나, 받더라도 승인하지 않는 조치를 가리킨다. 이미 허가를 받아 공사 중인 시설을 강제로 철거하는 개념은 아니다. 여기까지는 단순한데 함정이 하나 있다. 대형 데이터센터는 부지, 전력 연결, 증설처럼 승인 단계가 한 번으로 끝나지 않고 여러 번 이어진다. 그래서 공사 중인 프로젝트라도 남은 단계 어딘가에서 막히면 일정이 밀릴 수 있다. ‘신규만 멈춘다’는 말을 ‘기존 프로젝트는 안전하다’로 읽으면 곤란한 이유다.

    헷갈리기 쉬운 조치가 두 가지 더 있다. 기존 프로젝트의 심사·승인 속도를 늦추는 ‘지연’, 그리고 특정 지역에 새 데이터센터 자체를 허용하지 않는 ‘금지’. 모라토리엄은 기간을 정해 멈춘 뒤 규칙을 다시 짜는 경우가 많아서 이 둘 사이에 놓인다. 뉴스에서는 셋 다 ‘규제’라는 한 단어로 뭉뚱그려 나오곤 한다. 하지만 어느 쪽이냐에 따라 업계가 받는 충격은 크게 다르다. 기사 제목만 보고 판단하기 전에 이 구분부터 해 두는 습관을 들이면 좋다.

    텍사스의 방향 전환은 사실 선거 전부터 시작됐다. 버지니아주 애슈번에서 열린 업계 행사 DCD 콘퍼런스에서 패널들은 텍사스가 수년간 미국에서 데이터센터 짓기 가장 쉬운 곳이었다고 돌아봤다. 그 흐름을 먼저 꺾은 건 민주당이 아니라 공화당 애벗 주지사였다. 개발사들은 주지사실이 어느 순간부터 이메일에 답하지 않기 시작했다고 말했고, 애벗은 핵심 주 규제기관에 데이터센터 인허가를 중단하라고 지시했다. 정당을 가리지 않고 커지는 데이터센터 반감을 의식한 행보로 보인다. 이노호사 당선인도 비슷한 궤적을 밟았다. 과거에는 건설 일자리를 늘린다는 이유로 데이터센터 세제 혜택을 지지했는데, 선거운동 기간에는 전면 모라토리엄을 주장하는 쪽으로 돌아섰다. 공화당 현직과 민주당 도전자가 같은 방향으로 움직였다는 건, 이 문제를 진영 싸움으로만 볼 일은 아니라는 뜻이다.

    6,400MW 넥서스 허바드, 데이터센터 덩치는 전력으로 잰다

    데이터센터 크기를 말할 때는 건물 면적이나 서버 대수보다 전력 용량을 쓰는 경우가 많다. 이유는 두 가지다. 서버와 냉각 설비가 쓸 수 있는 전기의 양이 그 시설의 연산 능력을 사실상 정한다. 그리고 지역 전력망이 그 수요를 감당할 수 있느냐가 입지를 고를 때 첫 번째 조건이 된다. 단위도 짚고 넘어가자. 1MW는 1,000kW, 1,000MW는 1GW다. 이 기준으로 텍사스와 미국의 주요 프로젝트를 나란히 세우면 이렇다.

    시설 위치 전력 규모 특징
    넥서스 허바드 텍사스 6,400MW(계획) 주로 앤트로픽용, 미국에서 건설 중인 시설 가운데 2위
    스타게이트 프런티어 텍사스 섀클퍼드 카운티 1,820MW(예상) 텍사스 최대 가동 시설의 2배 이상
    콜로서스 2(스페이스X) 테네시 스타게이트 프런티어와 비슷한 수준 미국 최대 데이터센터
    하이페리온(메타) 루이지애나 넥서스 허바드보다 큰 규모 미국에서 건설 중인 시설 가운데 1위
    텍사스 최대 가동 시설 텍사스 스타게이트 프런티어의 절반 미만 비교 기준

    넥서스 허바드 한 곳의 계획 용량은 6.4GW. 스타게이트 프런티어의 세 배가 넘는다. 이런 숫자가 왜 정치 쟁점이 되는지는 구조를 따라가 보면 금방 보인다. 시설 하나가 지역 전력 수요를 한꺼번에 끌어올리면 발전 설비와 송전망을 새로 깔아야 한다. 그 비용을 누가 내느냐는 문제는 곧장 가정집 전기요금 고지서로 이어진다. 텍사스처럼 대형 프로젝트 여러 개가 동시에 돌아가는 곳이라면 이 부담은 하나씩 오지 않고 겹쳐서 온다. 표에 나온 숫자를 그냥 스펙 비교로만 넘기면 안 되는 이유다.

    유권자가 반대한 건 AI가 아니라 전기요금 고지서

    이번 중간선거에서 유권자가 보낸 신호는 주민투표 안건부터 연방 선출직까지 한 방향을 가리켰다. 데이터센터 때문에 전기요금이 오르지 않도록 요금 납부자(ratepayer)를 보호하는 방안에 찬성했고, 일부 지역에서는 신규 데이터센터를 더 넓게 금지하는 안까지 지지했다.

    요금 납부자 보호는 미국 전력 규제에서 자주 나오는 개념이라, 알아 두면 관련 기사 읽기가 한결 편해진다. 전력회사가 설비를 늘리면 그 투자비는 일반적으로 전체 고객의 요금에 나뉘어 반영된다. 데이터센터 한 곳이 수백~수천 MW를 새로 요구하면 증설 비용도 커진다. 혜택은 데이터센터가 가져가고 비용은 일반 가정이 함께 떠안는 구조가 생길 수 있는 지점이 바로 여기다. 그래서 보호 장치로 흔히 거론되는 방식이 두 가지다. 대형 전력 수요처에 별도 요금 체계를 적용하는 것, 그리고 증설 비용을 해당 사업자가 더 많이 부담하도록 계약 조건을 거는 것. 이런 조항은 건설 자체를 막지 않고 비용 배분만 바꾼다. 모라토리엄보다 수위가 한 단계 낮은 규제라고 보면 된다.

    빅테크도 손 놓고 있지는 않았다. AI가 의료를 개선하고, 물건값을 낮추고, 과학적 돌파구를 늘린다는 ‘풍요’의 논리로 유권자를 설득하려 했다. 선거 결과만 보면 그 설득은 먹히지 않았다는 신호에 가깝다. 이유는 어렵지 않게 짐작된다. AI의 혜택은 멀고 추상적이지만, 전기요금은 매달 확인하는 구체적인 숫자다. 아무리 큰 그림을 그려 줘도 매달 빠져나가는 돈 앞에서는 설득력이 떨어질 수밖에 없다.

    인허가 도장은 시·카운티·주가 나눠 쥐고 있다

    텍사스에서 데이터센터 프로젝트를 진행시킬지 멈출지 혼자 결정하는 기관은 없다. 시 정부, 카운티 당국, 주 정부 기관이 권한을 조금씩 나눠 쥐고 맞물려서 판단한다. 주지사가 모라토리엄을 원한다고 해서 거기서 끝나지 않는다는 얘기다. 지역 단위의 승인 절차도 넘어야 하고, 지역 정치의 반발도 감당해야 한다.

    이 구조가 왜 중요한지는 카운티별 표심에서 드러난다. 데이터센터 건설이 몰린 댈러스 일대에서 댈러스 카운티와 인접 지역은 예상대로 민주당을 택했다. 그런데 근처에 있는, 데이터센터 인허가 신청이 가장 많은 엘리스 카운티는 애벗과 팩스턴에게 표를 줬다. 남부 국경 인근의 데이터센터 밀집지 캐머런 카운티는 민주당 쪽으로 돌아섰다. 서부 텍사스 프로젝트가 몰린 미첼 카운티와 스커리 카운티는 공화당을 골랐다. 카운티별로 펼쳐 놓으면 꽤 얼룩덜룩한 그림이다.

    여기서 챙길 포인트는 하나다. 데이터센터가 실제로 들어서는 지역이 한결같이 반대표를 던진 건 아니라는 것. 개발을 반기는 지역의 관계자들은 주 차원의 일괄 제한에 맞서고 나설 수 있다. 민주당 안에도 변수가 있다. 일부 후보의 선거운동을 도운 건설 노조는 대형 공사가 멈추는 데 반발할 수 있다. 이노호사가 한때 세제 혜택을 지지한 근거가 바로 건설 일자리였다는 점을 떠올리면, 공약과 실제 정책 사이의 간격은 생각보다 클 수 있다. 이긴 쪽이 자기 지지층 일부와 부딪힐 수 있는 구조다.

    국내 AI 서비스와 한국 공급망, 영향은 당장이 아니다

    국내 이용자가 쓰는 AI 서비스가 당장 달라지지는 않는다. 모라토리엄이 겨냥하는 건 앞으로 지을 시설이고, 지금 쓰는 서비스는 이미 가동 중인 설비 위에서 돌아가기 때문이다.

    영향이 생긴다면 시차를 두고 나타날 가능성이 크다(추측). 넥서스 허바드는 주로 앤트로픽을 위해 짓는 시설이다. 이렇게 특정 AI 기업의 연산 능력 확충 계획이 한 지역 프로젝트에 크게 기대고 있으면, 인허가가 늦어질 때 신규 모델 학습이나 서비스 용량 확대 일정도 함께 밀릴 수 있다. 해외 AI 서비스를 업무에 쓰고 있다면, 이용 한도나 신규 기능 출시 속도가 이런 설비 일정과 연결돼 있다는 정도만 기억해 두면 된다. 지금 당장 뭔가를 바꿀 이유는 없다.

    산업 쪽으로 눈을 돌리면 얘기가 조금 달라진다. 미국 데이터센터 투자는 전력기기, 반도체, 냉각 설비처럼 한국 기업이 공급망에 참여하는 분야와 맞닿아 있다. 텍사스에서 신규 프로젝트가 멈추면 관련 수주 전망에도 영향을 줄 수 있다(추측). 그렇다고 바로 비관할 일은 아니다. 프로젝트가 규제가 느슨한 다른 주로 옮겨 가면 미국 전체 수요는 유지될 수도 있다. 한 주의 규제를 곧장 수요 감소로 읽기엔 아직 이르다.

    국내 데이터센터 입지 논쟁에도 똑같은 질문이 걸린다. 전력망에 여유가 있는지, 요금 부담을 누가 나눠 지는지, 지역 주민이 동의하는지. 나라와 상관없이 대형 데이터센터 인허가라면 어디서나 부딪히는 쟁점들이다. 국내에서도 수도권 전력 사정과 주민 반발이 데이터센터 입지를 좌우해 왔다. 텍사스가 모라토리엄과 요금 보호 조항 가운데 어느 쪽을 택하는지는 우리에게도 참고할 만한 사례가 된다.

    확인된 것과 아직 불확실한 것

    확인된 것

    • 텍사스는 미국에서 가장 빠르게 성장하는 데이터센터 시장이다.
    • 애벗 주지사는 선거 전에 핵심 주 규제기관에 데이터센터 인허가 중단을 지시했다.
    • 이노호사 당선인은 선거운동 기간 전면 모라토리엄을 주장했다.
    • 민주당은 24년 만에 처음으로 텍사스 주 하원 다수당이 된다.
    • 스타게이트 프런티어(1,820MW 예상)와 넥서스 허바드(6,400MW 계획)가 텍사스에서 건설 중이다.
    • 은행과 대출기관은 지원할 데이터센터 프로젝트를 더 까다롭게 고르고 있다.

    아직 불확실한 것

    • 모라토리엄의 적용 범위(신규 시설만인지, 공사 중인 시설까지인지)와 시행 방식
    • 데이터센터 밀집 카운티의 표심이 선거 결과에 미친 영향
    • 주 차원 규제에 대한 시·카운티 정부의 대응 수위
    • 건설 노조의 반발이 정책 수위에 미칠 영향
    • 스타게이트 프런티어와 넥서스 허바드의 완공 일정 변화 여부

    공약이 진짜 규제로 굳을지, 네 가지 신호로 가늠하기

    선거 공약이 실제 규제로 굳어지기까지는 거쳐야 할 단계가 여럿이다. 텍사스든 다른 지역이든 데이터센터 규제 소식이 들리면 아래 네 가지를 순서대로 확인해 보자. 흐름이 훨씬 잘 읽힌다.

    1. 대상: 새 인허가를 멈추는 모라토리엄인지, 기존 프로젝트를 늦추는 지연인지, 영구 금지인지부터 가른다. 똑같이 ‘중단’이라고 쓴 기사라도 공사 중인 시설이 받는 영향은 전혀 다르다.
    2. 결정 주체: 주지사의 행정 지시인지, 주 의회 입법인지, 시·카운티 조례인지 본다. 주 하원 다수당이 바뀐 만큼 입법을 통한 규제도 거론될 수 있다(추측). 지역 조례라면 해당 지역에만 적용된다.
    3. 요금 조항: 전면 중단보다 요금 납부자 보호 조항이 먼저 나온다면, 건설을 막기보다 비용을 데이터센터 사업자에게 지우는 쪽으로 방향이 잡혔다고 볼 수 있다.
    4. 자금 흐름: 은행과 대출기관은 이미 프로젝트를 가려 받고 있다. 인허가 불확실성이 커지면 규제가 확정되기도 전에 자금 조달부터 막혀 공사가 늦어질 수 있다. 데이터센터 건설이 미국 경제 성장을 떠받치는 비중이 큰 만큼, 이렇게 되면 파장은 텍사스 밖으로 번질 수 있다.

    이론상으로는 민주당 압승이 텍사스 데이터센터 붐의 종말을 뜻한다. 하지만 실제 정책은 지역 권한, 건설 노조, 금융이라는 세 겹의 변수를 통과해야 한다. 그걸 다 거치고 나면 결과는 전면 중단보다 선별적 지연에 가까워질 가능성이 있다. 셋 가운데 가장 먼저 지켜볼 건 금융 쪽 신호다. 규제 문구가 나오기도 전에 이미 움직이고 있는 건 금융뿐이기 때문이다. 공약의 문구보다 이 네 가지가 어떻게 맞물리는지가 텍사스가 AI 데이터센터 중심지 자리를 지킬지를 가른다.

    출처: MIT Tech Review AI

  • LLM 서빙 하네스, 모델보다 병목 측정이 먼저다

    LLM 서빙 하네스, 모델보다 병목 측정이 먼저다

    3줄 요약

    • 서빙 하네스는 모델을 감싸는 아키텍처·메모리 관리·스케줄링·최적화 결정의 묶음이다. 같은 모델을 써도 이 설계에 따라 프로덕션의 속도와 비용이 달라진다.
    • 추론 중에 모델 가중치는 크기가 고정이지만 KV 캐시는 동시 요청 수와 컨텍스트 길이에 따라 커진다. 그래서 연산 여력이 남아 있어도 GPU 메모리가 먼저 바닥날 수 있다.
    • 최적화는 기법을 모으는 일이 아니다. 측정하고, 병목을 찾고, 해결하고, 다시 측정하는 일을 반복하는 것이다. 모델 교체가 플랫폼 재구축이 아니라 평가와 설정 변경으로 끝나도록 설계하는 것이 목표다.

    GPU 연산 여력은 아직 남아 있다. 그런데 동시 요청이 조금 늘자 응답이 밀리기 시작한다. LLM을 직접 띄워 운영하는 팀이라면 충분히 마주칠 수 있는 장면이다.

    이때 먼저 떠오르는 해법은 두 가지다. 모델을 바꾸거나, GPU를 더 사거나. 원인이 모델 바깥에 있다면 둘 다 돈만 더 쓰는 선택이 될 수 있다.

    EXL이 MIT Technology Review에 실은 기고문은 이 ‘모델 바깥’에 서빙 하네스(serving harness)라는 이름을 붙였다. 매체 편집국이 아니라 EXL이 제작한 콘텐츠다. 주장은 한 줄로 줄어든다. 엔터프라이즈 AI의 다음 경쟁력은 어떤 모델을 고르느냐보다 그 주변에 무엇을 짓느냐에 달렸다는 것.

    솔루션 기업이 쓴 글이니 걸러 들을 대목은 있다. 다만 뼈대가 되는 설명, 즉 가중치는 고정이고 KV 캐시는 요청에 따라 불어난다는 대목은 추론 시스템의 일반적인 동작 원리와 맞아떨어진다. 개념을 정리하는 용도로는 충분히 쓸 만하다. 아래에서 서빙 하네스의 구성, 병목이 생기는 지점, 그 병목을 푸는 순서를 차례로 본다.

    서빙 하네스, 가중치 파일 바깥의 네 가지 결정

    AI 이야기의 중심엔 늘 모델 성능이 있었다. 더 큰 모델, 더 나은 추론 능력, 더 긴 컨텍스트 윈도, 더 높은 벤치마크 점수.

    실험 단계를 지나 프로덕션에 들어서면 질문 자체가 바뀐다.

    • 실험 단계: ‘이 모델이 뭘 할 수 있지?’
    • 프로덕션: ‘이 지능을 안정적으로, 경제적으로, 대규모로 전달할 수 있나?’

    서빙 하네스는 두 번째 질문에 답하는 시스템이다. 모델 가중치 파일 자체를 말하는 게 아니다. 모델을 둘러싸고 요청을 받아 처리하고 응답을 돌려주는 엔지니어링 전체를 가리킨다. 쪼개 보면 네 덩어리.

    • 아키텍처: 요청이 어떤 경로로 들어와 어느 서버와 GPU에서 처리되는지, 모델을 몇 벌 띄워 어떻게 배치하는지
    • 메모리 관리: 한정된 GPU 메모리를 모델 가중치와 요청별 상태(뒤에서 볼 KV 캐시)에 어떻게 나눠 쓰는지
    • 스케줄링: 동시에 들어온 요청을 어떤 순서와 묶음으로 처리할지
    • 최적화 결정: 양자화, 추측 디코딩, 어텐션 최적화 같은 기법 중 무엇을 언제 적용할지

    하네스(harness)는 원래 말에 씌우는 마구, 혹은 전선을 묶은 배선 뭉치를 뜻한다. 힘을 내는 건 말이지만, 그 힘으로 마차를 끌게 만드는 건 마구다. 이름부터가 꽤 정확한 비유다.

    기고문의 논리는 이렇게 이어진다. 기업들이 점점 같은 모델을 쓸 수 있게 되면서 모델만으로는 차별화가 어려워진다. 차이는 그 모델을 얼마나 효율적으로 실제 기능으로 바꾸느냐에서 난다.

    대화형이냐 배치형이냐가 서빙 구조를 가른다

    전제부터 짚자. 누구에게나 ‘최고’인 모델이나 AI 아키텍처는 없다. 풀려는 업무 문제에 맞는 해법이 있을 뿐이다. 워크로드가 제약을 정하고, 제약이 서빙 구조를 정한다.

    빠른 응답이 생명인 고객 응대 어시스턴트와 밤새 돌아가도 괜찮은 문서 처리 파이프라인. 둘을 나란히 놓으면 요구사항이 근본부터 다르다.

    • 대화형 서비스: 사용자가 첫 글자를 기다리는 시간이 체감 품질을 좌우한다. 지연을 짧게 유지하는 게 1순위.
    • 배치형 파이프라인: 개별 응답 속도보다 전체 처리량과 건당 비용이 중요하다.

    사내 지식 검색 앱과 대량 트래픽을 받는 고객 서비스 플랫폼도 마찬가지다. 같은 기반 모델을 써도 서빙 구조는 완전히 달라질 수 있다.

    문제는 PoC 단계에선 이 차이가 잘 안 보인다는 점. 사용자가 몇 명뿐이면 모델 정확도가 논의를 독차지한다. 지연, 동시성, 메모리 압박, GPU 활용률, 인프라 비용, 예측하기 어려운 트래픽 같은 제약은 뒤로 밀리기 쉽다. 그리고 프로덕션에 올라가는 순간 한꺼번에 드러난다.

    구분 PoC 단계 프로덕션 단계
    핵심 질문 모델이 무엇을 할 수 있나 그 지능을 안정적·경제적·대규모로 전달할 수 있나
    주로 보는 지표 모델 정확도 지연, 동시성, GPU 활용률, 인프라 비용
    사용자와 트래픽 소수 사용자 많은 사용자, 예측하기 어려운 트래픽
    메모리 압박 사용자가 적어 무시하기 쉬움 동시 요청이 늘면서 병목으로 드러남
    모델 선택 기준 가장 좋은 답을 내는 모델 워크로드에 맞는 성능을 맞는 비용으로 내는 모델

    기고문에 나오는 비유 하나가 이 표의 마지막 줄을 잘 요약한다. 모든 워크로드에 페라리가 필요한 건 아니라는 것.

    답변이 조금 더 나은 모델이라도 추론 비용을 두 배로 늘리거나 애플리케이션의 지연 요구를 맞추지 못한다면, 프로덕션에서는 더 나은 선택이 아닐 수 있다. 업무에 필요한 만큼의 성능을 내면서 쓰지도 않을 능력에는 돈을 내지 않는 모델. 이쪽이 더 영리한 결정일 때가 많다.

    이렇게 보면 서빙 구조는 엔지니어링 문제이면서 동시에 투자 결정이다. 정해야 할 것은 세 가지다.

    • 어디에 연산 자원을 쓸지
    • 어디를 최적화할지
    • 어느 지점부터는 모델 성능을 더 올려도 비용만큼의 가치가 없는지

    연산은 남는데 메모리가 먼저 바닥나는 이유, KV 캐시

    서빙 하네스에서 가장 먼저 이해해야 할 자원은 GPU 메모리다.

    언어 모델은 토큰을 하나씩 생성한다. 새 토큰을 만들 때마다 앞선 모든 토큰을 참고하는 어텐션 연산을 거친다. 이때 앞 토큰들의 키(key)와 값(value)을 매번 다시 계산하면 낭비가 크다. 그래서 한 번 계산한 결과를 메모리에 저장해 두고 재사용하는데, 이 저장 공간이 KV 캐시다.

    GPU 메모리를 차지하는 건 크게 두 덩어리다. 둘의 성격이 정반대라는 점이 이 글 전체의 열쇠.

    구분 모델 가중치 KV 캐시
    크기 추론 중에는 변하지 않고 고정 컨텍스트가 길수록 커짐
    누가 쓰나 한 번 올려 두면 모든 요청이 함께 씀 요청마다 따로 생김
    무엇이 쌓이나 추론 중에는 늘지 않음 입력 토큰과 이미 생성한 토큰이 모두 쌓임
    동시 요청이 늘면 그대로 전체 크기도 그만큼 늘어남

    동시 요청이 늘면 KV 캐시 전체가 불어난다. 그러다 어느 순간 연산 장치엔 여유가 있는데 쓸 수 있는 GPU 메모리가 먼저 바닥난다. 이때 서버가 할 수 있는 건 두 가지뿐이다. 새 요청을 대기열에 세우거나, 처리 중이던 요청을 밀어내거나. 사용자 쪽에선 그저 ‘느려졌다’로 보인다.

    이 병목을 모른 채 GPU만 늘리면 비효율적인 시스템을 더 비싸게 만들 뿐일 수 있다. 서두에서 GPU 추가 구매가 답이 아닐 수 있다고 한 근거가 바로 이 대목이다.

    운영 지표도 GPU 사용률 하나로는 부족하다. 함께 봐야 할 숫자는 이렇다.

    • GPU 메모리 중 KV 캐시가 차지하는 비중
    • 동시에 처리 중인 요청 수
    • 대기열 길이
    • 요청별 컨텍스트 길이 분포

    긴 컨텍스트 윈도도 같은 맥락에서 봐야 한다. 스펙표에선 매력적이지만, 긴 컨텍스트를 쓰는 요청이 많아질수록 같은 메모리로 동시에 받을 수 있는 요청 수는 줄어든다. 최대 컨텍스트를 지원한다는 것과 그걸 다 써도 괜찮다는 것은 별개의 이야기다. 이 지점을 겨냥한 선택지는 다음과 같다.

    • 워크로드별로 최대 컨텍스트 길이 제한하기
    • 프롬프트에 매번 붙는 불필요한 내용 줄이기
    • KV 캐시를 최대 길이만큼 미리 잡아 두지 않고 필요한 만큼 나눠 할당하는 서빙 엔진 고르기

    양자화·추측 디코딩은 병목을 확인한 다음 차례

    프로덕션에선 따로 떨어져 보이던 결정들이 서로 맞물려 돌아간다. 연결 고리를 따라가면 이렇다.

    서빙 구조 → 메모리 활용 → 동시성 → 배칭·스케줄링 → GPU 활용률과 지연

    서빙 구조가 메모리 쓰는 방식을 정한다. 남은 메모리가 동시에 받을 수 있는 요청 수를 정하고, 그 수가 배칭과 스케줄링 방식을 제한한다. 최종 결과는 GPU 활용률과 응답 지연으로 나타난다. 양자화, 추측 디코딩, 어텐션 최적화 같은 기법은 이 사슬이 정리된 뒤에야 제값을 한다. 기법마다 겨냥하는 지점도, 치르는 대가도 다르다.

    기법 방식과 겨냥하는 지점 조건·주의점
    양자화 가중치를 더 낮은 정밀도로 표현해 메모리 사용량과 메모리 대역폭 부담을 줄인다. 아낀 메모리는 KV 캐시에 돌릴 수 있다. 답변 품질이 떨어지지 않는지 평가가 따라와야 한다.
    추측 디코딩 작은 초안 모델이 여러 토큰을 먼저 제안하고 큰 모델이 한 번에 검증한다. 초점은 토큰 생성 지연 단축. 초안 모델도 메모리를 차지하고, 부하 상황에 따라 효과가 달라진다.
    어텐션 최적화 어텐션 연산의 메모리 접근 방식을 개선해 속도와 메모리 효율을 끌어올린다. 긴 컨텍스트에서 특히 효과가 크다.

    함정은 표의 가운데 줄에 있다. 시스템을 막고 있는 원인이 KV 캐시 메모리 부족인데 추측 디코딩부터 붙이면, 초안 모델이 메모리를 더 차지해 동시 처리량이 오히려 줄 수 있다. 지연을 줄이려고 넣은 기법이 메모리 병목을 더 조이는 꼴이다.

    기고문은 이를 두고 최적화 기법을 포켓몬 카드처럼 다 모으려 하지 말라고 썼다. 가벼운 비유지만, 위 사례를 보면 과장은 아니다. 목표는 기법 수집이 아니다. 애플리케이션의 업무 요구사항을 지키면서 가장 영향이 큰 제약을 걷어내는 것이다.

    순서는 단순하다.

    • 측정: 최적화하기 전에 먼저 잰다.
    • 병목 찾기: 가장 큰 제약을 골라낸다.
    • 해결: 그 제약을 푼다.
    • 재측정: 결과를 다시 재고, 새 병목이 생겼는지 확인한다.
    • 반복: 위 과정을 다시 돌린다.

    의사결정 질문도 바뀌어야 한다. ‘우리 조직이 어떤 AI 기능을 배포할 수 있나’가 아니다. ‘검증된 기능이 지속 가능한 비즈니스 가치가 되지 못하게 막는 제약이 무엇인가’를 물어야 투자 방향이 잡힌다.

    API만 쓰는 팀은 호출 구조, 자체 서빙 팀은 KV 캐시가 숙제

    한국에서 LLM 서비스를 만드는 팀 입장으로 옮겨 보자. 기고문 밖에서 추론한 부분이 섞여 있어서, 추정인 대목은 따로 표시했다.

    상용 API만 호출하는 팀. GPU 메모리나 배칭 같은 서빙 하네스의 핵심부는 API 제공사가 맡는다. 그렇다고 하네스와 무관한 건 아니다. 아래 항목은 여전히 우리 몫이고, 요청당 비용과 지연에 직접 영향을 준다.

    • 프롬프트 길이 관리
    • 워크로드별 모델 라우팅(간단한 요청은 가벼운 모델로 보내기)
    • 응답 캐싱
    • 모델을 갈아 끼울 수 있는 호출 구조

    사내 GPU에 공개 모델을 직접 띄우는 팀. 앞에서 본 KV 캐시, 동시성, 스케줄링 이야기가 그대로 적용된다. 금융·공공처럼 망분리 같은 보안 요건이 있는 환경은 외부 API보다 자체 서빙을 검토할 이유가 생기기 쉽다. 이런 조직일수록 모델 선정만큼 서빙 구조 검토에도 시간을 써야 할 것으로 보인다(추정).

    한국어 서비스라면 토큰 효율도 따져 볼 만하다(추정). 토크나이저에 따라 같은 뜻의 문장이 영어보다 더 많은 토큰으로 쪼개지는 경우가 있다. 토큰이 늘면 KV 캐시 크기도, API 과금도 함께 늘어난다. 모델마다 한국어를 처리하는 방식이 다르니, 후보 모델들에 실제 서비스 문장을 넣고 토큰 수를 직접 세어 보는 게 가장 확실하다.

    국내 팀도 대개 해외 팀과 같은 모델 후보군에서 고른다. 모델 선택만으로 경쟁사와 차이를 만들기는 점점 어려워질 가능성이 크다(추정). 기고문의 주장을 국내 상황에 옮기면 이런 해석이 나온다. 같은 모델로 더 싸고, 더 빠르고, 더 안정적으로 서비스하는 팀이 앞선다.

    확인된 것과 아직 불확실한 것

    확인된 것

    • 출발점이 된 기고문은 EXL이 제작한 콘텐츠로, 게재 매체의 편집국이 쓴 기사가 아니다.
    • 추론 중에 모델 가중치는 고정되어 있고, KV 캐시는 활성 요청 수와 컨텍스트 길이에 따라 커진다.
    • 동시성이 높아지면 연산 여력이 남아 있어도 쓸 수 있는 GPU 메모리가 먼저 부족해질 수 있다.
    • 서빙 구조, 메모리, 동시성, 배칭·스케줄링, GPU 활용률, 지연은 서로 연쇄적으로 영향을 준다.
    • EXL은 ‘Engineering the Harness’ 시리즈에서 서빙 구조, 메모리 관리, 스케줄링, 추론 최적화를 더 깊이 다룬다고 밝혔다.

    아직 불확실한 것

    • 하네스 설계를 바꾸면 비용이나 지연이 얼마나 줄어드는지에 대해 기고문은 구체적인 수치를 내놓지 않았다.
    • 어떤 최적화 기법이 어떤 워크로드에서 가장 효과적인지는 일반화된 답이 없고, 실측으로만 확인할 수 있다.
    • 모델 교체를 평가와 설정 변경 수준으로 만드는 게 실제로 어디까지 가능할지는 팀마다 다를 것으로 보인다. 모델마다 프롬프트 형식, 토크나이저, 컨텍스트 길이가 다르기 때문이다.
    • 하네스가 모델 선택보다 중요해진다는 주장에는 솔루션 기업의 시각이 담겨 있고, 독립적으로 검증된 결론은 아니다.

    모델 교체를 설정 변경으로 끝내는 다섯 가지 장치

    서빙 하네스에 투자할 가장 큰 이유는 선두 모델이 계속 바뀐다는 데 있다. 모델은 좋아지고, 하드웨어는 발전하고, 새 최적화 기법도 꾸준히 나온다. 기술이 바뀔 때마다 AI 플랫폼을 다시 지어야 한다면 그 비용은 매번 되풀이된다. 주변 구조가 이런 변화를 쉽게 흡수할 수 있어야 하는 이유다.

    기고문이 내놓는 기준은 세 가지다.

    • 워크로드 요구사항
    • 명확한 서비스 수준 목표(SLO)
    • 측정 가능한 프로덕션 경제성

    이 셋을 기준으로 시스템을 짜 두면 새 모델이나 인프라가 나왔을 때 업무에 실제로 필요한 것과 대조해 평가할 수 있다. 실무 체크리스트로 바꾸면 다섯 항목이 나온다.

    • 워크로드 정의서: 대화형인지 배치형인지, 허용 지연, 예상 동시 요청 수, 컨텍스트 길이 분포를 문서로 남긴다.
    • SLO 명문화: 첫 토큰까지 걸리는 시간, 전체 응답 시간, 꼬리 지연(가장 느린 일부 요청의 지연), 가용성, 요청당 비용 상한을 숫자로 정한다.
    • 모델 호출 추상화: 애플리케이션 코드가 특정 모델의 API 형식에 직접 묶이지 않도록 인터페이스를 한 겹 두고, 모델 이름과 생성 파라미터는 설정 파일로 뺀다.
    • 자체 평가 세트: 공개 벤치마크 대신 우리 업무 데이터로 만든 평가 세트를 유지하고, 새 모델을 품질·지연·비용 세 축으로 기존 모델과 비교한다.
    • 관측 지표: GPU 메모리 중 KV 캐시 비중, 동시 요청 수, 대기열 길이, 처리량, 요청당 비용을 대시보드에서 상시 확인한다.

    다섯 가지가 갖춰져 있으면 모델 교체는 아키텍처를 갈아엎는 일이 아니라 평가하고 설정을 바꾸는 일이 된다. 다만 프롬프트 형식과 토크나이저가 모델마다 다르니, 어디까지 설정 변경만으로 끝날지는 팀마다 차이가 날 것이다. 체크리스트에 자체 평가 세트가 들어간 것도 그 차이를 숫자로 확인하기 위해서다.

    기고문의 결론은 이렇다. 모델은 지능을 제공하고, 그 지능을 안정적이고 경제적인 대규모 결과물로 바꿀 수 있는지는 하네스가 결정한다. 실천으로 옮기면 한 가지로 모인다. 새 모델 소식이 나올 때마다 흔들리지 않으려면, 모델을 고르기 전에 우리 워크로드와 병목부터 숫자로 적어 둘 것.

    출처: MIT Tech Review AI

  • 코어위브 채권 부실권, 주가 20% 급락…오라클도 흔들

    코어위브 채권 부실권, 주가 20% 급락…오라클도 흔들

    3줄 요약

    • 코어위브 채권 금리가 미 국채보다 1,000bp 넘게 높아지면서 채권시장에서 흔히 쓰는 ‘부실’ 기준을 넘었고, 주가는 지난주 화요일 종가보다 20% 넘게 떨어졌어요.
    • 2분기 기준 부채는 350억달러가 넘고 상반기 적자도 10억달러가 넘어요. 다만 고객이 마음대로 해지하기 어려운 계약 잔고가 1,037억달러라서 당장 무너진다고 보기는 어렵다는 분석이에요.
    • 불안은 오라클 주가와 채권으로 번졌어요. GPU 연산력을 빌려주는 ‘네오클라우드’ 사업 모델 전체가 시험대에 올랐어요.

    미국 국채보다 이자를 1,000bp(10%포인트) 넘게 더 쳐줘야 돈을 빌릴 수 있는 회사가 있어요. 채권시장은 이런 회사를 ‘부실(distressed)’ 영역에 들어섰다고 봐요. 지난주 AI 클라우드 기업 코어위브가 바로 이 선을 넘었어요.

    결론부터 말할게요. 코어위브가 당장 쓰러진다고 보기는 어려워요. 그래도 시장이 AI 인프라에 쌓인 빚을 의심하기 시작했다는 신호로는 충분해요. 같은 기간 오라클 주가와 채권까지 흔들렸고, 한 회사 주가가 빠지고 끝날 일이 아니라는 생각에 업계 전체가 긴장하는 분위기예요. 더버지도 코어위브의 빚이 AI 업계 전체의 문제가 되어 가고 있다고 진단했어요.

    무슨 일이 있었는지, 숫자는 어떤지, 오라클은 왜 같이 흔들렸는지, 한국 투자자는 어디를 봐야 하는지 차례로 볼게요.

    부실 기준 넘고 주가 20% 급락, 일주일 사이 벌어진 일

    시작은 지난주 화요일이었어요. ‘SPAC 킹’이라는 별명으로 알려진 투자자 차마스 팔리하피티야가 코어위브 채권이 부실 영역에 들어갔다고 짚었어요. 그는 AI 인프라 구축 붐 자체가 사모신용(private credit) 거품 아니냐는 질문까지 던졌고요.

    이후 코어위브 주가는 화요일 종가보다 20% 넘게 빠졌어요. 불똥은 다른 AI 기업 주가로도 튀었어요. 여기에 일론 머스크가 ‘이크(yikes)’ 한마디를 보태면서 분위기는 더 가라앉았어요.

    타이밍도 최악에 가까웠어요. 팔리하피티야의 글이 올라온 바로 그날, 공동창업자 브래닌 맥비가 파이낸셜타임스 인터뷰에서 정크 등급인 회사 채권을 투자등급으로 끌어올리고 싶다고 말했거든요. 노리는 건 보험사 돈이에요. 투자등급이 돼야 보험사에서 빌릴 수 있는데, 맥비는 보험사 자본이 “무한하다”는 표현까지 썼어요.

    허황된 목표는 아니에요. 코어위브는 올해 초 처음으로 투자등급 칩 담보 대출을 받아낸 적이 있어요. 하지만 시장은 이 발언을 ‘빚이 이미 산더미인 회사가 더 빌리겠다’는 신호로 받아들였어요. 아래에 나오는 부채 350억달러, 상반기 적자 10억달러를 놓고 보면 시장이 이렇게 읽은 것도 무리는 아니에요. ‘부실’이라는 진단과 ‘더 빌리겠다’는 발언이 같은 날 나온 셈이니까요.

    • 채권: 국채 대비 가산금리 1,000bp 이상, 흔히 쓰는 부실 기준 진입
    • 주가: 지난주 화요일 종가 대비 20% 넘게 하락
    • 경영진 발언: 투자등급을 받아 보험사 자금을 끌어오겠다는 구상이 추가 차입 우려를 키움
    • 시장 반응: 다른 AI 기업 주가로도 여파 확산

    빚 350억달러를 떠받치는 건 1,037억달러 계약 잔고

    AI 부채 하면 가장 먼저 떠오르는 회사가 코어위브예요. 2분기 실적 기준으로 빚이 350억달러를 넘었어요. GPU를 대출 담보로 잡는 방식을 처음 개척한 회사라서 빚이 이만큼 불어날 수 있었죠.

    더 아픈 곳은 수익성이에요. 코어위브는 연산력(컴퓨트) 판매 말고는 이렇다 할 사업이 없는데, 정작 그 사업에서 돈을 못 벌고 있어요. 올해 상반기 손실만 10억달러가 넘어요. 빚은 원래도 비싸게 끌어왔어요. 여기서 이자가 더 오르면 흑자 전환은 그만큼 멀어져요. 사업이 사실상 하나뿐이니 적자를 메워 줄 다른 수입원이 마땅치 않다는 점도 부담이에요.

    저울 반대편에는 ‘잔여 이행 의무(RPO)’가 있어요. 고객과 계약은 맺었는데 아직 이행하지 않은 몫을 말해요. 2분기 기준 1,037억달러이고, 그중 약 40%가 2028년에 받을 돈이에요. 계약한 회사들은 아주 제한적인 경우가 아니면 이 계약을 취소할 수 없어요. 빚보다 훨씬 큰 계약 잔고가 깔려 있다는 점이 ‘당장 무너지지는 않는다’는 판단의 가장 큰 근거예요. 다만 계약 잔고는 아직 손에 들어온 현금이 아니에요. 잔고의 상당 부분이 2028년이 돼야 현금이 된다는 점은 따로 봐야 해요.

    항목 수치 의미
    부채(2분기 기준) 350억달러 이상 차입 비용이 오르면 이자 부담이 크게 늘어남
    상반기 손실 10억달러 이상 핵심 사업인 연산력 판매가 아직 적자
    잔여 이행 의무(RPO) 1,037억달러 제한적인 경우 말고는 취소할 수 없는 계약 잔고
    2028년에 들어올 몫 약 40% 현금이 특정 시점에 몰려서 들어옴
    상위 3개 고객 매출 비중 2분기 매출의 거의 4분의 3 마이크로소프트·오픈AI·엔비디아(추정)에 크게 기댐

    최대 고객은 마이크로소프트와 오픈AI, 그리고 엔비디아로 추정되는 회사예요. 코어위브가 세 번째 고객 이름을 밝히지 않아서 ‘추정’이 붙어요. 이 세 곳이 2분기 매출의 거의 4분의 3을 냈어요. 계약 잔고가 1,037억달러라고 해도 그 돈을 치를 회사는 몇 곳 안 된다는 뜻이에요.

    기사를 쓴 기자는 마이크로소프트와 엔비디아가 계약 대금을 제대로 치를 가능성이 높다고 봤어요. 코어위브가 쓰러지면 시장 전체에 파장이 클 테니, 이 회사들이 직접 코어위브를 벼랑 끝으로 밀 이유가 적다는 논리예요. 오픈AI는 상대적으로 불안한 고객으로 봤어요. 그래도 오픈AI가 다들 아는 것보다 훨씬 심각한 재정난에 빠진 게 아니라면 코어위브는 당분간 괜찮을 거라는 게 기자의 판단이에요. 이 판단은 ‘큰 고객들 입장에서도 코어위브가 살아 있는 편이 낫다’는 전제에 기대고 있어요. 전제가 흔들리면 결론도 같이 흔들린다는 점은 기억해 둘 만해요.

    오라클 채권까지 팔렸다, 의심받는 건 네오클라우드라는 사업 모델

    불안은 코어위브에서 멈추지 않았어요. 같은 기간 오라클 주가는 10% 가까이 떨어졌고, 오라클 채권에도 매도세가 몰렸어요. AI 인프라를 짓느라 큰 빚을 낸 회사들이 한꺼번에 의심을 받는 상황이에요.

    메트라이프 인베스트먼트 매니지먼트에서 레버리지 금융을 공동으로 이끄는 존 요바노비치는 블룸버그에 “지난 1년 동안 신용도가 바뀐 게 문제가 아니라, 앞으로 1년 반 치 공급이 더 나온다는 게 문제”라고 말했어요. 여기서 ‘공급’이 정확히 뭘 가리키는지는 원문에도 설명이 없어요. 문맥상으로는 회사 체력이 갑자기 나빠졌다기보다 앞으로 쏟아질 물량이 부담이라는 뜻으로 읽혀요.

    코어위브 같은 회사를 흔히 ‘네오클라우드’라고 불러요. 기존 대형 클라우드와 달리 GPU 연산력 임대에 집중하는 신흥 업체들이에요. 기자는 코어위브를 둘러싼 불안이 사실 네오클라우드 모두에 해당한다고 짚었어요. 서버를 통째로 빌려주는 베어메탈 사업이 과연 좋은 사업인지부터 아직 분명하지 않기 때문이에요. 이번 일로 코어위브 한 곳이 아니라 사업 모델 전체가 의심받게 됐어요.

    그렇다고 ‘AI 거품이 터졌다’고 단정하기는 이르다는 게 기자의 입장이에요. 주가는 회사의 미래에 대한 신뢰를 보여줄 뿐, 그날그날의 사업 상황을 보여주는 지표가 아니라는 거죠. 이번 급락을 싸게 살 기회로 보고 매수에 나선 투자자들도 있다고 해요. 시장이 한쪽으로만 쏠린 건 아니라는 얘기예요.

    한국에선 소비자보다 투자자·반도체 공급망에 걸린 이야기

    손에 쥐는 제품 얘기가 아니라 금융시장 얘기라서, 한국 소비자의 일상이 당장 바뀔 일은 없어요. 미국 AI 관련 주식이나 채권을 들고 있거나 AI 인프라 공급망과 엮인 쪽이라면 사정이 달라요. 아래는 원문 사실을 바탕으로 한 해석이고, 일부는 추측이에요.

    • 같이 움직이는 종목들: 코어위브 불안이 오라클 주가와 채권으로 번진 것처럼, 빚을 많이 낸 AI 인프라 기업들은 한 묶음으로 움직일 수 있어요. 종목 하나만 들여다봐서는 판단하기 어렵다는 뜻이에요.
    • GPU 담보 모델의 민감도(추측): 코어위브는 GPU를 담보로 돈을 빌리는 구조를 개척한 회사예요. 차입 비용이 오르면 GPU를 사들이는 속도가 느려질 수 있고, 엔비디아 공급망에 부품을 대는 국내 반도체 기업들에도 간접적인 변수가 될 수 있어요. 원문에는 이런 파급 효과를 보여주는 수치가 없으니, 어디까지나 가능성 정도로 보는 게 맞아요.
    • 고객 쏠림: 매출의 거의 4분의 3이 세 고객에서 나와요. 오픈AI의 재무 상황 같은 뉴스가 코어위브 주가에 곧바로 반영될 가능성이 커 보이는 이유예요.
    • 2028년이라는 시계: 계약 잔고의 약 40%가 2028년에 몰려 있어요. 그때까지 빚을 문제없이 굴릴 수 있느냐가 관건이에요.

    국내에서도 AI 데이터센터와 GPU 확보에 관심이 커지고 있어요. ‘연산력을 빌려주는 사업이 빚을 감당할 만큼 돈이 되느냐’는 질문을 남의 일로만 넘기기 어려운 이유예요.

    확인된 것과 아직 불확실한 것

    확인된 것

    • 코어위브 채권의 국채 대비 가산금리가 1,000bp를 넘어 흔히 쓰는 부실 기준에 진입
    • 주가는 지난주 화요일 종가 대비 20% 넘게 하락, 같은 기간 오라클 주가는 10% 가까이 하락하고 오라클 채권도 매도세
    • 2분기 기준 부채 350억달러 이상, 상반기 손실 10억달러 이상
    • 2분기 기준 RPO 1,037억달러, 이 중 약 40%가 2028년에 들어오며 제한적인 경우 말고는 취소 불가
    • 공동창업자 맥비가 투자등급을 받아 보험사 자금을 조달하고 싶다고 밝힘, 올해 초 첫 투자등급 칩 대출 확보

    아직 불확실한 것

    • 세 번째 대형 고객이 정말 엔비디아인지(코어위브는 밝히지 않음)
    • 오픈AI가 장기 계약 대금을 끝까지 치를 재무 여력이 있는지
    • 코어위브가 실제로 투자등급을 받아 보험사 자금을 끌어올 수 있을지
    • 연산력 판매와 베어메탈 사업이 AI 붐이 꺾인 뒤에도 수익을 낼 수 있는지
    • 이번 급락이 일시적 조정인지, AI 인프라 신용 거품의 신호인지

    빚을 갚는 동안 음악은 계속된다, 진짜 시험은 AI 붐이 식을 때

    기자의 결론은 꽤 냉정해요. 코어위브가 빚을 계속 갚아 나가는 한 음악은 멈추지 않는다는 거예요. 이 사업이 정말 살아남을 수 있는지는 AI 붐이 주춤할 때가 돼서야 알 수 있다는 설명이에요. 계약은 쉽게 깰 수 없어도, 그 계약을 치를 고객들의 형편은 AI 붐이 어떻게 되느냐에 따라 달라질 수 있어요. 고객 쏠림이 이만큼 심한 회사라면 더 그렇고요.

    당분간 지켜볼 건 세 가지예요. 코어위브의 차입 비용이 더 오르는지, 오픈AI 같은 핵심 고객이 재무적으로 버텨 주는지, 오라클처럼 AI 인프라에 빚을 낸 다른 회사들로 불안이 계속 번지는지. 주가가 20% 빠졌다는 사실보다 이 세 가지 흐름이 이어지느냐가 더 중요한 신호로 보여요.

    출처: The Verge

  • 서버를 바다에 수장시켰더니 고장률이 8분의 1로 떨어졌다 — 해저 데이터센터 정리

    서버를 바다에 수장시켰더니 고장률이 8분의 1로 떨어졌다 — 해저 데이터센터 정리

    스코틀랜드 앞바다, 수심 35미터 해저. 그 안에 서버 864개가 돌아가고 있었다. 마이크로소프트가 2018년에 이 실험을 시작했을 때 업계 반응은 대체로 “말이 안 된다”였다. 2년 후 인양 결과가 나왔을 때 분위기가 바뀌었다. 고장률이 육상 데이터센터의 8분의 1. 이게 그냥 묻힌 이야기가 아닌 이유가 여기 있다.

    AI 수요가 폭발하면서 데이터센터 부지, 전력, 냉각이라는 세 문제가 동시에 터지고 있다. 셋 다 돈이 어마어마하게 든다. 해저 데이터센터는 이 세 가지를 한꺼번에 건드리는 방식이다.

    왜 하필 바다인가

    데이터센터가 전 세계 전력의 1~2%를 먹는다. AI 학습·추론 수요가 급증하면서 이 비율은 계속 올라가는 중이다. 문제의 핵심은 냉각이다. 서버가 내뿜는 열을 식히는 비용이 전체 운영비의 30~40%를 차지한다. 냉각을 잘 해결하면 운영비 구조 자체가 달라진다.

    바다는 이 문제를 구조적으로 풀어준다. 수온이 연중 안정적이고, 해수의 열용량은 공기와 비교가 안 될 정도로 크다. 냉각수를 따로 끌어다 쓸 필요 없이 바닷물을 그대로 쓰면 된다. 해안 근처라면 전력 연결도 그리 어렵지 않다.

    마이크로소프트 프로젝트 나틱이 증명한 것

    마이크로소프트의 ‘프로젝트 나틱(Project Natick)’은 2018년 스코틀랜드 오크니 제도 앞바다에서 시작됐다. 지름 2.4미터, 길이 12미터짜리 원통형 압력 용기 안에 서버 864개를 넣어 가라앉혔다. 2년 운영 후 인양해서 분석한 결과가 이렇다.

    • 고장률이 육상 데이터센터의 8분의 1 수준
    • 내부를 질소 환경(무산소)으로 채워 부식·습도 문제 원천 차단
    • 해수를 냉각에 직접 활용해 에너지 비용 절감
    • 진동·먼지·온습도 변화가 없어 부품 수명이 육상 대비 훨씬 길어짐

    인간의 손이 안 닿는 게 오히려 장점이었다. 유지보수 인력이 드나들면서 생기는 진동, 정전기, 이물질 유입. 이게 다 사라지니까 서버 환경이 훨씬 안정적으로 유지됐다는 얘기다. 생각해보면 당연한 건데, 막상 수치로 나오니 임팩트가 크다.

    해저 케이블 인프라와 맞닿는 지점

    전 세계 인터넷 트래픽의 95% 이상이 해저 케이블로 흐른다. 구글, 메타, 아마존은 이미 자체 해저 케이블을 직접 깔고 있다. 데이터센터를 이 케이블 경로 근처 해저에 박아두면 지연(레이턴시)을 크게 줄일 수 있다.

    해안 도시 근처 수심에 설치하면 도심 한복판에 비싼 부동산 없이도, 도시 사용자에게 빠른 응답 속도를 주는 엣지 컴퓨팅 거점이 생긴다. 서울, 도쿄, 뉴욕 같은 고밀도 해안 대도시권에서 이 구조가 경제적으로 말이 되는 이유다.

    현실적인 한계 3가지

    장점만 있는 기술은 없다. 해저 데이터센터가 넘어야 할 장벽도 뚜렷하다.

    • 유지보수 불가: 고장 나도 즉각 수리 못 한다. 인양 자체가 대형 작업이라 시간도, 돈도 상당히 든다.
    • 초기 구축 비용: 압력에 견디는 밀폐 용기, 수중 전력 케이블, 설치 선박 운용. 육상 데이터센터 대비 초기 투자가 훨씬 크다.
    • 해양 환경 영향: 서버 열이 주변 해수 온도를 높인다. 대규모로 배치하면 생태계를 어떻게 바꿀지, 장기 연구가 아직 부족하다.

    플렉서블·모듈형 데이터센터와 함께 가는 흐름

    해저 데이터센터와 함께 업계가 눈여겨보는 게 ‘플렉서블 데이터센터’다. 컨테이너 크기 서버 유닛을 필요한 곳에 꽂고, 수요에 따라 늘리거나 줄이는 방식. 군사 기지, 오지, 재난 현장, 해양 플랫폼처럼 기존 대형 데이터센터로는 커버 못 하는 환경에서 수요가 커지고 있다.

    AI 추론 작업은 학습과 달리 훨씬 작은 컴퓨팅 파워로 돌아간다. 작고 분산된 엣지 유닛을 사용자 가까이 두면 응답 속도도, 비용도 유리해진다. 결국 “하나의 거대한 데이터센터”에서 “분산된 작은 유닛들”로 무게 중심이 이동하는 흐름과 맞닿아 있다.

    중국은 이미 상용화 단계다

    중국 기업 하이랜더(Highlander, 海兰信)는 이미 상용 해저 데이터센터를 운영 중이다. 하이난 앞바다에 컨테이너형 수중 데이터센터를 설치했고, 추가 유닛 배치 계획도 발표했다.

    마이크로소프트는 실험이었지만, 하이랜더는 실제 상업 서비스다. 이 속도를 보면 해저 데이터센터가 SF가 아니라 현실 인프라로 넘어오는 게 생각보다 빠르다. MIT 테크놀로지 리뷰도 이 흐름을 주요 인프라 트렌드로 짚고 있다.

    육상을 대체하지는 않는다, 보완재로서

    해저 데이터센터가 기존 육상 시설을 대체하지는 않는다. 냉각 효율이 높고, 땅값이 없고, 레이턴시를 줄일 수 있는 특정 조건에서만 경제성이 생긴다. 보완재다.

    AI 인프라 경쟁이 치열해질수록 얘기가 달라진다. 엔비디아 GPU 클러스터를 식히는 비용이 계속 올라가는 상황에서, 전력·냉각·부지 세 가지 병목을 동시에 건드리는 수단으로서 수중 배치의 경제성은 더 커질 수밖에 없다. 바다가 꽤 현실적인 답 중 하나가 되고 있는 이유다.

    출처: MIT Tech Review AI