[태그:] 데이터센터

54메가와트(MW). 미국 버지니아주 라우던 카운티에서 가동 중인 데이터센터의 평균 전력 용량이에요. 덴버 국제공항 하나가 끌어다 쓰는 전력보다 많아요. 이런 건물이 큰 도로를 따라 줄줄이 서 있는 애시번 일대를 사람들은 ‘데이터센터 앨리’라고 부르는데, 세계 최대의 데이터센터 밀집지입니다. 지금 미국 전역으로 번진 데이터센터 반대 여론도 사실상 이 동네에서 처음 모양을 갖췄다는 평가를 받아요.

MIT 테크놀로지 리뷰가 AI 뉴스레터 ‘더 알고리즘’에서 내놓은 주장은 단순해요. 이 반발의 핵심은 업계가 말하는 막연한 문화전쟁이 아니라 전기라는 거예요. 저는 이 시각이 꽤 설득력 있다고 보는데, 이렇게 놓고 보면 흩어져 있던 이야기들이 한 줄로 꿰어지거든요. 데이터센터가 전기를 어디서 어떻게 받아 오는지, 그리고 그 방식에 따라 주민이 무엇을 떠안게 되는지.

오픈AI는 ‘불안의 대리물’, 버지니아 활동가는 ‘처음부터 전기’

빅테크 쪽에서는 데이터센터 반대를 데이터센터 자체보다 더 큰 무언가에 대한 불만으로 보는 시각이 일반적이에요. 오픈AI의 크리스 레헤인 글로벌 대외협력 총괄이 대표적이죠. 그는 데이터센터가 생활비 부담, 기업 권력, 그리고 사람들이 자기 미래에 대한 통제력을 잃고 있다는 대중의 불안을 대신 떠안는 대리물이 됐다고 썼어요. 데이터센터가 문화전쟁의 과녁이 됐다는 해석입니다.

버지니아에서 데이터센터 반대 운동을 이끌어 온 활동가 엘레나 슐로스버그는 전혀 다른 얘기를 해요. 업계가 이 싸움을 문화전쟁으로 그릴 때마다 벽에 머리를 박는 기분이라고, 처음부터 power 문제였다고요. 영어 power에는 권력과 전력이라는 뜻이 다 들어 있는데, 슐로스버그가 가리킨 건 분명히 전기 쪽이에요. 레헤인은 ‘기업 권력’을, 슐로스버그는 ‘전력’을 말하고 있으니 같은 단어를 놓고 양쪽이 서로 다른 뜻으로 읽고 있는 셈이죠.

반대하는 이유가 딱 하나로 정리되진 않아요. 일자리가 줄어들 거라는 걱정, AI의 존재론적 위험, 기업 권력이 한쪽으로 쏠리는 데 대한 불만이 전부 섞여 있어요. 잘못된 정보도 한몫하고요. 물 사용량이 대표적인 예인데, 대부분의 시설은 많은 사람이 생각하는 것보다 훨씬 적은 물을 쓴다고 해요.

반발이 실제로 어떤 규칙과 요구로 이어졌는지를 따라가 보면 그림이 선명해져요. 가장 큰 영향을 준 건 전력망에서 막대한 전기를 끌어다 쓰는 데서 생기는 구체적인 결과들이었어요. 업계 안쪽 시각도 크게 다르지 않습니다. 한 데이터센터 개발업자는 업계 사람들이 자신들의 확장을 가로막는 요인으로 여론보다 전기 부족을 더 크게 본다고 전했어요. 반대 운동가와 개발업자가 같은 걸 가리키고 있는데 문화전쟁 하나로 설명을 끝내는 건 무리라고 봐요.

54MW·300MW·6,000MW, 숫자로 감 잡는 데이터센터 전력

데이터센터 전력 얘기가 어렵게 느껴지는 건 메가와트라는 단위가 일상에서 잘 와닿지 않아서예요. 이럴 땐 비교 대상을 옆에 두는 게 제일 빨라요. 자주 거론되는 세 가지 규모를 표로 묶으면 이렇습니다.

나란히 놓으니 차이가 확 보이죠. AI 학습용 최소 규모라는 300MW만 해도 라우던 카운티 평균의 5배가 넘어요. 이상적인 규모로 꼽히는 6,000MW는 평균의 100배를 넘깁니다. 시카고는 도시 안에만 발전소가 20곳 넘게 있고 외곽에도 수십 곳이 더 있어요. 데이터센터 단지 하나가 그런 도시 하나만큼의 전기를 원하는 거예요.

300MW급 자체는 전례 없는 수준이 아니에요. 한 개발업자는 이미 그 정도 전력을 전력망에서 받아 쓸 수 있게 설비가 갖춰진 옛 제철소 부지를 눈여겨보고 있다고 했어요. 제철소쯤은 돼야 300MW를 받을 수 있다는 얘기니까, 그런 부지는 대형 중공업 시설 정도로 좁혀집니다. 6,000MW는 아예 기존 전력망으로 풀 수 있는 규모가 아니고요. 버지니아에서 통하던 방식을 AI 학습 단지에 그대로 옮기기 어려운 이유가 이 숫자 차이에 다 들어 있어요.

전력망에 붙는 데이터센터, 송전선 비용과 피크 시간이 쟁점

데이터센터가 전기를 얻는 길은 크게 두 가지예요. 기존 전력망에 연결해 전력회사에서 사 오거나, 발전 설비를 현장에 직접 지어 스스로 만들거나. 라우던 카운티의 데이터센터는 대부분 앞쪽이에요. 이 지역은 데이터센터가 아주 많지만, 다른 지역의 폭발적인 확장에 비하면 비교적 꾸준한 속도로 지어져 왔어요. 전력망이 그 증가를 따라갈 수 있었던 것도 이 속도 덕분으로 보여요.

에퀴닉스가 운영하는 한 시설을 보면 구조가 전형적이에요. 현장에는 대형 디젤 발전기를 백업용으로 두고, 평소 전기는 지역 전력회사인 도미니언 에너지에서 받아요. 도미니언 에너지의 전력은 상당 부분 천연가스로 만들어집니다. 천연가스는 석탄이나 석유보다는 깨끗하지만 재생에너지보다는 오염이 많은 연료라서, 전력망에 연결돼 있다고 깨끗한 전기를 쓴다는 뜻은 아니에요.

이런 연결형 데이터센터를 두고 주민들이 문제 삼는 지점은 세 가지로 모여요.

• 송전선 비용 분담: 데이터센터를 위해 새로 까는 송전선 비용이 일반 전기 이용자 전체에게 퍼지는 걸 막는 게 핵심이에요. 항의가 이어지자 버지니아주는 데이터센터가 신규 송전선 비용을 전액 부담하고, 그 비용이 다른 이용자에게 나뉘지 않도록 하는 규칙을 내놨어요.
• 피크 시간 전력: 수요가 몰리는 시간에도 데이터센터가 전기를 계속 끌어가면 다른 사람들이 쓸 여유가 줄어들어요. 개발업자들은 수요 피크 때 데이터센터를 전력망에서 끊는 새 규칙에 대비하고 있다고 해요.
• 간접 오염: 전력망이 빠듯해지면 데이터센터가 디젤 발전기를 더 자주 돌리거나, 도미니언 에너지가 재생에너지 대신 화석연료 발전을 늘려 수요를 맞출 수 있다는 우려예요. 슐로스버그가 특히 걱정하는 대목이 바로 이거고요.

셋을 겹쳐 보면 질문은 하나로 좁혀져요. 공용 인프라를 누가 얼마나 쓰고, 그 비용은 누가 내느냐. 문화전쟁이라는 틀보다는 전기요금 고지서에 가까운 계산이에요. 버지니아가 내놓은 규칙이 송전선 비용 부담처럼 돈이 누구에게 가느냐를 겨냥한 것도 같은 맥락이고요.

가스 터빈을 직접 돌리면, 동네에 발전소가 하나 생긴다

미국 다른 지역에서 새로 짓는 AI 데이터센터는 대부분 이런 식으로 설계되지 않아요. 원하는 규모가 워낙 크다 보니 기업들은 전력망 인프라가 사실상 없는 농촌으로 가서, 쓸 전기를 직접 만들어요. 이걸 ‘비하인드 더 미터(behind the meter)’ 전력이라고 불러요. 전력회사 계량기를 거치지 않고 부지 안에서 생산해 바로 쓰는 전기라는 뜻이에요. 주 전원은 보통 천연가스 터빈, 백업은 디젤 발전기.

돈도 크게 움직이고 있어요. 앤트로픽은 가스 터빈 구매에 34억 달러를 쓰기로 했다고 알려졌고, AI 기업의 발전 설비 구매로는 최대 규모라는 평가가 붙었어요. 이 구매의 공식 확인과 설치 지역은 아직 나오지 않았어요. 그러니 34억이라는 숫자에 매달리기보다는, AI 기업이 발전 설비까지 직접 사들이는 단계에 들어섰다는 방향을 읽어 두는 게 안전해요.

전력망에 부담을 안 주니 자가발전이 더 깔끔한 해법처럼 보이죠. 하지만 이 정도 규모로 전기를 만들면 주변 지역에 영향이 갈 수밖에 없어요. 공공 전력회사가 이런 규모의 발전 설비를 지을 때는 지역사회가 입지 결정에 목소리를 낼 수 있다는 기대가 있었어요. 민간 기업이 비슷한 규모의 사업을 직접 벌이면 그 통로가 약해집니다.

대기오염도 피할 수 없어요. 천연가스 터빈은 크기와 상관없이 대기오염 물질을 내보내고, 디젤 발전기까지 돌리면 더 나빠져요. 서둘러 가동하려다 법을 어긴 사례도 나왔어요. 미국 환경보호청(EPA)은 일론 머스크가 멤피스의 데이터센터에 전력을 대려고 터빈 수십 대를 설치하면서 대기질 관련 법을 위반했다고 봤어요.

자가발전형은 전력망 비용 문제를 피하는 대신 ‘발전소를 동네에 들이는’ 문제를 새로 만들어요. 작은 마을에 디즈니월드와 국제공항, 제철소, 그리고 그걸 전부 돌릴 발전소를 한꺼번에 받아들이라고 하면 주민이 망설이는 게 당연하다는 비유가 여기서 나와요. 세수를 늘리고, 지역 인력을 고용하고, 주민 참여를 넓히는 식으로 조건을 개선할 수는 있어요. 그래도 컴퓨터로 이뤄진 작은 도시 옆에서 사는 걸 쾌적하게 만드는 데는 분명한 한계가 있죠. 제가 보기엔 갈등을 없앤다기보다 갈등의 종류를 바꾸는 방식에 가까워요.

국내에서 데이터센터 소식을 볼 때 던질 다섯 가지 질문

미국 지역 정치 얘기처럼 보여도 국내 독자 입장에서 달라지는 게 두 가지 있어요.

하나는 AI 서비스가 얼마나 빨리 커질지 가늠할 때 반도체 옆에 전기를 같이 놓고 봐야 한다는 점. 업계 스스로 확장을 막는 요인으로 여론보다 전기 부족을 꼽는다는 건, AI 서비스 용량을 늘리는 속도가 전력 확보 속도에 묶여 있다는 뜻으로 읽혀요. 우리가 쓰는 해외 AI 서비스의 사용량 제한이나 요금 정책도 이런 인프라 사정과 무관하지 않을 거라고 짐작해 볼 수 있어요(추측).

다른 하나는 데이터센터 투자가 아시아로 향하는 흐름이에요. 구글은 말레이시아 데이터센터 프로젝트에 150억 달러를 쓰겠다고 발표했어요. 전력을 구하기 쉽고 반대가 적은 곳으로 데이터센터가 옮겨 간다면, 한국을 포함한 아시아도 이런 입지 경쟁의 무대가 될 수 있어요. 국내에 구체적으로 어떤 영향을 줄지는 아직 추측의 영역이고요.

국내에서 대형 데이터센터를 짓는다는 기사를 보면 버지니아 사례에서 뽑은 아래 다섯 가지 질문을 대입해 보세요. 기사에 뭐가 빠져 있는지 금방 드러나요.

1. 전력을 기존 전력망에서 받는가, 현장에서 직접 만드는가
2. 신규 송전선 비용은 누가 부담하는가
3. 전력 수요가 몰리는 시간에 데이터센터 운영은 어떻게 조정되는가
4. 백업용 디젤 발전기나 가스 터빈은 어느 규모로, 어디에 들어서는가
5. 물 사용량 같은 쟁점이 실제 수치로 확인됐는가

제일 먼저 볼 건 1번이에요. 1번 답이 정해지면 나머지 쟁점은 거의 따라오거든요. 전력망 연결형이면 2번과 3번이, 자가발전형이면 4번이 핵심 갈등이 될 가능성이 높아요. 5번은 거꾸로 쓰는 질문이에요. 대부분의 시설이 생각보다 물을 훨씬 적게 쓴다는 점을 떠올리면, 물 얘기만 크게 다루고 전력 수치는 없는 기사는 한 번쯤 의심해 볼 만해요.

확인된 것과 아직 불확실한 것

확인된 것

• 버지니아 라우던 카운티 데이터센터의 평균 전력 용량 54MW, 덴버 국제공항 전력 사용량보다 많은 수준
• 신규 송전선 비용을 데이터센터가 전액 부담하고 다른 이용자에게 나누지 않도록 한 버지니아주 규칙
• AI 학습용 데이터센터의 최소 매력 규모 300MW, 이상적 규모 6,000MW
• 머스크의 멤피스 데이터센터 터빈 설치에 대한 미국 환경보호청의 대기질 법 위반 판단
• 구글의 말레이시아 데이터센터 프로젝트 150억 달러 투자 발표

아직 불확실한 것

• 수요 피크 시간에 데이터센터를 전력망에서 분리하는 규칙의 도입 여부와 세부 내용
• 앤트로픽 가스 터빈 34억 달러 구매의 공식 확인과 설치 지역
• 선거에서 데이터센터 반대를 내세운 당선자들의 실제 정책 방향
• 퍼미안 분지 같은 인구 희소 지역으로의 데이터센터 집중 여부
• 우주 데이터센터 구상의 실현 가능성

다음 데이터센터 입지, 전기와 반대할 사람 수가 정한다

현장 발전이 필요한 새 데이터센터라면 반대할 수 있는 사람이 가장 적은 곳으로 향할 가능성이 커요. 미국 안에서는 퍼미안 분지가 후보로 꼽혀요. 천연가스 배관망이 깔려 있어 연결이 쉽고, 인구도 적거든요. 아예 해외로 눈을 돌리는 기업도 있어요. 머스크는 우주 데이터센터가 꽤 매력적으로 보인다는 취지의 글을 올리기도 했죠. 지상에서 전기와 주민 동의를 한꺼번에 얻기가 그만큼 어려워졌다는 신호로 읽혀요.

막대한 전기를 쓰는 것 자체가 나쁜 건 아니에요. 현대 생활을 바꾼 많은 발전이 그만큼의 전기를 필요로 했으니까요. 문제는 데이터센터 갈등을 이미지 개선이나 지역 기여만으로 풀 수 있다고 보는 시각이에요. 업계가 홍보로 바꿀 수 있는 건 인식까지예요. 전기를 얼마나, 어디서 끌어오느냐는 물리적인 결과는 그대로 남아요. 그래서 데이터센터 뉴스를 보면 몇 MW를 어떤 방식으로 받는지부터 확인하는 습관을 들이라고 권하고 싶어요. 지금으로선 그게 가장 실용적인 기준이에요.

출처: MIT Tech Review AI

3.97MB. 사용자가 내려받는 8초짜리 720p AI 영상 한 편의 크기예요. 이 영상을 만든 서버에는 500MB가 넘는 데이터가 남습니다. 로그, 캐시된 컨텍스트, 중간 렌더링 결과물, 백업, 안전성 검토 기록까지 전부요. 눈에 보이는 결과물의 약 130배가 보이지 않는 곳에 쌓이는 셈이죠.

이 수치는 스토리지 업체 WD가 자체적으로 잰 값입니다. MIT 테크놀로지 리뷰에는 WD가 직접 만든 후원 콘텐츠로 실렸고요. 저장장치를 파는 회사가 저장 수요가 커진다고 말하는 구도예요. 그래서 숫자 하나하나보다 이 사례가 보여주는 구조를 먼저 보는 쪽이 안전하다고 봅니다. 출처의 이해관계는 뒤에서 따로 짚겠습니다.

AI 비용 하면 대부분 GPU 랙과 전력부터 떠올립니다. 그런데 계획 단계에서 가장 자주 빠지는 항목은 따로 있어요. 데이터 저장.

학습은 ‘프로젝트’, 추론은 끝나지 않는 상시 비용

AI 인프라 이야기는 오랫동안 모델 학습(training)에 맞춰져 있었어요. 학습은 연산을 막대하게 쓰지만 끝이 있습니다. 시작하고, 컴퓨팅 자원을 태우고, 종료하는 순서죠. 예산으로 보면 규모와 기간을 정해 잡아뒀다가 마무리할 수 있는 ‘프로젝트’에 가깝습니다.

추론(inference)은 성격이 전혀 다릅니다. 사용자가 질문하고 모델이 답할 때마다 돌아가는 과정이라 서비스가 살아 있는 한 멈추지 않아요. 은퇴 시점이 없다는 뜻이고, 요청이 들어올 때마다 서버에 무언가가 남는다는 뜻이기도 합니다. 인프라 계획에서 둘을 같은 줄에 놓으면 안 되는 이유예요.

표 맨 아래 줄을 보세요. 맥킨지는 AI 추론 수요가 2030년까지 연평균 35%씩 늘어 학습(22%)보다 빠르게 커질 거라고 내다봤습니다. 2020년대 말이면 전체 데이터센터 수요의 40% 이상을 추론이 차지한다는 전망이에요. 추론이 늘면 추론이 남기는 데이터도 따라 늘어납니다. 이 전망을 저장 수요 전망으로 바꿔 읽어도 크게 무리는 없어 보여요.

500MB의 정체, 요청마다 남는 다섯 종류의 뒷단 데이터

WD가 측정한 500MB는 크게 다섯 가지로 나뉩니다. 아래 항목별 역할은 원문 수치가 아니라 일반적인 서비스 운영 관점에서 풀어 쓴 설명이에요.

• 로그: 요청이 언제, 어떤 조건으로 처리됐는지 남기는 기록. 요청 수에 비례해 늘어납니다.
• 캐시된 컨텍스트: 모델이 답을 만들 때 참조한 입력과 맥락이에요. 다시 쓰려고 붙잡아 두는 데이터입니다.
• 중간 렌더링 결과물: 최종 영상이 나오기 전 단계에서 만들어진 결과물. 최종본이 나오면 쓸모가 급격히 줄어드는 편이에요.
• 백업: 장애에 대비한 복제본이라 원본이 늘면 같이 늘어납니다.
• 안전성 기록: 생성물이 정책에 맞는지 검토한 흔적이에요. 나중에 문제가 생겼을 때 근거가 되는 데이터라 선뜻 지우기 어려운 항목이기도 합니다.

이 다섯 가지는 작업이 끝나도 사라지지 않습니다. 사용자는 4MB도 안 되는 파일을 받고 떠나는데, 서버에는 그 100배가 넘는 데이터가 계속 자리를 차지해요.

그나마 이건 8초·720p 기준입니다. WD는 기업이 더 길고 해상도 높은 영상을 만들면 클립 하나당 뒷단 데이터가 수백 GB까지 불어난다고 설명해요. 짧은 데모 영상으로 비용을 가늠했다가는 실제 운영 규모에서 자릿수가 달라질 수 있습니다.

조직이 체감하는 변화도 같은 방향이에요. 아래는 WD 후원으로 IDC가 전 세계 IT·비즈니스 의사결정자 763명을 조사한 백서의 결과입니다.

응답자 대부분이 늘었다고 답했습니다. 소수 기업의 특수한 사정보다는 AI를 쓰는 조직 대부분이 겪는 변화로 보는 게 자연스러워요. 이 조사를 후원한 곳도 WD라는 점은 함께 기억해 둘 만하고요.

느린 스토리지에 GPU가 놀고, 저장비는 복리로 쌓인다

저장 문제를 용량 문제로만 보면 절반만 본 겁니다. 보고서에 실린 한 하이퍼스케일 클라우드 기업의 시니어 프로덕트 매니저는 스토리지를 늘리는 일을 “GPU를 쉬지 않게 하는 최적화”로 볼 수 있다고 했어요. 이 매니저가 꼽은 가장 큰 과제도 GPU가 데이터를 기다리며 놀지 않게 하는 것이었습니다. GPU 유휴 시간이 몇 시간만 쌓여도 비용이 순식간에 불어나기 때문이에요.

데이터를 불러오느라 멈춘 모델은 GPU가 없어서 멈춘 모델과 비용상 크게 다르지 않습니다. 비싼 장비를 들여놓고 줄만 세워 두는 꼴이죠.

더 골치 아픈 건 이 병목이 잘 안 보인다는 점이에요. 컴퓨팅과 저장은 예산표에서 움직이는 방식부터 다릅니다.

모델 로그, 합성 결과물, 추론 결과는 계속 쌓이고, 조직은 이걸 점점 더 오래 붙잡아 둡니다. 원문은 이 흐름을 단순한 가정으로 계산해 보여줘요. 저장 지출이 해마다 25%씩 늘고 컴퓨팅 예산은 예측 가능한 주기로 움직인다고 해 봅시다. 이 경우 가장 많은 관심을 받는 GPU 예산보다 저장 비용이 더 빨리 커진다는 계산이 나옵니다.

원문은 이 구조를 보여주는 사례로 두 업종을 듭니다.

• 소매업체: 카탈로그용 AI 상품 영상을 만듭니다. 컴퓨팅 비용은 생성 1건당 단가로 재무팀이 예측할 수 있지만, 저장 비용은 영상이 하나 나올 때마다 불어나요.
• 보험사: 보험금 청구 서류를 RAG(검색 증강 생성, 외부 문서를 찾아 답변에 붙이는 방식) 파이프라인에 넣어 심사를 빠르게 합니다. 질의 1건당 단가는 미리 잡히는데, 저장 비용은 청구 건 하나를 처리할 때마다 복리처럼 쌓이죠.

AI 예산을 ‘컴퓨팅 + 저장은 반올림 오차’ 정도로 잡은 팀이 있다고 해 봅시다. 원문은 12~18개월 뒤 그 오차가 전체 프로그램 비용의 상당 부분이 돼 있을 수 있다고 지적합니다. 하필 그때가 경영진이 사업 확대 여부를 결정하는 시점과 겹쳐요. 확대를 논의하는 자리에 예상 밖의 저장 비용이 함께 올라오는 셈이라 시기로는 최악에 가깝습니다.

추론 데이터는 핫이 아니라 웜·쿨·콜드에 쌓인다

스토리지 계층(tier)은 데이터에 얼마나 자주, 얼마나 빨리 접근해야 하는지에 따라 저장 위치를 나누는 개념입니다. 핫 계층은 즉시, 끊임없이 접근하는 데이터용이라 가장 빠르고 가장 비싸요. 그 뒤로 웜·쿨·콜드 계층이 이어집니다. 뒤로 갈수록 속도를 내주는 대신 용량 단가가 내려가는 구조예요.

WD가 짚는 함정은 저장 전략이 대개 비싼 핫 계층 성능 위주로 설계된다는 점입니다. 정작 AI 데이터의 대부분은 용량 기준으로 그 뒤의 웜·쿨·콜드 계층에 쌓이는데도요. WD는 이렇게 쌓였다가 다시 꺼내 쓰는 대용량 데이터에는 테라바이트당 비용이 낮은 HDD가 경제적인 기반이 된다고 주장합니다.

이 대목은 한 발 물러서 읽는 게 맞습니다. HDD를 만드는 회사가 HDD로 결론을 내는 셈이니까요. 접근 빈도에 따라 계층을 나누자는 논리는 출처와 상관없이 성립합니다. 어떤 매체를 쓸지는 따로 따져볼 문제고요.

데이터 종류별로 계층을 정할 땐 아래 네 가지를 차례로 물어보면 정리가 쉬워집니다. 원문 내용을 바탕으로 세운 판단 기준이에요.

1. 접근 빈도: 다음 요청 처리에 바로 쓰이는가? 이어지는 대화에서 곧장 읽어야 하는 캐시된 컨텍스트처럼, 지금 당장 필요한 데이터만 핫 계층에 둡니다.
2. 재사용 가능성: 나중에 RAG나 추론의 입력으로 다시 쓰일 수 있는가? 예전엔 아카이브로 넘어간 데이터를 다시 꺼낼 일이 거의 없었어요. 이제는 그 아카이브가 다음 AI 작업의 재료가 됩니다. IDC 조사에서 응답자 96%가 추론이나 RAG를 위해 더 빠른 아카이브 검색이 필요해질 거라고 답한 것도 같은 맥락이고요. 이런 데이터는 콜드에 묻어두기보다 꺼내기 쉬운 웜·쿨 계층이 맞아 보입니다.
3. 보존 이유: 백업이나 안전성 기록처럼 ‘있어야 하지만 거의 안 읽는’ 데이터인가? 콜드 계층의 1순위 후보예요.
4. 증가 속도: 요청 수에 비례해 늘어나는가? 로그나 중간 렌더링처럼 요청마다 생기는 데이터는 자동 이동·삭제 규칙을 걸어두지 않으면 가장 빨리 불어납니다.

앞의 다섯 가지 데이터에 이 네 질문을 대입하면 대략 이렇게 나뉩니다.

원문은 보존 기간을 정하는 잣대도 바꾸라고 주장해요. 처음 저장할 때 든 비용 말고, 그 데이터가 앞으로 가질 전략적 가치를 기준으로 보존 정책을 세우라는 겁니다.

자체 데이터센터를 운영한다면 하나 더 챙길 게 있습니다. 저장 결정은 드라이브 한 대가 아니라 장비 전체(플릿) 단위로 이뤄져요. 용량이 커질수록 계층별 전력 소비, 신뢰성, 집적도, 운영 효율이 시스템 전체의 경제성을 좌우하게 됩니다.

보존 정책을 클라우드 수명 주기 규칙으로 옮기는 흐름

퍼블릭 클라우드의 오브젝트 스토리지를 쓴다면 대개 버킷 단위로 수명 주기(Lifecycle) 규칙을 걸 수 있어요. 서비스와 버전마다 화면 구성이 조금씩 다르니 큰 흐름 위주로 보면 됩니다.

1. 데이터 종류별로 저장 경로부터 나눕니다. logs/, cache/, renders/, backups/, safety/처럼 접두사(prefix)나 태그로 구분해 둬야 종류마다 다른 규칙을 걸 수 있어요.
2. 스토리지 콘솔 → 대상 버킷(또는 컨테이너) 선택 → 관리 탭 → 수명 주기 규칙 만들기 순서로 들어갑니다. (이 단계는 확실하지 않음: ‘수명 주기’나 ‘데이터 관리’ 탭에 규칙 메뉴를 둔 서비스도 있어요.)
3. 규칙 적용 범위에 1번에서 정한 접두사나 태그를 지정합니다.
4. ‘생성 후 N일이 지나면 하위 스토리지 클래스로 이동’ 동작을 추가합니다. 중간 렌더링처럼 최종본이 나오면 쓸모가 줄어드는 데이터는 기간을 짧게 잡습니다. RAG 재료가 될 수 있는 데이터는 꺼내기 쉬운 계층에 오래 두는 식이에요.
5. ‘N일 후 삭제(만료)’ 동작은 보존 정책 책임자가 정한 기간에 맞춰 맨 마지막에 겁니다. 삭제는 되돌리기 어려우니 백업과 안전성 기록은 특히 신중하게 다뤄야 해요.

국내 AI 서비스 견적서에 저장 항목을 따로 넣어야 하는 이유

전제부터 짚겠습니다. 위 수치는 글로벌 조사에서 나왔고, 원문에는 국가별 응답 비중이 나오지 않아요. 한국 기업 상황에 숫자를 그대로 대입하기보다는 방향을 읽는 용도로 쓰는 게 맞습니다. 이 전제를 두고 한국 사용자와 기업 입장에서 달라질 만한 부분을 추리면 네 가지예요.

• 호출 단가 견적만으로는 부족해요(추측 포함): 생성형 AI로 상품 영상을 만드는 쇼핑몰이나 문서 검색을 붙인 보험·금융 서비스는 원문 사례와 구조가 비슷합니다. 이런 곳의 견적은 보통 생성당·호출당 단가로 잡히겠죠. 결과물과 뒷단 데이터를 어디에, 얼마나 오래 보관하는지는 별도 항목으로 받아둬야 1년 뒤 청구서에서 놀라지 않습니다.
• 보존 기간은 비용만으로 못 정해요(추측): 로그, 캐시된 컨텍스트, 안전성 기록에는 사용자 입력이 섞여 있을 가능성이 높아 보여요. 국내에서 서비스한다면 저장 비용과 개인정보 처리 기준을 나란히 놓고 보관 기간을 정해야 할 겁니다.
• 외화 결제라면 환율까지 쌓여요(추정): 해외 클라우드를 달러로 결제하면 매달 늘어나는 저장 용량이 환율 변동까지 떠안는 비용이 됩니다. 쓰고 나면 멈추는 컴퓨팅 비용과 달리 줄지 않는 항목이라 부담이 더 크게 느껴질 수 있어요.
• 개인 사용자에게도 의미가 있어요(추측): 내가 받은 몇 MB짜리 결과물 뒤에 훨씬 큰 기록이 서버에 남을 수 있다는 뜻이니까요. 민감한 내용을 AI 서비스에 넣기 전에 그 서비스의 개인정보 처리방침에서 보관 기간 항목을 한 번 확인해 보면 좋습니다.

확인된 것과 아직 불확실한 것

확인된 것

• WD 자체 측정에서 8초 AI 영상(720p, 3.97MB) 한 건이 뒷단에 500MB 넘는 데이터를 남겼고, 결과물 대비 약 130배였다. 구성은 로그, 캐시된 컨텍스트, 중간 렌더링, 백업, 안전성 기록이다.
• 맥킨지는 AI 추론 수요가 2030년까지 연평균 35%(학습은 22%) 성장하고, 2020년대 말 데이터센터 전체 수요의 40% 이상을 차지할 것으로 전망했다.
• WD 후원 IDC 백서(응답자 763명)에서 약 95%가 생성형 AI로 데이터가 늘었다고, 약 61%가 25% 이상 늘었다고 답했다. 96%는 추론·RAG를 위해 더 빠른 아카이브 검색이 필요해질 것으로 봤다.

아직 불확실한 것

• 130배라는 비율은 영상 생성 한 사례의 측정값이라, 텍스트나 이미지 생성, 다른 모델과 서비스에서도 비슷한지는 원문만으로 알 수 없다.
• 백업을 몇 벌 두는지, 로그를 얼마나 보관하는지 같은 측정 조건이 공개되지 않아 다른 환경과 직접 비교하기 어렵다.
• ‘저장 지출이 해마다 25%씩 증가’는 원문이 든 가정 시나리오로, 실제 지출을 측정한 수치가 아니다.
• 핵심 수치 대부분이 HDD를 만드는 WD의 자체 측정이나 후원 조사에서 나왔고, 결론도 HDD의 비용 우위로 이어진다. 독립적으로 검증된 수치로 보기는 어렵다.
• 한국 기업의 응답 비중이나 국내 데이터 증가율은 원문에 없다.

예산 주기 전에 답해야 할 질문 세 개

원문은 마지막에 질문 세 개를 던집니다. 그대로 체크리스트로 써도 될 만큼 구체적이에요.

1. AI가 생성한 콘텐츠에 대한 데이터 보존 정책이 있는가, 그리고 그걸 누가 정하는가?
2. 스토리지 구매가 학습 시점의 성능 요구에 맞춰져 있는가, 아니면 실제로 만들어지는 데이터의 수명 주기에 맞춰져 있는가?
3. AI 사용량이 1년 새 두 배가 되면 저장 비용도 두 배가 될까, 아니면 그보다 더 늘어날까?

원문은 대부분의 조직이 이 셋 모두에 자신 있게 답하지 못한다고 봐요. 하나라도 막힌다면 앞에서 본 계층 기준과 수명 주기 규칙부터 손보는 게 순서입니다. 비용이 청구서에 찍힌 다음에는 쌓인 데이터를 옮기는 작업 자체가 또 하나의 비용이 될 수 있거든요. 늦게 움직이면 저장비에 이전 비용까지 두 번 내게 됩니다. 예산 주기가 돌아오기 전에 메워야 할 빈칸이라는 원문의 결론에 수긍이 가는 이유예요.

출처: MIT Tech Review AI