올트먼, PC 속 D램 ‘끔찍한 배분’…데이터센터 옹호

개인 컴퓨터에 꽂힌 D램이 실제로 일하는 시간은 5%. 샘 올트먼 오픈AI 최고경영자(CEO)가 메모리 부족 사태를 진단하면서 꺼낸 숫자다. 그는 이 메모리를 데이터센터에 모아 쉬지 않고 돌리는 편이 세계 전체로 보면 낫다고 주장했다.

말의 내용보다 말한 사람이 먼저 눈에 걸린다. 지금 세계 램 공급을 쥐어짜고 있는 대형 구매자가 바로 오픈AI다. 메모리를 대거 사들이는 당사자가, 그 메모리가 왜 자기들 쪽에 있어야 하는지를 직접 설명하고 나선 모양새다.

치키 파인트 팟캐스트에서 나온 ‘D램 배분론’

발언이 나온 곳은 치키 파인트(Cheeky Pint) 팟캐스트다. 올트먼은 지금도 이어지는 램 부족 같은 공급망 문제에 대한 질문을 받았다. AI가 수학에 미칠 영향도 같은 방송에서 다뤘다. 그런데 정작 반향이 컸던 건 메모리에 관한 답변 쪽이었다.

올트먼이 먼저 짚은 건 ‘로컬 추론’에 거는 기대다. AI 모델을 자기 컴퓨터에서 직접 돌리는 방식을 원하는 사람이 많다는 것. 오픈소스 모델이 이미 나와 있으니 각자 PC에서 실행하면 되고, 그만큼 데이터센터 설비도 덜 필요해질 거라는 생각이다. 올트먼은 이 직관이 정반대라고 봤다.

논리 자체는 간단하다. 세계적으로 한정된 D램을 모두가 자기 컴퓨터에 나눠 들고 있는데, 그 메모리가 시간의 5%만 쓰인다. 숫자대로라면 나머지 95%의 시간 동안 메모리는 놀고 있다는 얘기다. 그는 이를 전 지구적 배분 관점에서 “꽤 끔찍한(quite terrible)” 일이라고 표현했다. 공급이 극도로 제약된 환경이라면 클라우드에서 가동률을 최대로 끌어올려야 한다는 것이 그의 결론이다.

‘5% 가동률’ 계산에서 빠진 것들

올트먼이 그린 구도를 개인 PC와 데이터센터로 나눠 놓으면 아래와 같다.

더버지는 대상이 누구든 결론은 같다고 봤다. 게이밍 PC 사용자든, 서피스 RTX 스파크 데브 박스(Surface RTX Spark Dev Box)나 새 터치스크린 맥북 프로로 작업하는 개발자든 올트먼의 기준으로는 모두 메모리를 놀리는 쪽이 된다. 이 발언이 하필 오픈AI의 구매 공세로 세계 램 공급이 조여드는 와중에 나왔다는 점도 더버지는 함께 꼬집었다.

계산 방식에도 빈틈이 있다. 로컬 추론을 원하는 사람들이 따지는 기준은 가동률이 아닐 수 있다. 데이터가 내 기기 밖으로 나가지 않는다는 점. 특정 서비스의 사정과 상관없이 모델을 쓸 수 있다는 점. 올트먼의 설명에는 이런 가치가 한 번도 등장하지 않는다. 5%라는 숫자를 어떻게 뽑아냈는지도 그는 밝히지 않았다. 근거가 빠진 숫자 하나로 개인 기기의 메모리를 ‘낭비’ 쪽에 세워 둔 셈이라, 논리로서는 반쪽짜리에 가깝다.

삼성전자·SK하이닉스 램, 몇 년치 생산량이 이미 예약됐다

발언 뒤에는 이미 한쪽으로 기울어진 메모리 시장이 있다. 삼성전자와 SK하이닉스는 클라우드 서비스 사업자, 그리고 오픈AI의 스타게이트 같은 프로젝트와 장기 계약을 맺었다. 향후 몇 년간 세계 램 생산량의 상당 부분이 이 계약들로 먼저 확보된 상태다.

이들 구매자는 칩을 손에 넣는 데 수십억 달러를 쏟아부을 의향이 있다. 노트북과 스마트폰을 비롯한 소비자 기기 가격이 오르는 이유로 꼽히는 것도 바로 이 대목이다. 구조만 추리면 이렇다.

• 공급자: 삼성전자, SK하이닉스
• 선점 수요: 클라우드 서비스 사업자, 오픈AI 스타게이트 같은 대형 프로젝트
• 선점 범위: 향후 몇 년간 세계 램 생산량의 상당 부분
• 파급: 노트북·스마트폰 등 소비자 기기 가격 상승

이 흐름 위에 올트먼의 발언을 겹쳐 보면 새로운 제안으로 읽히지 않는다. 이미 벌어지고 있는 쏠림에 ‘효율’이라는 이름을 붙인 쪽에 가깝다. 메모리가 데이터센터로 먼저 가는 현실을, 그는 바람직한 배분이라고 못 박았다.

메모리 파는 한국 기업, 기기 사는 한국 소비자

이번 논쟁에서 공급자 자리에 선 건 한국 기업이다. 세계 램 생산량을 장기 계약으로 묶어 둔 메모리 업체로 삼성전자와 SK하이닉스가 나란히 이름을 올렸다. 한국 독자에게는 메모리를 파는 쪽의 이야기와 기기를 사는 쪽의 이야기가 한꺼번에 걸려 있는 구도다.

• 기기 구매자: 노트북·스마트폰 가격 상승의 뿌리는 특정 국가가 아니라 메모리 공급 구조에 있다. 국내에서 기기를 바꾸려는 소비자도 같은 압박을 피해 가기 어려울 가능성이 크다.
• 로컬 AI 사용자·개발자: 오픈소스 모델을 자기 PC에서 돌리려면 메모리가 넉넉해야 한다. 문제는 바로 그 메모리가 데이터센터에 먼저 배정된다는 것. 고용량 메모리를 갖춘 PC를 꾸리는 비용 부담은 쉽게 줄지 않을 것으로 보인다.
• 메모리 업계: 향후 몇 년치 생산량이 장기 계약으로 묶였다는 건, 뒤집어 보면 수요를 미리 확보했다는 뜻이다. 다만 계약 물량과 단가가 공개되지 않았다. 실적에 얼마나 반영될지는 따로 따져봐야 한다.

올트먼의 말 한마디로 국내 시장의 규칙이 바뀌지는 않는다. 그래도 가볍게 넘길 발언은 아니다. 대규모 구매에 나선 오픈AI의 수장이 데이터센터 집중을 정답이라고 공개적으로 말했기 때문이다. 메모리를 가장 많이 원하는 쪽이 방향을 바꿀 생각이 없다는 뜻이니, 개인용 메모리 공급이 단기간에 넉넉해지리라 기대하기는 더 어려워졌다고 보는 편이 현실적이다.

확인된 것과 아직 불확실한 것

확인된 것

• 올트먼은 치키 파인트 팟캐스트에서 램 부족 등 공급망 문제에 관한 질문에 답했다.
• 그는 개인 컴퓨터의 D램이 시간의 5%만 쓰인다며 전 세계 배분 관점에서 “꽤 끔찍하다”고 말했다.
• 공급이 제약된 환경에서는 클라우드의 가동률을 최대화해야 한다는 입장을 밝혔다.
• 같은 방송에서 AI가 수학에 미치는 영향도 언급했다.
• 삼성전자·SK하이닉스는 클라우드 사업자, 스타게이트 등과 장기 계약을 맺었고, 이에 따라 향후 몇 년간 세계 램 생산량의 상당 부분이 예약됐다.
• 이 구매자들의 대규모 지출이 노트북·스마트폰 등 기기 가격 상승의 원인으로 지목됐다.

아직 불확실한 것

• 올트먼이 제시한 ‘5% 가동률’의 산출 근거
• 삼성전자·SK하이닉스 장기 계약의 구체적 물량·기간·금액
• 스타게이트 몫으로 확보된 D램 규모
• 소비자 기기 가격 상승세가 꺾이는 시점
• 국내 노트북·스마트폰 가격에 미치는 실제 영향의 폭
• 클라우드 집중이 실제로 전체 D램 수요를 줄이는지에 대한 검증

로컬이냐 클라우드냐, 논쟁이 메모리 배분 문제로 옮겨갔다

AI를 내 기기에서 돌릴 것인가, 클라우드에서 돌릴 것인가. 오래된 이 논쟁을 올트먼은 메모리 배분의 문제로 끌고 왔다. 효율만 놓고 보면 그의 말에도 일리는 있다. 공급이 묶인 자원을 여럿이 나눠 쓰면 놀리는 시간이 줄어든다. 여기까지는 맞는 말이다.

그 효율의 청구서를 누가 받느냐는 전혀 다른 문제다. 메모리가 데이터센터로 먼저 흘러가는 동안, 가격 상승분은 노트북과 스마트폰을 사는 개인에게 돌아가고 있다. 개발자용 기기와 고사양 노트북이 이런 공급 압박 속에서 어떤 가격표를 달고 나올지. 올트먼의 주장이 시장에서 어떻게 받아들여질지 가늠할 첫 시험대는 그 가격표가 될 것으로 보인다.

출처: The Verge

글로벌뉴스 데스크

Daily News Korea 글로벌뉴스 데스크는 전 세계 IT·기술 뉴스를 실시간으로 모니터링하여 한국 독자에게 가장 중요한 소식을 전합니다. 실리콘밸리, 유럽, 아시아의 최신 기술 동향을 한국 시장 관점에서 분석합니다.