[태그:] 엔비디아

인텔이 휘청거리고, 삼성전자 반도체 인력이 SK하이닉스로 넘어간다는 소식이 끊이질 않는다. 이 난리통 한복판에 있는 게 바로 HBM, 고대역폭 메모리다. 이름은 익숙한데 정확히 뭔지, 왜 이렇게 몸값이 뛰는지는 잘 모르겠다면 이 글이 도움이 될 거다.

HBM, 정체가 뭐길래

HBM은 High Bandwidth Memory의 줄임말이다. D램 칩을 수직으로 쌓아 데이터를 빠르게 주고받도록 만든 메모리 반도체. 일반 D램은 칩이 옆으로 나란히 배치되는데, HBM은 층층이 쌓고 TSV(실리콘관통전극)라는 미세한 통로로 뚫어 연결한다. 데이터가 오가는 길이 짧고 넓어진다. 아파트를 옆으로 넓히는 대신 위로 쌓아 같은 땅에 세대수를 늘리는 것과 비슷하다고 보면 된다.

일반 D램이랑 뭐가 다른가

• 속도: 일반 D램보다 데이터 처리 속도가 압도적으로 빠르다
• 전력 효율: 같은 작업을 처리해도 소모 전력이 낮다
• 공간 효율: 수직으로 쌓다 보니 차지하는 면적이 작다
• 가격: 제조 공정이 복잡한 만큼 일반 D램보다 훨씬 비싸다

한마디로 비싸지만 빠르고 효율적인 메모리다. 그래서 아무 데나 안 쓴다. 진짜 성능이 필요한 자리에만 골라서 박아 넣는다.

엔비디아가 HBM에 이렇게 매달리는 이유

AI 모델을 학습시키거나 돌릴 때 GPU는 어마어마한 양의 데이터를 쉼 없이 읽고 쓴다. 이때 메모리가 병목이 되면 GPU 연산 성능이 아무리 좋아도 제 속도가 안 나온다. 엔비디아의 H100, B200 같은 AI 가속기 카드엔 HBM이 필수로 들어간다. GPU 코어 바로 옆에 HBM을 붙여 데이터 이동 거리를 최소화하는 설계 때문이다. AI 서버 한 대 가격의 상당 부분이 GPU가 아니라 여기 들어가는 HBM 값이라는 말도 있을 정도. 솔직히 처음 들었을 땐 좀 놀랐다.

삼성전자와 SK하이닉스, 격차 진짜 있나

SK하이닉스는 HBM3, HBM3E 초기 양산과 엔비디아 공급에서 앞서가며 시장을 선점했다. 삼성전자는 대량 생산 능력과 종합반도체 기업으로서의 저력을 갖췄지만, 엔비디아 품질 검증 통과가 늦어지며 뒤처졌다는 평가를 받았다. 이 차이가 회사 실적과 보너스, 개인 커리어에 그대로 이어지면서 엔지니어들이 성과를 더 빨리 인정받는 쪽으로 옮겨가는 흐름이 생겼다. 반도체 업계에서는 기술 리더십이 곧 사람을 끌어당기는 자석인 셈이다.

다음 승부처는 HBM4

업계는 이미 HBM4 경쟁으로 넘어갔다. HBM4는 데이터 통로 폭을 늘리고 로직 다이를 밑에 깔아 처리 속도를 한 단계 더 끌어올린 규격이다. 삼성전자, SK하이닉스, 마이크론까지 세 회사가 이 규격의 표준과 양산 시점을 두고 경쟁 중이다. 여기서 먼저 치고 나가는 쪽이 다음 세대 AI 가속기 공급망에서 우위를 가져갈 가능성이 크다. 이 싸움에서 이기는 회사가 앞으로 몇 년간 AI 반도체 시장의 주도권을 쥘 거다.

반도체 엔지니어 몸값이 뛰는 배경

HBM 같은 첨단 공정은 아무나 다룰 수 있는 기술이 아니다. 적층, 본딩, 검사 공정마다 숙련된 인력이 필요한데, 이런 사람은 시장에 한정적으로 존재한다. 그래서 기술을 선도하는 기업은 경쟁사 핵심 인력을 스카우트하는 데 파격적인 조건을 내건다. 연봉 인상은 기본이고, 사이닝 보너스에 승진 기회까지 얹어주는 사례가 흔하다. 개인 입장에서는 회사 브랜드보다 어느 쪽이 기술 주도권을 쥐고 있는지가 커리어 판단에 더 결정적인 기준이 됐다.

결국 남는 건 이 3가지

• HBM은 D램을 수직으로 쌓아 속도와 효율을 높인 메모리로, AI 가속기의 필수 부품이다
• SK하이닉스가 초기 시장을 선점했고 삼성전자는 추격 중이며, 이 격차가 인력 이동으로 이어지고 있다
• 다음 승부처는 HBM4이고, 여기서 앞서는 회사가 AI 반도체 공급망의 주도권을 가져갈 것이다

출처: MIT Tech Review AI

HBM 하나 때문에 판이 흔들렸다. 삼성전자 반도체 부문 엔지니어들이 짐 싸서 SK하이닉스로 넘어간다는 얘기, 업계에서는 이제 뉴스거리도 아니다. 야근 대신 이력서 다듬고, 사내 메신저 켜놓은 채 채용 공고 몰래 넘겨보는 엔지니어가 한둘이 아니라고들 한다. MIT 테크놀로지 리뷰도 최근 이 흐름을 짚었다. 두 회사가 뭐가 그렇게 다르길래 이런 움직임이 생겼을까. 반도체 엔지니어라면 이직 전에 뭘 짚어봐야 하는지, 정리해봤다.

삼성전자와 SK하이닉스, 왜 자꾸 엮이나

두 회사는 한국 반도체 산업의 양대 축이다. 삼성전자는 D램, 낸드플래시 같은 메모리부터 파운드리, 시스템반도체까지 다 손대는 종합반도체기업. SK하이닉스는 메모리 한 우물만 파왔다. 오랫동안 규모나 기술력 모두 삼성전자가 앞선다는 평가가 많았는데, HBM 시장에서만큼은 얘기가 다르다. 엔비디아 같은 AI 반도체 기업에 HBM을 먼저, 그것도 안정적으로 공급하는 쪽은 SK하이닉스라는 평가가 굳어지는 분위기다. 인력 흐름도 자연히 그쪽으로 따라간 셈이다.

HBM이 뭐길래 이 난리인가

HBM은 D램 여러 개를 수직으로 쌓아 올린 메모리다. GPU 옆에 딱 붙어서 대용량 데이터를 초고속으로 주고받는 역할을 한다. AI 모델 학습과 추론에 필수인 엔비디아 GPU, 거기 들어가는 핵심 부품이 바로 이거다. HBM 하나 잘 만드느냐 못 만드느냐가 회사 실적을 좌우할 정도로 비중이 커졌다. 몇 년 전만 해도 이 정도로 판이 흔들릴 줄 누가 알았을까. 이 시장에서 앞서가는 쪽이 업계 주도권을 쥔다는 인식이 퍼지면서, 관련 엔지니어 몸값도 같이 뛰었다.

종합반도체 기업 vs 메모리 전문 기업, 구조 자체가 다르다

삼성전자는 파운드리, 모바일 AP, 메모리를 동시에 챙겨야 한다. 투자와 인력이 여러 갈래로 쪼개질 수밖에 없는 구조다. 반면 SK하이닉스는 메모리에 자원을 몰아줄 수 있다. 의사결정 속도, 연구개발 몰입도 면에서 유리하다는 평가가 나오는 이유다. 한 분야에 집중하는 조직일수록 신기술 도입과 라인 전환이 빠르다. HBM처럼 기술 변화가 빠른 영역에서는 이 차이가 결과로 고스란히 드러난다.

성과급 계산법부터 다르다

같은 반도체 회사라도 지갑 채워주는 방식은 꽤 다르다.

• 삼성전자는 초과이익분배금(OPI)을 기본급의 일정 비율로 지급하는 구조다.
• SK하이닉스는 생산성 격려금(PS)과 초과이익분배금(PI), 두 가지를 함께 굴린다.
• 실적 좋았던 해엔 SK하이닉스 쪽 체감 보상이 더 크다는 반응도 나왔다.

성과급 얘기만 나오면 솔직히 여기서 갈린다. 연봉이나 성과급 비교할 땐 기본급만 보면 안 된다. 실적 따라 출렁이는 성과급 비중까지 같이 따져봐야 정확한 그림이 나온다.

이직 전에 체크해야 할 것들

이직 고민 중이라면 아래부터 짚어보는 게 순서다.

• 기술 로드맵 방향성: 옮기려는 회사가 내가 하던 공정·소자 분야에 계속 투자하는지
• 조직문화: 의사결정 속도, 수평적 소통 여부
• 보상 체계: 기본급 대비 성과급 비중과 지급 방식
• 프로젝트 안정성: 라인 증설 계획, 신규 투자 발표 여부
• 커리어 성장성: 이 회사에서 3~5년 뒤 내 자리가 어떻게 될지

실제 이직 준비할 때 챙길 것

반도체 업계는 기술 유출 이슈에 워낙 민감하다. 경쟁사로 옮길 땐 전직금지 조항이나 산업기술보호법 관련 규정부터 확인해야 한다. 몇 년씩 발을 묶어두는 조항도 있다는데, 이건 좀 과한 거 아닌가 싶을 때도 있다. 재직 중 만든 자료나 특허 서류, 개인 저장매체로 옮기는 건 절대 하지 말 것. 이건 그냥 원칙이다. 포트폴리오는 구체적인 수치로 정리해두는 게 유리하다. 수율 개선폭이 몇 %인지, 공정 단축 시간이 며칠인지, 이런 식으로. 면접에서 설득력이 확 달라진다. 헤드헌터 통해서 옮기는 것도 나쁘지 않은 선택이다. 연봉 협상 창구가 하나 더 생기는 셈이니까.

다들 궁금해하는 것들

Q. 경쟁사로 옮기면 다음 날 바로 출근 가능한가?
보통 반도체 대기업들은 퇴직 후 일정 기간 경쟁사 취업을 막아두는 조항을 걸어둔다. 계약서부터 확인하는 게 우선이다.

Q. HBM 기술력 격차, 계속 이대로 갈까?
두 회사 다 차세대 HBM에 대규모 투자를 쏟아붓고 있다. 순위는 언제든 또 바뀔 여지가 있다.

Q. 반도체 엔지니어 연봉, 어디가 더 높나?
기본급 차이는 크지 않다. 다만 성과급 지급 방식과 그해 실적에 따라 체감 연봉 차이는 꽤 벌어진다.

출처: MIT Tech Review AI

엔비디아 최신 AI 가속기 한 장이 중형 세단 한 대 값이다. 그런데 이 칩, 아예 못 사는 나라가 있다. 미국 수출 규제에 발이 묶인 중국 얘기다. 화웨이와 SMIC이 자체 칩 개발에 사활을 걸면서 반도체 자급자족이라는 말이 검색어 상위권을 채우고 있다. 실제로 어디까지 왔을까. 엔비디아와의 격차부터 정리해본다.

중국은 왜 반도체 국산화에 사활을 걸었나

2022년 미국이 첨단 반도체 장비와 AI 칩 수출을 틀어막으면서 중국의 셈법이 완전히 바뀌었다. 엔비디아 A100, H100을 살 길이 막히자 자국 기업들이 직접 칩을 만드는 수밖에 없어진 것. 중국 정부는 ‘국가집적회로산업투자기금’, 이른바 빅펀드를 통해 수십조 원을 반도체 산업에 부었다. 목표는 하나다. 엔비디아 없이도 AI 모델을 학습시키고 서비스를 돌릴 수 있는 생태계, 그걸 자체적으로 갖추는 것.

화웨이 어센드, 실제 체급은 얼마나 될까

화웨이의 AI 칩 라인업 어센드(Ascend) 시리즈는 910B에서 910C로 넘어오며 성능을 확 끌어올렸다. 단일 칩 연산력만 놓고 보면 엔비디아 H100에 못 미친다. 대신 여러 장을 묶어 클러스터로 돌리는 방식으로 실사용 성능을 메우는 전략을 쓴다. 자국산 AI 칩에 뛰어든 곳이 화웨이 하나뿐인 것도 아니다.

• 화웨이 – 어센드 910 시리즈, 데이터센터용 AI 가속기
• 바이두 – 쿤룬(Kunlun) 칩, 자체 클라우드용
• 알리바바 – 한광(Hanguang) 추론 칩
• 비런(Biren)·무어스레즈 – GPU 스타트업 진영

DeepSeek 같은 중국 AI 스타트업이 상대적으로 적은 연산 자원으로도 효율적인 모델을 학습시킨 사례가 알려지면서 분위기가 좀 달라졌다. 칩 성능이 다소 부족해도 소프트웨어 최적화로 상당 부분 메울 수 있다는 인식, 이게 퍼지는 계기가 됐다.

SMIC 파운드리의 기술적 한계, EUV 없이 7나노 만들기

화웨이 칩을 실제로 찍어내는 곳은 중국 최대 파운드리 SMIC이다. 문제는 ASML의 최첨단 EUV(극자외선) 노광 장비를 수입할 수 없다는 점. 그래서 SMIC은 구형 DUV(심자외선) 장비를 여러 번 겹쳐 쓰는 ‘멀티 패터닝’ 방식으로 7나노급 공정을 억지로 구현하고 있다. 공정을 반복할수록 생산 단가는 치솟고, 수율(정상 작동하는 칩의 비율)은 떨어진다. 이게 문제다. 업계에서는 SMIC의 7나노 공정 원가가 대만 TSMC보다 40~50% 이상 비싸다는 분석도 나온다.

엔비디아 H100·B200과 나란히 놓아보면

수치로 보면 격차는 여전히 뚜렷하다. 엔비디아 H100의 연산 성능은 어센드 910B 대비 1.5~2배가량 앞선다는 게 업계 대체적인 평가다. 최신 블랙웰(B200) 아키텍처까지 포함하면 격차는 더 벌어진다. 메모리 대역폭, 칩 간 연결 기술에서도 엔비디아 생태계가 압도적이라는 건 부정하기 어렵다. 그래도 격차는 격차다. 다만 절대 성능이 아니라 ‘가성비’와 ‘조달 가능성’ 기준으로 보면 얘기가 달라진다. 솔직히 여기서 갈린다. 살 수 없는 최고 사양 칩보다, 확보 가능한 국산 칩이 실무에서는 오히려 쓸모 있다는 계산이 깔려 있는 셈이다.

미국 수출 규제가 만든 역설

미국의 규제가 오히려 중국의 자립 속도를 앞당겼다는 평가도 나온다. 규제 전에는 굳이 비싸고 리스크 큰 자체 개발에 나설 이유가 적었다. 규제 이후로는 선택지가 사라지면서 국가 차원의 투자와 인재가 반도체 산업으로 쏠리는 결과를 낳았다. 물론 EUV 장비 국산화처럼 단기간에 따라잡기 힘든 영역도 분명 있다. 그래도 ‘못 사니까 만든다’는 구조가 굳어지면서, 중국 반도체 생태계 자체는 예전보다 두꺼워졌다는 분석이 많다. 아이러니하다면 아이러니한 대목.

한국 반도체 업계, 여기서 뭘 봐야 하나

국내 입장에서 이 흐름을 흘려볼 수만은 없는 이유가 있다. 삼성전자와 SK하이닉스의 주력 사업인 HBM(고대역폭 메모리)은 화웨이나 SMIC 같은 로직 칩 회사가 아니라, CXMT 같은 중국 메모리 기업의 추격 대상이기도 하다. 중국이 AI 칩 국산화에 성공할수록 거기 들어가는 메모리 수요도 자국산으로 채우려는 움직임이 커진다. 단기적으로는 국내 기업의 대중국 장비·소재 수출에 타격을 줄 변수고, 장기적으로는 메모리 시장 경쟁 구도 자체를 바꿔놓을 변수다.

출처: MIT Tech Review AI

챗GPT에 짧은 질문 하나만 던져도 전구를 몇 분간 켜놓는 것과 맞먹는 전기가 나간다. 이런 분석, 한두 번 나온 게 아니다. 여기에 이미지 생성이나 동영상 생성까지 얹으면? 소비 전력은 순식간에 치솟는다. AI 서비스가 늘어날수록 뒤에서 돌아가는 데이터센터 전기 사용량도 같이 불어나는 구조인 셈이다. 실제로 최근 미국 뉴욕주에서는 한여름 전력 수요가 치솟는 바람에 캐나다에서 전기를 수입해서야 겨우 버틴 사례까지 나왔다. ‘AI 전력난’이라는 말이 괜히 나오는 게 아니다.

AI 한 번 쓸 때 전기가 얼마나 드나

AI 모델은 크게 두 단계에서 전기를 잡아먹는다. 하나는 모델을 훈련(training)시키는 단계, 다른 하나는 사용자 질문에 답하는 추론(inference) 단계다. 훈련은 한 번 돌릴 때 몇 주씩 수만 개의 GPU를 풀가동하는 일이라, 웬만한 도시 하나가 1년 동안 쓰는 전력량과 맞먹기도 한다. 추론 쪽은 한 번 한 번만 보면 별거 아닌 것 같지만, 하루에 수억 번씩 쌓이면 얘기가 완전히 달라진다. 검색엔진에 검색어 하나 치는 것보다 챗봇에 질문 하나 던지는 쪽이 전기를 훨씬 많이 쓴다는 연구 결과, 이미 여럿 나와 있다.

데이터센터 한 곳이 도시 하나와 맞먹는다

대형 AI 데이터센터 한 곳의 전력 수요는 수백 메가와트에서 많게는 기가와트 단위까지 뛴다. 기가와트 하나면 웬만한 중소도시 전체가 쓰는 전력량과 비슷한 수준이다. 문제는 이런 시설이 한두 곳이 아니라는 것. 미국, 한국, 일본, 중동 할 것 없이 동시다발적으로 짓고 있다. 전력회사 입장에서 보면 원래 10년에 걸쳐 천천히 늘어나야 할 수요가 2~3년 만에 한꺼번에 몰려드는 셈이니, 계획을 세우기가 여간 까다로운 게 아니다.

송전망이 발목을 잡는 이유

발전소를 새로 짓는 것보다 더 골치 아픈 게 있다. 바로 송전망이다. 전기를 만드는 일과 그 전기를 필요한 곳까지 옮기는 일은 완전히 별개의 문제다. 새 송전선 하나 놓으려면 부지 확보부터 지역 주민 동의, 인허가까지 거쳐야 하는데, 실제 착공까지 수년이 걸리는 경우가 흔하다. 뉴욕주에서 추진 중인 대형 송전 프로젝트가 계속 늦어지는 것도 같은 맥락이다. 발전 설비는 있는데 그 전기를 도시로 끌어올 길이 막혀 있다면? 있으나 마나다.

전기요금 인상, 남의 동네 얘기가 아니다

데이터센터가 몰린 지역에서는 벌써 가정용 전기요금이 오르는 조짐이 나타나고 있다. 전력회사가 늘어난 수요를 맞추려고 설비 투자를 늘리면, 그 비용 상당 부분이 결국 요금으로 넘어오기 때문이다. 미국 일부 주에서는 빅테크 기업이 데이터센터 전력 비용을 따로 부담하도록 요금 체계를 손보자는 논의까지 나오고 있다. 전기요금 고지서 받아 들고 ‘AI 때문에 이렇게 됐나’ 싶은 순간, 생각보다 빨리 올지도 모른다. 솔직히 남 얘기 같지가 않다.

해법으로 거론되는 카드 네 장

• 원자력 재가동·소형모듈원전(SMR): 빅테크들이 폐쇄됐던 원전을 되살리거나 SMR에 직접 돈을 대는 사례가 늘고 있다.
• 재생에너지+에너지저장장치(ESS): 태양광·풍력에 배터리를 묶어서 밤낮 가리지 않고 안정적으로 전기를 대려는 시도다.
• 송전망 현대화: 낡은 송전선을 바꾸고 지역 간 전력을 유연하게 주고받을 수 있게 그리드를 손보는 작업이다.
• 데이터센터 분산 배치: 전력이 남는 지방으로 데이터센터를 옮겨서 특정 지역에 수요가 몰리는 걸 피하는 방식이다.

미국과 중국, 전력 인프라 경쟁으로 번지다

AI 반도체를 둘러싼 미국과 중국의 신경전, 이제 칩 수출 규제 수준을 넘어섰다. 전력 인프라 확보 경쟁으로까지 번지는 모양새다. 미국이 엔비디아 첨단 GPU의 중국 수출을 계속 조이는 사이, 중국은 자체 반도체와 함께 대규모 발전 설비를 밀어붙이며 AI 인프라 자립을 서두르고 있다. 결국 이 싸움, 누가 더 좋은 모델을 만드느냐 못지않게 누가 그 모델을 돌릴 전기를 더 빨리 더 싸게 확보하느냐의 문제로 바뀌는 중이다.

결국 관건은 인프라 속도전

GPU 성능이 아무리 좋아져 봤자 전기가 없으면 그냥 쇳덩어리다. 반도체 경쟁 뒤편에서 벌어지는 발전소·송전망 확보 싸움이 앞으로 AI 서비스 요금, 전기요금, 어느 나라가 AI 경쟁에서 앞서 나갈지까지 좌우할 여지가 크다. 데이터센터 뉴스를 볼 때 GPU 숫자만큼이나 전력 계약 소식에도 눈길을 줘야 하는 이유다.

출처: MIT Tech Review AI

엔비디아 GPU 한 장을 뜯어보면 소재만 수십 종이 들어가 있다. AI 성능을 알고리즘이나 GPU 개수로만 재단하는 경우가 많은데, 실제로 성능의 천장을 정하는 건 메모리 대역폭, 방열 소재, 패키징 기술 같은 하드웨어 밑바탕이다. 아래 6가지 키워드만 잡고 있어도 AI 반도체 관련 기사 절반은 술술 읽힌다.

HBM, 왜 AI 칩의 심장이라 불리나

HBM은 D램을 수직으로 쌓아 데이터 전송 속도를 극대화한 메모리다. 기존 GDDR은 GPU 옆에 넓게 펼쳐놓는 구조라 대역폭에 한계가 뚜렷하다. HBM은 다르다. 실리콘관통전극(TSV)으로 칩을 층층이 연결해서, 같은 면적에서도 훨씬 많은 데이터를 주고받는다.

• HBM3E: 현재 엔비디아 H200, B200에 탑재되는 최신 규격
• 대역폭: 단일 스택 기준 초당 1TB 이상 전송
• 공급사: SK하이닉스, 삼성전자, 마이크론 3파전

AI 모델이 커질수록 연산량보다 메모리 병목이 먼저 발목을 잡는다. 그래서 GPU 스펙표를 볼 때 코어 개수보다 HBM 용량과 세대부터 확인하는 게 실전에 가깝다.

CoWoS, 칩을 쌓아 올리는 패키징 기술

TSMC의 CoWoS(Chip on Wafer on Substrate)는 GPU 다이와 HBM을 하나의 기판 위에 초정밀하게 붙이는 첨단 패키징 공정이다. 미세공정 경쟁이 물리적 한계에 부딪히면서, 트랜지스터를 더 작게 깎는 것보다 여러 칩을 얼마나 촘촘히 이어 붙이느냐가 이제 성능을 가른다.

• CoWoS-S: 실리콘 인터포저 방식, 초기 표준
• CoWoS-L: 국소 실리콘 브리지 방식, 더 큰 면적 지원
• 병목 현상: 2024~2025년 CoWoS 생산능력 부족이 GPU 공급난의 핵심 원인이었다

GAA 트랜지스터, 전력 효율의 열쇠

3나노 이하 공정부터는 기존 핀펫(FinFET) 대신 GAA(Gate-All-Around) 트랜지스터가 표준으로 자리 잡는다. 게이트가 채널을 사방에서 감싸는 구조라 누설전류가 줄고 전력 효율이 올라간다. 삼성전자가 3나노에서 먼저 도입했고, TSMC는 2나노부터 GAA 계열을 적용한다. AI 데이터센터의 전력 소비가 국가 전력망 수준으로 커지는 지금, 트랜지스터 하나의 효율 개선이 데이터센터 전체 전기요금과 바로 이어지는 구조다.

액체 냉각과 열전도 소재, 데이터센터의 숨은 승부수

고성능 GPU 랙 하나가 먹는 전력은 수십 킬로와트에 달한다. 공랭식으로는 이 열을 다 못 뺀다. 그래서 액침 냉각(immersion cooling)과 직접 액체 냉각(DLC)이 빠르게 번지는 중이다.

• 열전도 페이스트: 칩과 히트싱크 사이 열저항을 낮추는 소재
• 2상 냉각액: 끓는점이 낮은 특수 유체로 기화열을 이용해 냉각
• 냉각판 재질: 구리에서 다이아몬드 복합소재로 전환 중

냉각 소재 선택 하나로 서버 랙 밀도가 2~3배까지 벌어진다. 그러니 데이터센터 운영사들이 반도체 못지않게 냉각 기술에 돈을 쏟는 것도 당연한 일이다.

SiC·GaN 전력반도체가 빠지면 안 되는 이유

AI 서버는 벽면에서 들어온 교류 전기를 GPU가 쓸 수 있는 저전압 직류로 여러 단계에 걸쳐 바꿔야 한다. 이 과정에서 탄화규소(SiC)와 질화갈륨(GaN) 기반 전력반도체가 기존 실리콘 소자보다 전력 손실을 확 줄여준다. 전기차 인버터에 쓰이던 소재가 이제 AI 데이터센터 전원 공급 장치로 영역을 넓히는 셈이다.

실리콘 포토닉스, 다음 세대 연결 기술

GPU 수만 개를 하나의 클러스터로 묶으려면 칩 간 통신 속도가 결국 병목이 된다. 실리콘 포토닉스는 전기 신호 대신 빛으로 데이터를 보내 대역폭을 늘리고 발열도 줄이는 기술이다. 엔비디아와 브로드컴은 관련 스위치·트랜시버 제품을 이미 로드맵에 올려놨다. 장거리 구간뿐 아니라 랙 내부 연결까지 광통신으로 바꾸려는 흐름이 지금 진행 중이다.

칩 설계사 하나만 봐서는 절반짜리 그림

AI 반도체 경쟁력을 GPU 설계 회사 하나로만 판단하면 딱 절반만 보는 셈이다. HBM 수율, CoWoS 생산능력, 냉각 소재 공급, 전력반도체 확보까지 전체 공급망이 맞물려야 실제 성능이 나온다. 반도체 관련주나 AI 인프라 투자를 검토할 때도 GPU 제조사뿐 아니라 소재·장비·패키징 기업까지 같이 짚어봐야 그림이 제대로 보인다.

참고: MIT Tech Review AI

딥시크가 GPT-4급 성능을 공짜로 풀어버렸다. 그 뒤로 AI 업계 판도가 흔들린다. 수십억 달러 쏟아부은 폐쇄형 모델과, 누구나 내려받아 쓰는 오픈소스 모델 사이 성능 차이가 갈수록 줄어드는 중. 이러다 보니 “굳이 비싼 API 써야 하나” 고민하는 개발자와 기업이 확 늘었다. 두 진영 실질적인 차이, 그리고 상황별로 뭘 골라야 하는지 한번 정리해봤다.

오픈소스와 폐쇄형, 뭐가 근본적으로 다른가

오픈소스 AI는 모델 가중치(weights)를 통째로 공개한다. 누구든 내려받아 자기 서버에 올리거나 뜯어고칠 수 있다는 뜻. 반대로 폐쇄형 AI는 모델 내부를 절대 안 보여준다. 회사가 만든 API나 앱을 통해서만 만날 수 있다. 겉보기엔 둘 다 그냥 챗봇인데, 운영 방식이나 비용 구조, 책임 소재까지 보면 완전히 다른 게임이다.

• 오픈소스: 자체 서버 운영, 무료 또는 저비용, 커스터마이징 자유
• 폐쇄형: 클라우드 API 호출, 사용량 기반 과금, 회사가 모든 운영 책임

요즘 뜨는 오픈소스 모델 라인업

딥시크(DeepSeek)가 저비용 고성능으로 한바탕 뒤집어놓은 이후, 중국계 모델들이 무섭게 치고 올라왔다. 알리바바 큐원(Qwen) 시리즈는 코딩이랑 다국어 처리에서 확실히 강하고, 메타 라마(Llama)는 미국 진영에서 가장 널리 쓰이는 오픈소스 기반 모델이다. 프랑스 미스트랄(Mistral)도 경량 모델로 개발자들 사이에서 은근히 자주 언급된다.

• 딥시크 — 저비용 학습으로 업계에 충격 준 모델, 추론 성능 강점
• 큐원 — 코딩·수학 벤치마크 상위권, 다국어 지원 우수
• 라마 — 커뮤니티 생태계 가장 큰 오픈소스 계열
• 미스트랄 — 가볍고 빠른 실행, 온디바이스 환경에 적합

그래도 폐쇄형이 아직 앞서는 부분

GPT, 클로드, 제미나이 같은 폐쇄형 모델은 벤치마크 숫자 이상의 걸 준다. 안정적인 인프라, 끊임없는 업데이트, 이미지·음성까지 아우르는 멀티모달, 기업 고객용 SLA와 지원 체계까지. 오픈소스 모델을 직접 돌리려면 GPU 서버 관리부터 튜닝까지 전부 떠안아야 한다. 이 진입장벽, 생각보다 만만치 않다.

벤치마크 점수, 곧이곧대로 믿어도 되나

모델 발표 자료에 나오는 벤치마크 점수는 참고용일 뿐이다. 학습 데이터에 벤치마크 문제랑 비슷한 내용이 섞여 있는 경우도 있고, 실제 업무에서 마주치는 애매한 질문이나 긴 맥락 처리 능력은 표준 벤치마크로 잘 안 드러난다. 코딩 작업이면 자기 프로젝트 코드를 직접 넣어서 테스트해보는 게 숫자 비교보다 훨씬 정확하다. 이건 진짜 써봐야 안다.

비용부터 커스터마이징까지, 고르는 기준

• 비용: 호출량 많으면 오픈소스 자체 호스팅이 장기적으로 저렴, 소규모라면 API 종량제가 오히려 이득
• 데이터 통제: 민감 정보 다룬다면 오픈소스 온프레미스 배포가 유리
• 유지보수 인력: GPU 인프라 관리할 팀 없으면 폐쇄형 API가 편함
• 최신 기능: 멀티모달, 실시간 검색 연동 등은 아직 폐쇄형이 한발 앞섬

회사에서 도입할 때 놓치기 쉬운 보안 문제

해외 API에 사내 데이터를 통째로 넘기는 게 부담스러운 조직이라면, 오픈소스 모델을 사내망에 격리해서 돌리는 방식을 검토할 만하다. 다만 중국계 오픈소스 모델 쓸 때는 데이터 주권이나 규제 이슈를 미리 법무팀과 확인해두는 게 안전하다. 반대로 폐쇄형 API 쓴다면 계약서상 데이터 보관·학습 활용 조항을 꼼꼼히 챙겨야 나중에 탈이 안 난다.

결국 뭘 골라야 하나

개인 개발자나 스타트업이 빠르게 프로토타입 만들 때는 폐쇄형 API로 시작하는 게 속도 면에서 유리하다. 반대로 대량의 요청을 처리하거나 데이터를 밖으로 못 내보내는 환경이라면, 오픈소스 모델을 자체 서버에 올리는 쪽이 장기적으로 남는 장사다. 하나만 고집할 필요는 없다. 민감한 작업은 오픈소스로, 복잡한 멀티모달 작업은 폐쇄형 API로 나눠 쓰는 하이브리드 전략, 요즘 부쩍 늘고 있다.

이것도 궁금하죠?

Q. 오픈소스 모델을 개인 컴퓨터에서 돌릴 수 있나?
가능하다. 7B~14B급 경량 모델이면 그래픽카드 메모리 16GB 정도로도 돌아가고, 올라마(Ollama) 같은 도구 쓰면 설치도 어렵지 않다.

Q. 딥시크 같은 중국산 모델, 써도 괜찮나?
모델 자체는 오픈소스로 공개돼 있어서 코드를 직접 뜯어볼 수 있다. 다만 공식 웹·앱 서비스를 이용할 경우 서버가 해외에 있다는 점은 감안해야 한다. 민감한 데이터라면 로컬 배포로 돌리는 편이 안전하다.

Q. 성능 차이가 이제 거의 없다는 말, 맞나?
코딩이나 요약 같은 범용 작업에서는 격차가 많이 줄었다. 하지만 복잡한 추론이나 최신 정보 반영이 필요한 작업에서는 폐쇄형 모델이 근소하게 앞서는 경우가 여전히 많다.

MIT 테크놀로지 리뷰가 전한 바에 따르면, 중국계 AI 모델의 확산이 이런 흐름에 불을 붙였다고 한다. 원문 보기

구글 딥마인드의 지니(Genie) 3, 엔비디아 코스모스(Cosmos), 페이페이 리가 차린 월드랩스(World Labs). 이름은 다 다른데 회사들이 만드는 건 결국 하나, 월드모델이다. 챗GPT나 클로드 같은 언어모델은 이제 다들 안다. 그럼 월드모델은 뭐고, 빅테크들이 왜 이렇게 몰려드는 걸까.

월드모델이 뭐길래 다들 얘기할까

말 그대로다. 세상이 돌아가는 방식을 통째로 학습한 AI. 언어모델이 다음 단어를 맞히도록 훈련받는다면, 이쪽은 다음 장면, 다음 물리 상황을 맞히도록 훈련받는다. 공을 굴리면 어디로 튕길지, 문을 밀면 어떻게 열릴지. 이런 걸 데이터로 익힌다. 재료부터 다르다. 텍스트가 아니라 영상, 3D 공간, 물리 법칙.

LLM과 뭐가 다른가

언어모델은 텍스트를 산더미처럼 읽고 그럴듯한 문장을 뽑아내는 데는 확실히 강하다. 문제는 실제 세계를 겪어본 적이 없다는 것. 컵을 놓으면 떨어진다, 이런 물리적 감각이 약하다. 얀 르쿤이 메타를 나와 새 회사를 차리면서 든 이유도 딱 이거였다. 언어만 붙잡고 있어서는 진짜 지능에 못 닿는다, 시각과 공간과 물리를 이해하는 별도 모델이 필요하다는 얘기다. 그러니 월드모델은 LLM을 밀어내는 쪽이라기보다, LLM이 못 채우는 구멍을 메우는 쪽에 가깝다.

대표 사례들, 어디까지 왔나

• 구글 딥마인드 지니 시리즈 — 이미지 딱 한 장 던져주면 그 안에서 실제로 걸어 다닐 수 있는 3D 공간을 그 자리에서 만들어낸다
• 엔비디아 코스모스 — 로봇과 자율주행차 훈련용 가상 환경을 대량으로 찍어내는 플랫폼
• 월드랩스 — 사진 한 장을 탐험 가능한 3D 세계로 바꾸는 데모로 이름을 알렸다

세 회사 방향은 조금씩 다르다. 그런데 목표는 결국 하나로 모인다. AI가 눈으로 본 걸 진짜 공간처럼 이해하게 만드는 것.

자율주행이 이걸 왜 필요로 하나

도로 위에서 벌어질 수 있는 경우의 수, 그걸 실제 주행만으로 다 배우기는 어렵다. 사고 직전 상황, 폭우 속 급정거. 이런 장면을 현실에서 무한정 반복 테스트할 순 없는 노릇이다. 월드모델은 이런 희귀 상황을 가상으로 수없이 찍어내 차량 AI에게 미리 겪게 한다. 테슬라나 웨이모가 시뮬레이션 데이터에 공을 들이는 이유, 여기 있다. 실제 도로 데이터만으로는 늘 부족하니까.

로봇 훈련에서도 필수템이 된 이유

휴머노이드 로봇을 훈련시키려면 물건 집기, 문 열기, 계단 오르기를 수없이 반복해야 한다. 실제 로봇으로 이 과정을 다 거치려면 시간도 돈도 감당이 안 된다. 월드모델은 이런 물리적 상호작용을 가상 공간에서 먼저 시뮬레이션해서, 로봇이 현실에 나오기 전에 어느 정도 손에 익은 상태로 만들어준다. 피지컬 AI라는 말이 요즘 부쩍 자주 들리는 배경에도 이 기술이 깔려 있다.

게임과 영상 업계가 눈독 들이는 지점

게임 개발사 입장에서 맵과 배경을 일일이 손으로 그리는 작업, 비용이 만만치 않다. 월드모델을 쓰면 텍스트나 이미지 몇 개로 플레이 가능한 배경을 그 자리에서 뽑아낼 수 있다. 영화나 광고 쪽에서도 가상 세트장을 이 기술로 만들려는 시도가 이어지고 있다. 완성도는 아직 초기 단계다. 솔직히 여기서 갈린다. 하지만 제작 기간을 크게 줄일 여지가 있다 보니 관련 스타트업 투자는 꾸준히 늘어나는 중이다.

결국 뭐가 달라지나

언어모델이 정보를 다루는 방식을 바꿔놨다면, 월드모델은 AI가 공간과 물리를 다루는 방식을 바꾸는 중이다. 아직은 로봇공학이나 자율주행처럼 전문 영역에서 먼저 쓰이지만, 게임이나 영상 제작 도구에도 조금씩 스며들고 있다. 당장 검색창에 이름을 쳐볼 일은 적어도, 뒤에서 돌아가는 기술이라는 점은 기억해둘 만하다. 이후 어떤 회사의 로봇이나 자율주행차가 유독 자연스럽게 움직인다 싶으면, 그 뒤에 괜찮은 월드모델이 있다고 봐도 크게 틀리지 않는다.

MIT 테크리뷰 AI 뉴스레터가 다룬 내용을 참고했다: MIT Tech Review AI