[태그:] 엔비디아

HBM 하나 때문에 판이 흔들렸다. 삼성전자 반도체 부문 엔지니어들이 짐 싸서 SK하이닉스로 넘어간다는 얘기, 업계에서는 이제 뉴스거리도 아니다. 야근 대신 이력서 다듬고, 사내 메신저 켜놓은 채 채용 공고 몰래 넘겨보는 엔지니어가 한둘이 아니라고들 한다. MIT 테크놀로지 리뷰도 최근 이 흐름을 짚었다. 두 회사가 뭐가 그렇게 다르길래 이런 움직임이 생겼을까. 반도체 엔지니어라면 이직 전에 뭘 짚어봐야 하는지, 정리해봤다.

삼성전자와 SK하이닉스, 왜 자꾸 엮이나

두 회사는 한국 반도체 산업의 양대 축이다. 삼성전자는 D램, 낸드플래시 같은 메모리부터 파운드리, 시스템반도체까지 다 손대는 종합반도체기업. SK하이닉스는 메모리 한 우물만 파왔다. 오랫동안 규모나 기술력 모두 삼성전자가 앞선다는 평가가 많았는데, HBM 시장에서만큼은 얘기가 다르다. 엔비디아 같은 AI 반도체 기업에 HBM을 먼저, 그것도 안정적으로 공급하는 쪽은 SK하이닉스라는 평가가 굳어지는 분위기다. 인력 흐름도 자연히 그쪽으로 따라간 셈이다.

HBM이 뭐길래 이 난리인가

HBM은 D램 여러 개를 수직으로 쌓아 올린 메모리다. GPU 옆에 딱 붙어서 대용량 데이터를 초고속으로 주고받는 역할을 한다. AI 모델 학습과 추론에 필수인 엔비디아 GPU, 거기 들어가는 핵심 부품이 바로 이거다. HBM 하나 잘 만드느냐 못 만드느냐가 회사 실적을 좌우할 정도로 비중이 커졌다. 몇 년 전만 해도 이 정도로 판이 흔들릴 줄 누가 알았을까. 이 시장에서 앞서가는 쪽이 업계 주도권을 쥔다는 인식이 퍼지면서, 관련 엔지니어 몸값도 같이 뛰었다.

종합반도체 기업 vs 메모리 전문 기업, 구조 자체가 다르다

삼성전자는 파운드리, 모바일 AP, 메모리를 동시에 챙겨야 한다. 투자와 인력이 여러 갈래로 쪼개질 수밖에 없는 구조다. 반면 SK하이닉스는 메모리에 자원을 몰아줄 수 있다. 의사결정 속도, 연구개발 몰입도 면에서 유리하다는 평가가 나오는 이유다. 한 분야에 집중하는 조직일수록 신기술 도입과 라인 전환이 빠르다. HBM처럼 기술 변화가 빠른 영역에서는 이 차이가 결과로 고스란히 드러난다.

성과급 계산법부터 다르다

같은 반도체 회사라도 지갑 채워주는 방식은 꽤 다르다.

• 삼성전자는 초과이익분배금(OPI)을 기본급의 일정 비율로 지급하는 구조다.
• SK하이닉스는 생산성 격려금(PS)과 초과이익분배금(PI), 두 가지를 함께 굴린다.
• 실적 좋았던 해엔 SK하이닉스 쪽 체감 보상이 더 크다는 반응도 나왔다.

성과급 얘기만 나오면 솔직히 여기서 갈린다. 연봉이나 성과급 비교할 땐 기본급만 보면 안 된다. 실적 따라 출렁이는 성과급 비중까지 같이 따져봐야 정확한 그림이 나온다.

이직 전에 체크해야 할 것들

이직 고민 중이라면 아래부터 짚어보는 게 순서다.

• 기술 로드맵 방향성: 옮기려는 회사가 내가 하던 공정·소자 분야에 계속 투자하는지
• 조직문화: 의사결정 속도, 수평적 소통 여부
• 보상 체계: 기본급 대비 성과급 비중과 지급 방식
• 프로젝트 안정성: 라인 증설 계획, 신규 투자 발표 여부
• 커리어 성장성: 이 회사에서 3~5년 뒤 내 자리가 어떻게 될지

실제 이직 준비할 때 챙길 것

반도체 업계는 기술 유출 이슈에 워낙 민감하다. 경쟁사로 옮길 땐 전직금지 조항이나 산업기술보호법 관련 규정부터 확인해야 한다. 몇 년씩 발을 묶어두는 조항도 있다는데, 이건 좀 과한 거 아닌가 싶을 때도 있다. 재직 중 만든 자료나 특허 서류, 개인 저장매체로 옮기는 건 절대 하지 말 것. 이건 그냥 원칙이다. 포트폴리오는 구체적인 수치로 정리해두는 게 유리하다. 수율 개선폭이 몇 %인지, 공정 단축 시간이 며칠인지, 이런 식으로. 면접에서 설득력이 확 달라진다. 헤드헌터 통해서 옮기는 것도 나쁘지 않은 선택이다. 연봉 협상 창구가 하나 더 생기는 셈이니까.

다들 궁금해하는 것들

Q. 경쟁사로 옮기면 다음 날 바로 출근 가능한가?
보통 반도체 대기업들은 퇴직 후 일정 기간 경쟁사 취업을 막아두는 조항을 걸어둔다. 계약서부터 확인하는 게 우선이다.

Q. HBM 기술력 격차, 계속 이대로 갈까?
두 회사 다 차세대 HBM에 대규모 투자를 쏟아붓고 있다. 순위는 언제든 또 바뀔 여지가 있다.

Q. 반도체 엔지니어 연봉, 어디가 더 높나?
기본급 차이는 크지 않다. 다만 성과급 지급 방식과 그해 실적에 따라 체감 연봉 차이는 꽤 벌어진다.

출처: MIT Tech Review AI

엔비디아 최신 AI 가속기 한 장이 중형 세단 한 대 값이다. 그런데 이 칩, 아예 못 사는 나라가 있다. 미국 수출 규제에 발이 묶인 중국 얘기다. 화웨이와 SMIC이 자체 칩 개발에 사활을 걸면서 반도체 자급자족이라는 말이 검색어 상위권을 채우고 있다. 실제로 어디까지 왔을까. 엔비디아와의 격차부터 정리해본다.

중국은 왜 반도체 국산화에 사활을 걸었나

2022년 미국이 첨단 반도체 장비와 AI 칩 수출을 틀어막으면서 중국의 셈법이 완전히 바뀌었다. 엔비디아 A100, H100을 살 길이 막히자 자국 기업들이 직접 칩을 만드는 수밖에 없어진 것. 중국 정부는 ‘국가집적회로산업투자기금’, 이른바 빅펀드를 통해 수십조 원을 반도체 산업에 부었다. 목표는 하나다. 엔비디아 없이도 AI 모델을 학습시키고 서비스를 돌릴 수 있는 생태계, 그걸 자체적으로 갖추는 것.

화웨이 어센드, 실제 체급은 얼마나 될까

화웨이의 AI 칩 라인업 어센드(Ascend) 시리즈는 910B에서 910C로 넘어오며 성능을 확 끌어올렸다. 단일 칩 연산력만 놓고 보면 엔비디아 H100에 못 미친다. 대신 여러 장을 묶어 클러스터로 돌리는 방식으로 실사용 성능을 메우는 전략을 쓴다. 자국산 AI 칩에 뛰어든 곳이 화웨이 하나뿐인 것도 아니다.

• 화웨이 – 어센드 910 시리즈, 데이터센터용 AI 가속기
• 바이두 – 쿤룬(Kunlun) 칩, 자체 클라우드용
• 알리바바 – 한광(Hanguang) 추론 칩
• 비런(Biren)·무어스레즈 – GPU 스타트업 진영

DeepSeek 같은 중국 AI 스타트업이 상대적으로 적은 연산 자원으로도 효율적인 모델을 학습시킨 사례가 알려지면서 분위기가 좀 달라졌다. 칩 성능이 다소 부족해도 소프트웨어 최적화로 상당 부분 메울 수 있다는 인식, 이게 퍼지는 계기가 됐다.

SMIC 파운드리의 기술적 한계, EUV 없이 7나노 만들기

화웨이 칩을 실제로 찍어내는 곳은 중국 최대 파운드리 SMIC이다. 문제는 ASML의 최첨단 EUV(극자외선) 노광 장비를 수입할 수 없다는 점. 그래서 SMIC은 구형 DUV(심자외선) 장비를 여러 번 겹쳐 쓰는 ‘멀티 패터닝’ 방식으로 7나노급 공정을 억지로 구현하고 있다. 공정을 반복할수록 생산 단가는 치솟고, 수율(정상 작동하는 칩의 비율)은 떨어진다. 이게 문제다. 업계에서는 SMIC의 7나노 공정 원가가 대만 TSMC보다 40~50% 이상 비싸다는 분석도 나온다.

엔비디아 H100·B200과 나란히 놓아보면

수치로 보면 격차는 여전히 뚜렷하다. 엔비디아 H100의 연산 성능은 어센드 910B 대비 1.5~2배가량 앞선다는 게 업계 대체적인 평가다. 최신 블랙웰(B200) 아키텍처까지 포함하면 격차는 더 벌어진다. 메모리 대역폭, 칩 간 연결 기술에서도 엔비디아 생태계가 압도적이라는 건 부정하기 어렵다. 그래도 격차는 격차다. 다만 절대 성능이 아니라 ‘가성비’와 ‘조달 가능성’ 기준으로 보면 얘기가 달라진다. 솔직히 여기서 갈린다. 살 수 없는 최고 사양 칩보다, 확보 가능한 국산 칩이 실무에서는 오히려 쓸모 있다는 계산이 깔려 있는 셈이다.

미국 수출 규제가 만든 역설

미국의 규제가 오히려 중국의 자립 속도를 앞당겼다는 평가도 나온다. 규제 전에는 굳이 비싸고 리스크 큰 자체 개발에 나설 이유가 적었다. 규제 이후로는 선택지가 사라지면서 국가 차원의 투자와 인재가 반도체 산업으로 쏠리는 결과를 낳았다. 물론 EUV 장비 국산화처럼 단기간에 따라잡기 힘든 영역도 분명 있다. 그래도 ‘못 사니까 만든다’는 구조가 굳어지면서, 중국 반도체 생태계 자체는 예전보다 두꺼워졌다는 분석이 많다. 아이러니하다면 아이러니한 대목.

한국 반도체 업계, 여기서 뭘 봐야 하나

국내 입장에서 이 흐름을 흘려볼 수만은 없는 이유가 있다. 삼성전자와 SK하이닉스의 주력 사업인 HBM(고대역폭 메모리)은 화웨이나 SMIC 같은 로직 칩 회사가 아니라, CXMT 같은 중국 메모리 기업의 추격 대상이기도 하다. 중국이 AI 칩 국산화에 성공할수록 거기 들어가는 메모리 수요도 자국산으로 채우려는 움직임이 커진다. 단기적으로는 국내 기업의 대중국 장비·소재 수출에 타격을 줄 변수고, 장기적으로는 메모리 시장 경쟁 구도 자체를 바꿔놓을 변수다.

출처: MIT Tech Review AI

챗GPT에 짧은 질문 하나만 던져도 전구를 몇 분간 켜놓는 것과 맞먹는 전기가 나간다. 이런 분석, 한두 번 나온 게 아니다. 여기에 이미지 생성이나 동영상 생성까지 얹으면? 소비 전력은 순식간에 치솟는다. AI 서비스가 늘어날수록 뒤에서 돌아가는 데이터센터 전기 사용량도 같이 불어나는 구조인 셈이다. 실제로 최근 미국 뉴욕주에서는 한여름 전력 수요가 치솟는 바람에 캐나다에서 전기를 수입해서야 겨우 버틴 사례까지 나왔다. ‘AI 전력난’이라는 말이 괜히 나오는 게 아니다.

AI 한 번 쓸 때 전기가 얼마나 드나

AI 모델은 크게 두 단계에서 전기를 잡아먹는다. 하나는 모델을 훈련(training)시키는 단계, 다른 하나는 사용자 질문에 답하는 추론(inference) 단계다. 훈련은 한 번 돌릴 때 몇 주씩 수만 개의 GPU를 풀가동하는 일이라, 웬만한 도시 하나가 1년 동안 쓰는 전력량과 맞먹기도 한다. 추론 쪽은 한 번 한 번만 보면 별거 아닌 것 같지만, 하루에 수억 번씩 쌓이면 얘기가 완전히 달라진다. 검색엔진에 검색어 하나 치는 것보다 챗봇에 질문 하나 던지는 쪽이 전기를 훨씬 많이 쓴다는 연구 결과, 이미 여럿 나와 있다.

데이터센터 한 곳이 도시 하나와 맞먹는다

대형 AI 데이터센터 한 곳의 전력 수요는 수백 메가와트에서 많게는 기가와트 단위까지 뛴다. 기가와트 하나면 웬만한 중소도시 전체가 쓰는 전력량과 비슷한 수준이다. 문제는 이런 시설이 한두 곳이 아니라는 것. 미국, 한국, 일본, 중동 할 것 없이 동시다발적으로 짓고 있다. 전력회사 입장에서 보면 원래 10년에 걸쳐 천천히 늘어나야 할 수요가 2~3년 만에 한꺼번에 몰려드는 셈이니, 계획을 세우기가 여간 까다로운 게 아니다.

송전망이 발목을 잡는 이유

발전소를 새로 짓는 것보다 더 골치 아픈 게 있다. 바로 송전망이다. 전기를 만드는 일과 그 전기를 필요한 곳까지 옮기는 일은 완전히 별개의 문제다. 새 송전선 하나 놓으려면 부지 확보부터 지역 주민 동의, 인허가까지 거쳐야 하는데, 실제 착공까지 수년이 걸리는 경우가 흔하다. 뉴욕주에서 추진 중인 대형 송전 프로젝트가 계속 늦어지는 것도 같은 맥락이다. 발전 설비는 있는데 그 전기를 도시로 끌어올 길이 막혀 있다면? 있으나 마나다.

전기요금 인상, 남의 동네 얘기가 아니다

데이터센터가 몰린 지역에서는 벌써 가정용 전기요금이 오르는 조짐이 나타나고 있다. 전력회사가 늘어난 수요를 맞추려고 설비 투자를 늘리면, 그 비용 상당 부분이 결국 요금으로 넘어오기 때문이다. 미국 일부 주에서는 빅테크 기업이 데이터센터 전력 비용을 따로 부담하도록 요금 체계를 손보자는 논의까지 나오고 있다. 전기요금 고지서 받아 들고 ‘AI 때문에 이렇게 됐나’ 싶은 순간, 생각보다 빨리 올지도 모른다. 솔직히 남 얘기 같지가 않다.

해법으로 거론되는 카드 네 장

• 원자력 재가동·소형모듈원전(SMR): 빅테크들이 폐쇄됐던 원전을 되살리거나 SMR에 직접 돈을 대는 사례가 늘고 있다.
• 재생에너지+에너지저장장치(ESS): 태양광·풍력에 배터리를 묶어서 밤낮 가리지 않고 안정적으로 전기를 대려는 시도다.
• 송전망 현대화: 낡은 송전선을 바꾸고 지역 간 전력을 유연하게 주고받을 수 있게 그리드를 손보는 작업이다.
• 데이터센터 분산 배치: 전력이 남는 지방으로 데이터센터를 옮겨서 특정 지역에 수요가 몰리는 걸 피하는 방식이다.

미국과 중국, 전력 인프라 경쟁으로 번지다

AI 반도체를 둘러싼 미국과 중국의 신경전, 이제 칩 수출 규제 수준을 넘어섰다. 전력 인프라 확보 경쟁으로까지 번지는 모양새다. 미국이 엔비디아 첨단 GPU의 중국 수출을 계속 조이는 사이, 중국은 자체 반도체와 함께 대규모 발전 설비를 밀어붙이며 AI 인프라 자립을 서두르고 있다. 결국 이 싸움, 누가 더 좋은 모델을 만드느냐 못지않게 누가 그 모델을 돌릴 전기를 더 빨리 더 싸게 확보하느냐의 문제로 바뀌는 중이다.

결국 관건은 인프라 속도전

GPU 성능이 아무리 좋아져 봤자 전기가 없으면 그냥 쇳덩어리다. 반도체 경쟁 뒤편에서 벌어지는 발전소·송전망 확보 싸움이 앞으로 AI 서비스 요금, 전기요금, 어느 나라가 AI 경쟁에서 앞서 나갈지까지 좌우할 여지가 크다. 데이터센터 뉴스를 볼 때 GPU 숫자만큼이나 전력 계약 소식에도 눈길을 줘야 하는 이유다.

출처: MIT Tech Review AI

엔비디아 GPU 한 장을 뜯어보면 소재만 수십 종이 들어가 있다. AI 성능을 알고리즘이나 GPU 개수로만 재단하는 경우가 많은데, 실제로 성능의 천장을 정하는 건 메모리 대역폭, 방열 소재, 패키징 기술 같은 하드웨어 밑바탕이다. 아래 6가지 키워드만 잡고 있어도 AI 반도체 관련 기사 절반은 술술 읽힌다.

HBM, 왜 AI 칩의 심장이라 불리나

HBM은 D램을 수직으로 쌓아 데이터 전송 속도를 극대화한 메모리다. 기존 GDDR은 GPU 옆에 넓게 펼쳐놓는 구조라 대역폭에 한계가 뚜렷하다. HBM은 다르다. 실리콘관통전극(TSV)으로 칩을 층층이 연결해서, 같은 면적에서도 훨씬 많은 데이터를 주고받는다.

• HBM3E: 현재 엔비디아 H200, B200에 탑재되는 최신 규격
• 대역폭: 단일 스택 기준 초당 1TB 이상 전송
• 공급사: SK하이닉스, 삼성전자, 마이크론 3파전

AI 모델이 커질수록 연산량보다 메모리 병목이 먼저 발목을 잡는다. 그래서 GPU 스펙표를 볼 때 코어 개수보다 HBM 용량과 세대부터 확인하는 게 실전에 가깝다.

CoWoS, 칩을 쌓아 올리는 패키징 기술

TSMC의 CoWoS(Chip on Wafer on Substrate)는 GPU 다이와 HBM을 하나의 기판 위에 초정밀하게 붙이는 첨단 패키징 공정이다. 미세공정 경쟁이 물리적 한계에 부딪히면서, 트랜지스터를 더 작게 깎는 것보다 여러 칩을 얼마나 촘촘히 이어 붙이느냐가 이제 성능을 가른다.

• CoWoS-S: 실리콘 인터포저 방식, 초기 표준
• CoWoS-L: 국소 실리콘 브리지 방식, 더 큰 면적 지원
• 병목 현상: 2024~2025년 CoWoS 생산능력 부족이 GPU 공급난의 핵심 원인이었다

GAA 트랜지스터, 전력 효율의 열쇠

3나노 이하 공정부터는 기존 핀펫(FinFET) 대신 GAA(Gate-All-Around) 트랜지스터가 표준으로 자리 잡는다. 게이트가 채널을 사방에서 감싸는 구조라 누설전류가 줄고 전력 효율이 올라간다. 삼성전자가 3나노에서 먼저 도입했고, TSMC는 2나노부터 GAA 계열을 적용한다. AI 데이터센터의 전력 소비가 국가 전력망 수준으로 커지는 지금, 트랜지스터 하나의 효율 개선이 데이터센터 전체 전기요금과 바로 이어지는 구조다.

액체 냉각과 열전도 소재, 데이터센터의 숨은 승부수

고성능 GPU 랙 하나가 먹는 전력은 수십 킬로와트에 달한다. 공랭식으로는 이 열을 다 못 뺀다. 그래서 액침 냉각(immersion cooling)과 직접 액체 냉각(DLC)이 빠르게 번지는 중이다.

• 열전도 페이스트: 칩과 히트싱크 사이 열저항을 낮추는 소재
• 2상 냉각액: 끓는점이 낮은 특수 유체로 기화열을 이용해 냉각
• 냉각판 재질: 구리에서 다이아몬드 복합소재로 전환 중

냉각 소재 선택 하나로 서버 랙 밀도가 2~3배까지 벌어진다. 그러니 데이터센터 운영사들이 반도체 못지않게 냉각 기술에 돈을 쏟는 것도 당연한 일이다.

SiC·GaN 전력반도체가 빠지면 안 되는 이유

AI 서버는 벽면에서 들어온 교류 전기를 GPU가 쓸 수 있는 저전압 직류로 여러 단계에 걸쳐 바꿔야 한다. 이 과정에서 탄화규소(SiC)와 질화갈륨(GaN) 기반 전력반도체가 기존 실리콘 소자보다 전력 손실을 확 줄여준다. 전기차 인버터에 쓰이던 소재가 이제 AI 데이터센터 전원 공급 장치로 영역을 넓히는 셈이다.

실리콘 포토닉스, 다음 세대 연결 기술

GPU 수만 개를 하나의 클러스터로 묶으려면 칩 간 통신 속도가 결국 병목이 된다. 실리콘 포토닉스는 전기 신호 대신 빛으로 데이터를 보내 대역폭을 늘리고 발열도 줄이는 기술이다. 엔비디아와 브로드컴은 관련 스위치·트랜시버 제품을 이미 로드맵에 올려놨다. 장거리 구간뿐 아니라 랙 내부 연결까지 광통신으로 바꾸려는 흐름이 지금 진행 중이다.

칩 설계사 하나만 봐서는 절반짜리 그림

AI 반도체 경쟁력을 GPU 설계 회사 하나로만 판단하면 딱 절반만 보는 셈이다. HBM 수율, CoWoS 생산능력, 냉각 소재 공급, 전력반도체 확보까지 전체 공급망이 맞물려야 실제 성능이 나온다. 반도체 관련주나 AI 인프라 투자를 검토할 때도 GPU 제조사뿐 아니라 소재·장비·패키징 기업까지 같이 짚어봐야 그림이 제대로 보인다.

참고: MIT Tech Review AI

딥시크가 GPT-4급 성능을 공짜로 풀어버렸다. 그 뒤로 AI 업계 판도가 흔들린다. 수십억 달러 쏟아부은 폐쇄형 모델과, 누구나 내려받아 쓰는 오픈소스 모델 사이 성능 차이가 갈수록 줄어드는 중. 이러다 보니 “굳이 비싼 API 써야 하나” 고민하는 개발자와 기업이 확 늘었다. 두 진영 실질적인 차이, 그리고 상황별로 뭘 골라야 하는지 한번 정리해봤다.

오픈소스와 폐쇄형, 뭐가 근본적으로 다른가

오픈소스 AI는 모델 가중치(weights)를 통째로 공개한다. 누구든 내려받아 자기 서버에 올리거나 뜯어고칠 수 있다는 뜻. 반대로 폐쇄형 AI는 모델 내부를 절대 안 보여준다. 회사가 만든 API나 앱을 통해서만 만날 수 있다. 겉보기엔 둘 다 그냥 챗봇인데, 운영 방식이나 비용 구조, 책임 소재까지 보면 완전히 다른 게임이다.

• 오픈소스: 자체 서버 운영, 무료 또는 저비용, 커스터마이징 자유
• 폐쇄형: 클라우드 API 호출, 사용량 기반 과금, 회사가 모든 운영 책임

요즘 뜨는 오픈소스 모델 라인업

딥시크(DeepSeek)가 저비용 고성능으로 한바탕 뒤집어놓은 이후, 중국계 모델들이 무섭게 치고 올라왔다. 알리바바 큐원(Qwen) 시리즈는 코딩이랑 다국어 처리에서 확실히 강하고, 메타 라마(Llama)는 미국 진영에서 가장 널리 쓰이는 오픈소스 기반 모델이다. 프랑스 미스트랄(Mistral)도 경량 모델로 개발자들 사이에서 은근히 자주 언급된다.

• 딥시크 — 저비용 학습으로 업계에 충격 준 모델, 추론 성능 강점
• 큐원 — 코딩·수학 벤치마크 상위권, 다국어 지원 우수
• 라마 — 커뮤니티 생태계 가장 큰 오픈소스 계열
• 미스트랄 — 가볍고 빠른 실행, 온디바이스 환경에 적합

그래도 폐쇄형이 아직 앞서는 부분

GPT, 클로드, 제미나이 같은 폐쇄형 모델은 벤치마크 숫자 이상의 걸 준다. 안정적인 인프라, 끊임없는 업데이트, 이미지·음성까지 아우르는 멀티모달, 기업 고객용 SLA와 지원 체계까지. 오픈소스 모델을 직접 돌리려면 GPU 서버 관리부터 튜닝까지 전부 떠안아야 한다. 이 진입장벽, 생각보다 만만치 않다.

벤치마크 점수, 곧이곧대로 믿어도 되나

모델 발표 자료에 나오는 벤치마크 점수는 참고용일 뿐이다. 학습 데이터에 벤치마크 문제랑 비슷한 내용이 섞여 있는 경우도 있고, 실제 업무에서 마주치는 애매한 질문이나 긴 맥락 처리 능력은 표준 벤치마크로 잘 안 드러난다. 코딩 작업이면 자기 프로젝트 코드를 직접 넣어서 테스트해보는 게 숫자 비교보다 훨씬 정확하다. 이건 진짜 써봐야 안다.

비용부터 커스터마이징까지, 고르는 기준

• 비용: 호출량 많으면 오픈소스 자체 호스팅이 장기적으로 저렴, 소규모라면 API 종량제가 오히려 이득
• 데이터 통제: 민감 정보 다룬다면 오픈소스 온프레미스 배포가 유리
• 유지보수 인력: GPU 인프라 관리할 팀 없으면 폐쇄형 API가 편함
• 최신 기능: 멀티모달, 실시간 검색 연동 등은 아직 폐쇄형이 한발 앞섬

회사에서 도입할 때 놓치기 쉬운 보안 문제

해외 API에 사내 데이터를 통째로 넘기는 게 부담스러운 조직이라면, 오픈소스 모델을 사내망에 격리해서 돌리는 방식을 검토할 만하다. 다만 중국계 오픈소스 모델 쓸 때는 데이터 주권이나 규제 이슈를 미리 법무팀과 확인해두는 게 안전하다. 반대로 폐쇄형 API 쓴다면 계약서상 데이터 보관·학습 활용 조항을 꼼꼼히 챙겨야 나중에 탈이 안 난다.

결국 뭘 골라야 하나

개인 개발자나 스타트업이 빠르게 프로토타입 만들 때는 폐쇄형 API로 시작하는 게 속도 면에서 유리하다. 반대로 대량의 요청을 처리하거나 데이터를 밖으로 못 내보내는 환경이라면, 오픈소스 모델을 자체 서버에 올리는 쪽이 장기적으로 남는 장사다. 하나만 고집할 필요는 없다. 민감한 작업은 오픈소스로, 복잡한 멀티모달 작업은 폐쇄형 API로 나눠 쓰는 하이브리드 전략, 요즘 부쩍 늘고 있다.

이것도 궁금하죠?

Q. 오픈소스 모델을 개인 컴퓨터에서 돌릴 수 있나?
가능하다. 7B~14B급 경량 모델이면 그래픽카드 메모리 16GB 정도로도 돌아가고, 올라마(Ollama) 같은 도구 쓰면 설치도 어렵지 않다.

Q. 딥시크 같은 중국산 모델, 써도 괜찮나?
모델 자체는 오픈소스로 공개돼 있어서 코드를 직접 뜯어볼 수 있다. 다만 공식 웹·앱 서비스를 이용할 경우 서버가 해외에 있다는 점은 감안해야 한다. 민감한 데이터라면 로컬 배포로 돌리는 편이 안전하다.

Q. 성능 차이가 이제 거의 없다는 말, 맞나?
코딩이나 요약 같은 범용 작업에서는 격차가 많이 줄었다. 하지만 복잡한 추론이나 최신 정보 반영이 필요한 작업에서는 폐쇄형 모델이 근소하게 앞서는 경우가 여전히 많다.

MIT 테크놀로지 리뷰가 전한 바에 따르면, 중국계 AI 모델의 확산이 이런 흐름에 불을 붙였다고 한다. 원문 보기

구글 딥마인드의 지니(Genie) 3, 엔비디아 코스모스(Cosmos), 페이페이 리가 차린 월드랩스(World Labs). 이름은 다 다른데 회사들이 만드는 건 결국 하나, 월드모델이다. 챗GPT나 클로드 같은 언어모델은 이제 다들 안다. 그럼 월드모델은 뭐고, 빅테크들이 왜 이렇게 몰려드는 걸까.

월드모델이 뭐길래 다들 얘기할까

말 그대로다. 세상이 돌아가는 방식을 통째로 학습한 AI. 언어모델이 다음 단어를 맞히도록 훈련받는다면, 이쪽은 다음 장면, 다음 물리 상황을 맞히도록 훈련받는다. 공을 굴리면 어디로 튕길지, 문을 밀면 어떻게 열릴지. 이런 걸 데이터로 익힌다. 재료부터 다르다. 텍스트가 아니라 영상, 3D 공간, 물리 법칙.

LLM과 뭐가 다른가

언어모델은 텍스트를 산더미처럼 읽고 그럴듯한 문장을 뽑아내는 데는 확실히 강하다. 문제는 실제 세계를 겪어본 적이 없다는 것. 컵을 놓으면 떨어진다, 이런 물리적 감각이 약하다. 얀 르쿤이 메타를 나와 새 회사를 차리면서 든 이유도 딱 이거였다. 언어만 붙잡고 있어서는 진짜 지능에 못 닿는다, 시각과 공간과 물리를 이해하는 별도 모델이 필요하다는 얘기다. 그러니 월드모델은 LLM을 밀어내는 쪽이라기보다, LLM이 못 채우는 구멍을 메우는 쪽에 가깝다.

대표 사례들, 어디까지 왔나

• 구글 딥마인드 지니 시리즈 — 이미지 딱 한 장 던져주면 그 안에서 실제로 걸어 다닐 수 있는 3D 공간을 그 자리에서 만들어낸다
• 엔비디아 코스모스 — 로봇과 자율주행차 훈련용 가상 환경을 대량으로 찍어내는 플랫폼
• 월드랩스 — 사진 한 장을 탐험 가능한 3D 세계로 바꾸는 데모로 이름을 알렸다

세 회사 방향은 조금씩 다르다. 그런데 목표는 결국 하나로 모인다. AI가 눈으로 본 걸 진짜 공간처럼 이해하게 만드는 것.

자율주행이 이걸 왜 필요로 하나

도로 위에서 벌어질 수 있는 경우의 수, 그걸 실제 주행만으로 다 배우기는 어렵다. 사고 직전 상황, 폭우 속 급정거. 이런 장면을 현실에서 무한정 반복 테스트할 순 없는 노릇이다. 월드모델은 이런 희귀 상황을 가상으로 수없이 찍어내 차량 AI에게 미리 겪게 한다. 테슬라나 웨이모가 시뮬레이션 데이터에 공을 들이는 이유, 여기 있다. 실제 도로 데이터만으로는 늘 부족하니까.

로봇 훈련에서도 필수템이 된 이유

휴머노이드 로봇을 훈련시키려면 물건 집기, 문 열기, 계단 오르기를 수없이 반복해야 한다. 실제 로봇으로 이 과정을 다 거치려면 시간도 돈도 감당이 안 된다. 월드모델은 이런 물리적 상호작용을 가상 공간에서 먼저 시뮬레이션해서, 로봇이 현실에 나오기 전에 어느 정도 손에 익은 상태로 만들어준다. 피지컬 AI라는 말이 요즘 부쩍 자주 들리는 배경에도 이 기술이 깔려 있다.

게임과 영상 업계가 눈독 들이는 지점

게임 개발사 입장에서 맵과 배경을 일일이 손으로 그리는 작업, 비용이 만만치 않다. 월드모델을 쓰면 텍스트나 이미지 몇 개로 플레이 가능한 배경을 그 자리에서 뽑아낼 수 있다. 영화나 광고 쪽에서도 가상 세트장을 이 기술로 만들려는 시도가 이어지고 있다. 완성도는 아직 초기 단계다. 솔직히 여기서 갈린다. 하지만 제작 기간을 크게 줄일 여지가 있다 보니 관련 스타트업 투자는 꾸준히 늘어나는 중이다.

결국 뭐가 달라지나

언어모델이 정보를 다루는 방식을 바꿔놨다면, 월드모델은 AI가 공간과 물리를 다루는 방식을 바꾸는 중이다. 아직은 로봇공학이나 자율주행처럼 전문 영역에서 먼저 쓰이지만, 게임이나 영상 제작 도구에도 조금씩 스며들고 있다. 당장 검색창에 이름을 쳐볼 일은 적어도, 뒤에서 돌아가는 기술이라는 점은 기억해둘 만하다. 이후 어떤 회사의 로봇이나 자율주행차가 유독 자연스럽게 움직인다 싶으면, 그 뒤에 괜찮은 월드모델이 있다고 봐도 크게 틀리지 않는다.

MIT 테크리뷰 AI 뉴스레터가 다룬 내용을 참고했다: MIT Tech Review AI

AI 파일럿 프로젝트를 진행한 기업 중에서 실제 서비스로 이어지는 곳은 아직 소수다. 모델 성능 문제가 아니다. 그 모델을 얹을 바닥 자체가 부실해서 무너지는 경우가 훨씬 많다. 데이터 파이프라인이 엉성하거나, 보안 정책을 서비스 오픈 직전에야 급조하거나, GPU 자원 계획도 없이 프로젝트부터 벌이는 곳들. 딱 이런 패턴이다. 에이전트형 AI로 무게중심이 옮겨가면서 이 기초 공사는 더 중요해졌다. 챗봇 하나 붙이는 수준이 아니라 여러 AI가 서로 도구를 호출하고 데이터를 주고받는 구조라서, 아키텍처가 부실하면 장애 지점이 곱절로 늘어난다. IT 조직이 AI 도입 전에 점검해야 할 기초 요소를 정리해봤다.

데이터 파이프라인부터 다시 봐야 하는 이유

모델은 결국 데이터가 흐르는 대로 결과를 낸다. 사일로화된 데이터베이스, 정제 안 된 로그, 버전 관리도 안 되는 스프레드시트가 뒤섞인 환경. 여기에 아무리 좋은 LLM을 붙여봐야 헛돌 뿐이다. 실무에서 우선순위로 삼아야 할 항목은 이 정도다.

• 데이터 출처와 최신성을 추적하는 메타데이터 관리 체계
• 실시간 추론이 필요한 경우를 대비한 스트리밍 파이프라인
• 부서 간 데이터를 통합할 공통 스키마

이 세 가지가 없는 상태에서 에이전트를 붙이면 어떻게 될까. 잘못된 데이터로 잘못된 판단을 내리는 자동화가 그대로 서비스에 노출된다.

MLOps는 이제 선택지가 아니다

모델 하나 배포하고 끝나는 시대는 지났다. 모델 버전 관리, 성능 드리프트 모니터링, 롤백 절차. 이 셋이 없으면 시간이 지날수록 정확도가 슬금슬금 떨어지는 걸 아무도 눈치채지 못한다. CI/CD 파이프라인에 모델 평가 단계를 끼워 넣고 재학습 트리거를 자동화해둔 조직과, 이걸 수동으로 관리하는 조직. 반년만 지나도 격차가 확연히 벌어진다.

에이전트형 AI는 인프라 요구사항부터 다르다

단일 프롬프트-응답 구조와는 다르다. 에이전트는 여러 단계를 거쳐 도구를 호출하고 상태를 유지한다. 이 과정에서 지연 시간, 컨텍스트 저장, 오류 시 재시도 로직이 전부 새로운 변수로 튀어나온다. 기존 REST API 위주로 짜인 시스템에 에이전트를 그냥 얹으면? 호출량이 폭증하거나 무한 루프에 빠지는 문제가 생기기 쉽다. 오케스트레이션 레이어를 따로 두고, 각 에이전트가 어떤 도구까지 접근할 수 있는지 권한을 명확히 나눠두는 설계가 필요하다.

보안과 거버넌스, 나중에 챙기면 이미 늦다

프롬프트 인젝션, 민감 데이터 유출, 모델이 엉뚱한 근거로 내린 결정에 대한 책임 소재까지. 챙길 항목이 한둘이 아니다. 보안팀을 프로젝트 초기부터 끼워 넣는 조직과, 서비스 오픈 직전에야 검토를 요청하는 조직. 결과물은 완전히 다르다. 최소한 다음 항목은 설계 단계에 넣어야 한다.

• 모델 입출력에 대한 로깅과 감사 추적
• 외부 API 호출 전 데이터 마스킹 정책
• 사고 발생 시 즉시 차단하는 킬스위치

규제 대응 문서만 갖추고 실제 기술적 통제는 빠진 경우, 의외로 흔하다. 문서와 코드가 실제로 일치하는지 주기적으로 확인하는 절차를 만들어두는 편이 낫다.

GPU·컴퓨팅 자원, 전략 없이 덤비면 청구서에서 운다

엔비디아 GPU 확보 경쟁이 이어지면서 컴퓨팅 자원 자체가 병목이 되는 일이 흔해졌다. 온프레미스로 다 구축하기엔 비용이 부담스럽고, 클라우드만 쓰자니 트래픽이 늘어날수록 청구서가 무섭게 불어난다. 현실적인 접근은 워크로드를 나눠서 판단하는 것.

• 실시간 응답이 필요한 추론은 전용 인스턴스로
• 배치성 재학습은 스팟 인스턴스나 예약 자원으로
• 피크 시간대 트래픽은 오토스케일링으로 흡수

자원 계획 없이 프로젝트 규모부터 키우면 서비스가 뜨는 순간 비용 구조가 감당 안 되는 상황을 맞을 수 있다. 이건 흔한 실수다.

기술 못지않게 조직 구조와 사람이 문제다

아키텍처를 아무리 잘 짜도 이걸 운영할 사람이 없으면 무용지물이다. 데이터 엔지니어, MLOps 담당자, 보안 담당자가 각자 다른 팀 소속으로 흩어져 있으면 의사결정이 느려지고 책임 소재도 애매해진다. 최근에는 이 세 역할을 하나의 AI 플랫폼 팀으로 묶어 운영하는 조직이 늘고 있다. 초기 투자 비용은 크다. 다만 장기적으로는 프로젝트마다 처음부터 다시 설계하는 낭비를 줄여준다.

결국 살아남는 프로젝트는 이 3가지가 있다

데이터 기반, 운영 자동화, 보안 통제. 이 세 가지가 튼튼해야 그 위에 어떤 모델을 올려도 버틴다. 유행하는 프레임워크나 최신 모델을 좇기 전에, 이 기초 공사가 되어 있는지부터 점검하는 게 순서다. 반년 뒤, 1년 뒤에도 살아남는 AI 프로젝트와 조용히 사라지는 프로젝트. 차이는 결국 여기서 갈린다.

이것도 궁금하죠

Q. 스타트업도 이런 아키텍처를 다 갖춰야 하나?
규모에 맞게 단계적으로 가면 된다. 처음부터 완벽한 MLOps 파이프라인을 만들 필요는 없다. 데이터 정합성과 최소한의 로깅부터 시작해도 충분하다.

Q. 클라우드 AI 서비스만 써도 아키텍처 고민이 필요한가?
필요하다. 관리형 서비스를 쓰더라도 데이터 흐름 설계, 접근 권한 관리, 비용 모니터링은 여전히 자체 몫이다.

Q. 에이전트형 AI 도입 시 가장 먼저 손봐야 할 부분은?
권한 관리다. 어떤 에이전트가 어떤 도구와 데이터에 접근할 수 있는지부터 명확히 정의해두지 않으면, 사고가 터졌을 때 원인 추적조차 어렵다.

MIT Tech Review AI가 지난 7일 전한 내용을 바탕으로 정리했다.

SK하이닉스 공정 엔지니어로 일하는 A씨(35)는 얼마 전 결혼정보업체에 가입했다. 몇 년 전이라면 반도체 업계 종사자가 이런 데서 딱히 주목받을 일은 없었다. 그런데 HBM(고대역폭메모리) 호황으로 연봉과 성과급이 치솟으면서 얘기가 달라졌다. 실제로 반도체 회사 초봉, 연봉을 검색하는 사람도 부쩍 늘었다고 한다. SK하이닉스와 삼성전자, 반도체 엔지니어 연봉과 직무, 커리어 경로를 실질적으로 따져봤다.

초봉부터 갈린다, SK하이닉스와 삼성전자

2026년 기준 두 회사 모두 대졸 신입 초봉은 6천만 원대 중후반. 여기까지는 비슷하다. 문제는 그다음이다. 성과급(PS, PI)이 붙는 순간 실수령액 차이가 확 벌어진다. SK하이닉스는 지난 몇 년간 HBM 수요가 폭발하면서 영업이익이 크게 늘었고, 그 덕에 초과이익분배금 비율이 높게 책정된 해가 많았다. 삼성전자는 반도체(DS) 부문 실적에 따라 편차가 있는 편이다. 같은 해, 같은 회사라도 사업부별로 체감 연봉이 다르게 느껴질 수 있다는 얘기다.

• SK하이닉스 — HBM·D램 호황기엔 성과급 비중이 커서, 연차가 쌓일수록 격차도 커진다
• 삼성전자 DS부문 — 파운드리와 메모리 실적이 엇갈리면 부서별 체감 연봉 차이가 뚜렷해진다
• 두 회사 다 기본급 자체는 큰 차이 없다. 변수는 결국 성과급

같은 반도체 회사, 다른 일 — 직무가 커리어를 가른다

반도체 회사라고 다 같은 일을 하진 않는다. 크게 나누면 이렇다.

• 공정(Process) 엔지니어 — 웨이퍼가 실제로 가공되는 라인을 관리, 설비 트러블슈팅이 주 업무
• 설계(Design) 엔지니어 — 회로 설계와 시뮬레이션, 전기전자·반도체공학 전공자가 몰린다
• 소자(Device) 엔지니어 — 신물질과 소자 구조를 연구, 대학원 출신 비중이 높은 편
• 패키징·테스트 엔지니어 — HBM처럼 칩을 여러 겹 쌓는 후공정, 요즘 몸값이 제일 많이 오르는 분야다

HBM 수요가 늘면서 패키징·후공정 인력 채용이 눈에 띄게 늘었다. 취업 준비생이라면 체크해둘 만한 대목이다.

입사 스펙, 뭘 준비해야 하나

전공은 전자공학, 신소재공학, 화학공학, 물리학 순으로 지원자가 많다. 학사로도 공정직 지원은 가능하지만, 설계나 소자 쪽은 석사 이상을 우대하는 공고가 여전히 많다. 자격증보다 학부·대학원 연구 프로젝트 경험, 반도체 8대 공정 이해도를 묻는 면접 질문 대비가 실질적으로 더 도움이 된다. 최근엔 두 회사 모두 코딩테스트나 SW 역량을 함께 보는 추세다. 반도체 전공자라도 파이썬이나 C 기본기 정도는 챙겨두는 게 안전하다.

조직문화, 어디가 나한테 맞나

SK하이닉스는 상대적으로 조직 규모가 작아 의사결정이 빠르고, 이천·청주 캠퍼스 중심으로 돌아간다. 삼성전자는 기흥·화성·평택 등 사업장 규모부터 훨씬 크고 조직 체계도 세분화돼 있어서, 신입 입장에선 매뉴얼과 시스템이 잘 갖춰져 있다는 평이 많다. 워라밸을 우선한다면 부서별 편차가 크다는 점을 염두에 두고 현직자 후기를 꼼꼼히 찾아보는 게 좋다. 이건 회사 이름만으로는 판단이 안 된다.

다음 변수는 사이클이다

AI 서버용 메모리 수요가 늘면서 HBM·차세대 D램 관련 채용은 당분간 계속 늘어날 가능성이 크다. 다만 메모리는 사이클을 타는 산업이다. 몇 년 뒤 다운턴이 오면 채용 규모, 성과급 둘 다 줄어들 여지가 있다는 점은 알아둬야 한다. 장기적으로 안정적인 커리어를 원한다면 특정 호황기 성과급만 보고 결정하기보다, 직무 자체의 확장성과 이직 시장에서 내 몸값을 같이 따져보는 편이 낫다.

결국 뭘 기준으로 골라야 하나

단순 연봉만 보면 성과급 호황기의 SK하이닉스가 유리해 보이는 해가 많다. 그런데 조직 안정성과 사업 다각화 쪽에서는 삼성전자도 만만치 않다. 결국 중요한 건 회사 이름보다 어떤 직무에서 어떤 기술을 쌓을 것인가다. 반도체 업계는 사이클이 뚜렷한 산업이다. 지금 연봉 테이블보다, 5년 뒤 내 기술이 시장에서 얼마나 희소할지를 기준으로 회사와 직무를 고르는 편이 후회가 적다.

MIT 테크리뷰 보도를 참고했다: MIT Tech Review AI