인텔이 휘청거리고, 삼성전자 반도체 인력이 SK하이닉스로 넘어간다는 소식이 끊이질 않는다. 이 난리통 한복판에 있는 게 바로 HBM, 고대역폭 메모리다. 이름은 익숙한데 정확히 뭔지, 왜 이렇게 몸값이 뛰는지는 잘 모르겠다면 이 글이 도움이 될 거다.
HBM, 정체가 뭐길래
HBM은 High Bandwidth Memory의 줄임말이다. D램 칩을 수직으로 쌓아 데이터를 빠르게 주고받도록 만든 메모리 반도체. 일반 D램은 칩이 옆으로 나란히 배치되는데, HBM은 층층이 쌓고 TSV(실리콘관통전극)라는 미세한 통로로 뚫어 연결한다. 데이터가 오가는 길이 짧고 넓어진다. 아파트를 옆으로 넓히는 대신 위로 쌓아 같은 땅에 세대수를 늘리는 것과 비슷하다고 보면 된다.
일반 D램이랑 뭐가 다른가
- 속도: 일반 D램보다 데이터 처리 속도가 압도적으로 빠르다
- 전력 효율: 같은 작업을 처리해도 소모 전력이 낮다
- 공간 효율: 수직으로 쌓다 보니 차지하는 면적이 작다
- 가격: 제조 공정이 복잡한 만큼 일반 D램보다 훨씬 비싸다
한마디로 비싸지만 빠르고 효율적인 메모리다. 그래서 아무 데나 안 쓴다. 진짜 성능이 필요한 자리에만 골라서 박아 넣는다.
엔비디아가 HBM에 이렇게 매달리는 이유
AI 모델을 학습시키거나 돌릴 때 GPU는 어마어마한 양의 데이터를 쉼 없이 읽고 쓴다. 이때 메모리가 병목이 되면 GPU 연산 성능이 아무리 좋아도 제 속도가 안 나온다. 엔비디아의 H100, B200 같은 AI 가속기 카드엔 HBM이 필수로 들어간다. GPU 코어 바로 옆에 HBM을 붙여 데이터 이동 거리를 최소화하는 설계 때문이다. AI 서버 한 대 가격의 상당 부분이 GPU가 아니라 여기 들어가는 HBM 값이라는 말도 있을 정도. 솔직히 처음 들었을 땐 좀 놀랐다.
삼성전자와 SK하이닉스, 격차 진짜 있나
SK하이닉스는 HBM3, HBM3E 초기 양산과 엔비디아 공급에서 앞서가며 시장을 선점했다. 삼성전자는 대량 생산 능력과 종합반도체 기업으로서의 저력을 갖췄지만, 엔비디아 품질 검증 통과가 늦어지며 뒤처졌다는 평가를 받았다. 이 차이가 회사 실적과 보너스, 개인 커리어에 그대로 이어지면서 엔지니어들이 성과를 더 빨리 인정받는 쪽으로 옮겨가는 흐름이 생겼다. 반도체 업계에서는 기술 리더십이 곧 사람을 끌어당기는 자석인 셈이다.
다음 승부처는 HBM4
업계는 이미 HBM4 경쟁으로 넘어갔다. HBM4는 데이터 통로 폭을 늘리고 로직 다이를 밑에 깔아 처리 속도를 한 단계 더 끌어올린 규격이다. 삼성전자, SK하이닉스, 마이크론까지 세 회사가 이 규격의 표준과 양산 시점을 두고 경쟁 중이다. 여기서 먼저 치고 나가는 쪽이 다음 세대 AI 가속기 공급망에서 우위를 가져갈 가능성이 크다. 이 싸움에서 이기는 회사가 앞으로 몇 년간 AI 반도체 시장의 주도권을 쥘 거다.
반도체 엔지니어 몸값이 뛰는 배경
HBM 같은 첨단 공정은 아무나 다룰 수 있는 기술이 아니다. 적층, 본딩, 검사 공정마다 숙련된 인력이 필요한데, 이런 사람은 시장에 한정적으로 존재한다. 그래서 기술을 선도하는 기업은 경쟁사 핵심 인력을 스카우트하는 데 파격적인 조건을 내건다. 연봉 인상은 기본이고, 사이닝 보너스에 승진 기회까지 얹어주는 사례가 흔하다. 개인 입장에서는 회사 브랜드보다 어느 쪽이 기술 주도권을 쥐고 있는지가 커리어 판단에 더 결정적인 기준이 됐다.
결국 남는 건 이 3가지
- HBM은 D램을 수직으로 쌓아 속도와 효율을 높인 메모리로, AI 가속기의 필수 부품이다
- SK하이닉스가 초기 시장을 선점했고 삼성전자는 추격 중이며, 이 격차가 인력 이동으로 이어지고 있다
- 다음 승부처는 HBM4이고, 여기서 앞서는 회사가 AI 반도체 공급망의 주도권을 가져갈 것이다
AI리서치팀
Home-In-One AI리서치팀은 인공지능, 머신러닝, 생성형 AI의 최신 동향과 실용적 활용법을 연구합니다. ChatGPT, 클로드, 미드저니 등 AI 도구 비교 분석과 활용 가이드를 제공합니다.