맥으로 AI 모델 돌릴 때, 메모리가 먼저다

OpenAI가 맥미니와 맥스튜디오를 ‘수만 대’ 단위로 사들여 AI 에이전트 학습에 투입했다. 소비자용 데스크톱이 데이터센터 장비 취급을 받기 시작했다는 뜻이다. 애플이 M8 울트라 칩 2개 또는 4개를 묶은 기업용 서버를 검토한다는 이야기도 같은 맥락에서 나왔다. 다만 서버 제품이 실제로 나오든 말든, 지금 맥을 AI 작업용으로 들여다보는 사람에게 필요한 건 애플의 로드맵이 아니다. 구성을 정하는 순서다.

통합 메모리가 맥을 AI 작업 기기로 만든 구조

애플 실리콘 SoC는 CPU, GPU, 뉴럴 엔진이 하나의 메모리 풀을 공유한다. 일반 PC는 사정이 다르다. 시스템 RAM과 그래픽 카드의 VRAM이 물리적으로 분리돼 있어, 모델 가중치를 GPU가 쓰려면 PCIe를 거쳐 VRAM으로 복사해야 한다. VRAM 용량을 넘어서면 모델을 쪼개거나 포기해야 한다. 애플 실리콘에서는 이 복사 단계가 없고, GPU가 접근하는 메모리 상한이 기기에 장착된 통합 메모리 용량에 가깝게 잡힌다.

덕분에 큰 모델을 한 대에 통째로 올리는 일이 소비자용 그래픽 카드보다 수월해진다. 대신 연산 밀도는 데이터센터용 가속기에 못 미친다. 맥이 AI 개발자에게 팔리는 이유는 절대 성능이 아니라 ‘큰 모델을 올릴 메모리를 비교적 낮은 전력으로 확보한다’는 조건에 있다. 울트라 등급 칩이 거론되는 것도 같은 이유다. 울트라는 메모리 용량과 대역폭의 상한이 위쪽에 있고, 토큰 생성 속도는 연산량보다 메모리 대역폭에 먼저 막히는 구간이 많다. 코어 수 스펙을 먼저 비교하는 습관이 여기서 빗나간다.

학습용 GPU 클러스터와 역할이 갈리는 지점

보도에 따르면 OpenAI는 시행착오 기반 강화학습으로 에이전트를 훈련하려고 맥을 대량 구매했고, 앤스로픽은 AWS를 통해 맥미니를 임대했다. 두 사례 모두 대규모 사전학습과는 성격이 다르다. 사전학습은 GPU 클러스터에서 이뤄지고, 맥이 맡는 쪽은 에이전트가 실제 운영체제 환경에서 앱을 조작하고 결과를 되돌려받는 ‘환경 실행’ 역할로 보인다. macOS와 iOS 앱을 정식으로 구동하는 하드웨어가 애플 기기로 한정된다는 점, 이게 이 역할을 대체하기 어렵게 만든다. 값이 싸서 고른 게 아니라 다른 선택지가 없는 셈이다.

그래서 맥을 AI용으로 검토할 때 기준은 ‘GPU 서버 대비 학습 속도’가 아니다. 돌리려는 작업이 모델 추론인지, macOS·iOS 환경이 필요한 자동화와 테스트인지, 파인튜닝인지부터 갈라야 한다. 앞의 두 가지는 맥이 유리한 구간이고, 파인튜닝은 규모가 커질수록 클라우드 GPU 임대가 싸다.

메모리 용량을 먼저 정하고 나머지를 맞춘다

구성 순서는 메모리 → 기기 등급 → 저장장치다. 필요한 메모리는 ‘파라미터 수 × 가중치 1개당 바이트 수 + KV 캐시 + 운영체제 여유분’으로 어림한다. 4비트 양자화면 파라미터당 0.5바이트, 8비트면 1바이트, 16비트(FP16/BF16)면 2바이트가 기준선이다. 여기에 컨텍스트 길이와 동시 요청 수에 비례해 늘어나는 KV 캐시, macOS와 브라우저·에디터가 점유하는 몫을 더해 여유를 둔다. 계산기로 2분이면 끝나는 산수인데, 이걸 건너뛰고 등급부터 고르면 순서가 거꾸로 간다. 통합 메모리는 구매 후 증설이 불가능하므로 이 선택이 사실상 기기 수명을 결정한다.

기기 등급은 메모리 상한이 결정한다. 맥미니는 메모리 옵션 상한이 낮은 대신 대수를 늘리기 쉬워 작은 모델이나 작업 여러 개를 병렬로 돌리는 구성에 맞고, 맥스튜디오는 한 대에 큰 모델을 통째로 올려야 하는 구성에 맞는다. 같은 예산이라면 ‘한 모델을 크게’와 ‘작은 모델 여럿을 동시에’ 중 무엇이 필요한지가 갈림길이다. 저장장치는 좀 다른 이야기다. 모델 파일이 수십 기가바이트 단위로 쌓이므로, 내장 용량을 최대치로 올리기보다 고속 외장 SSD를 전제로 잡는 편이 비용 효율이 낫다. 메모리와 달리 저장장치는 나중에 붙일 수 있으니까.

현재 상태를 확인하는 경로는 다음과 같다. 장착 용량은 Apple 메뉴 → 이 Mac에 관하여 → 메모리 항목에서 본다. 실사용은 응용 프로그램 → 유틸리티 → 활성 상태 보기 → 메모리 탭을 열어 ‘메모리 압력’ 그래프를 확인한다. 그래프가 노랑·빨강에 머무르거나 스왑 사용량이 계속 늘면 용량이 모자란 상태다. GPU가 점유하는 메모리 상한을 sysctl 값(iogpu.wired_limit_mb 계열)으로 조정하는 방법이 알려져 있는데, 여기엔 주의할 대목이 있다. 키 이름과 기본 동작이 macOS 버전에 따라 다르다. 블로그에서 본 명령을 그대로 붙여넣기 전에, 자신의 버전에서 해당 값이 존재하는지부터 확인해야 한다.

상시 가동을 전제한다면 설정도 미리 잡아둔다. 원격 접속은 시스템 설정 → 일반 → 공유 → 원격 로그인에서 켜고, 자동 잠자기와 정전 후 자동 시작은 시스템 설정 → 에너지 절약(노트북은 배터리) 항목에서 조정한다. macOS 버전과 기기 종류에 따라 메뉴 위치와 항목 이름이 다르다.

데스크톱을 랙에 쌓는 방식과 서버 제품의 차이

AI 기업들이 쓰는 현재 방식은 데스크톱을 랙에 채워 넣는 형태다. 여기서 발생하는 비용은 연산 성능이 아니라 운영에서 나온다. 랙 마운트 규격이 아니고, 대당 전원과 네트워크 케이블이 따로 들어가며, 전원이 꺼진 상태에서도 장비를 다루는 대역 외 원격 관리 수단이 표준화돼 있지 않다. 수만 대 규모에서 이게 어떤 그림인지는 상상에 맡긴다. 애플이 서버 폼팩터를 검토한다는 보도는 이 운영 비용을 겨냥한 것으로 읽힌다. 칩을 여러 개 묶는 인터커넥트로 엔비디아의 NVLink 퓨전이 거론된 대목도, 보드 간 연결을 자체 기술만으로 풀지 않는 선택지를 열어뒀다는 신호다. 애플의 직전 기업용 서버인 Xserve는 2011년 1월에 단종됐다. 18년 만의 복귀가 되는 셈이다.

국내 독자가 챙길 것

서버 제품의 국내 출시 여부, 원화 가격, 판매 채널은 공식 발표가 없다. 2029년이라는 시점 자체가 보도에서 나온 목표이고, 프로젝트가 취소되거나 엔비디아 기술 없이 진행될 가능성도 같은 보도에 명시됐다. 구매 계획의 변수로 삼기에는 근거가 얇다.

당장 영향을 주는 쪽은 메모리 반도체 수급이다. AI 데이터센터 구축 경쟁으로 메모리 칩 부족이 이어지면서 게임기와 플래그십 스마트폰을 포함한 여러 소비자 전자제품 가격이 올랐고, 애플 제품군도 영향권에 있다는 보도가 나왔다. 통합 메모리 옵션 가격이 이 흐름과 무관하기 어렵다는 건 어디까지나 추정이다. 확정적인 건 다른 쪽이다. 메모리는 나중에 바꿀 수 없다. 용량을 한 단계 올릴지 망설이는 상황이라면 올려두는 쪽이 회수 가능성이 크다.

국내에서 맥을 상시 가동한다면 전기요금 누진 구간과 소음·발열도 점검 항목이다. 데스크톱형 맥은 노트북보다 24시간 가동에 적합하지만, 주택용 전력 계약에서 여러 대를 상시로 돌리면 요금 구간이 밀려 올라간다. 사무실 회선이 아니라 가정용 인터넷에서 외부 접속을 열 계획이라면 고정 IP 여부와 공유기 포트 정책도 미리 확인해야 한다.

확인된 것과 아직 불확실한 것

확인된 것

• 애플의 마지막 기업용 서버 제품인 Xserve는 2011년 1월 단종됐다.
• 존 터너스가 팀 쿡의 뒤를 이어 애플 CEO에 취임했고, 쿡은 15년간 그 자리에 있었다.
• AI 데이터센터 수요가 촉발한 메모리 칩 부족이 게임기와 플래그십 스마트폰 등 소비자 전자제품 가격 인상으로 이어졌다.
• 맥미니와 맥스튜디오 판매가 AI 개발 수요와 맞물려 늘고 있다.

아직 불확실한 것

• M8 울트라 2개·4개 구성과 2029년 출시 목표는 The Information 보도 기반이며, 애플의 공식 발표가 아니다. 보도는 프로젝트 취소 가능성도 함께 짚었다.
• 엔비디아 NVLink 퓨전 채택 여부. 해당 기술 없이 진행될 가능성이 남아 있다.
• 제품명, 가격, 국내 출시 및 유통 계획 일체.
• OpenAI와 앤스로픽의 구매·임대 규모는 보도로만 알려진 수치다.

구매 판단은 서버 로드맵이 아니라 메모리 용량에서 갈린다

기업용 서버가 실제로 나온다면 맥을 랙에 쌓아 쓰던 방식은 정리되겠지만, 그 시점은 보도상 목표일 뿐이고 무산 가능성까지 함께 거론됐다. 3년 뒤 제품을 기다리며 지금 필요한 장비를 미루는 건 계산이 맞지 않는다. 지금 결정에 들어가야 하는 변수는 세 가지로 좁혀진다. 돌릴 모델의 가중치 용량과 컨텍스트 길이에서 나오는 메모리 요구치. 한 대에 크게 올릴지 여러 대로 나눌지에 대한 판단. 상시 가동 여부에 따른 전력과 원격 접속 설정. 이 셋을 먼저 숫자로 적어두면 어느 등급을 골라야 할지는 대체로 자동으로 정해진다.

출처: Ars Technica

테크가이드팀

Daily News Korea 테크가이드팀은 IT 기기 비교, 소프트웨어 추천, 트러블슈팅 가이드 등 실용적인 기술 콘텐츠를 제작합니다. 초보자도 쉽게 따라할 수 있는 단계별 가이드를 지향합니다.