[태그:] 로컬AI

  • 맥 미니 M4 649달러 할인의 함정, 기준은 메모리

    맥 미니 M4 649달러 할인의 함정, 기준은 메모리

    3줄 요약

    • 맥 미니 M4 기본형(256GB·16GB)의 할인가 649달러는 오른 정가 799달러에서 깎은 값이에요. 그래서 출시가 599달러보다 오히려 50달러 비싸요.
    • 웹 서핑이나 문서 작업 같은 일상 용도에서는 M4와 M6의 체감 차이가 크지 않아요. 높은 성능이 꼭 필요하지 않다면 M4 기본형이 합리적이에요.
    • 로컬 AI나 영상 편집이 목적이라면 칩 세대보다 메모리 용량을 먼저 정해야 해요. 16GB로는 빠듯하고, AI 용도로 산 사람들은 32GB 구성을 골랐어요.

    649달러. 맥 미니 M4 기본형(256GB 저장 공간, 16GB 통합 메모리)에 지금 붙어 있는 가격표다. 정가에서 150달러를 뺀 값이다. 그런데 이 제품이 처음 나왔을 때 시작가는 599달러였다. 할인을 받고도 출시 때보다 50달러를 더 내야 한다. 미국 IT 매체 와이어드가 이번 할인에 ‘함정’이 있다고 짚은 것도 이 때문이다.

    웹 서핑과 문서 작업이 주 용도라면 이 가격의 M4도 여전히 괜찮은 선택이라고 본다. 로컬 AI 에이전트를 돌리거나 영상을 편집할 사람은 계산이 달라진다. ‘M4냐 M6냐’를 따지기 전에 메모리를 몇 GB로 할지부터 정해야 한다. 아래에서는 가격이 이렇게 된 경위, 두 칩의 성능 차이, 메모리 기준, 지금 쓰는 컴퓨터로 필요한 용량을 가늠하는 방법을 차례로 다룬다. 한 번 읽으면 판단이 서도록 순서를 짰다.

    오른 정가에서 깎은 649달러, 출시가보다 비싼 이유

    가격이 움직인 순서를 따라가면 함정이 어디 있는지 보인다. 출발점은 599달러였다. 그 뒤 애플이 칩과 메모리 공급 부족을 이유로 하드웨어 가격을 전반적으로 올렸고, M4 기본형 정가는 799달러가 됐다. 후속작 M6 맥 미니는 899달러부터 시작하는 가격으로 나왔다. 구형이 된 M4가 정가보다 150달러 낮은 649달러로 내려온 건 그다음이다.

    M4는 원래 재고가 바닥나 구하기 어려운 제품이었다. 비싸지 않은 가격에 로컬 AI 에이전트를 무리 없이 돌릴 수 있다고 알려지면서, 24시간 켜 두는 AI 전용 기기로 수요가 몰렸기 때문이다. M6가 나오면서 품귀가 풀렸고, 그게 지금의 할인 판매로 이어졌다. 맥 미니에는 기본 M5 칩 모델이 나오지 않았다는 점도 알아 둘 만하다. 기본 칩만 놓고 보면 M4 다음이 곧바로 M6다.

    649달러는 ‘오른 정가에서 깎은 가격’이다. 599달러를 기억하는 사람에게는 씁쓸한 숫자다. 지금 처음 사려는 사람에게는 사정이 다르다. M4를 살 수 있는 가장 낮은 가격에 가깝기 때문이다. 다음은 해석이다. 정가를 끌어올린 원인이 칩·메모리 부족인 이상, 599달러 시절로 돌아가길 기다리는 건 기대를 걸기 어려운 전략으로 보인다.

    코어·대역폭 앞선 M6, 차이가 벌어지는 건 무거운 작업

    M6 칩이 M4보다 앞서는 점은 세 가지다. CPU와 GPU 코어가 더 많고, 뉴럴 액셀러레이터(Neural Accelerators)가 들어갔고, 메모리 대역폭이 더 높다. 셋 다 많은 계산을 한꺼번에 처리할 때 힘을 쓰는 요소다. 그래서 영상 편집이나 AI 모델 실행처럼 칩을 한계까지 쓰는 작업에서 두 모델의 차이가 벌어질 수 있다.

    웹 브라우징, 메일, 문서와 스프레드시트 같은 일반 업무는 이야기가 다르다. 이런 작업에서는 칩이 최대 성능을 낼 일이 드물다. 두 모델을 나란히 써도 체감 차이가 크지 않은 이유다. M4는 가장 강력한 소형 맥 자리를 M6와 M5 Pro 모델에 넘겨줬지만, 여전히 강력하고 전력 효율이 좋은 프로세서로 평가받는다. 일반 업무가 전부라면 M6와의 차액 250달러를 더 낼 근거는 약하다는 게 필자의 판단이다.

    AI를 돌릴 생각이라면 메모리 대역폭을 눈여겨봐야 한다. 대역폭은 칩이 메모리에서 데이터를 꺼내 오는 속도다. 로컬 AI 모델은 답을 한 조각씩 만들 때마다 메모리에 올라간 모델 데이터를 다시 읽는다. 메모리 용량이 같아도 대역폭이 높으면 답이 더 빨리 나오는 편인 건 이 때문이다. 아쉽게도 M6의 대역폭이 정확히 얼마인지는 이번 할인 소식에 나오지 않았다. ‘M4보다 높다’는 사실만 알 수 있을 뿐, 체감 속도가 얼마나 달라지는지는 아직 따져 볼 근거가 없다.

    항목 맥 미니 M4 (기본형) 맥 미니 M6
    가격 흐름 599달러(출시) → 799달러(인상 후) 899달러부터
    할인가 649달러 (정가보다 150달러 낮음) 할인 언급 없음
    기본 구성 256GB 저장 공간, 16GB 통합 메모리 확인되지 않음
    칩의 강점 강력하고 전력 효율이 좋음 CPU·GPU 코어 증가, 뉴럴 액셀러레이터, 더 높은 메모리 대역폭
    웹·일반 업무 체감 큰 차이 없음 큰 차이 없음
    맞는 사람 일상 업무 위주, 예산이 우선인 사람 고성능 작업이 잦은 사람

    16GB냐 32GB냐, 로컬 AI·영상 편집이 가르는 메모리 기준

    M4 기본형의 16GB 통합 메모리는 대부분의 사람에게 충분하다. 걸리는 건 AI나 영상 편집 같은 무거운 작업이다. 이런 작업에는 16GB보다 큰 메모리가 필요하다. 실제로 AI를 돌리려고 M4 맥 미니를 산 사람들은 메모리를 32GB로 올려서 주문했다.

    칩보다 메모리를 먼저 봐야 하는 이유는 애플 실리콘의 구조에 있다. 애플 실리콘 맥은 CPU와 GPU가 메모리 하나를 같이 쓴다. 이른바 ‘통합 메모리’다. 로컬 AI 모델은 실행되는 동안 이 메모리에 통째로 올라가 있어야 한다. 메모리 용량이 곧 돌릴 수 있는 모델 크기의 상한선이 되는 셈이다. 칩이 아무리 빨라도 모델이 메모리에 다 들어가지 않으면 실행부터 버겁다. 제약이 하나 더 있다. 애플 실리콘 맥은 사고 나서 메모리를 늘릴 수 없다. 주문할 때 고른 용량을 기기 수명 내내 써야 한다는 뜻이다.

    AI 에이전트를 24시간 켜 둘 생각이라면 확인할 것이 두 가지 더 있다. 하나는 전력 효율이다. 늘 켜져 있는 기기는 전기를 계속 쓴다. 효율 좋은 M4가 AI 전용 기기로 인기를 끈 데도 이 점이 한몫한 것으로 보인다. 다른 하나는 저장 공간. AI 모델 파일과 작업 기록이 쌓이면 256GB는 생각보다 빨리 찬다. 외장 SSD로 보완하는 방법도 있다. 다만 여러 모델을 자주 바꿔 쓸 계획이라면 내장 저장 공간이 넉넉한지도 함께 보는 게 낫다.

    • 웹·문서·영상 시청·사진 정리 위주: M4 16GB 기본형이면 충분하다.
    • 영상 편집, 로컬 AI 모델 실행: 16GB 기본형은 후보에서 빼고 32GB 이상 구성을 본다.
    • 작업 속도가 곧 업무 시간인 경우: 코어 수와 메모리 대역폭에서 앞서는 M6를 고려한다.

    지금 쓰는 컴퓨터의 ‘메모리 압력’으로 다음 구성 정하기

    새 기기의 메모리를 정할 때 가장 믿을 만한 근거는 지금 쓰는 컴퓨터의 사용량이다. 늘 띄워 두는 브라우저 탭과 업무 앱을 모두 켠 상태에서 아래 화면을 열어 보면 된다. macOS·윈도우 버전에 따라 표기가 조금씩 바뀌어 왔으니, 똑같은 이름이 보이지 않으면 뜻이 비슷한 항목을 찾으면 된다.

    맥을 쓰는 경우

    • 칩과 메모리 확인: 화면 왼쪽 위 Apple 메뉴(사과 모양) → 이 Mac에 관하여. 칩 이름과 메모리 용량이 바로 보인다.
    • 메모리가 부족한지 확인: Finder → 응용 프로그램 → 유틸리티 → 활성 상태 보기 → 위쪽 ‘메모리’ 탭. 창 아래 ‘메모리 압력’ 그래프가 초록색이면 여유가 있다. 노란색이나 빨간색이 자주 보이면 메모리가 부족하다는 신호다. 같은 화면에서 스왑 사용량이 크게 쌓여 있다면, 모자란 메모리를 저장 장치가 대신 채우고 있다는 뜻이다.
    • 저장 공간 확인: Apple 메뉴 → 시스템 설정 → 일반 → 저장 공간 (예전 macOS에서는 Apple 메뉴 → 이 Mac에 관하여 → 저장 공간 탭).

    윈도우 PC를 쓰는 경우

    • Ctrl + Shift + Esc로 작업 관리자를 열고 → 성능 → 메모리. ‘사용 중’ 값이 전체 용량에 거의 닿아 있거나 ‘커밋됨’ 값이 설치된 메모리보다 크다면 메모리가 빠듯하다는 신호다.

    평소 작업만으로 16GB를 거의 다 쓰거나 메모리 압력이 노란색 이상으로 자주 올라간다면, 다음 기기는 16GB보다 큰 구성으로 가는 게 안전하다. 로컬 AI를 새로 시작할 사람은 하나를 더 계산해야 한다. 지금 쓰는 양 위에 AI 모델이 차지할 메모리가 고스란히 더해진다. 지금도 16GB가 빠듯한 사람이 같은 용량으로 AI까지 돌리려 한다면 무리한 계획에 가깝다.

    국내에서 살 땐 할인 폭보다 M6와의 차액부터

    649달러는 미국 판매 가격이다. 한국에서 맥 미니를 고르는 사람에게 실제로 쓸모 있는 건 이 숫자보다 비교하는 순서다. 아래 내용 가운데 국내 판매 흐름에 관한 부분은 미국 사례를 바탕으로 한 추측이라는 점을 먼저 밝혀 둔다.

    • 차액부터 본다: 국내 판매처에서 M4 기본형 가격이 내려가 있다면, 같은 판매처의 M6 시작가와 얼마나 차이 나는지부터 계산한다. 미국에서는 그 차이가 250달러였다. 차이가 작을수록 M6를 고를 이유가 커진다.
    • 차액과 메모리 업그레이드 비용을 함께 놓는다: AI 용도라면 실제 선택지는 ‘M4 기본형 대 M6 기본형’이 아니다. ‘메모리를 늘린 M4’와 ‘M6’ 사이에서 골라야 한다. M6 기본 구성의 메모리 용량은 판매 페이지 사양표에서 꼭 확인하자.
    • 중고 매물은 사양 화면으로 확인한다: AI 수요로 32GB 구성이 많이 팔렸던 만큼, 중고로 나오는 M4 맥 미니는 메모리 구성이 제각각일 수 있다(추측). 판매 글 제목만 믿지 말고 판매자에게 ‘이 Mac에 관하여’ 화면 캡처를 받아 칩과 메모리 용량을 직접 확인하자.
    • 성능 판단은 어디서나 같다: 웹·문서 작업에서 M4와 M6의 체감 차이가 크지 않다는 결론은 한국 사용자에게도 그대로 적용된다. 판매처별 가격을 비교하기 전에 용도 판단부터 이 기준으로 끝내 두면 된다.

    확인된 것과 아직 불확실한 것

    확인된 것

    • 맥 미니 M4 기본형(256GB 저장 공간, 16GB 통합 메모리)의 할인가는 649달러다. 정가 799달러보다 150달러, M6보다 250달러 낮다.
    • M4의 출시 당시 시작가는 599달러였다. 애플이 칩·메모리 부족을 이유로 하드웨어 가격을 올리면서 799달러가 됐다.
    • M6 맥 미니의 시작가는 899달러다.
    • 맥 미니에는 기본 M5 칩 모델이 나오지 않았다.
    • M6는 M4보다 CPU·GPU 코어가 많고, 뉴럴 액셀러레이터가 들어갔고, 메모리 대역폭이 더 높다.
    • 웹 브라우징과 일반 업무에서는 두 모델의 성능 차이가 크지 않다.

    아직 불확실한 것

    • M4 할인과 가격 인상이 애플코리아 판매가와 국내 판매처 가격에 얼마나 반영되는지
    • M6 맥 미니 기본 구성의 메모리·저장 용량, 코어 수, 메모리 대역폭 수치
    • 649달러 할인이 얼마나 오래, 어느 판매처에서 이어지는지
    • 로컬 AI 작업에서 M4와 M6의 속도 차이를 숫자로 비교한 자료

    웹·문서용은 M4 기본형, AI용은 메모리부터 올리기

    고르는 순서는 세 단계면 충분하다. 첫째, 주 용도가 웹 서핑·문서·영상 시청이면 M4 16GB 기본형을 고른다. 이런 작업에서는 M6의 추가 코어를 체감하기 어렵다. 아낀 돈을 모니터나 외장 저장 장치에 쓰는 편이 만족도가 높을 가능성이 크다. 둘째, 로컬 AI나 영상 편집이 목적이면 16GB 기본형은 아무리 싸도 후보에서 지운다. 메모리는 나중에 늘릴 수 없다. 셋째, 무거운 작업의 속도가 곧 업무 시간으로 이어지는 사람에게는 코어와 메모리 대역폭에서 앞서는 M6가 맞다.

    출시가 599달러를 기억하는 사람에게 649달러는 아쉬운 숫자다. 하지만 구매를 결정하는 건 가격표보다 내 작업이 메모리를 얼마나 쓰느냐다. 활성 상태 보기의 메모리 압력 그래프부터 열어 보자. 그것만 확인해도 할인 문구에 끌려 맞지 않는 구성을 사는 일은 피할 수 있다.

    출처: Wired

  • 로컬 AI 컴퓨터, 그래픽카드보다 램이다 – 맥 스튜디오 고르는 법

    로컬 AI 컴퓨터, 그래픽카드보다 램이다 – 맥 스튜디오 고르는 법

    그래픽카드 견적 사이트부터 뒤진다. 거대 언어모델을 집 컴퓨터에서 돌려보겠다고 마음먹은 사람들 얘기다. 그런데 막상 부품을 맞춰보면 진짜 발목을 잡는 건 GPU 성능이 아니라 메모리 용량이다. 70B급 모델 하나 올리는 데만 수십 기가바이트 램이 필요한데, 일반 그래픽카드 VRAM은 12GB, 24GB에서 끊긴다. 여기서 대안으로 떠오른 게 통합 메모리를 쓰는 애플 실리콘 맥이다. 로컬 AI 개발자들 사이에서 요즘 은근히 자주 언급된다. 맥 스튜디오나 맥 미니로 로컬 AI 환경을 꾸리려는 사람을 위해 메모리 기준부터 사양 고르는 법, 여러 대 묶어 쓰는 방법까지 정리해봤다.

    결국 메모리 싸움

    언어모델은 파라미터 하나하나를 숫자로 저장해두고, 추론할 때마다 그 값을 전부 읽어들인다. 파라미터 70억 개(7B)짜리는 양자화를 거쳐도 최소 5~8GB가 필요하다. 700억 개(70B)짜리는 40GB 안팎. 일반 PC는 그래픽카드 VRAM과 시스템 램이 따로 논다. VRAM 용량 넘어서는 모델은 아예 못 올리거나, 속도가 뚝 떨어진다. 애플 실리콘은 다르다. CPU와 GPU가 메모리 풀 하나를 같이 쓰는 구조라서, 램만 넉넉히 달면 그 메모리를 GPU 연산에도 그대로 쓸 수 있다.

    모델 크기별 램, 대략 이 정도

    기준을 잡아두면 사양 고르기가 한결 쉽다.

    • 7B~8B 모델: 16GB 램으로 양자화 버전 구동 가능. 챗봇, 코드 자동완성 수준
    • 13B~14B 모델: 32GB 권장. 응답 품질과 속도 균형이 제일 좋은 구간
    • 30B대 모델: 64GB부터 여유롭게 돌아간다
    • 70B 모델: 96GB 이상. 실무에서 쓸 만한 속도를 원하면 128GB
    • 100B~400B급 초대형 모델: 192GB~512GB. 사실상 맥 스튜디오 최상위 사양이거나, 여러 대를 묶어야 하는 영역

    맥 스튜디오, 어디까지 올려야 하나

    맥 스튜디오는 M4 맥스와 M3 울트라(혹은 이후 세대) 두 라인으로 나뉜다. 로컬 AI 용도라면 CPU 코어 수보다 램 용량과 메모리 대역폭을 먼저 봐야 한다. 개인 실험이나 사이드 프로젝트 수준이면 64GB 구성으로도 13B~30B 모델은 무리 없다. 70B급까지 노린다면 96GB 이상. 여러 모델을 동시에 띄워두고 비교하거나 파인튜닝 실험까지 하고 싶다면 128GB~256GB 구성을 권한다. 저장공간도 챙겨야 한다. 모델 파일 하나가 수십 기가바이트씩 나가기 때문에, 1TB보다는 2TB 이상 잡아두는 편이 나중에 후회가 적다.

    맥 미니로도 될까

    맥 미니는 M4 프로 기준 64GB까지 램 확장이 가능하다. 7B~30B급 모델을 다루는 입문자, 가벼운 로컬 챗봇 용도로는 충분하다. 가격 진입 장벽이 낮은 게 장점. 다만 70B 이상으로 넘어가는 순간 램 상한선에 바로 막힌다. 처음부터 큰 모델을 목표로 한다면 맥 미니보다 맥 스튜디오 하위 구성이 총소유비용 면에서 오히려 유리한 경우가 많다.

    맥 여러 대 묶어서 더 큰 모델 돌리기

    램 512GB, 1TB짜리 단일 머신은 가격이 만만치 않다. 그래서 개발자들 사이에서는 맥 스튜디오 여러 대를 썬더볼트로 연결해 하나의 큰 메모리 풀처럼 쓰는 방식이 퍼지고 있다. exo 같은 오픈소스 클러스터링 도구를 쓰면 모델 레이어를 여러 대에 나눠 분산 추론을 돌릴 수 있다. 맥 스튜디오 3~4대로 400B급 모델까지 굴리는 사례도 나온다. 애플이 최근 데스크톱 라인업을 개편하면서 이런 멀티 맥 구성을 염두에 둔 흔적이 뚜렷하다. 더 이상 소수 애호가만의 실험은 아니라는 얘기다. 다만 대역폭 한계 때문에 단일 대형 머신보다는 토큰 생성 속도가 떨어진다는 점은 감안해야 한다.

    그래도 엔비디아가 유리한 상황은 있다

    모든 상황에서 맥이 답은 아니다. 학습(트레이닝)이나 대규모 배치 추론처럼 순수 연산 속도가 승부를 가르는 작업이라면, CUDA 생태계와 압도적 연산 성능을 갖춘 엔비디아 GPU 쪽이 여전히 빠르다. 이미 파이토치·CUDA 기반 파이프라인을 구축해둔 팀, 여러 사용자 요청을 동시에 처리해야 하는 서버 환경이라면 그래픽카드 여러 장 꽂은 워크스테이션이나 클라우드 GPU 인스턴스가 더 맞다. 반대로 개인 개발자가 조용한 사무실 책상 위에서 전력 걱정 없이 큰 모델 켜놓고 실험하고 싶다면, 통합 메모리의 용량 이점이 속도 차이를 상쇄하고도 남는다. 솔직히 여기서 갈린다.

    이것도 궁금하죠?

    Q. 램만 많으면 무조건 큰 모델을 돌릴 수 있나?
    메모리 용량이 충족돼도 대역폭이 낮으면 토큰이 느리게 나온다. 램 용량과 함께 메모리 대역폭 스펙도 같이 확인하는 편이 좋다.

    Q. 로컬에서 모델을 돌리려면 어떤 소프트웨어가 필요한가?
    Ollama, LM Studio 같은 도구를 쓰면 커맨드라인 지식 없이도 양자화된 모델을 몇 번의 클릭으로 내려받아 바로 실행할 수 있다.

    Q. 클러스터링 구성이 초보자에게도 실용적인가?
    네트워크 설정과 도구 설치 난이도가 있어서, 처음에는 단일 맥 스튜디오로 시작해 필요할 때 확장하는 쪽을 권한다.

    출처: Ars Technica