노트북 스펙표를 보다가 NPU, TOPS 같은 낯선 약어에 걸린 적 있을 거다. 엔비디아가 미니 PC·노트북 제조사들과 손잡고 대형 AI 모델을 컴퓨터 안에서 직접 돌리는 전용 칩을 내놓으면서, ‘AI PC’라는 이름표가 매장 진열대까지 내려왔는데요. 막상 사려고 하면 뭐가 진짜 AI PC고 뭐가 스티커만 붙인 일반 노트북인지 구분이 잘 안 가거든요. NPU, TOPS, 통합 메모리… 이 용어들, 뭘 기준으로 봐야 하는지 정리해봤다.
AI PC, 일반 PC랑 뭐가 다른가
핵심은 하나다. AI 연산을 어디서 처리하느냐, 그 차이거든요. 지금까지 챗GPT나 클로드 같은 서비스는 질문을 클라우드 서버로 보내고 답을 받아오는 구조였다. AI PC는 이 연산 일부를 컴퓨터 안에서 끝낸다. 인터넷이 끊겨도 문서 요약이나 이미지 생성 같은 작업이 돌아가고, 입력한 내용이 외부 서버로 나가지 않는다는 장점이 있는데요. 다만 아무 노트북이나 이걸 감당하는 건 아니다. 전용 하드웨어가 따로 필요하다는 얘기다.
NPU와 GPU, 실제로 일하는 건 어느 쪽인가
둘은 역할부터 다르다.
- NPU는 전력을 적게 먹으면서 배경 흐림, 실시간 번역, 노이즈 캔슬링 같은 가벼운 상시 작업을 처리한다.
- GPU는 이미지 생성이나 로컬 LLM 추론처럼 무거운 연산을 맡는다. 결국 채팅형 AI를 노트북에서 굴리고 싶다면 NPU 성능표보다 GPU의 메모리 용량 쪽을 먼저 봐야 한다.
마케팅 자료엔 TOPS 수치만 큼직하게 적혀 있는 경우가 많은데요, 이건 NPU 성능 지표일 뿐이다. 로컬 LLM 체감 속도를 그대로 보장해주진 않는다. 이 부분에서 헷갈리는 사람, 은근히 많더라.
로컬 AI 돌리려면 스펙표에서 이 4가지부터 확인
구매 전에 아래 항목부터 체크하는 게 가장 실속 있다.
- 통합 메모리·VRAM 용량: 7B~8B급 모델은 8~16GB, 70B급은 48GB 이상이 필요하다. 메모리가 부족하면 모델 자체가 안 올라간다.
- 메모리 대역폭: 용량이 같아도 대역폭이 낮으면 답변 속도가 눈에 띄게 느려진다.
- TOPS 수치: 마이크로소프트가 정한 Copilot+ PC 기준은 40TOPS 이상이다. 기본 AI 기능만 쓸 거면 이 라인만 넘겨도 충분하다.
- 저장공간: 모델 파일 하나가 수십 GB를 차지하는 경우가 흔하다. NVMe SSD 1TB 이상을 권한다.
미니 PC vs 노트북, AI 작업엔 뭐가 나을까
휴대성만 보면 노트북이 편하다. 하지만 장시간 무거운 연산을 돌릴 땐 얘기가 달라지는데요. 관건은 발열이다. 얇은 노트북은 몇 분만 지나도 성능이 떨어지는 클럭 저하가 생기기 쉽다. 반면 미니 PC는 냉각 공간이 넉넉해서 정격 성능을 오래 유지하고, 필요하면 메모리나 저장장치 업그레이드도 상대적으로 수월하다. 집이나 사무실 한 곳에 고정해두고 로컬 서버처럼 굴릴 계획이라면 미니 PC 쪽에 손을 들어주고 싶다. 반대로 외부에서 문서 작업 틈틈이 AI 기능 좀 쓰는 정도라면, 노트북으로도 충분하다.
지금 사도 되나, 한 세대 더 기다릴까
윈도우 코파일럿이나 화상회의 배경 효과 정도만 쓸 계획이면 지금 나온 제품으로도 충분하다. 근데 70B급 이상 모델을 로컬에서 굴리거나 이미지 생성 작업을 자주 한다면? 메모리 용량이 늘어나는 다음 세대 제품을 기다리는 것도 방법이다. AI PC 시장이 아직 초기라 가격 프리미엄이 붙어 있는 편이거든요. 예산이 빠듯하다면 그래픽카드 성능이 준수한 일반 게이밍 노트북으로 로컬 AI를 먼저 경험해보는 것도 나쁘지 않은 선택이다.
이것도 궁금하죠?
Q. AI PC 없어도 로컬 AI 쓸 수 있나?
가능하다. VRAM이 넉넉한 그래픽카드가 달린 데스크탑이면 오히려 노트북형 AI PC보다 더 큰 모델을 돌릴 여지가 있다.
Q. 클라우드 AI 서비스랑 뭐가 다른가?
클라우드는 최신·최대 모델을 쓸 수 있지만 인터넷 연결과 구독료가 필요하다. 로컬은 오프라인으로 돌아가고 입력 데이터가 밖으로 나가지 않는 대신, 모델 크기와 속도가 하드웨어에 묶인다.
Q. 게임용 그래픽카드 노트북으로도 되나?
된다. VRAM 8GB 이상 게이밍 노트북이면 중소형 로컬 LLM 정도는 무리 없이 돌아간다.
출처: Wired
테크가이드팀
Daily News Korea 테크가이드팀은 IT 기기 비교, 소프트웨어 추천, 트러블슈팅 가이드 등 실용적인 기술 콘텐츠를 제작합니다. 초보자도 쉽게 따라할 수 있는 단계별 가이드를 지향합니다.