[태그:] 엔비디아

  • MS 윈도우 행사 10월 7일…젠슨 황 무대 오른다

    MS 윈도우 행사 10월 7일…젠슨 황 무대 오른다

    3줄 요약

    • 마이크로소프트가 10월 7일 미국 샌프란시스코에서 윈도우·서피스 행사를 연다. 주요 윈도우 행사는 2024년 5월 이후 처음이다.
    • 사티아 나델라 CEO와 파반 다불루리 윈도우·서피스 총괄이 나온다. 엔비디아 젠슨 황 CEO도 참석하며, 행사 주제는 로컬 AI가 바꿀 PC의 다음 단계다.
    • RTX 스파크 PC와 서피스 랩톱 울트라의 가격·출시 정보가 나올 수 있다는 전망이 있다. 윈도우 12 발표는 예상되지 않는다.

    10월 7일, 미국 샌프란시스코. 마이크로소프트가 이날 윈도우와 서피스 기기가 나아갈 방향을 발표한다. 회사가 내건 주제는 “로컬 AI가 PC의 다음 장을 어떻게 만들어갈지에 대한 대화”다.

    윈도우를 앞세운 큰 행사는 2024년 5월이 마지막이었다. 2년 넘게 비어 있던 무대가 다시 열린다.

    누가 무대에 오르는지 보면 행사 성격이 대략 보인다. 더버지 보도에 따르면 사티아 나델라 마이크로소프트 CEO와 파반 다불루리 윈도우·서피스 총괄이 나온다. 윈도우 행사라면 당연한 구성이다. 눈에 띄는 이름은 따로 있다. 엔비디아 젠슨 황 CEO. 윈도우 행사에 엔비디아 대표가 선다는 사실 자체가 이번 발표의 중심이 어디인지 보여준다.

    젠슨 황 참석이 가리키는 곳, RTX 스파크 PC

    로컬 AI는 클라우드 서버를 거치지 않는다. PC 안의 칩이 AI 모델을 직접 돌리는 방식이다.

    그러니 AI 기능이 얼마나 쓸 만한지는 PC 하드웨어에 달렸고, 칩을 공급하는 파트너의 발언권도 그만큼 커진다. 윈도우 행사에 칩 회사 CEO가 서는 게 어색하지 않은 이유다.

    원문 기자도 이 부분을 짚었다. 젠슨 황의 참석을 근거로 엔비디아 RTX 스파크 PC가 행사의 핵심 주제가 될 수 있다고 봤다. 이 전망이 맞는다면 가격과 출시 정보가 아직 구체적으로 나오지 않은 서피스 랩톱 울트라 소식도 함께 나올 가능성이 크다.

    짚어둘 점이 하나 있다. 이 전망은 참석자 명단에서 나온 추정이다. 마이크로소프트가 미리 알린 내용이 아니다. RTX 스파크 PC의 사양이나 참여 제조사도 원문에는 설명이 없다. 제품이 구체적으로 어떤 모습일지는 행사 당일에야 드러날 것으로 보인다.

    지금까지 거론되는 주제를 추리면 이렇다.

    • RTX 스파크 PC: 가장 유력한 핵심 주제. 근거는 젠슨 황의 참석
    • 서피스 랩톱 울트라: 가격과 출시 일정이 추가로 공개될 가능성
    • 윈도우 품질 개선: 그동안의 개선 작업과 다음 계획이 소개될 전망
    • 윈도우 12: 깜짝 발표 가능성은 낮다는 평가

    2021년 이후 단 두 번, 윈도우 행사는 전환점에만 열렸다

    마이크로소프트가 윈도우 하나만 놓고 큰 행사를 여는 일은 흔치 않다. 2021년 이후 주요 윈도우 행사는 두 번뿐이었다. 둘 다 플랫폼 방향이 바뀌는 시점이었다.

    시기 핵심 내용 눈에 띄는 점
    2021년 6월 윈도우 11 공개 라이브 스트리밍으로 발표
    2024년 5월 Arm 기반 코파일럿+ PC 공개 퀄컴과의 협력 관계 강화
    2026년 10월 7일 로컬 AI 중심의 PC 방향 발표(예정) 나델라·다불루리·젠슨 황 참석

    2024년 행사의 주인공은 Arm 칩과 퀄컴이었다. 이번에는 엔비디아 CEO가 무대에 오른다. 윈도우 PC의 AI 성능 경쟁에서 마이크로소프트와 손잡는 칩 회사가 늘고 있다는 신호로 읽힌다.

    퀄컴이 밀려났다고 보기는 이르다. 퀄컴과의 협력이 이번 행사에서 어떻게 다뤄질지는 기사에 언급이 없다. 파트너가 바뀐다기보다 늘어난다고 보는 편이 지금까지 나온 정보에 더 맞다.

    운영체제 쪽은 기대를 낮춰 두는 게 좋겠다. 기자는 새 버전보다 기존 윈도우의 완성도, 즉 품질 개선 작업과 다음 계획이 중점적으로 다뤄질 것으로 예상했다. 윈도우 12 깜짝 공개는 예상하지 않는다고 밝혔다.

    한국 시간 8일 새벽 2시 시작, 국내 출시·가격은 미정

    행사 시작 시각은 다음과 같다.

    • 미국 태평양 시간: 10월 7일 오전 10시
    • 미국 동부 시간: 10월 7일 오후 1시
    • 한국 시간: 10월 8일 새벽 2시

    국내에서 실시간으로 보려면 밤을 새워야 하는 시간대다. 마이크로소프트가 공식 생중계를 하는지는 기사에 나오지 않는다.

    독자 상황에 따라 챙길 것이 다르다.

    • 윈도우 11 사용자: 윈도우 12 발표는 예상되지 않는다. 새 운영체제보다 지금 쓰는 윈도우의 품질 개선 소식이 더 중요할 것으로 보인다(전망).
    • 노트북 구매 예정자: 서피스 랩톱 울트라와 RTX 스파크 PC 발표가 예상된다. 고성능 윈도우 노트북을 살 계획이라면 결제는 행사 발표를 본 뒤로 미루는 편이 낫다.
    • 국내 출시·가격: 서피스 랩톱 울트라와 RTX 스파크 PC 모두 국내 출시 일정과 원화 가격에 대한 공식 발표가 아직 없다.
    • 한국어 지원: 로컬 AI 기능이 한국어를 어느 수준까지 지원할지는 아직 알려지지 않았다.

    국내 소비자에게 가장 아쉬운 건 마지막 두 항목이다. 행사에서 제품 정보가 나오더라도 한국 출시 일정과 원화 가격은 따로 확인해야 한다.

    확인된 것과 아직 불확실한 것

    확인된 것

    • 일시와 장소: 10월 7일 오전 10시(태평양 시간), 샌프란시스코
    • 주제: 로컬 AI가 PC의 다음 단계를 어떻게 바꿀지에 대한 논의
    • 참석자: 사티아 나델라 CEO, 파반 다불루리 윈도우·서피스 총괄, 젠슨 황 엔비디아 CEO
    • 이전 주요 윈도우 행사: 2024년 5월(코파일럿+ PC), 그 전은 2021년 6월(윈도우 11)

    아직 불확실한 것

    • RTX 스파크 PC가 실제로 핵심 주제가 될지(참석자 명단에 근거한 추정)
    • 서피스 랩톱 울트라의 가격과 출시 일정이 공개될지
    • 윈도우 품질 개선의 구체적인 내용과 적용 시기
    • 윈도우 12 발표 여부(기자는 가능성이 낮다고 봄)
    • 퀄컴 등 다른 칩 회사의 참여 여부
    • 국내 출시 일정과 가격

    이번 무대의 주인공은 새 OS가 아니라 칩 파트너

    이번 행사에서 새 운영체제를 기대할 근거는 약하다. 주제는 로컬 AI이고, 함께 무대에 서는 사람은 칩 회사 대표다. 이 두 가지를 보면 새 OS 공개보다 로컬 AI를 중심으로 윈도우 PC 하드웨어의 방향을 제시하는 자리로 보는 게 자연스럽다.

    2024년 코파일럿+ PC 발표는 Arm 진영과의 협력을 알린 자리였다. 이번에는 엔비디아가 그 자리에 선다. 두 회사가 어떤 제품을 내놓느냐에 따라 앞으로 윈도우 PC 라인업의 성격도 달라질 것이다.

    남은 건 제품 사양, 가격, 출시 지역. 세 가지 모두 10월 7일 발표에서 확인해야 한다.

    출처: The Verge

  • 젠슨 황 무대에 트럼프 전화…“AI 우려는 사기극”

    젠슨 황 무대에 트럼프 전화…“AI 우려는 사기극”

    3줄 요약

    • 엔비디아 젠슨 황 CEO가 올인 서밋 무대에서 트럼프 대통령의 전화를 받아 스피커폰으로 청중에게 들려줬다. 트럼프는 AI를 둘러싼 우려를 “사기극”이라고 불렀다.
    • 주말에 앤트로픽 다리오 아모데이 CEO가 AI 개발 속도를 늦추자는 에세이를 낸 직후였다. 그래서 이 통화는 속도 조절론을 공개적으로 반박한 장면으로 받아들여진다.
    • 황 CEO는 반박하지 않고 “미국 AI 경쟁에서 모두가 이기게 하겠다”고 답했다. 국내 서비스나 가격이 당장 달라지는 것은 없다.

    행사 도중 무대 위에서 휴대전화가 울렸습니다. 발신자는 도널드 트럼프 미국 대통령. 엔비디아 젠슨 황 CEO는 현지시간 월요일 올인(All-In) 팟캐스트가 주최한 ‘올인 서밋’ 무대에서 이 전화를 받았고, 스피커폰으로 돌려 행사장에 모인 수천 명이 통화를 그대로 듣게 했습니다.

    해프닝으로 넘기기엔 타이밍이 공교롭습니다. 바로 앞 주말, 앤트로픽의 다리오 아모데이 CEO가 AI 개발 속도를 조절하자는 장문의 에세이를 내놨습니다. 트럼프는 이 흐름에 반대한다는 입장을 공개 무대에서 다시 꺼냈고요. AI를 얼마나 빨리 밀어붙일지를 두고 업계 일부와 미국 대통령의 생각이 갈린다는 사실이 청중 앞에서 그대로 드러난 셈입니다.

    스피커폰 너머 대통령 “로봇이 장악하는 일은 없다”

    더버지 보도를 보면 황 CEO가 업무 중에 대통령 전화를 받은 게 이번이 처음은 아닙니다. 달랐던 건 통화를 스피커폰으로 돌려 행사장 전체에 들려줬다는 점입니다. 황 CEO는 트럼프에게 지금 “수천 명”에게 말하고 있다고 알려주기도 했습니다.

    트럼프가 던진 메시지는 두 가지였습니다. 최근 AI 개발을 둘러싸고 커진 우려는 “사기극(hoax)”이라는 것, 그리고 “로봇이 장악하는 일은 없을 것”이라는 것. 새로 나온 말은 아닙니다. 같은 날 트루스소셜에 올린 게시글 일부를 행사장에서 되풀이했습니다. 통화가 즉석이었는지는 알려지지 않았지만, 발언 내용만 놓고 보면 그날 이미 공개한 입장을 한 번 더 확인한 것에 가깝습니다.

    데이터센터 이야기도 나왔습니다. 트럼프는 데이터센터가 없었다면 “죽어가고” 있었을 지역들이 지금은 “정말 부유해졌다”고 주장했습니다. 어느 지역을 가리키는지, 무엇을 근거로 한 말인지는 밝히지 않았습니다. 지역 이름도 근거도 없으니 지금으로선 사실인지 따져볼 방법이 없는 주장입니다.

    • 자리: 현지시간 월요일, 올인 팟캐스트의 ‘올인 서밋’ 무대
    • 트럼프 핵심 발언: AI 우려는 “사기극”, “로봇이 장악하지 않는다”
    • 데이터센터: 쇠락하던 지역이 “부유해졌다”고 했지만 구체적 사례는 제시하지 않음
    • 황 CEO 반응: 반박 없이 “모두가 이기는 AI 경쟁”을 강조

    주말에 나온 아모데이 에세이, 월요일에 나온 대통령의 반대

    통화의 배경에는 주말에 공개된 에세이 한 편이 있습니다. 아모데이 CEO는 “We Must Pace the Frontier(최전선의 속도를 조절해야 한다)”라는 제목의 장문 에세이에서 AI 개발 속도를 늦추고 각국 정부가 서로 조율해야 한다고 썼습니다.

    에세이가 나오자 여러 AI 기업 경영진이 반응을 내놨고, 대체로 아모데이 쪽에 섰습니다. 누가 어떤 말을 했는지는 보도에 구체적으로 나오지 않습니다. 트럼프는 월요일 트루스소셜 게시글로 반대 입장을 냈고, 같은 날 황 CEO가 선 무대에서 같은 논리를 반복했습니다. 네 주체의 입장을 나란히 놓으면 이렇습니다.

    인물 입장 핵심 발언·행동 발언 창구
    다리오 아모데이 (앤트로픽 CEO) AI 개발 속도 조절, 정부 간 조율 필요 에세이 “We Must Pace the Frontier” 주말에 공개한 장문 에세이
    AI 기업 경영진 다수 아모데이 주장에 대체로 동의 에세이에 여러 반응을 내놓음 구체적 인물·창구는 보도에 없음
    도널드 트럼프 대통령 AI 우려는 “사기극” “로봇이 장악하는 일은 없다”, 데이터센터 덕에 지역이 “부유해졌다” 월요일 트루스소셜 게시글, 올인 서밋 통화
    젠슨 황 (엔비디아 CEO) 대통령 발언에 반박하지 않음 “미국 AI 경쟁에서 모두가 이기게 하겠다” 올인 서밋 무대

    보통은 기업이 규제에 반대하고 정부가 속도를 늦추려 한다는 그림을 떠올립니다. 이번엔 정반대. AI 모델을 만드는 기업 쪽에서 속도 조절과 정부 간 조율을 먼저 꺼냈고, 정작 대통령은 우려가 부풀려졌다며 선을 그었습니다. 규제를 받는 쪽이 제동을 요청하고, 규제를 만드는 쪽이 그 우려를 일축한 구도입니다.

    국내 서비스·요금은 그대로, 읽어야 할 건 미국의 방향

    이번 발언은 정책 발표가 아닙니다. 행사장에서 받은 전화 한 통에서 나온 말입니다. 국내에서 쓰는 AI 서비스의 기능이나 요금, 출시 일정이 달라진다는 내용은 보도 어디에도 없습니다. 아래 항목 중 두 가지는 보도 내용을 바탕으로 한 추측이라는 점을 감안하고 읽어야 합니다.

    • AI 규제 흐름 (추측): 미국 대통령이 AI 우려를 “사기극”이라고 부른 이상, 미국이 당분간 개발 속도를 늦추는 조치를 내놓을 가능성은 낮아 보입니다. 아모데이가 제안한 ‘정부 간 조율’ 역시 미국이 앞장서 추진하는 모습을 그리기 어렵습니다. 한국 정부가 이런 논의에 어떻게 참여할지는 알려진 바가 없습니다.
    • 반도체·데이터센터 (추측): 트럼프가 데이터센터를 지역 경제를 살린 사례로 내세웠다는 건 미국 내 데이터센터 확대 기조가 이어진다는 신호로 읽힙니다. 엔비디아 AI 칩에 메모리를 공급하는 국내 반도체 기업에는 수요 면에서 나쁘지 않은 메시지로 볼 여지가 있습니다. 새 투자 규모나 계획이 발표된 건 아니어서, 여기서 더 나간 해석은 이릅니다.
    • 클로드 사용자: 아모데이의 에세이는 업계가 가야 할 방향을 논한 글입니다. 앤트로픽 서비스 정책이 바뀐다는 내용은 보도에 없습니다.

    확인된 것과 아직 불확실한 것

    확인된 것

    • 현지시간 월요일, 황 CEO가 올인 서밋 무대에서 트럼프 대통령의 전화를 받아 스피커폰으로 청중에게 들려줬다.
    • 트럼프는 AI 개발을 둘러싼 우려를 “사기극”이라고 부르고 “로봇이 장악하는 일은 없다”고 말했다.
    • 아모데이 CEO는 주말에 속도 조절과 정부 간 조율을 주장하는 에세이를 발표했고, AI 경영진 다수가 대체로 동의했다.
    • 트럼프는 월요일 트루스소셜에서 반대 입장을 밝혔고, 그중 일부를 행사에서 다시 말했다.
    • 황 CEO는 반박하지 않았다. 통화 녹음은 X에 올라와 있다.

    아직 불확실한 것

    • 데이터센터 덕에 “부유해졌다”는 지역이 어디인지. 트럼프는 사례를 들지 않았다.
    • 이번 통화를 미리 약속했는지, 즉석에서 받은 것인지.
    • 트루스소셜 게시글에서 아모데이나 에세이를 직접 언급했는지.
    • 에세이에 동의한 경영진이 누구인지, 앤트로픽이 트럼프 발언에 따로 대응했는지.
    • 트럼프의 반대 입장이 실제 행정 조치나 정책으로 이어질지. 한국 정부와 국내 기업의 공식 반응도 아직 확인되지 않았다.

    반박 대신 “모두가 이긴다”를 고른 젠슨 황의 계산

    황 CEO는 대통령 발언에 토를 달지 않았습니다. 대신 내놓은 답은 이랬습니다. “미국의 AI 경쟁에서 모두가 이기도록 하겠다. 모든 산업, 모든 기업, 모든 주, 모든 사람이.”

    엔비디아의 사업 구조를 보면 이해가 가는 반응입니다. 엔비디아는 데이터센터에 들어가는 AI 칩을 파는 회사입니다. 데이터센터를 지역을 살린 사례로 치켜세우는 대통령과 각을 세울 이유가 없습니다. 거꾸로 속도 조절론이 힘을 얻을수록 칩 수요 전망에는 부담이 됩니다. 황 CEO가 반박 대신 이 답을 고른 이유도 여기에 있는 것으로 보입니다.

    이번 무대에서 확인된 건 AI 업계가 한목소리를 내지 않는다는 점입니다. 모델을 만드는 쪽에서는 속도를 늦추자는 말이 나왔습니다. 인프라를 공급하는 쪽은 적어도 공개 무대에서 대통령의 가속론에 반대하지 않았습니다. 물론 엔비디아 한 곳의 반응으로 인프라 업계 전체의 입장을 단정하기는 무리입니다. 이 간극이 실제 정책으로 이어질지는 아직 판단하기 이르고, 미국 정부가 다음에 어떤 조치를 내놓는지가 기준이 될 겁니다.

    출처: The Verge

  • AI 반도체 발열 잡는다는 ‘리버서블 컴퓨팅’, 정체가 뭐길래

    AI 반도체 발열 잡는다는 ‘리버서블 컴퓨팅’, 정체가 뭐길래

    반도체 칩이 계산 한 번 할 때마다 전기 에너지 일부는 그대로 열로 날아간다. 그 열을 식히려고 데이터센터는 전체 전력의 상당 부분을 냉각 시스템에 쏟아붓는다. AI 모델 학습량이 늘어날수록 이 비용은 눈덩이처럼 커진다. 요즘 스타트업 몇 곳이 주목하는 ‘리버서블 컴퓨팅(reversible computing)’은 이 발열 문제를 아예 뿌리부터 줄이겠다는 접근이다. 계산 중 버려지는 에너지를 회수해서 다시 쓴다는 개념인데, 정확히 뭘 말하는 건지 정리해봤다.

    반도체는 왜 이렇게 뜨거워지나

    기존 디지털 회로는 0과 1을 스위칭할 때마다 트랜지스터 안의 전하를 완전히 방전시킨다. 이 과정에서 정보 자체가 사라지는데, 물리학자 롤프 란다우어가 1961년에 증명한 게 바로 이거다. 정보를 지우는 행위 자체가 열을 만든다는 것. 이걸 란다우어 한계라 부른다. 계산 속도가 빨라지고 트랜지스터 밀도가 높아질수록, 단위 면적당 버려지는 열도 같이 늘어나는 구조다. GPU나 서버용 CPU가 고성능을 낼수록 발열 관리가 골치 아파지는 이유가 여기 있다.

    리버서블 컴퓨팅, 대체 뭔데

    리버서블(가역) 컴퓨팅은 계산 단계마다 정보를 지우지 않고 거꾸로 되돌릴 수 있는 논리 연산으로 회로를 짜는 방식이다. 입력값을 버리는 대신 출력과 함께 남겨두고, 연산이 끝나면 회로를 역방향으로 돌리면서 처음 투입한 전하 에너지 일부를 회수한다. 아예 새로운 아이디어는 아니다. 1980년대에 찰스 베넷과 에드워드 프레드킨이 이론적 토대를 세웠다. 다만 이걸 실제 칩으로 구현하는 시도는 최근에야 본격화됐다.

    기존 CMOS와 뭐가 다른가

    • CMOS(비가역) 방식: 스위칭마다 전하를 완전히 방전, 에너지는 열로 소멸
    • 리버서블 방식: 전하를 서서히 충·방전(단열 스위칭)해 에너지 대부분을 회수 후 재투입
    • 속도: 지금 나온 리버서블 회로는 클럭 속도에서 CMOS보다 느린 경우가 많다
    • 제조 공정: 기존 파운드리 공정을 크게 안 바꿔도 적용 가능한 설계가 있다

    에너지를 어떻게 회수하나, 단열 스위칭

    핵심 기술은 단열 스위칭(adiabatic switching)이다. 전압을 갑자기 걸었다 끊는 대신, 공진 인덕터 같은 걸 써서 전하를 천천히 충전한다. 방전할 때도 에너지를 다시 전원으로 돌려보낸다. 이 과정을 거치면 스위칭당 손실 에너지가 이론상 수십 분의 1 수준까지 줄어든다는 연구 결과도 있다. 실제 칩에서는 배선 저항이나 누설 전류 같은 변수 때문에 이론치만큼 회수하긴 어렵다. 그래도 곱셈·누산처럼 반복되는 연산 패턴에서는 절감 효과가 꽤 보고되는 편이다.

    AI 반도체 시대에 왜 이게 뜬금없이 주목받나

    대규모 언어모델 학습과 추론은 똑같은 행렬 연산을 수억 번 반복한다. 반복 연산 비중이 큰 작업일수록 에너지를 회수해 재활용할 여지도 커진다는 얘기다. 데이터센터 운영사 입장에선 GPU 클러스터 전력 요금과 냉각 인프라 투자가 전체 비용에서 차지하는 몫이 갈수록 커지고 있다. 스위칭 단계에서부터 에너지를 아끼는 접근은 전력망을 새로 안 늘리고도 연산량을 키울 카드로 거론된다. 다만 지금은 학계 연구와 소수 스타트업 시제품 수준. 엔비디아나 AMD 같은 주류 GPU 제조사가 양산 라인에 적용한 사례는 아직 없다.

    상용화까지 남은 숙제

    리버서블 로직은 회로 하나당 트랜지스터 수가 늘어나서 다이 면적이 커진다는 단점이 있다. 공진 클럭 생성 회로 같은 주변 부품도 추가로 필요해서 설계 복잡도도 같이 오른다. 소프트웨어·컴파일러 생태계도 애초에 비가역 연산을 전제로 만들어진 터라, 리버서블 하드웨어에 맞춰 알고리즘을 새로 짜야 하는 부담도 남는다. 결국 관건은 이 설계 방식이 실제 데이터센터에서 와트당 성능(performance per watt)을 CMOS보다 확실히 앞설 수 있느냐, 그 한 가지다.

    Q&A로 짚어보는 핵심

    Q. 리버서블 컴퓨팅, 양자컴퓨터랑 같은 얘기인가?
    아니다. 양자컴퓨터는 큐비트라는 완전히 다른 물리 시스템을 쓴다. 리버서블 컴퓨팅은 기존 반도체 공정 위에서 논리 회로 설계만 바꾸는 접근이다.

    Q. 그럼 지금 당장 노트북이나 스마트폰에도 들어가나?
    아니다. 지금은 특정 연산에 특화된 실험용 칩 시제품 단계다. 범용 프로세서로 양산되려면 몇 년 단위 시간이 더 필요하다.

    Q. 전력은 대체 얼마나 아낄 수 있나?
    연구 단계 발표 기준으로 특정 워크로드에서 스위칭 에너지를 수 배에서 수십 배까지 줄였다는 사례가 있다. 다만 시스템 전체 소비전력 절감폭은 워크로드와 주변 회로 설계에 따라 갈린다. 여기서 편차가 꽤 크다.

    출처: MIT Tech Review AI

  • AI PC 살 때 NPU보다 VRAM부터 봐야 하는 이유

    AI PC 살 때 NPU보다 VRAM부터 봐야 하는 이유

    노트북 스펙표를 보다가 NPU, TOPS 같은 낯선 약어에 걸린 적 있을 거다. 엔비디아가 미니 PC·노트북 제조사들과 손잡고 대형 AI 모델을 컴퓨터 안에서 직접 돌리는 전용 칩을 내놓으면서, ‘AI PC’라는 이름표가 매장 진열대까지 내려왔는데요. 막상 사려고 하면 뭐가 진짜 AI PC고 뭐가 스티커만 붙인 일반 노트북인지 구분이 잘 안 가거든요. NPU, TOPS, 통합 메모리… 이 용어들, 뭘 기준으로 봐야 하는지 정리해봤다.

    AI PC, 일반 PC랑 뭐가 다른가

    핵심은 하나다. AI 연산을 어디서 처리하느냐, 그 차이거든요. 지금까지 챗GPT나 클로드 같은 서비스는 질문을 클라우드 서버로 보내고 답을 받아오는 구조였다. AI PC는 이 연산 일부를 컴퓨터 안에서 끝낸다. 인터넷이 끊겨도 문서 요약이나 이미지 생성 같은 작업이 돌아가고, 입력한 내용이 외부 서버로 나가지 않는다는 장점이 있는데요. 다만 아무 노트북이나 이걸 감당하는 건 아니다. 전용 하드웨어가 따로 필요하다는 얘기다.

    NPU와 GPU, 실제로 일하는 건 어느 쪽인가

    둘은 역할부터 다르다.

    • NPU는 전력을 적게 먹으면서 배경 흐림, 실시간 번역, 노이즈 캔슬링 같은 가벼운 상시 작업을 처리한다.
    • GPU는 이미지 생성이나 로컬 LLM 추론처럼 무거운 연산을 맡는다. 결국 채팅형 AI를 노트북에서 굴리고 싶다면 NPU 성능표보다 GPU의 메모리 용량 쪽을 먼저 봐야 한다.

    마케팅 자료엔 TOPS 수치만 큼직하게 적혀 있는 경우가 많은데요, 이건 NPU 성능 지표일 뿐이다. 로컬 LLM 체감 속도를 그대로 보장해주진 않는다. 이 부분에서 헷갈리는 사람, 은근히 많더라.

    로컬 AI 돌리려면 스펙표에서 이 4가지부터 확인

    구매 전에 아래 항목부터 체크하는 게 가장 실속 있다.

    • 통합 메모리·VRAM 용량: 7B~8B급 모델은 8~16GB, 70B급은 48GB 이상이 필요하다. 메모리가 부족하면 모델 자체가 안 올라간다.
    • 메모리 대역폭: 용량이 같아도 대역폭이 낮으면 답변 속도가 눈에 띄게 느려진다.
    • TOPS 수치: 마이크로소프트가 정한 Copilot+ PC 기준은 40TOPS 이상이다. 기본 AI 기능만 쓸 거면 이 라인만 넘겨도 충분하다.
    • 저장공간: 모델 파일 하나가 수십 GB를 차지하는 경우가 흔하다. NVMe SSD 1TB 이상을 권한다.

    미니 PC vs 노트북, AI 작업엔 뭐가 나을까

    휴대성만 보면 노트북이 편하다. 하지만 장시간 무거운 연산을 돌릴 땐 얘기가 달라지는데요. 관건은 발열이다. 얇은 노트북은 몇 분만 지나도 성능이 떨어지는 클럭 저하가 생기기 쉽다. 반면 미니 PC는 냉각 공간이 넉넉해서 정격 성능을 오래 유지하고, 필요하면 메모리나 저장장치 업그레이드도 상대적으로 수월하다. 집이나 사무실 한 곳에 고정해두고 로컬 서버처럼 굴릴 계획이라면 미니 PC 쪽에 손을 들어주고 싶다. 반대로 외부에서 문서 작업 틈틈이 AI 기능 좀 쓰는 정도라면, 노트북으로도 충분하다.

    지금 사도 되나, 한 세대 더 기다릴까

    윈도우 코파일럿이나 화상회의 배경 효과 정도만 쓸 계획이면 지금 나온 제품으로도 충분하다. 근데 70B급 이상 모델을 로컬에서 굴리거나 이미지 생성 작업을 자주 한다면? 메모리 용량이 늘어나는 다음 세대 제품을 기다리는 것도 방법이다. AI PC 시장이 아직 초기라 가격 프리미엄이 붙어 있는 편이거든요. 예산이 빠듯하다면 그래픽카드 성능이 준수한 일반 게이밍 노트북으로 로컬 AI를 먼저 경험해보는 것도 나쁘지 않은 선택이다.

    이것도 궁금하죠?

    Q. AI PC 없어도 로컬 AI 쓸 수 있나?
    가능하다. VRAM이 넉넉한 그래픽카드가 달린 데스크탑이면 오히려 노트북형 AI PC보다 더 큰 모델을 돌릴 여지가 있다.

    Q. 클라우드 AI 서비스랑 뭐가 다른가?
    클라우드는 최신·최대 모델을 쓸 수 있지만 인터넷 연결과 구독료가 필요하다. 로컬은 오프라인으로 돌아가고 입력 데이터가 밖으로 나가지 않는 대신, 모델 크기와 속도가 하드웨어에 묶인다.

    Q. 게임용 그래픽카드 노트북으로도 되나?
    된다. VRAM 8GB 이상 게이밍 노트북이면 중소형 로컬 LLM 정도는 무리 없이 돌아간다.

    출처: Wired

  • DLSS냐 FSR이냐, 그래픽카드 업스케일링 뭘 켜야 프레임 제대로 나올까

    DLSS냐 FSR이냐, 그래픽카드 업스케일링 뭘 켜야 프레임 제대로 나올까

    신작 게임 벤치마크 영상 보면 프레임이 갑자기 두세 배로 뛰는 구간이 있다. 4K 해상도에 레이트레이싱까지 다 켜놓고도 100프레임 넘게 찍히는 그 장면, 뒤에 숨은 게 DLSS나 FSR 같은 AI 업스케일링이다. 그래픽카드 새로 사려는 사람이든 이미 쓰고 있는 사람이든 이 둘 차이 한 번쯤은 헷갈렸을 텐데, 직접 켜보면서 체감한 것까지 포함해서 정리해본다.

    DLSS가 뭔데? 엔비디아식 AI 업스케일링

    DLSS(Deep Learning Super Sampling)는 엔비디아가 지포스 RTX 시리즈에 넣은 AI 화질 개선 기술이다. 원리는 의외로 단순하다. 게임을 목표 해상도보다 낮춰서 렌더링한 다음, 딥러닝 모델이 빈 픽셀을 채워 넣어 원래 해상도처럼 보이게 만드는 거다. 연산량이 줄어드니 프레임이 오르고, 학습된 모델이 디테일을 복원해주니 화질 손해도 크지 않은 셈이다.

    핵심은 텐서 코어라는 전용 하드웨어를 쓴다는 것. RTX 20 시리즈부터 들어간 이 연산 유닛 덕분에 업스케일링 작업이 그래픽 렌더링과 동시에 돌아가면서도 병목이 거의 없다. 그래서 RTX 카드가 아니면 DLSS 자체를 켤 수가 없다.

    FSR은 뭐가 다른가, AMD의 접근

    FSR(FidelityFX Super Resolution)은 AMD가 만든 대응 기술이다. 제일 큰 차이는 하드웨어를 가리지 않는다는 점. 초기 FSR 1.0은 딥러닝 없이 공간적 업스케일링 알고리즘만으로 돌아가서 라데온은 물론 지포스, 인텔 아크에서도 작동했다. FSR 2부터는 이전 프레임 데이터를 활용하는 시간적 방식으로 바뀌면서 화질이 DLSS에 바짝 붙었고, FSR 4에 와서야 AMD도 전용 AI 가속 방식을 도입했다.

    정리하면 DLSS는 전용 하드웨어로 정교하게, FSR은 범용성으로 승부하는 구조다. 그래서 오래된 그래픽카드나 콘솔에서는 FSR이 사실상 유일한 선택지인 경우가 많다.

    DLSS 버전별로 뭐가 달라졌나

    DLSS는 버전이 올라갈 때마다 성격이 꽤 바뀌었다.

    • DLSS 1: 초창기 버전. 게임마다 따로 AI 모델을 학습시켜야 해서 지원 게임도 적고 화질 편차도 컸다.
    • DLSS 2: 범용 모델로 바뀌면서 대부분의 게임에 빠르게 적용됐고 화질도 크게 좋아졌다. 지금도 많은 게임이 이 세대 기반이다.
    • DLSS 3: 프레임 생성(Frame Generation)이 추가됐다. 실제로 렌더링한 프레임 사이에 AI가 만든 가짜 프레임을 끼워 넣어 체감 프레임을 두 배로 불린다. RTX 40 시리즈 전용.
    • DLSS 4: 멀티 프레임 생성으로 확장되면서 프레임 하나당 최대 3개의 AI 프레임을 추가로 만들어낸다. 업스케일링 모델도 CNN에서 트랜스포머 기반으로 바뀌어 디테일 복원력이 좋아졌다.

    차기 버전으로 추정되는 코드가 신작 게임 빌드에서 먼저 발견돼 커뮤니티가 들썩이는 일, 종종 있다. 모더들이 이런 신경망 렌더링 코드를 뽑아내 구세대 게임에 억지로 이식하는 시도까지 나올 정도. 정식 공개 전 기능이 게임 데이터 속에서 먼저 새는 일, 그래픽카드 업계에서는 낯선 풍경이 아니다.

    화질 차이, 직접 켜보면 느껴지는 부분

    스펙만 보면 우열 가리기 애매한데 실제로 플레이해보면 차이가 꽤 뚜렷하다.

    • 가는 철조망이나 나뭇잎처럼 세밀한 물체에서 DLSS 쪽이 흔들림(디더링)이 덜하다.
    • FSR은 저해상도 원본에서 업스케일링할 때 경계선이 뭉개지는 현상이 상대적으로 잘 보인다.
    • 프레임 생성 기술은 두 회사 다 UI 요소나 빠른 카메라 회전에서 잔상이나 아티팩트가 생기는 여지가 있어서, 경쟁 게임보다는 싱글 플레이 어드벤처 장르에 더 잘 어울린다.

    모니터가 1440p 이하면 둘 다 차이를 눈치채기 어렵다. 근데 4K에서 화면을 크게 확대해보면 얘기가 달라진다. 격차, 생각보다 벌어진다.

    내 그래픽카드로는 뭘 쓸 수 있나

    지원 여부는 세대별로 나눠보면 이렇다.

    • RTX 20/30 시리즈: DLSS 업스케일링(2 이상)은 되는데 프레임 생성(3, 4)은 안 된다.
    • RTX 40 시리즈: 프레임 생성까지 전부 사용 가능하다. DLSS 4의 멀티 프레임 생성만 RTX 50으로 제한된다.
    • 라데온 RX 시리즈: FSR은 세대 상관없이 대부분 사용 가능하다. FSR 4의 AI 가속 모드는 최신 아키텍처로 제한된다.
    • 인텔 아크: 자체 기술 XeSS를 쓰거나 FSR을 병행해서 쓰는 경우가 많다.

    게임 옵션 메뉴에 들어가면 그래픽카드가 지원 안 하는 기능은 아예 회색 처리되거나 목록에서 빠져 있다. 옵션 한 번 켜보면 바로 확인된다.

    그래서 뭘 골라야 하나

    기준은 단순하다. RTX 카드를 쓰고 있으면 고민할 이유가 없다. DLSS 화질과 프레임 생성 완성도가 한 수 위라서 기본으로 켜두는 게 이득이다. 반대로 라데온이나 구형 카드, 콘솔 환경이라면 FSR이 사실상 정답이다. 게임이 DLSS와 FSR을 둘 다 지원한다면 화질 우선주의자는 DLSS 퀄리티 모드, 프레임 확보가 급하면 FSR 퍼포먼스 모드, 이런 식으로 나눠 써도 좋다.

    두 기술 다 게임 자체에 내장돼야 작동한다는 점, 기억해둘 만하다. 드라이버 업데이트만으로 없던 기능이 갑자기 생기지는 않으니, 신작 살 때 지원 여부를 미리 확인하는 습관을 들이면 편하다.

    이것도 궁금하죠?

    Q. DLSS를 켜면 화질이 무조건 떨어지나?
    A. 퀄리티 모드 기준으로는 오히려 안티에일리어싱 효과 덕분에 네이티브 해상도보다 선명해 보이는 경우도 있다. 다만 퍼포먼스나 울트라 퍼포먼스 모드로 갈수록 원본 대비 열화가 눈에 띈다.

    Q. 프레임 생성으로 늘어난 프레임도 진짜 프레임인가?
    A. 입력 반응 속도는 실제 렌더링 프레임 기준으로 결정된다. 화면은 부드러워 보여도 조작감 자체가 그만큼 빨라지는 건 아니라서, FPS 게임보다는 그래픽 위주 게임에 쓰는 게 낫다.

    Q. FSR을 지포스 카드에서 써도 되나?
    A. 된다. FSR은 하드웨어 제한이 없어서 지포스에서도 정상 작동하며, DLSS를 지원하지 않는 구형 게임이나 인디 게임에서 대안으로 쓰기 좋다.

    출처: The Verge

  • 엔비디아 매출 구조 파헤치기, 결국 데이터센터가 전부였다

    엔비디아 매출 구조 파헤치기, 결국 데이터센터가 전부였다

    엔비디아가 한 분기 매출로 1000억 달러, 원화로 150조원 안팎을 찍을 거란 전망이 나왔다. 아마존, 애플, 알파벳처럼 소비자를 수억 명씩 상대하는 플랫폼 공룡들이나 넘나들던 벽이다. 그래픽카드 팔던 회사가 어쩌다 여기까지 왔을까. 사업구조를 하나씩 뜯어보면 답이 나온다.

    매출, 어디서 나오나

    엔비디아 매출은 크게 다섯 갈래다.

    • 데이터센터: AI 학습·추론용 GPU와 네트워킹 장비. 전체 매출의 8할 이상을 이 한 축이 끌고 간다.
    • 게이밍: 지포스 그래픽카드. 한때는 이게 회사 밥줄이었는데, 지금은 비중이 확 쪼그라들었다.
    • 프로페셔널 비주얼라이제이션: 영상·디자인 업계용 워크스테이션 GPU.
    • 자동차: 자율주행 플랫폼 드라이브(DRIVE) 매출.
    • OEM 및 기타: 라이선스 수익과 자잘한 하드웨어 판매분.

    숫자만 보면 게이밍 회사 이미지가 남아있지만, 실상은 데이터센터가 회사 전체를 끌고 가는 구조로 완전히 뒤바뀌었다.

    데이터센터가 이렇게 커진 이유

    배경은 생성형 AI 학습 경쟁이다. 대형언어모델 하나 훈련시키려면 GPU 수만 장을 묶은 클러스터가 필요하다. 마이크로소프트, 구글, 메타, 아마존 같은 빅테크가 해마다 설비투자(캐펙스) 규모를 늘리며 이 장비를 사들이는 중이다. 여기에 엔비디아는 하드웨어만 팔지 않는다. 쿠다(CUDA)라는 소프트웨어 생태계를 통째로 묶어서 판다. 개발자들이 이미 쿠다에 익숙해져 있다 보니, 경쟁사 칩으로 갈아타는 비용 자체가 만만치 않다. 이게 엔비디아 가격 결정력과 마진을 떠받치는 진짜 이유다.

    분기 100조원, 이전에도 있었나

    아예 없었던 건 아니다. 아이폰 신제품 나오는 분기의 애플, 홀리데이 시즌 아마존, 광고 매출이 몰리는 알파벳 정도가 이 구간을 왔다 갔다 했다. 다만 이들은 전 세계 수십억 명을 상대하는 소비자 플랫폼이라는 공통점이 있다. 엔비디아 고객은 다르다. 소수의 클라우드 기업과 대형 IT 업체, 그게 전부다. 소비자 대신 기업 몇 곳의 투자 판단에 매출 전체가 좌우된다는 뜻이고, 이 구조를 모르면 엔비디아 실적을 제대로 읽기 어렵다.

    실적 발표, 어디를 봐야 하나

    숫자 하나만 보고 판단하면 곤란하다. 체크할 지표는 이렇다.

    • 매출총이익률: 70% 안팎을 유지하는지, 슬금슬금 내려가고 있는지가 가격 결정력의 척도다.
    • 데이터센터 매출 비중: 전체에서 차지하는 몫과 성장률 둔화 여부.
    • 다음 분기 가이던스: 회사가 직접 제시하는 전망치. 시장 기대치와 벌어지면 주가가 요동친다.
    • 고객 집중도: 상위 몇 개 고객사 비중. 여기 쏠림이 크면 리스크도 그만큼 커진다.
    • 재고와 리드타임: 신제품 공급이 수요를 못 따라가는지, 반대로 재고가 쌓이는지.

    남은 변수, 경쟁과 규제

    경쟁 구도도 가만있지 않는다. AMD는 MI 시리즈 가속기로 데이터센터 시장을 파고들고, 구글은 자체 설계한 TPU로 내부 워크로드 상당수를 처리한다. 아마존도 트레이니엄이라는 자체 칩을 밀고 있다. 미국 정부의 대중국 반도체 수출 규제는 엔비디아 매출의 지역별 구성을 계속 흔드는 변수고, AI 투자가 실제 수익으로 돌아오는 속도보다 설비투자 증가 속도가 더 빠르다는 이른바 ‘AI 버블’ 논쟁도 실적 발표 때마다 꼬리표처럼 붙는다. 솔직히 이 부분은 매 분기 갈린다.

    투자 전 체크리스트

    • 매출 성장률이 전 분기 대비로도 유지되는지, 기저효과로 둔화되는 건 아닌지.
    • 고객사가 소수 빅테크에서 클라우드 스타트업, 정부 기관 쪽으로 넓어지고 있는지.
    • 경쟁이 심해져도 마진은 방어되는지.
    • 주가수익비율(PER) 등 밸류에이션이 성장률 대비 과도하진 않은지.
    • 경쟁사와의 소프트웨어·생태계 격차가 좁혀지고 있진 않은지.

    이것도 궁금하죠?

    Q. 엔비디아 주가, 너무 비싼 거 아닌가?
    밸류에이션 논쟁은 실적 발표 때마다 반복된다. 감정적으로 판단하기보다, 이익 성장 속도가 주가 상승 속도를 따라가는지 분기별로 확인하는 편이 낫다.

    Q. AMD나 다른 경쟁사로 눈을 돌려도 될까?
    쿠다 생태계 전환 비용이 여전히 높아서 단기간에 점유율이 크게 흔들리기는 어렵다는 게 중론이다. 다만 특정 대형 고객이 자체 칩 비중을 늘리는 신호는 꾸준히 지켜볼 값어치가 있다.

    Q. 데이터센터 매출이 갑자기 꺾일 가능성은?
    빅테크 몇 곳의 설비투자 계획이 실적을 좌우하는 구조다 보니, 이들 기업의 캐펙스 가이던스 변화가 가장 먼저 나오는 경고 신호로 꼽힌다.

    출처: The Verge

  • 우주 데이터센터, AI 서버는 왜 궤도로 향하나

    우주 데이터센터, AI 서버는 왜 궤도로 향하나

    일론 머스크의 스페이스X가 엔비디아 GPU를 위성에 실어 궤도에서 돌리겠다고 나섰다. 태양광으로 AI 연산을 처리한다는 얘기인데, 처음 들으면 SF 영화 설정 같기도 하다. 근데 이게 실제로 추진 중인 프로젝트다. ‘우주 데이터센터’라는 말, 정확히 뭘 뜻하는 건지 개념부터 기술적 난관까지 짚어봤다.

    우주 데이터센터, 정확히 뭘 말하나

    말 그대로다. 인공위성이나 우주 정거장에 서버랙을 실어 궤도 위에서 데이터를 처리하는 시설. GPU, 메모리, 냉각 장치를 위성에 태우고 태양광 패널로 전력을 공급한 뒤, 연산 결과만 지상으로 쏴 보내는 방식이다. 지상 데이터센터가 통째로 이사 가는 게 아니다. AI 학습이나 추론처럼 전력을 많이 잡아먹는 작업 일부를, 궤도로 나눠 보내는 개념에 가깝다.

    왜 하필 우주인가 – 전력과 태양광 문제

    AI 데이터센터의 가장 큰 골칫거리, 전력이다. 미국 곳곳에서 데이터센터 전력 수요 때문에 전력망이 이미 한계에 부딪혔고, 신규 발전소 건설이나 송전선 확충에는 수년이 걸린다. 반면 궤도, 그중에서도 태양동기궤도는 사정이 다르다. 태양광 발전 효율이 지상보다 훨씬 높다. 대기도 없고 구름도 없다. 궤도에 따라 하루 대부분을 햇빛 아래서 보낼 수 있어서, 같은 면적의 패널로도 훨씬 많은 전력을 뽑아낼 수 있다. 지상에 태양광 발전소와 송전선을 새로 짓느니, 발전과 연산을 아예 우주에서 끝내버리자는 발상인 셈이다.

    냉각이 진짜 난제 – 진공에서는 열을 어떻게 식힐까

    지상 데이터센터는 공기나 물로 열을 식힌다. 문제는 우주 공간엔 대류가 없다는 점. 열을 버리려면 복사(radiation) 냉각에 기댈 수밖에 없는데, 공기 냉각보다 효율이 크게 떨어진다. 그래서 우주용 서버 위성은 본체보다 훨씬 큰 방열판을 펼쳐야 한다. GPU 배치나 랙 설계도 지상용과는 완전히 다르게 짜야 하고. 열 밀도 높은 최신 GPU를 촘촘히 쌓는 지상 서버 방식, 그대로 우주에 옮기면 금방 과열돼 고장 난다. 이 부분이 사실 제일 까다로운 대목이다.

    방사선과 우주쓰레기, 넘어야 할 산들

    궤도 환경은 지상보다 훨씬 험하다. 우주방사선은 반도체 회로에 오류를 일으키거나 수명을 깎아먹는데, 상업용 GPU는 애초에 지상 환경 기준으로 설계됐다. 방사선 차폐나 오류 정정 로직을 따로 얹지 않으면, 궤도에서 얼마 못 가 성능이 떨어지거나 먹통 될 위험이 크다. 여기에 늘어나는 우주쓰레기와 부딪힐 가능성, 위성 수명이 다한 뒤 폐기 문제까지 겹친다. 대형 위성군을 한꺼번에 쏘아 올리는 계획일수록 궤도 혼잡도를 더 악화시킨다는 지적도 나온다. 솔직히 이 대목에서는 회의적인 시선도 적지 않다.

    지상 데이터센터와 비교하면 뭐가 다른가

    • 전력 조달: 지상은 발전소·송전망 의존, 우주는 자체 태양광으로 해결
    • 냉각 방식: 지상은 공랭·수랭, 우주는 복사 냉각뿐
    • 유지보수: 지상은 기술자가 직접 가서 손보지만, 우주는 원격 제어와 자율 복구에 의존
    • 확장성: 지상은 부지만 있으면 증설이 쉽지만, 우주는 발사 비용과 궤도 슬롯이 발목을 잡는다
    • 초기 비용: 지상이 압도적으로 저렴하다. 대신 전력·부지 확보에 시간이 오래 걸린다는 게 함정

    결국 우주 데이터센터는 지상을 완전히 대체하는 물건은 아니다. 전력난이 극심한 지역의 부담을 덜어주는 보완재, 딱 그 정도로 보는 게 맞을 듯하다.

    스페이스X 말고 누가 뛰어들었나

    구글은 ‘프로젝트 선캐처’라는 이름으로 태양광 위성 기반 AI 컴퓨팅을 연구 중이다. 아마존과 마이크로소프트도 자체 위성 인프라 투자를 계속 늘리는 추세고. 재사용 로켓 덕분에 발사 비용이 꾸준히 낮아지고 있다는 점, 이런 구상에 힘을 실어준다. 과거엔 위성 하나 쏘는 데 천문학적 비용이 들었지만, 스타십 같은 대형 재사용 로켓이 상용화되면 킬로그램당 발사 단가가 크게 떨어질 거라고 업계는 보고 있다.

    그래서, 실제로 가능한 얘기인가

    현재 기술 수준에서 우주 데이터센터는 개념 실증(PoC) 단계에 가깝다. 소규모 위성에 GPU 몇 개 실어서 궤도에서 제대로 작동하는지 확인하는 정도다. 지상 대형 데이터센터급 연산량을 우주에서 감당하려면 방열판 대형화, 방사선 내성 반도체, 위성 간 고속 통신망까지 과제가 줄줄이 남았다. 이건 좀 시간이 걸릴 얘기다. 다만 전력망 확충이 지지부진한 상황에서 대안을 찾으려는 시도는 계속 늘어날 전망이다. AI 연산 수요가 지금 속도로 커진다면, 궤도 데이터센터가 몇 년 안에 실험실을 벗어나 실제 서비스에 쓰일 가능성도 없지 않다.

    출처: Engadget

  • 로컬 AI 컴퓨터, 그래픽카드보다 램이다 – 맥 스튜디오 고르는 법

    로컬 AI 컴퓨터, 그래픽카드보다 램이다 – 맥 스튜디오 고르는 법

    그래픽카드 견적 사이트부터 뒤진다. 거대 언어모델을 집 컴퓨터에서 돌려보겠다고 마음먹은 사람들 얘기다. 그런데 막상 부품을 맞춰보면 진짜 발목을 잡는 건 GPU 성능이 아니라 메모리 용량이다. 70B급 모델 하나 올리는 데만 수십 기가바이트 램이 필요한데, 일반 그래픽카드 VRAM은 12GB, 24GB에서 끊긴다. 여기서 대안으로 떠오른 게 통합 메모리를 쓰는 애플 실리콘 맥이다. 로컬 AI 개발자들 사이에서 요즘 은근히 자주 언급된다. 맥 스튜디오나 맥 미니로 로컬 AI 환경을 꾸리려는 사람을 위해 메모리 기준부터 사양 고르는 법, 여러 대 묶어 쓰는 방법까지 정리해봤다.

    결국 메모리 싸움

    언어모델은 파라미터 하나하나를 숫자로 저장해두고, 추론할 때마다 그 값을 전부 읽어들인다. 파라미터 70억 개(7B)짜리는 양자화를 거쳐도 최소 5~8GB가 필요하다. 700억 개(70B)짜리는 40GB 안팎. 일반 PC는 그래픽카드 VRAM과 시스템 램이 따로 논다. VRAM 용량 넘어서는 모델은 아예 못 올리거나, 속도가 뚝 떨어진다. 애플 실리콘은 다르다. CPU와 GPU가 메모리 풀 하나를 같이 쓰는 구조라서, 램만 넉넉히 달면 그 메모리를 GPU 연산에도 그대로 쓸 수 있다.

    모델 크기별 램, 대략 이 정도

    기준을 잡아두면 사양 고르기가 한결 쉽다.

    • 7B~8B 모델: 16GB 램으로 양자화 버전 구동 가능. 챗봇, 코드 자동완성 수준
    • 13B~14B 모델: 32GB 권장. 응답 품질과 속도 균형이 제일 좋은 구간
    • 30B대 모델: 64GB부터 여유롭게 돌아간다
    • 70B 모델: 96GB 이상. 실무에서 쓸 만한 속도를 원하면 128GB
    • 100B~400B급 초대형 모델: 192GB~512GB. 사실상 맥 스튜디오 최상위 사양이거나, 여러 대를 묶어야 하는 영역

    맥 스튜디오, 어디까지 올려야 하나

    맥 스튜디오는 M4 맥스와 M3 울트라(혹은 이후 세대) 두 라인으로 나뉜다. 로컬 AI 용도라면 CPU 코어 수보다 램 용량과 메모리 대역폭을 먼저 봐야 한다. 개인 실험이나 사이드 프로젝트 수준이면 64GB 구성으로도 13B~30B 모델은 무리 없다. 70B급까지 노린다면 96GB 이상. 여러 모델을 동시에 띄워두고 비교하거나 파인튜닝 실험까지 하고 싶다면 128GB~256GB 구성을 권한다. 저장공간도 챙겨야 한다. 모델 파일 하나가 수십 기가바이트씩 나가기 때문에, 1TB보다는 2TB 이상 잡아두는 편이 나중에 후회가 적다.

    맥 미니로도 될까

    맥 미니는 M4 프로 기준 64GB까지 램 확장이 가능하다. 7B~30B급 모델을 다루는 입문자, 가벼운 로컬 챗봇 용도로는 충분하다. 가격 진입 장벽이 낮은 게 장점. 다만 70B 이상으로 넘어가는 순간 램 상한선에 바로 막힌다. 처음부터 큰 모델을 목표로 한다면 맥 미니보다 맥 스튜디오 하위 구성이 총소유비용 면에서 오히려 유리한 경우가 많다.

    맥 여러 대 묶어서 더 큰 모델 돌리기

    램 512GB, 1TB짜리 단일 머신은 가격이 만만치 않다. 그래서 개발자들 사이에서는 맥 스튜디오 여러 대를 썬더볼트로 연결해 하나의 큰 메모리 풀처럼 쓰는 방식이 퍼지고 있다. exo 같은 오픈소스 클러스터링 도구를 쓰면 모델 레이어를 여러 대에 나눠 분산 추론을 돌릴 수 있다. 맥 스튜디오 3~4대로 400B급 모델까지 굴리는 사례도 나온다. 애플이 최근 데스크톱 라인업을 개편하면서 이런 멀티 맥 구성을 염두에 둔 흔적이 뚜렷하다. 더 이상 소수 애호가만의 실험은 아니라는 얘기다. 다만 대역폭 한계 때문에 단일 대형 머신보다는 토큰 생성 속도가 떨어진다는 점은 감안해야 한다.

    그래도 엔비디아가 유리한 상황은 있다

    모든 상황에서 맥이 답은 아니다. 학습(트레이닝)이나 대규모 배치 추론처럼 순수 연산 속도가 승부를 가르는 작업이라면, CUDA 생태계와 압도적 연산 성능을 갖춘 엔비디아 GPU 쪽이 여전히 빠르다. 이미 파이토치·CUDA 기반 파이프라인을 구축해둔 팀, 여러 사용자 요청을 동시에 처리해야 하는 서버 환경이라면 그래픽카드 여러 장 꽂은 워크스테이션이나 클라우드 GPU 인스턴스가 더 맞다. 반대로 개인 개발자가 조용한 사무실 책상 위에서 전력 걱정 없이 큰 모델 켜놓고 실험하고 싶다면, 통합 메모리의 용량 이점이 속도 차이를 상쇄하고도 남는다. 솔직히 여기서 갈린다.

    이것도 궁금하죠?

    Q. 램만 많으면 무조건 큰 모델을 돌릴 수 있나?
    메모리 용량이 충족돼도 대역폭이 낮으면 토큰이 느리게 나온다. 램 용량과 함께 메모리 대역폭 스펙도 같이 확인하는 편이 좋다.

    Q. 로컬에서 모델을 돌리려면 어떤 소프트웨어가 필요한가?
    Ollama, LM Studio 같은 도구를 쓰면 커맨드라인 지식 없이도 양자화된 모델을 몇 번의 클릭으로 내려받아 바로 실행할 수 있다.

    Q. 클러스터링 구성이 초보자에게도 실용적인가?
    네트워크 설정과 도구 설치 난이도가 있어서, 처음에는 단일 맥 스튜디오로 시작해 필요할 때 확장하는 쪽을 권한다.

    출처: Ars Technica

  • 월드모델(World Model)이 뭐길래, 로봇 AI가 여기에 목숨 거나

    월드모델(World Model)이 뭐길래, 로봇 AI가 여기에 목숨 거나

    테슬라 옵티머스, 피규어(Figure), 요즘은 이름도 생소한 로봇 스타트업들까지. 몸값이 줄줄이 조 단위를 찍는다. 이 회사들, 사실 베팅하는 판돈은 하나로 똑같다. 월드모델(World Model)이라는 기술이다. 로봇이 스스로 움직이고 판단하려면 눈앞 공간이 어떤 구조인지, 시간이 흐르면 뭐가 어떻게 바뀌는지부터 알아야 한다. 이걸 가능케 하는 핵심이 바로 월드모델. 정확히 뭘 뜻하는 말인지, 챗GPT 같은 언어모델과는 뭐가 다른지 하나씩 짚어본다.

    월드모델, 정확히 뭘 예측하는 기술인가

    공을 던지면 포물선을 그리며 떨어진다는 걸 우리는 굳이 계산하지 않아도 안다. 문 앞에 서면 밀어야 열릴지 당겨야 열릴지도 대충 감이 온다. 월드모델은 이 감각을 AI에게 데이터로 욱여넣은 결과물이다. 눈앞 장면을 보고 다음에 뭐가 일어날지, 물체가 어떻게 움직일지, 시간이 지나면 공간이 어떻게 변할지를 내부적으로 시뮬레이션하는 모델이라고 보면 된다.

    • 물체를 놓으면 어느 방향으로 떨어지는지
    • 문을 밀었을 때 몇 도까지 열리는지
    • 손을 뻗으면 몇 초 후 컵에 닿는지

    이런 걸 픽셀 단위, 좌표 단위로 계산해내는 게 월드모델이 하는 일이다. 말로 하면 별거 아닌 것 같은데, 실제로 구현하려면 이게 상당히 골치 아프다.

    챗GPT 같은 언어모델과는 뭐가 다른가

    LLM은 문장 다음에 올 단어를 맞히도록 훈련된다. 월드모델은 다음 ‘장면’과 ‘상태’를 맞히도록 훈련된다는 점에서 결이 완전히 다르다. 로봇 팔이 5cm 움직이면 카메라 화면이 어떻게 바뀌는지, 물체와의 거리가 얼마나 좁혀지는지처럼 실제 물리량과 좌표를 다루는 셈이다. 텍스트 확률 게임을 하는 LLM과 달리, 월드모델은 3차원 공간과 시간축을 통째로 계산에 밀어넣는다. 비유하자면 LLM이 소설을 쓰는 쪽이라면, 월드모델은 물리 엔진에 가깝다.

    로봇이 유독 이 기술에 매달리는 이유

    로봇은 현실 공간에서 진짜로 몸을 움직여야 한다. 공간과 시간 예측이 조금만 어긋나도 물건을 떨어뜨리거나 벽에 부딪히는 사고로 바로 이어진다. 문제는 실제 로봇을 돌려서 데이터를 모으는 데 돈과 시간이 어마어마하게 든다는 것. 그래서 나온 해법이 시뮬레이션에서 먼저 학습시킨 다음 현실 로봇에 그대로 옮겨 심는 ‘심투리얼(sim-to-real)’ 방식이다. 월드모델이 정교할수록 이 전환 과정에서 오차가 줄어든다. 결국 시뮬레이션이 얼마나 현실과 닮았느냐의 싸움이다.

    게임 플레이 데이터로 로봇을 훈련시킨다는 발상

    최근 투자 업계가 눈여겨보는 접근이 하나 있다. 비디오게임 플레이 기록을 그대로 학습 데이터로 쓰는 방식이다. 사람들이 게임 속에서 문을 열고, 장애물을 피하고, 목표 지점을 찾아가는 행동. 이게 실제 로봇의 길찾기나 조작 동작과 본질적으로 닮았다는 아이디어에서 출발했다. 실물 로봇 팔을 수천 시간 돌리는 것보다 게임 영상 데이터를 긁어모으는 쪽이 압도적으로 싸다. 양도 비교가 안 될 만큼 많다. 로봇공학으로 사업을 넓히는 AI 스타트업들이 조 단위 밸류에이션으로 초대형 투자를 유치하는 배경에도 이런 계산이 깔려 있다. 처음 들었을 땐 좀 뜬금없다 싶었는데, 곱씹어보면 꽤 그럴싸한 발상이다.

    엔비디아까지 뛰어든 이유

    엔비디아는 자체 월드모델 플랫폼 ‘코스모스(Cosmos)’를 내놓으며 이 판에 뛰어들었다. 구글 딥마인드도 게임 생성형 모델 ‘지니(Genie)’ 시리즈로 비슷한 방향을 파고 있다. 젠슨 황이 강연 때마다 꺼내는 ‘피지컬 AI’라는 표현도 결국 같은 얘기다. 언어와 이미지를 다루던 AI가 다음 단계로 물리 세계, 그러니까 로봇과 자율주행, 물류 자동화로 영역을 넓히는 흐름. 자율주행차가 앞차와의 거리를 계산하고 급정거 상황을 미리 예측하는 것도 월드모델의 응용 사례 중 하나다.

    아직 넘어야 할 산

    시뮬레이션에서는 완벽하게 작동하던 로봇이 실제 현장에 나가면 삐걱대는 심투리얼 갭 문제, 여전히 크다. 조명, 바닥 재질, 물체 표면 마찰력처럼 시뮬레이션이 재현하지 못하는 변수가 한둘이 아니다. 여기에 대규모 시뮬레이션을 돌리는 연산 비용, 실제 현장에 투입하기 전 거쳐야 할 안전성 검증까지. 넘어야 할 단계가 아직 많이 남았다. 기술 자체의 가능성과 상용화 시점은 별개 문제라는 뜻이다.

    결국 이 세 줄만 기억하면 된다

    • 월드모델은 AI가 공간과 시간의 변화를 미리 계산하는 능력이다.
    • 로봇과 자율주행이 한 단계 더 나아가려면 반드시 거쳐야 할 기술이다.
    • 게임·시뮬레이션 데이터를 얼마나 확보하느냐가 다음 경쟁의 승부처가 될 전망이다.

    로봇 관련 뉴스에서 ‘파운데이션 모델’, ‘피지컬 AI’ 같은 단어가 나올 때마다, 결국 이 월드모델 얘기라고 생각하면 훨씬 빨리 이해된다.

    출처: TechCrunch

  • AI 자기개선(재귀적 자기발전), 대체 뭐길래 이렇게 시끄러운가

    AI 자기개선(재귀적 자기발전), 대체 뭐길래 이렇게 시끄러운가

    AI 기업들이 그리는 가장 대담한 로드맵 하나. AI가 스스로를 개선해서 인간 개입 없이도 발전을 이어간다는 시나리오다. 코드를 짜고, 실험을 설계하고, 다음 버전 모델을 훈련시키는 전 과정을 AI 혼자 담당한다는 구상인데 — 실제 연구 현장 사정은 이보다 훨씬 지저분하다. ‘재귀적 자기개선’이라는 말이 정확히 뭘 뜻하는지, 왜 아직 멀었는지, 실무에서는 뭘 기준으로 판단해야 하는지 정리해봤다.

    재귀적 자기개선, 정확히 뭘 말하는 걸까

    재귀적 자기개선(Recursive Self-Improvement, RSI)은 AI 시스템이 자기 자신의 설계, 코드, 학습 방식을 스스로 고쳐 성능을 끌어올리고, 그렇게 개선된 버전이 다시 다음 개선을 수행하는 순환 구조를 말한다. 개념 자체는 새롭지 않다. 1965년 수학자 I. J. 굿이 내놓은 ‘지능 폭발(intelligence explosion)’ 가설에서 출발했고, 지금은 AGI(범용인공지능) 논의의 핵심 축이 됐다. 초기 시드 AI(seed AI)가 자신을 개선하는 속도가 빨라질수록 성능이 기하급수적으로 늘어난다는 게 이 가설의 골자다.

    여기서 구분해야 할 게 하나 있다. AI가 코드 자동완성이나 버그 수정을 돕는 것과, AI가 차세대 모델의 아키텍처와 학습 데이터, 훈련 파이프라인 전체를 스스로 설계하는 것은 차원이 다르다. 전자는 이미 상용화됐다. 후자가 바로 RSI가 가리키는 상태다.

    왜 다시 화두로 떠올랐나

    OpenAI, 구글 딥마인드, 앤스로픽 같은 주요 연구소는 AI 연구원 역할 자체를 자동화하는 프로젝트에 막대한 자원을 쏟아왔다. AI 모델이 논문을 읽고, 실험 코드를 작성하고, 결과를 해석해서 다음 실험을 제안하는 파이프라인을 구축하는 식이다. SWE-bench, RE-Bench 같은 벤치마크도 AI가 실제 소프트웨어 엔지니어링 작업을 얼마나 자율적으로 처리하는지 숫자로 재보려고 만든 것들이다.

    문제는 이 벤치마크 점수가 꾸준히 오른다고 해서 곧바로 ‘자기개선 루프가 돌아가기 시작했다’는 뜻은 아니라는 점이다. 특정 작업을 자동화하는 것과, 그 자동화가 다음 세대 모델의 근본적인 능력을 스스로 끌어올리는 것 사이에는 여전히 큰 간극이 있다. 이 둘을 섞어서 말하는 기사가 은근히 많다.

    속도를 늦추는 기술적 병목들

    RSI가 이론처럼 빠르게 진행되지 않는 이유, 몇 가지로 정리된다.

    • 검증 비용: AI가 스스로 제안한 개선안이 진짜 성능을 높이는지 확인하려면 대규모 재훈련과 평가가 필요하다. 이 과정에 막대한 컴퓨팅 자원과 시간이 들어간다.
    • 자기평가의 한계: 모델이 자기 출력이 옳은지 스스로 판단하는 능력은 아직 인간 전문가 수준에 못 미친다. 오류를 오류로 인식 못 하면, 개선이 아니라 오차만 누적된다.
    • 데이터 고갈: 웹에서 긁어모을 수 있는 고품질 텍스트 데이터는 이미 상당 부분 바닥났다는 분석이 나온다. 합성 데이터로 메우려는 시도는 늘고 있지만, 품질 관리가 만만치 않다.
    • 보상 함수 설계: ‘더 나은 모델’을 정의하는 지표 자체가 허술하면, 자기개선 루프는 지표만 최적화하고 실제 능력은 제자리걸음일 여지가 있다.

    컴퓨팅과 전력이 진짜 발목을 잡는다

    모델을 재훈련하고 검증하는 사이클 하나하나에 GPU 클러스터와 전력이 대량으로 들어간다. 엔비디아의 최신 GPU 공급이 늘어도 데이터센터 건설과 전력망 증설 속도가 못 따라가는 경우가 흔하다. 여름철 데이터센터 발열 문제도 같은 맥락이다. GPU 밀도가 높아질수록 냉각에 드는 에너지 비중이 커지고, 이건 곧 운영 비용과 확장 속도를 좌우하는 변수가 된다. 액체 냉각 방식으로 갈아타는 사업자가 느는 이유도 여기 있다.

    결국 자기개선 루프를 몇 배속으로 돌리고 싶어도, 물리적 인프라가 그 속도를 못 받쳐주면 이론상 기하급수적 성장은 현실에서 완만한 곡선으로 바뀐다. 전기가 부족하면 알고리즘이 아무리 좋아도 소용없다는 얘기다.

    자기개선 AI와 AGI는 같은 말이 아니다

    많이들 두 개념을 섞어 쓰는데, 구분은 필요하다. AGI(범용인공지능)는 인간 수준의 폭넓은 인지 능력을 가리키는 상태 개념이고, RSI는 그 상태에 도달하는 하나의 경로 혹은 메커니즘이다. AGI는 RSI 없이도 점진적 연구개발만으로 도달 가능하다는 주장이 있는가 하면, 반대로 RSI가 먼저 가동되면 AGI 단계를 건너뛰고 곧바로 초지능(ASI)으로 도약한다는 시나리오도 있다.

    지금 시장에 나온 AI 코딩 에이전트 — 클로드 코드, 데빈 같은 것들 — 는 RSI의 아주 초기 단계, 그러니까 ‘연구개발 업무의 부분 자동화’에 해당한다. 전체 파이프라인을 인간 개입 없이 스스로 설계하고 실행하는 수준과는 아직 거리가 멀다.

    실무자라면 이 지표부터 확인하자

    RSI 관련 로드맵이나 발표를 접할 때, 과장된 주장과 실제 진척을 가르는 기준은 이렇다.

    • 벤치마크 점수 상승이 실제 프로덕션 코드 품질로 이어지는지, 아니면 벤치마크 특화 최적화에 그치는지 확인한다.
    • 연구소가 공개하는 자동화 비율이 ‘연구 아이디어 제안’인지 ‘전체 개발 사이클 완결’인지 구분한다.
    • 모델 훈련에 들어가는 컴퓨팅 예산과 전력 조달 계획이 함께 공개되는지 본다. 인프라 투자 없이 자기개선을 주장하면 일단 의심하는 게 맞다.
    • 안전성 검증(레드팀, 정렬 평가) 절차가 자동화 속도와 함께 강화되고 있는지 살핀다.

    Q&A로 정리하는 핵심 3가지

    Q. RSI가 실현되면 AI 개발자 일자리는 사라지나?
    연구개발의 반복 작업(실험 설계, 코드 리뷰 보조)은 자동화 폭이 커지겠지만, 문제 정의와 검증 기준 설정 같은 상위 판단은 당분간 인간 영역으로 남는다는 분석이 우세하다.

    Q. RSI와 오픈소스 모델은 어떤 관계가 있나?
    오픈소스 진영도 자체 파인튜닝 자동화 도구를 늘리는 중이다. 다만 대규모 재훈련에 필요한 컴퓨팅 자원 격차 탓에, 상업 연구소 대비 루프 속도는 여전히 느리다.

    Q. 몇 년 안에 RSI가 본격화될까?
    정해진 답은 없다. 검증 비용과 전력 인프라, 이 두 병목이 동시에 풀려야 하는 문제라서 단일 기술 돌파보다는 인프라 투자 속도가 실제 타임라인을 좌우할 가능성이 크다.

    참고: MIT Tech Review AI 보도 내용을 바탕으로 정리했다.

  • 파운드리란? 헤지펀드가 4억 달러 건 반도체 위탁생산 뜻 정리

    파운드리란? 헤지펀드가 4억 달러 건 반도체 위탁생산 뜻 정리

    헤지펀드 하나가 반도체 스타트업에 4억 달러를 꽂았다는 소식, 어제(8월 9일) 업계 단톡방이 시끄러웠다. 4억 달러, 스타트업 투자치고는 꽤 큰 액수다. 그런데 정작 파운드리가 뭔지 제대로 설명할 수 있는 사람은 의외로 적다. 팹리스, IDM, 위탁생산… 반도체 뉴스만 보면 용어가 뒤섞여서 머리가 지끈거린다. 실무자 눈높이로, 개념부터 투자 흐름까지 한 번에 정리해본다.

    파운드리, 정확히 뭘 만드는 곳인가

    파운드리는 남이 그린 설계도를 받아 실제 칩으로 찍어내는 위탁생산 공장이다. 옷으로 비유하면 이해가 빠르다. 디자이너가 도안을 그리면, 봉제 공장이 실제 옷을 만든다. 딱 그 구조다. 반도체 하나를 만드는 데는 웨이퍼 가공, 노광, 식각, 증착 같은 수백 개 공정이 필요하다. 이 설비를 갖추는 데만 수조 원이 들어간다. 그러니 설계만 하는 회사와 생산만 전담하는 회사, 둘로 산업이 갈릴 수밖에 없었다.

    팹리스와 파운드리, 헷갈리면 이렇게 외우자

    팹리스는 공장(fab) 없이(less) 설계만 하는 회사다. 엔비디아, 퀄컴, 애플이 대표 주자다. 이들은 칩을 직접 찍어내지 않는다. 설계도만 파운드리에 넘긴다. 파운드리는 반대다. 설계는 안 하고 남의 도면대로 생산만 한다. 정리하면 이렇다.

    • 팹리스: 설계 전담, 생산은 외주
    • 파운드리: 생산 전담, 설계는 안 함
    • IDM: 설계와 생산을 한 회사가 다 함

    삼성전자는 파운드리인데 왜 IDM이라 불릴까

    삼성전자는 메모리 반도체를 직접 설계하고 만든다. 동시에 다른 회사 설계도를 받아 위탁생산도 해준다. 이 구조를 IDM, 종합반도체기업이라 부른다. 파운드리 사업부만 떼어놓고 보면 TSMC와 맞붙는 위탁생산 업체다. 메모리 사업부는 자체 브랜드로 제품을 판다. 완전히 다른 두 사업이 한 회사 안에 붙어 있는 셈. 인텔도 비슷한 길을 걷는 중이다. 자체 CPU를 만들면서 파운드리 사업을 키우고 있다.

    AI 붐이 파운드리로 돈을 끌어당기는 이유

    AI 모델을 돌리려면 GPU 같은 고성능 칩이 대량으로 필요하다. 그런데 이걸 찍어낼 수 있는 최첨단 공정 라인은 전 세계에 손에 꼽을 정도다. 수요는 폭증하는데 생산 능력은 그대로다. 새 파운드리를 세우거나 관련 스타트업에 돈을 넣으려는 자금이 몰릴 수밖에 없다. 헤지펀드나 벤처캐피털이 반도체 제조 스타트업에 수억 달러 단위로 베팅하는 사례가 늘어나는 배경도 여기 있다. 칩 하나가 부족하면 AI 서비스 전체가 병목에 걸린다. 생산 능력 자체가 곧 경쟁력인 시대다. 딱 그렇게 됐다.

    TSMC 한 곳에 쏠린 시장, 부담은 없나

    지금 최첨단 공정(3나노 이하) 생산은 TSMC가 압도적으로 쥐고 있다. 애플, 엔비디아, AMD 같은 굵직한 팹리스 기업들이 전부 TSMC 라인을 예약하려고 줄을 선다. 한 회사에 생산이 쏠리면 어떻게 될까. 지정학적 리스크 하나, 자연재해 하나로 전 세계 IT 공급망이 통째로 흔들린다. 솔직히 이 구조, 좀 아슬아슬하다. 미국과 유럽이 자국 내 파운드리 건설에 보조금을 쏟아붓는 것도, 새 칩 스타트업에 투자금이 몰리는 것도 결국 이 쏠림을 줄이려는 몸부림으로 보면 된다.

    알아두면 쓸모 있는 파운드리 기업들

    • TSMC: 대만, 최첨단 공정 점유율 1위
    • 삼성전자 파운드리: 한국, 2위권, 메모리와 시너지
    • 인텔 파운드리: 미국, 자국 생산 확대 전략의 축
    • 글로벌파운드리: 미국, 레거시 공정 중심
    • SMIC: 중국, 자국 수요 대응용

    여기에 더해 AI 전용 칩을 만들겠다는 스타트업들이 새 파운드리 라인이나 패키징 기술에 투자를 받는 사례가 늘고 있다. 이름은 낯설어도 뒤에 붙은 투자자 면면을 보면 시장이 어디에 돈을 거는지 감이 온다.

    투자 뉴스 볼 때 이 세 가지만 체크하자

    어떤 회사가 파운드리에 투자했다는 뉴스를 접했을 때, 확인해두면 좋은 지점이 세 가지 있다.

    • 어느 공정(나노미터) 라인에 투자하는지
    • 고객사가 이미 확보돼 있는지, 아니면 수요를 기대만 하는 단계인지
    • 투자자가 재무적 투자자인지, 아니면 향후 칩을 직접 쓸 전략적 투자자인지

    이 세 가지만 짚어봐도 그 투자가 단순한 자금 지원인지, 공급망을 통째로 바꾸려는 큰 그림인지 구분이 된다. 다음에 반도체 투자 뉴스가 뜨면, 이 체크리스트부터 떠올려보면 좋겠다.

    출처: TechCrunch

  • 클로드코드 vs 오픈소스 코딩 모델, 실무에선 뭘 써야 하나

    클로드코드 vs 오픈소스 코딩 모델, 실무에선 뭘 써야 하나

    코드 한 줄만 부탁했는데 프로젝트 구조 전체를 알아서 짜준다. 요즘 얘기다. 개발자 커뮤니티에는 클로드 코드로 하루 만에 예전 팀 프로젝트급 결과물을 뽑아냈다는 후기가 꾸준히 올라온다. 동시에 오픈소스 쪽에서도 심상치 않은 움직임이 있다. B200 GPU 48장으로 나흘 만에 코딩 특화 모델을 학습시켜 공개한 사례가 나온 거다. 문제는 이거다. 막상 실무에 도입하려니 뭘 골라야 할지 감이 안 온다. 상용 AI 코딩툴과 오픈소스 모델은 접근 방식부터 완전히 다르다. 성능 숫자만 보고 결정했다가는 나중에 후회하기 십상이다.

    AI 코딩 어시스턴트, 뭐가 다른가

    큰 틀에서 보면 두 갈래다. 클로드 코드, 깃허브 코파일럿, 커서 같은 상용 에이전트형 툴 하나. 허깅페이스에 가중치를 공개하는 오픈소스 코딩 모델이 다른 하나다. 전자는 코드 생성은 기본이고 파일 탐색, 터미널 명령 실행, 테스트 실행까지 하나의 워크플로우로 묶어놨다. 후자는 모델 자체 성능을 API나 로컬 환경에 붙여 쓰는 방식이다. 이름은 똑같이 ‘코딩 AI’인데, 써보면 경험이 꽤 다르다.

    클로드코드류 에이전트형 툴, 뭐가 강한가

    상용 툴이 앞서는 지점은 단순 코드 생성이 아니다. 작업을 끝까지 완수하는 능력이다. 구글의 한 엔지니어가 자기 팀이 1년 걸려 만든 분산 에이전트 오케스트레이션 시스템을, 클로드 코드에 세 문단짜리 설명만 던져주고 한 시간 만에 근사치로 뽑아낸 사례가 화제였던 것도 이 때문이다. 실무에서는 코드를 짜는 시간보다 여러 파일을 오가며 컨텍스트를 붙잡고, 에러 나면 스스로 고쳐보는 반복 작업이 훨씬 비중이 크다. 이 부분, 에이전트형 툴이 확실히 한 수 위다.

    • 파일 시스템과 터미널을 직접 다루는 에이전트 워크플로우
    • 대화형으로 요구사항을 다듬어가며 반복 개선 가능
    • 별도 인프라 구축 없이 바로 쓰는 접근성

    오픈소스 코딩 모델이 뜨는 이유

    오픈소스 진영은 투명성과 재현 가능성을 무기로 든다. 크립토 벤처 파라다임 투자를 받은 누스 리서치가 내놓은 NousCoder-14B가 대표 사례다. 알리바바의 Qwen3-14B를 베이스로 강화학습을 거쳤고, 경쟁 프로그래밍 벤치마크 LiveCodeBench v6에서 정확도를 7%포인트 넘게 끌어올렸다. 여기서 볼 대목은 따로 있다. 모델 가중치만 던져준 게 아니라, 검증 가능한 보상 신호로 학습시키는 강화학습 환경과 훈련 코드 전체를 아파치 2.0 라이선스로 풀었다는 점. 이러면 연구자가 같은 방식으로 재현하거나 다른 도메인에 응용할 여지가 생긴다.

    학습 방식도 재미있다. 모델이 코드를 생성하면 실제로 돌려서 테스트 케이스를 통과하는지 아닌지, 이진 신호로만 피드백을 준다. 여기에 DAPO라는 동적 샘플링 기법을 붙여서, 이미 다 맞히거나 다 틀리는 문제는 학습에서 빼는 식으로 효율을 끌어올렸다. 학습에는 24,000개의 경쟁 프로그래밍 문제를 썼는데, 연구진 스스로 이게 인터넷에 존재하는 검증 가능한 문제 풀 규모와 비슷한 수준이라고 밝혔다. 데이터가 무한하지 않다는 얘기, 은근히 무겁게 다가온다.

    벤치마크 숫자만 믿으면 안 되는 이유

    벤치마크 점수 높다고 바로 실무에 갖다 쓸 수 있는 건 아니다. NousCoder-14B는 경쟁 프로그래밍 문제 풀이에 최적화된 모델이다. 단발성 문제 해결에는 강한데, 이게 에이전트형 작업 — 여러 파일을 오가며 대규모 코드베이스를 리팩터링하는 작업 — 에도 똑같이 강한지는 별개 질문이다. 실제로 공개 직후 커뮤니티에서 “원샷 코딩이냐 에이전틱 작업이냐”를 묻는 질문이 나왔을 정도. 벤치마크는 특정 조건에서의 스냅샷일 뿐이다. 자기 워크플로우와 벤치마크가 재는 능력이 얼마나 겹치는지부터 따져봐야 한다.

    비용과 데이터 보안, 실무에서 진짜 갈리는 지점

    결정적으로 갈리는 건 결국 비용 구조와 데이터 통제권이다. 상용 툴은 구독료나 API 사용량 기반 과금이라 초기 진입은 쉽다. 다만 사용량이 늘수록 비용도 비례해서 커진다. 반면 오픈소스 모델은 초기에 GPU 인프라를 갖추거나 클라우드 임대 비용이 든다. 대신 세팅만 끝내두면 사내 코드가 외부 서버로 안 나간다는 게 큰 장점이다. 금융권이나 보안 민감 업종에서 오픈소스 모델을 자체 서버에 올려 쓰는 사례가 늘어나는 것도 이 때문이다.

    • 상용 에이전트형: 빠른 도입, 높은 완성도, 대신 사용량 기반 비용과 외부 서버 의존
    • 오픈소스 모델: 초기 인프라 비용 발생, 대신 데이터 통제권과 커스터마이징 자유도 확보
    • 하이브리드: 민감한 코드는 오픈소스 모델로, 반복 작업은 에이전트형 툴로 나눠 쓰는 방식도 늘어나는 추세

    결국 뭘 골라야 하나

    1인 개발자나 소규모 팀이면 굳이 인프라 구축할 필요 없다. 상용 에이전트형 툴로 시작하는 게 합리적이다. 반대로 사내 코드 유출이 민감한 조직이거나, 특정 도메인 — 경쟁 프로그래밍이든 특정 언어 특화든 — 에 맞춰 모델을 파인튜닝하고 싶다면 오픈소스 쪽이 장기적으로 남는 게 많다. 하나 더 기억해둘 점. 오픈소스 코딩 모델의 학습 데이터가 이미 인터넷상 검증 가능한 문제 풀에 근접했다는 연구진 언급, 그냥 지나칠 얘기가 아니다. 앞으로는 모델이 스스로 문제를 만들고 풀어보는 셀프플레이 방식 연구가 관건이 될 가능성이 크다. 지금 어떤 툴을 쓰든, 이 흐름이 도구 선택 기준 자체를 계속 바꿔놓을 걸로 보인다.

    출처: VentureBeat AI