엔비디아가 데이터센터용 GPU 시장을 사실상 싹쓸이하는 동안, 그 자리를 노리는 스타트업들에 실리콘밸리 투자금이 꾸준히 몰리고 있다. 이 회사들 대부분은 상장 전이라 개인이 접근하기 힘들고 이름조차 낯설다. 그래서 정리해봤다. 업계에서 실제로 거론되는 AI 반도체 스타트업 5곳, 각자 노리는 시장, 엔비디아와 다른 점을 최대한 실무적으로 풀었다.
GPU 하나로는 부족한 이유
GPU는 원래 그래픽 연산용 범용 병렬 프로세서다. AI 학습과 추론에 강하긴 한데, 범용이라는 게 발목을 잡는다. 특정 연산 하나에만 회로를 몰아준 전용 칩(ASIC)보다 전력 효율이 떨어질 수밖에 없다는 얘기다. 데이터센터 전기료가 손익을 좌우하는 시대다. 트랜스포머 연산 하나만 파고든 칩이 같은 작업을 훨씬 적은 전력으로 처리한다면, 대형 클라우드 업체 입장에선 갈아탈 이유가 생긴다. 지금 도전자들이 노리는 틈이 바로 여기다.
Etched — 트랜스포머 전용 칩 ‘소하(Sohu)’
Etched는 GPU의 범용 회로를 걷어내고 트랜스포머 아키텍처 연산만 처리하는 칩 ‘소하’를 만들고 있다. 회로를 특정 연산에만 맞췄더니, 같은 트랜스포머 기반 모델을 돌릴 때 엔비디아 최상급 GPU보다 처리량이 수 배 높다는 자체 벤치마크를 내놨다. 단점도 뚜렷하다. 트랜스포머가 아닌 다른 구조의 모델이 대세가 되면 이 칩은 그대로 무용지물이다. 구조 자체가 베팅이다. 그런데도 최근 시리즈 투자에서 조 단위 기업가치를 인정받으며 투자 시장의 뜨거운 화두로 떠올랐다.
Groq — 추론 속도에 올인한 LPU
Groq는 학습이 아니라 추론(inference) 속도에 몰빵했다. LPU(Language Processing Unit)라는 이름부터가 그 증거다. 챗봇처럼 사용자가 답변을 실시간으로 받아야 하는 서비스에서 응답 지연이 눈에 띄게 줄어드는 게 강점이다. 실제로 자사 데모 사이트에 들어가 보면, 대형 언어모델이 사람이 텍스트를 읽는 속도보다 빠르게 답을 뽑아내는 걸 확인할 수 있다. 다만 메모리 용량 한계가 발목을 잡는다. 초대형 모델 하나를 통째로 올리려면 칩을 대량으로 묶어야 하는데, 이게 곧 비용 문제로 돌아온다.
Cerebras — 웨이퍼 한 장이 칩 하나
Cerebras의 접근법은 반도체 업계 상식을 뒤집는다. 보통 웨이퍼 한 장에서 칩을 수백 개씩 잘라내는데, 이 회사는 웨이퍼 한 장 전체를 칩 하나로 쓴다. 웨이퍼 스케일 엔진이다. 칩 간 통신 병목이 사라지니 초거대 모델 학습에서 속도 이점이 크다. 실제로 일부 국가 연구기관과 제약사가 슈퍼컴퓨터 대체용으로 도입한 사례도 있다. 관건은 제조 수율과 단가다. 대량 보급까지는 아직 시간이 더 필요하다는 평가가 나온다.
SambaNova — 기업 내부망 특화
SambaNova는 클라우드가 아니라 기업 내부 데이터센터에 시스템을 통째로 납품하는 쪽에 무게를 둔다. 금융, 정부기관처럼 데이터를 외부로 내보낼 수 없는 조직이 주 고객이다. 소프트웨어 스택까지 하드웨어와 묶어 패키지로 제공해 도입 문턱을 낮췄다. 벤치마크 경쟁보다는 규제 산업이라는 확실한 틈새를 파고드는 전략, 이게 이 회사의 승부수다.
Tenstorrent — 개방형 생태계로 승부
반도체 전설로 불리는 짐 켈러가 이끄는 Tenstorrent는 폐쇄적인 소프트웨어 스택 대신 오픈소스 툴체인을 밀고 있다. 엔비디아의 CUDA 종속에서 벗어나고 싶어하는 개발자와 기업이 늘어나는 흐름을 정면으로 겨냥한 셈이다. 대형 클라우드 채택 사례는 아직 제한적이다. 다만 라이선싱 모델을 통해 다른 반도체 회사에 설계 자산을 넘기는 방식으로도 수익을 낸다. 이건 좀 우회적인 전략인데, 의외로 통할 수도 있다.
돈은 왜 이쪽으로 몰리나
이런 회사들 상당수는 아직 비상장이라 개인이 주식을 사기 쉽지 않다. 그런데도 벤처캐피털은 물론 개인 투자자들까지 지분을 확보하려고 여러 경로를 찾는다. 초기 라운드에 참여한 펀드의 지분을 세컨더리 마켓에서 되사거나, SPV(특수목적법인)를 통해 소액으로 묶어 투자하는 방식이 대표적이다. 이런 구조는 창업 초기 인맥이나 지역 네트워크로 배정 물량을 확보한 소수 투자자에게 유리하게 돌아가는 경우가 많다. 정작 정보가 늦은 개인 투자자는 뒤늦게 프리미엄을 얹어 지분을 사게 되는 구조적 한계가 있다. 이건 솔직히 좀 불공평하다.
결국 지켜봐야 할 곳은 이 2곳
단기간에 엔비디아 점유율을 크게 뺏을 곳을 하나만 꼽으라면 무리다. 응용 분야별로 나눠 보면 답이 갈린다. 실시간 응답이 핵심인 서비스라면 Groq의 추론 속도, 트랜스포머 구조에 베팅한 초고속 처리라면 Etched의 소하 칩이 가장 먼저 언급된다. 나머지 세 곳은 특정 산업이나 개발자 생태계라는 좁지만 확실한 시장을 노린다. 성장 속도는 느려도 생존 가능성은 오히려 안정적이라는 시각도 있다.
Q&A — 이것도 궁금하죠?
Q. 이런 스타트업에 개인도 투자 가능한가?
대부분 비상장이라 직접 주식을 사기는 어렵다. 다만 일부 크라우드펀딩 플랫폼이나 세컨더리 마켓을 통해 제한적으로 접근하는 경로가 있다.
Q. Etched의 소하 칩은 언제 실제 제품으로 나오나?
회사 측은 출시 로드맵을 공개했다. 다만 반도체는 설계부터 양산까지 보통 2~3년이 걸리는 산업이다. 발표 시점과 실제 서비스 적용 시점 사이에는 간극이 생기기 마련이다.
Q. 이 회사들이 엔비디아를 실제로 위협할 수 있나?
전체 시장 점유율을 뒤집기보다는 특정 응용 분야에서 점유율을 조금씩 잠식하는 형태가 될 가능성이 크다. 엔비디아도 소프트웨어 생태계라는 강력한 해자를 갖고 있어 단기간에 판이 뒤집히긴 어렵다.
출처: TechCrunch