딥시크가 GPT-4급 성능을 공짜로 풀어버렸다. 그 뒤로 AI 업계 판도가 흔들린다. 수십억 달러 쏟아부은 폐쇄형 모델과, 누구나 내려받아 쓰는 오픈소스 모델 사이 성능 차이가 갈수록 줄어드는 중. 이러다 보니 “굳이 비싼 API 써야 하나” 고민하는 개발자와 기업이 확 늘었다. 두 진영 실질적인 차이, 그리고 상황별로 뭘 골라야 하는지 한번 정리해봤다.
오픈소스와 폐쇄형, 뭐가 근본적으로 다른가
오픈소스 AI는 모델 가중치(weights)를 통째로 공개한다. 누구든 내려받아 자기 서버에 올리거나 뜯어고칠 수 있다는 뜻. 반대로 폐쇄형 AI는 모델 내부를 절대 안 보여준다. 회사가 만든 API나 앱을 통해서만 만날 수 있다. 겉보기엔 둘 다 그냥 챗봇인데, 운영 방식이나 비용 구조, 책임 소재까지 보면 완전히 다른 게임이다.
- 오픈소스: 자체 서버 운영, 무료 또는 저비용, 커스터마이징 자유
- 폐쇄형: 클라우드 API 호출, 사용량 기반 과금, 회사가 모든 운영 책임
요즘 뜨는 오픈소스 모델 라인업
딥시크(DeepSeek)가 저비용 고성능으로 한바탕 뒤집어놓은 이후, 중국계 모델들이 무섭게 치고 올라왔다. 알리바바 큐원(Qwen) 시리즈는 코딩이랑 다국어 처리에서 확실히 강하고, 메타 라마(Llama)는 미국 진영에서 가장 널리 쓰이는 오픈소스 기반 모델이다. 프랑스 미스트랄(Mistral)도 경량 모델로 개발자들 사이에서 은근히 자주 언급된다.
- 딥시크 — 저비용 학습으로 업계에 충격 준 모델, 추론 성능 강점
- 큐원 — 코딩·수학 벤치마크 상위권, 다국어 지원 우수
- 라마 — 커뮤니티 생태계 가장 큰 오픈소스 계열
- 미스트랄 — 가볍고 빠른 실행, 온디바이스 환경에 적합
그래도 폐쇄형이 아직 앞서는 부분
GPT, 클로드, 제미나이 같은 폐쇄형 모델은 벤치마크 숫자 이상의 걸 준다. 안정적인 인프라, 끊임없는 업데이트, 이미지·음성까지 아우르는 멀티모달, 기업 고객용 SLA와 지원 체계까지. 오픈소스 모델을 직접 돌리려면 GPU 서버 관리부터 튜닝까지 전부 떠안아야 한다. 이 진입장벽, 생각보다 만만치 않다.
벤치마크 점수, 곧이곧대로 믿어도 되나
모델 발표 자료에 나오는 벤치마크 점수는 참고용일 뿐이다. 학습 데이터에 벤치마크 문제랑 비슷한 내용이 섞여 있는 경우도 있고, 실제 업무에서 마주치는 애매한 질문이나 긴 맥락 처리 능력은 표준 벤치마크로 잘 안 드러난다. 코딩 작업이면 자기 프로젝트 코드를 직접 넣어서 테스트해보는 게 숫자 비교보다 훨씬 정확하다. 이건 진짜 써봐야 안다.
비용부터 커스터마이징까지, 고르는 기준
- 비용: 호출량 많으면 오픈소스 자체 호스팅이 장기적으로 저렴, 소규모라면 API 종량제가 오히려 이득
- 데이터 통제: 민감 정보 다룬다면 오픈소스 온프레미스 배포가 유리
- 유지보수 인력: GPU 인프라 관리할 팀 없으면 폐쇄형 API가 편함
- 최신 기능: 멀티모달, 실시간 검색 연동 등은 아직 폐쇄형이 한발 앞섬
회사에서 도입할 때 놓치기 쉬운 보안 문제
해외 API에 사내 데이터를 통째로 넘기는 게 부담스러운 조직이라면, 오픈소스 모델을 사내망에 격리해서 돌리는 방식을 검토할 만하다. 다만 중국계 오픈소스 모델 쓸 때는 데이터 주권이나 규제 이슈를 미리 법무팀과 확인해두는 게 안전하다. 반대로 폐쇄형 API 쓴다면 계약서상 데이터 보관·학습 활용 조항을 꼼꼼히 챙겨야 나중에 탈이 안 난다.
결국 뭘 골라야 하나
개인 개발자나 스타트업이 빠르게 프로토타입 만들 때는 폐쇄형 API로 시작하는 게 속도 면에서 유리하다. 반대로 대량의 요청을 처리하거나 데이터를 밖으로 못 내보내는 환경이라면, 오픈소스 모델을 자체 서버에 올리는 쪽이 장기적으로 남는 장사다. 하나만 고집할 필요는 없다. 민감한 작업은 오픈소스로, 복잡한 멀티모달 작업은 폐쇄형 API로 나눠 쓰는 하이브리드 전략, 요즘 부쩍 늘고 있다.
이것도 궁금하죠?
Q. 오픈소스 모델을 개인 컴퓨터에서 돌릴 수 있나?
가능하다. 7B~14B급 경량 모델이면 그래픽카드 메모리 16GB 정도로도 돌아가고, 올라마(Ollama) 같은 도구 쓰면 설치도 어렵지 않다.
Q. 딥시크 같은 중국산 모델, 써도 괜찮나?
모델 자체는 오픈소스로 공개돼 있어서 코드를 직접 뜯어볼 수 있다. 다만 공식 웹·앱 서비스를 이용할 경우 서버가 해외에 있다는 점은 감안해야 한다. 민감한 데이터라면 로컬 배포로 돌리는 편이 안전하다.
Q. 성능 차이가 이제 거의 없다는 말, 맞나?
코딩이나 요약 같은 범용 작업에서는 격차가 많이 줄었다. 하지만 복잡한 추론이나 최신 정보 반영이 필요한 작업에서는 폐쇄형 모델이 근소하게 앞서는 경우가 여전히 많다.
MIT 테크놀로지 리뷰가 전한 바에 따르면, 중국계 AI 모델의 확산이 이런 흐름에 불을 붙였다고 한다. 원문 보기