[태그:] ChatGPT

오픈AI 에이전트가 수십 년째 안 풀리던 수학 난제를 풀었다는 소식이 떴다. 코드 몇 줄 짜주고 이메일 초안이나 잡아주던 그 AI 맞나 싶다. 대학원 수준 증명 문제까지 건드린다니, 솔직히 처음 봤을 땐 좀 의심부터 들었다. 이 변화 뒤에는 ‘추론 모델(reasoning model)’이라는 새로운 방식이 있다. 정확히 뭔지, 일반 챗봇이랑 뭐가 다른지, 실무에서 언제 꺼내 쓰면 되는지 정리해봤다.

추론 모델, 그래서 정확히 뭐냐면

질문 받자마자 바로 답부터 뱉는 게 아니라, 문제를 잘게 쪼개서 단계별로 따져본 다음에 결론을 내는 방식이다. 사람이 어려운 수학 문제 풀 때 종이에 풀이 과정 적어가면서 검산하는 것, 딱 그 구조다. 이걸 체인 오브 소트(Chain of Thought)라고 부른다. 모델이 스스로 ‘이 접근 맞나?’ 되짚어보고, 틀렸다 싶으면 다른 경로로 다시 계산한다. 오픈AI의 o1, o3 계열이나 그 이후 모델들이 대표 사례다. 이 구조 덕분에 복잡한 논리 문제나 수학 증명에서 정답률이 눈에 띄게 올라갔다.

일반 챗봇이랑 뭐가 다르냐

속도와 정확도, 이 둘의 트레이드오프로 요약된다.

• 일반 모델: 몇 초 안에 답이 나온다. 일상 대화나 간단한 요약엔 이거로 충분하다.
• 추론 모델: 답 나오기까지 수십 초에서 몇 분씩 걸리고 토큰도 훨씬 많이 먹는다. 대신 여러 단계 거쳐야 하는 수학·코딩·논리 문제에서 오답률이 크게 준다.
• 오늘 날씨 물어보는 수준 질문에 추론 모델 켜는 건… 시간과 비용만 날리는 짓이다.

AI가 갑자기 수학을 잘하게 된 진짜 이유

핵심은 강화학습 방식이 바뀐 데 있다. 예전엔 사람이 답변 품질을 채점하는 방식(RLHF)이 주류였다. 근데 이 방식, 문장이 자연스러운지는 잘 판단해도 수학 정답이 맞는지는 정확히 못 걸러냈다. 최근엔 답이 명확하게 검증되는 문제, 그러니까 수학이나 코딩 문제로 강화학습을 시키는 쪽으로 자리 잡았다. 정답을 자동으로 채점할 수 있으니까, 모델이 혼자 수백만 번 풀이를 시도하고 틀리면 페널티를 받는 식으로 훈련된다. 여기에 계산기나 코드 실행기 같은 외부 도구를 직접 불러다 검산하는 에이전트 형태까지 붙으면서, 사람이 몇 주씩 매달릴 증명 작업을 AI가 대신 시도해보는 사례까지 나왔다. 실제로 오픈AI 에이전트가 오랫동안 미해결로 남아있던 수학 문제 하나를 풀어낸 게 이번 소식인데, 그 배경에 바로 이 검증 가능한 보상 구조가 있다.

지금 나와 있는 대표 추론 모델들

• 오픈AI o1 / o3 계열: 최초로 대중화된 추론 특화 모델. 수학 올림피아드급 문제나 박사급 과학 질문에서 강하다.
• 구글 제미나이(Gemini) 씽킹 모델: 추론 과정을 공개하는 옵션이 있어서 검증이 상대적으로 쉽다.
• 클로드(Claude)의 확장 사고(Extended Thinking): 필요할 때만 깊게 생각하도록 조절 가능하다. 비용 관리 면에서 이게 편하다.
• 딥시크(DeepSeek) R1: 오픈소스로 풀렸다. 직접 서버에 올려서 돌릴 수 있다는 게 제일 큰 차별점.

실제로 써보면 언제 효과 보나

이런 상황에서는 확실히 차이가 느껴진다.

• 여러 파일에 걸쳐 원인을 추적해야 하는 복잡한 버그 디버깅
• 통계 문제나 확률 계산처럼 중간 단계가 많은 수학 문제
• 계약서나 논문처럼 논리적 허점을 찾아야 하는 검토 작업
• 조건 여러 개를 동시에 고려해야 하는 일정·예산 최적화

반대로 이메일 답장, 짧은 문서 요약, 잡담 같은 건 일반 모델로 충분하다. 굳이 추론 모델 켜봐야 답변만 늦어진다.

한계도 분명히 있다

추론 모델이라고 만능은 아니다. 풀이 과정이 그럴싸해 보여도 중간에 계산 실수가 섞여 있는 경우가 종종 있다. 자릿수 많은 계산에서는 여전히 틀린다. 결과를 그냥 믿기보다 핵심 숫자는 직접 검산하는 습관, 들이는 게 안전하다. 비용도 문제다. 일반 모델보다 토큰을 몇 배씩 먹기 때문에, 매번 추론 모델만 돌리면 API 비용이 생각보다 빨리 불어난다.

결국 뭘 골라야 하나

기준은 단순하다. 답이 명확하게 검증되는 수학·코딩·논리 문제면 추론 모델 켜고, 속도가 급한 일상 업무면 일반 모델로 가면 된다. 상황 봐가며 두 방식을 오가는 게 지금으로선 제일 현실적인 활용법이다. 앞으로 두 계열 모델의 경계는 점점 흐려질 거고, 언젠가는 이런 구분 자체가 무의미해질지도 모른다.

출처: MIT Tech Review AI

체스판에서는 이미 인간을 한참 앞서간 AI다. 그런데 초등학생도 곧잘 푸는 미로 찾기나 성냥개비 퍼즐 앞에서는 자주 멈칫한다. GPT, 클로드, 제미나이 같은 최신 모델에 논리 퍼즐 몇 개만 던져봐도 이 허점은 금방 드러난다. 점수판 숫자는 화려한데, 막상 손으로 풀려보면 딴판인 경우가 꽤 많다. 왜 이런 일이 생기는지, AI 성능을 제대로 가늠하려면 뭘 봐야 하는지 정리해봤다.

AI 벤치마크, 대체 뭘 재는 시험일까

AI 벤치마크는 모델 능력을 숫자로 비교하려고 만든 표준화된 문제 세트다. 사람으로 치면 수능이나 토익 같은 거다. 개발사들이 신모델 낼 때마다 “전작보다 몇 % 향상”이라고 내세우는 근거가 바로 이 점수인데, 문제는 시험 종류가 너무 많고 시험마다 재는 능력도 제각각이라는 점이다. 수학은 잘 푸는데 상식 문제엔 헤매는 모델도 있고, 코딩은 잘하면서 공간 추론은 형편없는 경우도 흔하다.

실무에서 자주 쓰는 AI 지능 테스트 5가지

업계에서 자주 인용되는 테스트를 추려보면 이렇다.

• MMLU: 역사, 법학, 의학 등 57개 분야 객관식 문제로 폭넓은 지식을 잰다
• GPQA: 박사급 전문가도 쩔쩔매는 과학 문제 모음. 구글 검색으로도 못 푸는 난이도가 특징이다
• HumanEval / SWE-bench: 실제 코드 작성과 버그 수정 능력을 평가하는 코딩 테스트
• ARC-AGI: 색깔 블록 패턴을 보고 규칙을 유추하는 문제. 사람은 직관적으로 풀지만 AI는 여전히 낮은 점수대에 머문다
• 체스·바둑·전략 게임 벤치마크: 규칙이 명확한 환경에서 계획 세우는 능력을 확인한다

AI가 유독 못 푸는 문제들

언어 기반 지식 문제는 해마다 점수가 쭉쭉 오르는데, 공간 추론이나 시각 패턴 문제는 진전이 더디다. ARC-AGI처럼 “규칙을 직접 찾아내야 하는” 문제에서는 상위권 모델조차 20~30% 정답률에 그치는 일이 많다. 물체 개수 세기, 미로 경로 찾기, 시각적 대칭 판단처럼 사람에겐 거의 본능에 가까운 작업이 AI한테는 오히려 어렵다. 학습 데이터에 정답 패턴이 충분치 않거나, 언어로 설명하기 힘든 감각적 판단이 필요한 영역이라 그렇다.

벤치마크 점수만 믿고 모델 고르면 안 되는 이유

벤치마크 점수와 실제 써본 경험이 어긋나는 경우, 생각보다 잦다. 원인은 크게 두 가지다. 하나는 데이터 오염. 벤치마크 문제와 정답이 이미 학습 데이터에 들어가 있으면, 모델이 “풀었다”기보다 “외웠다”에 가깝다. 다른 하나는 리더보드 최적화다. 특정 시험 점수 올리는 데만 튜닝을 집중하면 다른 영역 성능이 희생되기도 한다. 그래서 회사들이 내놓는 벤치마크 표만 믿고 도구를 정하면, 막상 써봤을 때 실망하는 일이 생긴다. 이건 좀 억울한 부분이다.

내 손으로 직접 AI 지능 테스트 해보는 법

직접 확인하고 싶다면 이런 방식이 유용하다.

• 같은 논리 퍼즐을 챗봇 3~4개에 동시에 물어보고 답을 비교한다
• 정답보다 풀이 과정을 요구해서 논리가 맞는지 확인한다 (답만 맞고 과정은 틀린 경우가 의외로 많다)
• 숫자 세기, 방향 감각, 시간 계산처럼 쉬워 보이지만 헷갈리는 문제로 테스트한다
• 같은 질문을 표현만 바꿔서 두 번 물어보고 답이 일관되는지 본다
• 실제로 반복하는 업무, 그러니까 이메일 작성이나 코드 리뷰, 데이터 정리 같은 걸로 직접 검증한다

벤치마크 사이트 점수보다 이런 실전 테스트가 도구 선택엔 훨씬 도움이 된다.

결국 뭘 기준으로 골라야 하나

벤치마크는 대략적인 방향 잡는 참고 자료 정도로 보면 된다. 코딩용이면 SWE-bench나 HumanEval 점수를, 학습·연구용이면 MMLU나 GPQA 점수를 먼저 확인하고, 최종 판단은 본인이 자주 쓰는 업무로 직접 테스트해서 내리는 게 안전하다. 점수표 상위권이라고 무조건 최선은 아니다. 특정 영역에서 약점이 뚜렷한 모델이 다른 영역에서는 압도적인 경우도 많다. 결국 벤치마크를 보는 이유는 하나다. 내 용도에 맞으면서 약점 없는 모델을 찾는 것.

출처: MIT Tech Review AI

챗GPT 주간 사용자, 8억 명. 어마어마한 숫자다. 근데 정작 코드 짜고 데이터 뽑는 데 쓰는 사람은 소수라는 조사 결과가 나왔다. 다들 AI를 업무 혁신 도구라 부르면서, 실제로 제일 많이 하는 건 이메일 초안 하나 다듬는 일이라는 얘기다. 그래서 실제로 사람들이 AI를 어디에, 어떻게 쓰는지 — 손해 안 보고 제대로 활용하는 법을 정리해봤다.

숫자와 실제 사용법, 꽤 다르다

AI 기업들이 내놓는 사용량 보고서엔 늘 생산성 혁신, 코드 자동화 같은 화려한 사례가 앞줄에 선다. 그런데 실제 사용 로그는 다른 얘기를 한다. 가장 많이 쓰이는 건 단순 텍스트 작성, 요약, 그리고 검색 대신 던지는 질문이다. 개발자 커뮤니티만 봐도 코딩 어시스턴트로 산다는 사람보다 귀찮은 문서 정리에 쓴다는 사람이 훨씬 많다. 보고서가 보여주는 잠재력과 일상에서 체감하는 활용도, 이 간극이 생각보다 크다.

업무에서 진짜 써먹는 3가지

실전에서 반복되는 패턴은 의외로 단순하다.

• 초안 작성 — 보고서, 이메일, 기획서 뼈대를 잡을 때. 완성본이 아니라 시작점 용도로 쓰면 시간이 확실히 준다.
• 요약과 정리 — 긴 회의록이나 논문, 계약서를 몇 줄로 압축할 때. 원문 대조 없이 그대로 믿는 건 위험하지만, 1차 스크리닝으론 효율적이다.
• 코드 리뷰 보조 — 개발자라면 전체 코드를 통째로 맡기기보다 특정 함수의 버그를 찾거나 리팩터링 아이디어를 물어보는 쪽이 실패율이 낮다.

일상에서는 좀 더 사적으로 쓴다

업무 밖에서는 훨씬 개인적인 용도로 쓰인다. 여행 일정 짜기, 요리 레시피 변형, 아이 숙제 봐주기 — 이런 생활밀착형 질문이 상당수다. 감정적인 고민을 털어놓거나 대화 상대 삼는 사람도 늘고 있다는 조사도 있다. 통계엔 잘 안 잡히는 용도지만, 실제 쓰는 시간으로 치면 업무용보다 긴 경우도 드물지 않다.

ChatGPT, 클로드, 제미나이 — 뭘 언제 쓰나

세 서비스, 비슷해 보여도 강점은 갈린다.

• ChatGPT — 플러그인과 GPTs 생태계가 넓어서 범용 작업에 강하다. 검색 연동도 자연스러운 편.
• 클로드 — 긴 문서를 통째로 넣고 분석시킬 때 안정적이다. 코드 작성이나 리팩터링 평가가 좋다.
• 제미나이 — 구글 문서, 지메일 같은 워크스페이스와 붙여 쓸 때 편하다.

하나만 고집하기보다 작업 성격 따라 갈아타는 사람도 많다. 솔직히 여기서 호불호가 갈린다. 문서 분석은 클로드, 일상 질문은 ChatGPT, 구글 서비스 연동은 제미나이 — 이렇게 나눠 쓰는 조합이 커뮤니티에서 자주 추천된다.

프롬프트 한 줄 차이로 결과가 갈린다

같은 모델이라도 질문 방식에 따라 결과물 품질이 크게 달라진다.

• 맥락을 먼저 준다 — "이 이메일을 정중하게 다듬어줘"보다 "고객 클레임에 답하는 이메일인데, 사과하되 책임은 명확히 하는 톤으로 다듬어줘"가 훨씬 낫다.
• 출력 형식을 지정한다 — 표, 불릿, 글자 수 제한을 미리 알려주면 다시 물어볼 일이 준다.
• 한 번에 끝내려 하지 않는다 — 초안 받은 뒤 "이 부분만 더 짧게" 식으로 이어가는 대화형 사용이 결과가 가장 좋다.

이렇게 쓰면 오히려 손해

AI 답변을 검증 없이 그대로 제출했다가 낭패 보는 사례, 여전히 흔하다. 법률 자문이나 의료 정보처럼 사실관계가 걸린 영역에서는 AI 답변을 최종 근거로 삼으면 안 된다. 최신 뉴스나 실시간 데이터를 물을 때도 학습 시점 이후 정보는 부정확할 여지가 있다. 사내 기밀이나 개인정보를 프롬프트에 그대로 붙여넣는 습관도 보안 사고로 이어질 여지가 있다 — 이건 진짜 조심해야 한다. 쓰기 전에 한 번은 사람이 검토하는 절차, 꼭 두는 게 안전하다.

그 밖에 궁금한 것들

• 무료 버전으로 충분할까? 간단한 요약이나 초안 작업은 무료 플랜으로 충분하다. 다만 긴 문서 분석이나 최신 모델 성능이 필요하면 유료 전환 체감 차이가 크다.
• 회사에서 AI 사용을 막아놨다면? 보안 정책 때문인 경우가 대부분이니, 사내 승인된 도구가 있는지부터 확인하는 게 순서다.
• 어떤 모델이 제일 정확한가? 절대적으로 우월한 모델은 없다. 작업 종류에 따라 강점이 바뀐다. 코드는 클로드, 검색 연동은 ChatGPT 쪽 평가가 대체로 낫다.

출처: MIT Tech Review AI

긴 PDF를 GPT-4나 클로드에 통째로 밀어넣어 본 적 있으면 알 거다. 체감상 확연히 느리다. 짧은 질문과 비교하면 응답이 나오기까지 한참을 기다려야 한다. 이게 서버 과부하 탓만은 아니다. 문서 길이가 두 배 늘어나면 처리에 필요한 연산량이 두 배가 아니라 네 배로 뛰는, 구조 자체의 문제다. 현재 LLM(대형 언어 모델)이 가진 가장 근본적인 한계인 이차 복잡도(Quadratic Complexity)가 여기서 비롯된다.

트랜스포머가 하는 일, 딱 한 줄만

ChatGPT, 클로드, 제미나이. 지금 쓸 수 있는 거의 모든 LLM은 트랜스포머(Transformer) 아키텍처 위에서 돌아간다. 2017년 구글이 내놓은 이 구조의 핵심은 ‘어텐션(Attention)’ 메커니즘이다.

어텐션이 하는 일은 단순하다. 모든 단어가 서로를 얼마나 주목해야 하는지를 계산한다. 예를 들어 “나는 사과를 먹었다. 그것은 맛있었다”에서 ‘그것’이 ‘사과’를 가리킨다는 걸 이해하려면, 문장 안의 모든 단어 조합을 하나하나 대조해야 한다. 이 과정이 어텐션이다.

문제는 이 계산이 단어 수의 제곱에 비례한다는 거다. 100단어짜리 글이라면 100×100=10,000번. 1,000단어짜리라면 1,000×1,000=100만 번. 10배 길어지면 연산은 100배 늘어난다. 입력이 커질수록 비용이 폭발적으로 커지는 구조, 이게 현재 트랜스포머의 숙명이다.

이차 복잡도가 만들어내는 세 가지 현실 문제

• 컨텍스트 창 제한: 처리 가능한 텍스트 길이에 상한선이 생긴다. 100만 토큰을 넘는 모델이 나오긴 했지만, 이 역시 어마어마한 연산 비용을 전제로 한다.
• 속도와 비용: 입력이 길어질수록 추론 속도가 급격히 떨어지고 API 비용도 비선형적으로 증가한다. 장문 처리를 많이 하는 기업 입장에서는 GPU 비용이 그냥 쌓인다.
• 메모리 포화: 어텐션 계산 결과를 메모리에 올려야 해서, 긴 컨텍스트를 처리할 때 GPU VRAM을 엄청나게 잡아먹는다. 로컬에서 돌리는 소형 모델이 긴 문서에서 맥을 못 추는 이유도 여기에 있다.

병목을 깨려는 두 가지 방향: 선형 어텐션과 SSM

이 문제를 푸는 연구는 크게 두 갈래로 나뉜다.

첫 번째는 선형 어텐션(Linear Attention)이다. 기존 어텐션의 수학 구조를 뜯어고쳐서 O(n²) 복잡도를 O(n)으로 줄이려는 접근이다. 계산량이 단어 수에 정비례하게 되면 100만 단어 문서도 이론상 훨씬 빠르게 처리된다. 다만 정확도 손실 없이 이걸 구현하는 게 핵심 과제인데, 아직 완벽하게 풀린 건 아니다.

두 번째는 SSM(State Space Model)이다. 대표 사례인 Mamba는 트랜스포머와 수학적 기반 자체가 다르다. 긴 시퀀스 처리에 효율적이고, 일부 벤치마크에서는 트랜스포머와 비슷하거나 더 나은 성능을 보인다. 요즘 흐름을 보면 트랜스포머를 완전히 대체하기보다, 두 방식을 섞은 하이브리드 구조가 조용히 늘어나는 추세다.

스타트업들이 공략하는 지점

대형 연구소들이 기존 트랜스포머를 점진적으로 개선하는 쪽을 택하는 동안, 일부 스타트업들은 아예 새 아키텍처로 판을 흔들려고 한다. 어텐션 연산을 수학적으로 재구성해서 이차 복잡도 자체를 없애버리겠다는 발상이다.

근사(approximation) 기법이나 필요한 부분만 계산하는 희소 어텐션(Sparse Attention)도 연구 중이다. 결국 핵심 질문은 하나다. “더 빠른데 성능도 동일한가?” 속도를 얻는 대신 정확도를 잃으면 상업적으로 의미가 없다. 이 트레이드오프를 어떻게 풀어내느냐가 경쟁의 본질이고, 솔직히 여기서 갈린다.

엔비디아 GPU 시장과의 연결고리

LLM 병목 문제는 반도체 시장과 직결된다. H100, B200 같은 엔비디아 데이터센터 GPU가 AI 학습·추론에 필수인 이유 중 하나가 바로 어텐션 연산을 빠르게 처리하는 데 특화됐기 때문이다.

선형 복잡도 아키텍처가 상용화되면, GPU 수요 구조가 달라질 여지가 있다. 지금처럼 고성능 GPU를 수백 장씩 병렬로 쌓지 않아도 더 적은 자원으로 긴 컨텍스트 처리가 가능해지는 것이다. AI 추론 비용이 대폭 내려가는 시나리오다.

단기적으로는 GPU 수요가 줄어들기보다, 더 많은 기업이 AI를 도입하면서 전체 파이 자체가 커지는 방향이 현실적이다. 엔비디아가 단기에 흔들릴 구조는 아니지만, 아키텍처 전환이 가속되면 중장기적으로는 변수가 된다. 이건 좀 두고 봐야 한다.

컨텍스트 창이 크다고 다 좋은 건 아니다

트랜스포머 기반을 유지하면서 컨텍스트 창을 극단적으로 늘리려는 시도도 계속되고 있다. 구글 제미나이 1.5 Pro가 100만 토큰을 지원하고, 일부 연구 모델은 그 이상을 목표로 한다.

그런데 컨텍스트 창이 길다고 해서 그 안의 모든 내용을 동등하게 잘 처리하는 건 아니다. ‘중간 소실(Lost in the Middle)’이라는 현상이 실험으로 확인됐는데, 긴 문서의 앞뒤는 잘 참조하지만 중간 부분은 흘려버리는 경향이 있는 거다. 컨텍스트 창을 넓히는 것과 그 안의 정보를 실제로 잘 활용하는 것은 별개 문제다. 창이 크다고 만능은 아니다.

병목이 풀리면 뭐가 달라지나

이 방향으로 기술이 발전하면 실제 사용 경험에서 달라지는 건 꽤 구체적이다.

• 책 한 권 통째로 분석: 긴 법률 문서, 논문 수십 편, 코드베이스 전체를 한 번에 컨텍스트에 올리는 게 현실화된다.
• 첫 토큰 지연 감소: 현재는 긴 프롬프트일수록 첫 응답이 나오기까지 지연이 생긴다. 선형 복잡도 모델에서는 이 지연이 크게 줄어든다.
• API 비용 하락: 기업 입장에서 AI 도입 비용의 가장 큰 장벽 중 하나가 낮아진다.
• 엣지 AI 확대: 스마트폰, 노트북에서 더 강력한 모델을 구동할 수 있는 토대가 마련된다.

트랜스포머가 처음 나왔을 때처럼, 아키텍처 혁신 하나가 AI 생태계 전체를 뒤바꾸는 시나리오가 다시 반복될 수 있다. 아직은 검증 단계지만, 이 분야의 연구 속도를 보면 수년 내에 상용 모델에 반영될 가능성은 충분하다. 지금 LLM의 한계가 답답하게 느껴진다면, 그 답은 아키텍처 수준에서 나오고 있는 중이다.

출처: MIT Tech Review AI

AI 진영은 크게 두 갈래다. 코드와 학습 데이터를 전부 공개하는 오픈소스, 그리고 핵심 알고리즘을 외부에 절대 열지 않는 영리 모델. 어느 쪽이 더 나은가 — 이 논쟁은 단순한 기술 선택이 아니다. AI가 사회와 경제에 어떻게 스며들지를 결정하는 분기점이다. 두 접근 방식의 차이를 구체적으로 뜯어봤다.

오픈소스 AI: 투명하게 열고, 다 같이 만든다

오픈소스 AI는 모델 코드, 학습 데이터, 개발 과정을 대중에게 공개한다. 소프트웨어 개발의 오랜 철학 — ‘개방성’과 ‘협력’ — 을 AI에 그대로 적용한 방식이다. AI가 소수 기업의 독점물이 아닌 인류 공동의 자산이어야 한다는 믿음에서 출발한다.

• 투명성과 검증 가능성: 내부 작동 원리가 공개돼 있으니, 편향이나 오류가 생겼을 때 외부 전문가들이 직접 들여다보고 고칠 수 있다. AI 신뢰성을 높이는 핵심 요소다.
• 빠른 혁신과 커뮤니티 기여: 전 세계 개발자들이 자유롭게 코드를 수정하고 배포하면서 새 아이디어가 빠르게 쌓인다. 허깅페이스(Hugging Face)가 대표적인 예다. 수만 개 모델과 데이터셋이 공유되는 공간으로, 연구자와 개발자들이 매일 새 결과물을 올린다.
• 낮은 진입 장벽: 고가 라이선스 없이 AI 모델을 쓸 수 있다. 스타트업, 연구기관, 개인 개발자 모두 비용 걱정 없이 실험이 가능하다. AI 기술의 저변이 넓어지는 이유가 여기 있다.
• 특정 기업 종속 없음: 한 공급업체에 묶이지 않고 오픈소스 솔루션들을 조합해 쓴다. 유연한 시스템 구축이 된다는 뜻이다.

메타(Meta)가 공개한 라마(LLaMA) 시리즈는 특정 조건 하에 상업적 이용까지 허용한다. 덕분에 많은 기업들이 처음부터 대규모 언어 모델을 만들 필요 없이, LLaMA를 기반으로 맞춤형 솔루션을 구축하는 전략을 쓰고 있다. 솔직히 이 흐름은 생각보다 빠르게 퍼지고 있다.

영리 AI: 성능에 올인, 책임도 직접 진다

영리 AI는 기업이 상업적 이익을 목적으로 개발하고 소유하는 모델이다. 독점 알고리즘, 대규모 컴퓨팅 자원, 방대한 데이터셋을 활용해 최첨단 성능을 구현하고 이를 유료로 제공한다.

• 최첨단 성능 집중: 천문학적인 투자금과 최고 수준 인력을 투입해 R&D에 올인할 수 있다. OpenAI의 ChatGPT, 구글의 제미나이(Gemini), 앤트로픽의 클로드(Claude)가 대표 사례다. 이 세 모델이 AI 대중화를 사실상 이끌었다고 봐도 무방하다.
• 안정적인 서비스와 책임: 기업이 보안, 유지보수, 업데이트에 자원을 직접 쏟아붓는다. 문제가 생겼을 때 법적·서비스 책임 주체가 명확하다. 사용자 입장에서는 예측 가능한 서비스를 이용한다는 게 강점이다.
• 명확한 수익 구조: 구독 모델, API 이용료, 맞춤형 솔루션 등으로 수익을 낸다. 이 돈이 다시 R&D에 투입되니 기술 발전의 선순환이 만들어진다.
• 기술·데이터 보호: 독점 기술과 데이터를 공개하지 않아 경쟁 우위를 지킨다. 지적 재산권 보호 측면에서도 명확하다.

영리 AI 기업들은 막대한 자본을 바탕으로 연구의 복잡성과 규모를 감당한다. 대규모 언어 모델(LLM)처럼 학습에만 수백억 원이 드는 시스템은 오픈소스 커뮤니티가 단독으로 따라가기 현실적으로 어렵다. 이게 영리 모델의 핵심 경쟁력이다.

각자 안고 있는 숙제들

오픈소스 AI와 영리 AI 모두, 장점만큼이나 풀어야 할 문제들이 쌓여 있다.

• 오픈소스 AI의 과제:
  • 자원 부족과 지속성: 영리 기업만큼 컴퓨팅 자원이나 전담 인력을 확보하기 어렵다. 복잡한 모델 유지보수는 커뮤니티 기여에 의존하는 구조라, 프로젝트가 방치되거나 업데이트가 끊기는 경우도 생긴다.
  • 악용 가능성: 코드가 열려 있으니 나쁜 목적으로 쓰는 것도 막기가 어렵다. 딥페이크, 허위정보 생성이 대표적이다. 방어책을 누가, 어떻게 만드느냐가 여전히 숙제다.
  • 책임 소재 불명확: 문제가 생겼을 때 수백 명의 기여자로 이루어진 프로젝트에서 법적·윤리적 책임을 명확히 가리기가 쉽지 않다.
• 영리 AI의 과제:
  • 투명성 부족: 핵심 기술이 비공개니까 모델 작동 방식이나 학습 데이터의 편향을 외부에서 검증하기 어렵다. AI의 사회적 영향력이 커질수록 이 문제는 더 커진다.
  • 높은 비용과 접근 제한: 서비스 이용료가 부담스럽거나 특정 기업 생태계에 갇히는 경우가 많다. 소규모 기업이나 개인에게는 진입 장벽이 여전히 높다.
  • 중앙 집중화 위험: 소수 기업에 AI 기술이 몰리면서 이들이 사회적 가치와 윤리 판단에 과도한 영향력을 행사할 수 있다는 우려가 나온다. 이건 좀 진지하게 봐야 할 문제다.

두 모델 모두 AI가 만들어낼 사회적 파장을 최소화하기 위한 제도적·기술적 보완이 지속적으로 필요한 상황이다.

대립인가, 공존인가

오픈소스 AI와 영리 AI는 단순 경쟁 구도가 아니다. 복잡하게 얽혀 있다. 영리 기업들도 자체 모델 개발과 함께 오픈소스 기술을 적극 가져다 쓴다. 많은 영리 AI 서비스들이 파이토치(PyTorch)나 텐서플로우(TensorFlow) 같은 오픈소스 프레임워크 위에서 구동된다.

메타의 라마처럼 대규모 자원을 투입해 만든 모델이 오픈소스로 풀리면서 두 진영의 경계는 점점 흐릿해지고 있다. 그래도 AI의 통제권, 안전성, 윤리성을 둘러싼 충돌은 여전하다. 특정 기업이 AI 방향성을 독점하는 것을 경계하는 목소리가 커지면서, 오픈소스 커뮤니티는 투명하고 분산된 개발을 더 강하게 밀어붙이고 있다. 반대로 영리 기업들은 막대한 개발 비용과 최적화된 성능, 서비스 책임성을 내세워 자기네 방식이 옳다고 주장한다.

결국 어디로 가나

어느 한쪽이 AI 미래를 완전히 지배할 것이라 단정하기는 어렵다. 현재로선 두 모델의 장점을 결합한 하이브리드 방식이 가장 유력한 그림으로 거론된다. 핵심 기술은 오픈소스로 투명하게 공개하고, 상업적 고도화나 맞춤형 솔루션은 영리 모델로 제공하는 식이다.

AI의 미래는 기술 발전만으로 결정되지 않는다. 사회적 합의와 규제가 어떻게 만들어지느냐에 달려 있다. AI 안전성, 윤리성, 편향 문제를 풀면서도 혁신을 막지 않는 균형 잡힌 정책. 오픈소스 참여를 살리면서 영리 기업의 혁신은 장려하되 독점은 막는 방안. 이 두 가지가 동시에 이뤄져야 한다. AI가 인류에게 진짜 이로운 기술이 되려면 투명성, 책임성, 접근성 — 이 세 가지를 놓쳐선 안 된다. 두 진영의 끊임없는 경쟁과 협력이 AI 발전의 원동력이 될 것이다.

자주 나오는 질문 3가지

• Q1: 오픈소스 AI가 영리 AI보다 성능이 떨어지나요?
  초기엔 그랬다. 대규모 자본 없이는 초거대 모델을 만들기 어려웠으니까. 그런데 최근엔 메타의 LLaMA처럼 영리 기업이 개발한 고성능 모델이 오픈소스로 풀리거나, 커뮤니티 기여로 빠르게 발전하는 모델도 많아지면서 격차가 많이 줄었다. 특정 태스크에서는 오히려 오픈소스 모델이 더 효율적인 경우도 있다.
• Q2: 일반 사용자에게 더 유리한 건 어느 쪽인가요?
  당장 편하게 쓰려면 ChatGPT Plus 같은 영리 AI 유료 서비스가 낫다. 안정적이고 지원도 잘 된다. 반면 기술적 지식이 조금 있고 직접 커스터마이징하고 싶다면 오픈소스가 장기적으로 더 큰 이점을 줄 여지가 있다. 무료로 여러 모델을 시험해볼 수 있다는 것도 매력이다.
• Q3: 정부 규제가 두 모델에 어떤 영향을 줄까요?
  오픈소스에는 악용 방지와 책임 소재 명확화 요구가 강해질 가능성이 있다. 영리 AI에는 독점 방지, 투명성 강화, 윤리 가이드라인 준수 압박이 커질 것이다. 규제 방향이 어떻게 잡히느냐에 따라 두 진영의 성장 속도와 생태계 지형이 크게 달라질 수 있다.

출처: MIT Tech Review AI

재고가 쌓인다. 직감을 믿고 들여온 상품이 창고에서 먼지를 먹는 경험, 온라인 쇼핑몰 운영자라면 한 번씩은 겪는다. 유행을 좇자니 이미 레드오션이고, 남들이 안 파는 걸 찾자니 수요 걱정이 앞선다. 이 딜레마의 출구가 AI에 있다.

단순히 “요즘 뭐가 잘 팔려”를 물어보는 수준이 아니다. 시장의 빈틈, 고객이 아무도 말 안 해줬던 불만, 경쟁사 베스트셀러의 공통 패턴까지. 데이터로 상품을 고르는 판매자와 감으로 고르는 판매자 사이의 격차는 이미 벌어지고 있다.

감이 아닌 데이터로 — AI 상품 리서치의 출발점

도매 사이트를 둘러보고, 오프라인 매장을 돌아다니며 트렌드를 읽는 방식. 전통적인 소싱 루틴이지만, 이 방법의 문제는 명확하다. 내가 보는 걸 남들도 다 보고 있다는 것. 결국 레드오션으로 직진하기 쉽다. 시장이 너무 빠르게 변했다.

MIT 테크 리뷰가 전한 사례가 인상적이다. 손전등을 팔던 한 소규모 브랜드 대표 얘기다. 단종된 인기 모델을 다시 찾는 고객 이메일이 계속 들어오자, 그는 AI로 고객 피드백과 시장 데이터를 통째로 분석했다. 결과? 기존 모델의 장점은 살리고, 고객들이 아쉬워했던 부분만 개선한 신제품이 나왔고, 그게 흥했다. AI 기반 상품 리서치의 핵심은 가설을 세우는 과정이다. 흩어진 데이터를 모아 성공 확률이 높은 방향을 잡는 것. 막연한 감을 데이터로 바꾸는 것.

ChatGPT로 시장 트렌드 10분 만에 잡기

ChatGPT 같은 생성형 AI로 시장 조사를 시작하는 건 어렵지 않다. 문제는 질문이다. 막연하게 물으면 막연한 답이 온다. “요즘 유행하는 캠핑용품 뭐야”라고 물으면 그냥 나열만 해준다. 이걸 구체화해야 한다.

• 타겟 고객을 구체적으로 정의: “30대 초반, 1인 가구이며 주말마다 차박을 즐기는 소비자를 위한 새로운 캠핑용품 아이디어 5가지를 제안해줘.”
• Pain Point 중심으로 접근: “기존 캠핑용품 사용자들의 가장 큰 불만 3가지를 분석하고, 이 문제를 해결할 수 있는 상품 컨셉을 각각 설명해줘.”
• 틈새시장을 직접 지정: “‘반려동물 동반 캠핑’이라는 틈새시장에서 아직 출시되지 않았지만, 수요가 있을 만한 상품 아이디어를 구체적인 기능과 함께 제시해줘.”

질문이 구체화되면 AI는 상품 목록이 아닌 전략적 아이디어를 뱉는다. 이 과정에서 나온 키워드는 네이버 데이터랩이나 구글 트렌드에서 교차 검증해보는 게 좋다. 그래야 신뢰도가 올라간다.

경쟁사 분석, AI한테 맡기면 이렇게 된다

잘나가는 경쟁사는 최고의 교과서다. 근데 수백, 수천 개의 상품과 리뷰를 사람이 일일이 파헤치기는 현실적으로 불가능하다. 웹 브라우징 기능이 달린 AI 모델(ChatGPT 유료 버전, Perplexity 등)을 쓰면 이 작업이 확 단순해진다.

경쟁사 스마트스토어나 사이트 주소를 던져주고 이렇게 물으면 된다.

“이 쇼핑몰에서 가장 많이 팔리는 상품 5개의 공통적인 특징은 뭐야? 상세페이지에서 고객에게 어떤 점을 가장 강조하고 있어?”

순식간에 베스트셀러 상품명, 가격대, 핵심 소구 포인트, 마케팅 문구까지 정리해준다. 우리 쇼핑몰이 어떤 점을 보완하고 어떻게 차별화할지, 방향이 보이기 시작한다.

리뷰 100개를 AI가 3분 만에 분석하면

고객 리뷰는 어떤 시장 보고서보다 현실적인 데이터다. 긍정 리뷰에는 고객이 열광하는 포인트가, 부정 리뷰에는 신제품의 기회가 숨어 있다. 이걸 사람이 일일이 읽는 건 비효율이다.

경쟁사 상품 리뷰 수십~수백 개를 복사해 AI에 붙여넣고 이렇게 시키면 된다.

“아래는 ‘A 브랜드 텀블러’에 대한 고객 리뷰 100개야. 고객들이 공통으로 칭찬하는 점 3가지와 불평하는 점 3가지를 요약해줘. 그리고 이 불평을 해결할 새로운 텀블러 상품 기획안을 간단하게 제안해줘.”

AI는 ‘세척이 편하다’는 칭찬과 ‘뚜껑에서 물이 샌다’는 불만을 뽑아낸다. 그리고 ‘완전 밀폐가 가능하면서 입구는 넓어 세척이 쉬운 텀블러’라는 신제품 컨셉까지 도출한다. 예전 마케팅팀이 FGI(포커스 그룹 인터뷰)로 몇 주를 쏟아붓던 작업을 단 몇 분 만에 끝내는 셈이다.

AI 쓸 때 반드시 챙겨야 할 것 2가지

AI가 만능은 아니다. 두 가지는 꼭 염두에 둬야 한다.

• 정보 교차 검증: AI는 없는 사실을 그럴듯하게 만들어내는 ‘환각(Hallucination)’ 현상이 있다. 시장 규모, 트렌드, 통계 수치는 반드시 공신력 있는 기관 자료나 실제 판매 데이터로 한 번 더 확인해야 한다. AI가 제시한 숫자를 그대로 믿다가 낭패 보는 경우가 생각보다 많다.
• 지식재산권 확인: AI가 제안한 아이디어나 디자인이 기존 제품의 특허나 디자인권을 건드릴 수 있다. 본격적인 상품 개발에 들어가기 전, 키프리스(KIPRIS)에서 관련 권리를 미리 확인하는 건 선택이 아니라 필수다.

결국 결정은 사람이 한다

AI는 방대한 데이터를 분석하고 아이디어를 뽑아내는 데 강력하다. 과거에는 대기업 마케팅팀에서나 가능했던 수준의 시장 분석을 이제 1인 사업자도 할 수 있는 구조가 됐다. 다만 AI가 찾아준 기회를 포착하고, 최종 결정을 내리고, 그걸 실제 상품으로 구현하는 건 사람 몫이다. AI는 어디까지나 도구다. 잘 쓰면 강력하고, 잘못 믿으면 재고만 늘어난다.

출처: MIT Tech Review AI