소식

AI 파일럿 프로젝트를 진행한 기업 중에서 실제 서비스로 이어지는 곳은 아직 소수다. 모델 성능 문제가 아니다. 그 모델을 얹을 바닥 자체가 부실해서 무너지는 경우가 훨씬 많다. 데이터 파이프라인이 엉성하거나, 보안 정책을 서비스 오픈 직전에야 급조하거나, GPU 자원 계획도 없이 프로젝트부터 벌이는 곳들. 딱 이런 패턴이다. 에이전트형 AI로 무게중심이 옮겨가면서 이 기초 공사는 더 중요해졌다. 챗봇 하나 붙이는 수준이 아니라 여러 AI가 서로 도구를 호출하고 데이터를 주고받는 구조라서, 아키텍처가 부실하면 장애 지점이 곱절로 늘어난다. IT 조직이 AI 도입 전에 점검해야 할 기초 요소를 정리해봤다.

데이터 파이프라인부터 다시 봐야 하는 이유

모델은 결국 데이터가 흐르는 대로 결과를 낸다. 사일로화된 데이터베이스, 정제 안 된 로그, 버전 관리도 안 되는 스프레드시트가 뒤섞인 환경. 여기에 아무리 좋은 LLM을 붙여봐야 헛돌 뿐이다. 실무에서 우선순위로 삼아야 할 항목은 이 정도다.

• 데이터 출처와 최신성을 추적하는 메타데이터 관리 체계
• 실시간 추론이 필요한 경우를 대비한 스트리밍 파이프라인
• 부서 간 데이터를 통합할 공통 스키마

이 세 가지가 없는 상태에서 에이전트를 붙이면 어떻게 될까. 잘못된 데이터로 잘못된 판단을 내리는 자동화가 그대로 서비스에 노출된다.

MLOps는 이제 선택지가 아니다

모델 하나 배포하고 끝나는 시대는 지났다. 모델 버전 관리, 성능 드리프트 모니터링, 롤백 절차. 이 셋이 없으면 시간이 지날수록 정확도가 슬금슬금 떨어지는 걸 아무도 눈치채지 못한다. CI/CD 파이프라인에 모델 평가 단계를 끼워 넣고 재학습 트리거를 자동화해둔 조직과, 이걸 수동으로 관리하는 조직. 반년만 지나도 격차가 확연히 벌어진다.

에이전트형 AI는 인프라 요구사항부터 다르다

단일 프롬프트-응답 구조와는 다르다. 에이전트는 여러 단계를 거쳐 도구를 호출하고 상태를 유지한다. 이 과정에서 지연 시간, 컨텍스트 저장, 오류 시 재시도 로직이 전부 새로운 변수로 튀어나온다. 기존 REST API 위주로 짜인 시스템에 에이전트를 그냥 얹으면? 호출량이 폭증하거나 무한 루프에 빠지는 문제가 생기기 쉽다. 오케스트레이션 레이어를 따로 두고, 각 에이전트가 어떤 도구까지 접근할 수 있는지 권한을 명확히 나눠두는 설계가 필요하다.

보안과 거버넌스, 나중에 챙기면 이미 늦다

프롬프트 인젝션, 민감 데이터 유출, 모델이 엉뚱한 근거로 내린 결정에 대한 책임 소재까지. 챙길 항목이 한둘이 아니다. 보안팀을 프로젝트 초기부터 끼워 넣는 조직과, 서비스 오픈 직전에야 검토를 요청하는 조직. 결과물은 완전히 다르다. 최소한 다음 항목은 설계 단계에 넣어야 한다.

• 모델 입출력에 대한 로깅과 감사 추적
• 외부 API 호출 전 데이터 마스킹 정책
• 사고 발생 시 즉시 차단하는 킬스위치

규제 대응 문서만 갖추고 실제 기술적 통제는 빠진 경우, 의외로 흔하다. 문서와 코드가 실제로 일치하는지 주기적으로 확인하는 절차를 만들어두는 편이 낫다.

GPU·컴퓨팅 자원, 전략 없이 덤비면 청구서에서 운다

엔비디아 GPU 확보 경쟁이 이어지면서 컴퓨팅 자원 자체가 병목이 되는 일이 흔해졌다. 온프레미스로 다 구축하기엔 비용이 부담스럽고, 클라우드만 쓰자니 트래픽이 늘어날수록 청구서가 무섭게 불어난다. 현실적인 접근은 워크로드를 나눠서 판단하는 것.

• 실시간 응답이 필요한 추론은 전용 인스턴스로
• 배치성 재학습은 스팟 인스턴스나 예약 자원으로
• 피크 시간대 트래픽은 오토스케일링으로 흡수

자원 계획 없이 프로젝트 규모부터 키우면 서비스가 뜨는 순간 비용 구조가 감당 안 되는 상황을 맞을 수 있다. 이건 흔한 실수다.

기술 못지않게 조직 구조와 사람이 문제다

아키텍처를 아무리 잘 짜도 이걸 운영할 사람이 없으면 무용지물이다. 데이터 엔지니어, MLOps 담당자, 보안 담당자가 각자 다른 팀 소속으로 흩어져 있으면 의사결정이 느려지고 책임 소재도 애매해진다. 최근에는 이 세 역할을 하나의 AI 플랫폼 팀으로 묶어 운영하는 조직이 늘고 있다. 초기 투자 비용은 크다. 다만 장기적으로는 프로젝트마다 처음부터 다시 설계하는 낭비를 줄여준다.

결국 살아남는 프로젝트는 이 3가지가 있다

데이터 기반, 운영 자동화, 보안 통제. 이 세 가지가 튼튼해야 그 위에 어떤 모델을 올려도 버틴다. 유행하는 프레임워크나 최신 모델을 좇기 전에, 이 기초 공사가 되어 있는지부터 점검하는 게 순서다. 반년 뒤, 1년 뒤에도 살아남는 AI 프로젝트와 조용히 사라지는 프로젝트. 차이는 결국 여기서 갈린다.

이것도 궁금하죠

Q. 스타트업도 이런 아키텍처를 다 갖춰야 하나?
규모에 맞게 단계적으로 가면 된다. 처음부터 완벽한 MLOps 파이프라인을 만들 필요는 없다. 데이터 정합성과 최소한의 로깅부터 시작해도 충분하다.

Q. 클라우드 AI 서비스만 써도 아키텍처 고민이 필요한가?
필요하다. 관리형 서비스를 쓰더라도 데이터 흐름 설계, 접근 권한 관리, 비용 모니터링은 여전히 자체 몫이다.

Q. 에이전트형 AI 도입 시 가장 먼저 손봐야 할 부분은?
권한 관리다. 어떤 에이전트가 어떤 도구와 데이터에 접근할 수 있는지부터 명확히 정의해두지 않으면, 사고가 터졌을 때 원인 추적조차 어렵다.

MIT Tech Review AI가 지난 7일 전한 내용을 바탕으로 정리했다.

매달 통장에 오픈AI 배당금이 꽂힌다. 상상하면 웃음부터 나오는데, 샘 알트만은 이 얘기를 몇 번이나 진지하게 꺼냈다. 최근 이 구상이 다시 도마에 올랐고, 하필 같은 시기에 미국 재무부는 AI가 금융 시스템에 새 위험이 될 수 있다는 경고를 내놨다. 타이밍이 묘하다. ‘AI 기본소득’, 기사마다 자주 나오는 말인데 정작 정확한 뜻이 뭔지는 다들 대충 넘어간다. 오늘은 그 실체와 실현 가능성을 좀 뜯어본다.

이 아이디어, 원래 어디서 나왔나

뿌리를 따라가면 2021년 샘 알트만이 쓴 에세이 ‘Moore’s Law for Everything’이 나온다. 주장은 의외로 단순하다. AI가 인간 노동을 대체하면서 생산성이 폭발적으로 오르면, 그 수익 대부분은 결국 몇몇 기업과 주주 손에 들어간다는 것. 알트만은 이 불균형을 풀 방법으로 국민 전체가 AI 기업 성장의 과실을 나눠 갖는 구조를 제안했다. 그가 공동 창업한 홍채 인식 프로젝트 월드코인도 사실 비슷한 발상에서 출발했다. 전 세계인의 신원을 확인하고 디지털 화폐를 나눠주겠다는, 지금 봐도 꽤 대담한 그림이었다.

알래스카 배당금과 비교해보면 감이 온다

사실 완전히 새로운 발상은 아니다. 미국 알래스카주는 1976년부터 석유 수익 일부를 기금으로 쌓아 매년 주민들에게 배당금을 지급해왔다. 2023년 기준 1인당 지급액은 1300달러 정도. 자원에서 나온 수익을 국가나 기업이 독차지하지 않고 시민에게 돌려준다는 발상이다. AI 기본소득 구상도 뼈대는 똑같다. 다만 석유 대신 AI 모델과 데이터센터가 만드는 수익이 재원이라는 점만 다르다. 국부펀드가 국영 자산 배당을 만들어내듯, AI 기업 지분을 국가나 공공기금이 쥐고 그 배당을 국민에게 나눠주는 그림. 말은 그럴듯하다.

그런데 지분을 나눠준다는 게 기술적으로 되는 얘기인가

이론과 실행 사이 거리, 생각보다 훨씬 멀다. 거론되는 방식은 대략 세 갈래다.

• 정부가 세제 혜택이나 규제 승인 대가로 AI 기업 지분 일부를 확보해 국민에게 분배하는 방식
• AI 기업이 자발적으로 이익 일부를 신탁 기금에 출연하고, 거기서 배당을 지급하는 방식
• 법인세를 강화해 걷은 세금을 현금성 배당으로 국민에게 되돌려주는 방식

세 방식 모두 의회 입법이나 국제 조율이 필요하다. 기업 지분 가치를 어떻게 매길지, 배당 대상을 국민으로 한정할지 거주자까지 포함할지도 정해야 한다. 실무적으로 쌓인 난제가 한둘이 아니다. 오픈AI처럼 비상장인 기업은 지분 가치 평가 자체가 이미 논쟁거리다. 숫자 하나 합의하는 데만도 시간이 꽤 걸릴 얘기.

정부는 왜 이렇게 AI에 예민해졌나

재무부나 중앙은행이 AI를 경계하는 이유는 지분 배분 논쟁과는 좀 결이 다르다. 첫째, 소수 빅테크가 데이터센터와 반도체에 쏟아붓는 투자 규모가 이제 국가 경제 지표를 흔들 만큼 커졌다. 둘째, 은행과 금융사들이 대출 심사나 리스크 관리에 비슷비슷한 소수 AI 모델을 동시에 쓰면서, 시스템 전체가 같은 방향으로 오작동할 위험이 커졌다. 이른바 모노컬처 리스크다. 셋째, AI로 대체되는 일자리가 늘면 소득세 기반이 흔들리고 사회 안전망 재원 확보도 어려워진다. 규제 기관은 이런 시나리오를 염두에 두고 스트레스 테스트와 공시 강화를 검토하는 단계에 와 있다.

다른 빅테크와 각국 정부 반응은 어떤가

메타나 구글, 마이크로소프트는 국민 배당 같은 구상을 공식화한 적이 아직 없다. 대신 로봇세나 AI세처럼 세금을 통한 재분배 논의가 더 활발하다. 빌 게이츠는 예전부터 로봇이 인간 일자리를 대체하면 그만큼 세금을 물려야 한다고 주장해왔다. 유럽연합은 AI 법으로 위험 등급별 규제에 무게를 싣는 쪽이고, 한국은 AI 기본법 시행을 앞두고 산업 진흥과 안전 규율을 함께 다루는 방향을 잡고 있다. 핀란드나 미국 스톡턴시가 실험한 보편적 기본소득 파일럿은 재원을 세금에서 끌어왔다는 점에서, AI 기업 지분 배분과는 성격 자체가 다르다.

결국 내 계좌에 돈이 들어올 확률은

단기간에 실현될 가능성, 솔직히 낮다고 보는 게 현실적이다. 입법 절차, 기업 반발, 국제 조세 협약까지 얽혀 있어서 논의가 실제 정책으로 이어지기까지는 수년이 걸릴 사안이다. 지금으로선 AI가 만드는 부의 재분배를 기다리기보다, AI 도구를 활용해 개인 생산성을 끌어올리는 쪽이 훨씬 현실적인 대응이다. AI 관련 기업 주식이나 ETF에 투자해 성장 과실을 간접적으로 누리는 방법도 대안으로 거론된다. 정책 발표를 하염없이 기다리기보다, 지금 손에 쥔 도구를 얼마나 쓰느냐가 실질적인 차이를 만드는 셈이다.

MIT Tech Review AI가 전한 내용을 바탕으로 정리했다. 원문은 여기서 확인할 수 있다.

SK하이닉스 공정 엔지니어로 일하는 A씨(35)는 얼마 전 결혼정보업체에 가입했다. 몇 년 전이라면 반도체 업계 종사자가 이런 데서 딱히 주목받을 일은 없었다. 그런데 HBM(고대역폭메모리) 호황으로 연봉과 성과급이 치솟으면서 얘기가 달라졌다. 실제로 반도체 회사 초봉, 연봉을 검색하는 사람도 부쩍 늘었다고 한다. SK하이닉스와 삼성전자, 반도체 엔지니어 연봉과 직무, 커리어 경로를 실질적으로 따져봤다.

초봉부터 갈린다, SK하이닉스와 삼성전자

2026년 기준 두 회사 모두 대졸 신입 초봉은 6천만 원대 중후반. 여기까지는 비슷하다. 문제는 그다음이다. 성과급(PS, PI)이 붙는 순간 실수령액 차이가 확 벌어진다. SK하이닉스는 지난 몇 년간 HBM 수요가 폭발하면서 영업이익이 크게 늘었고, 그 덕에 초과이익분배금 비율이 높게 책정된 해가 많았다. 삼성전자는 반도체(DS) 부문 실적에 따라 편차가 있는 편이다. 같은 해, 같은 회사라도 사업부별로 체감 연봉이 다르게 느껴질 수 있다는 얘기다.

• SK하이닉스 — HBM·D램 호황기엔 성과급 비중이 커서, 연차가 쌓일수록 격차도 커진다
• 삼성전자 DS부문 — 파운드리와 메모리 실적이 엇갈리면 부서별 체감 연봉 차이가 뚜렷해진다
• 두 회사 다 기본급 자체는 큰 차이 없다. 변수는 결국 성과급

같은 반도체 회사, 다른 일 — 직무가 커리어를 가른다

반도체 회사라고 다 같은 일을 하진 않는다. 크게 나누면 이렇다.

• 공정(Process) 엔지니어 — 웨이퍼가 실제로 가공되는 라인을 관리, 설비 트러블슈팅이 주 업무
• 설계(Design) 엔지니어 — 회로 설계와 시뮬레이션, 전기전자·반도체공학 전공자가 몰린다
• 소자(Device) 엔지니어 — 신물질과 소자 구조를 연구, 대학원 출신 비중이 높은 편
• 패키징·테스트 엔지니어 — HBM처럼 칩을 여러 겹 쌓는 후공정, 요즘 몸값이 제일 많이 오르는 분야다

HBM 수요가 늘면서 패키징·후공정 인력 채용이 눈에 띄게 늘었다. 취업 준비생이라면 체크해둘 만한 대목이다.

입사 스펙, 뭘 준비해야 하나

전공은 전자공학, 신소재공학, 화학공학, 물리학 순으로 지원자가 많다. 학사로도 공정직 지원은 가능하지만, 설계나 소자 쪽은 석사 이상을 우대하는 공고가 여전히 많다. 자격증보다 학부·대학원 연구 프로젝트 경험, 반도체 8대 공정 이해도를 묻는 면접 질문 대비가 실질적으로 더 도움이 된다. 최근엔 두 회사 모두 코딩테스트나 SW 역량을 함께 보는 추세다. 반도체 전공자라도 파이썬이나 C 기본기 정도는 챙겨두는 게 안전하다.

조직문화, 어디가 나한테 맞나

SK하이닉스는 상대적으로 조직 규모가 작아 의사결정이 빠르고, 이천·청주 캠퍼스 중심으로 돌아간다. 삼성전자는 기흥·화성·평택 등 사업장 규모부터 훨씬 크고 조직 체계도 세분화돼 있어서, 신입 입장에선 매뉴얼과 시스템이 잘 갖춰져 있다는 평이 많다. 워라밸을 우선한다면 부서별 편차가 크다는 점을 염두에 두고 현직자 후기를 꼼꼼히 찾아보는 게 좋다. 이건 회사 이름만으로는 판단이 안 된다.

다음 변수는 사이클이다

AI 서버용 메모리 수요가 늘면서 HBM·차세대 D램 관련 채용은 당분간 계속 늘어날 가능성이 크다. 다만 메모리는 사이클을 타는 산업이다. 몇 년 뒤 다운턴이 오면 채용 규모, 성과급 둘 다 줄어들 여지가 있다는 점은 알아둬야 한다. 장기적으로 안정적인 커리어를 원한다면 특정 호황기 성과급만 보고 결정하기보다, 직무 자체의 확장성과 이직 시장에서 내 몸값을 같이 따져보는 편이 낫다.

결국 뭘 기준으로 골라야 하나

단순 연봉만 보면 성과급 호황기의 SK하이닉스가 유리해 보이는 해가 많다. 그런데 조직 안정성과 사업 다각화 쪽에서는 삼성전자도 만만치 않다. 결국 중요한 건 회사 이름보다 어떤 직무에서 어떤 기술을 쌓을 것인가다. 반도체 업계는 사이클이 뚜렷한 산업이다. 지금 연봉 테이블보다, 5년 뒤 내 기술이 시장에서 얼마나 희소할지를 기준으로 회사와 직무를 고르는 편이 후회가 적다.

MIT 테크리뷰 보도를 참고했다: MIT Tech Review AI

샘 올트먼이 AI가 만드는 부를 미국 국민과 나누겠다고 말한 게 벌써 몇 년 전이다. 그런데 막상 오픈AI 지분을 개인이 직접 사려고 하면? 방법이 없다. ‘오픈AI 주식 사는 법’을 검색창에 쳐본 사람이라면 이미 느꼈을 거다. 생각보다 답이 복잡하다는 걸.

오픈AI는 왜 아직도 상장을 안 했나

일단 오픈AI는 비상장 기업이다. 뉴욕증권거래소든 나스닥이든 티커를 검색해봐야 아무것도 안 나온다. 대신 마이크로소프트, 소프트뱅크 같은 큰손들이 프리IPO 라운드에서 지분을 확보해왔다. 개인이 같은 방식으로 들어가려면? 최소 수억 원 단위 자금은 기본이고, 기관 투자자 자격까지 요구되는 경우가 많다. 문턱이 꽤 높다.

비상장 AI 기업, 그래도 개인이 접근할 수 있는 경로 3가지

• 세컨더리 마켓 플랫폼: 포지 글로벌, 이쿼티제스트 같은 해외 플랫폼에서 오픈AI, 스페이스X 같은 비상장 기업 지분이 거래되긴 한다. 다만 최소 투자금이 크고, 인증투자자 요건도 걸린다.
• 벤처캐피털 펀드 간접 참여: 오픈AI에 투자한 VC 펀드에 유한책임투자자로 들어가는 방식. 이것도 자본이 크게 필요하다.
• 국내 비상장주식 거래 플랫폼: 증권플러스 비상장, 서울거래소 같은 곳. 국내 비상장사 위주라 해외 기업 접근성은 제한적이다.

세 경로 다 소액으로 접근하기엔 벽이 낮지 않다. 솔직히 일반 개인 투자자한테는 그림의 떡에 가깝다.

대신 상장주로 우회하는 방법

오픈AI 자체 주식이 없다면, 오픈AI와 얽힌 상장 기업 주식을 사는 게 현실적인 대안이다.

• 마이크로소프트: 오픈AI 최대 투자자 중 하나. 지분 관계가 실적에도 그대로 반영된다.
• 엔비디아: 오픈AI를 포함해 거의 모든 AI 기업이 쓰는 GPU를 공급한다. AI 투자 열기가 커질수록 수혜를 받는 구조.
• 오라클, AMD: 오픈AI와 대규모 인프라 계약을 맺은 기업들. 관련 뉴스만 나오면 주가가 같이 출렁이는 경우가 많다.

이 방식이 오픈AI 지분을 직접 갖는 건 아니다. 하지만 오픈AI의 성장세와 실적 흐름이 어느 정도 연동된다는 점에서, 대체 투자 수단으로 자주 거론된다.

고르기 귀찮으면 AI ETF로 분산

개별 종목 고르기가 부담스럽다면 AI 테마 ETF도 방법이다. 국내 상장 ETF 중에는 미국 AI 관련주를 바스켓으로 담은 상품이 있고, 해외 ETF로는 반도체·클라우드·AI 인프라 기업을 함께 묶은 상품이 꽤 많다. 개별 종목 리스크를 줄이면서 AI 산업 전반에 걸치고 싶을 때 쓸 만하다. 다만 테마 ETF는 특정 대형주 비중이 쏠려 있는 경우가 흔하다. 담기 전에 구성 종목 한번 들여다보는 걸 추천한다.

비상장주식, 실제 리스크는 뭔가

비상장주식은 공시 의무가 상장주식만큼 촘촘하지 않다. 재무 정보 접근이 제한적이고, 원할 때 바로 팔고 나올 유동성도 떨어진다. 오픈AI처럼 기업가치가 수백조 원대로 평가되는 곳도 실제 상장 전까지는 평가액과 실거래가가 크게 벌어질 수 있다. 소액으로 접근 가능하다고 광고하는 플랫폼일수록 수수료 구조와 최소 보유기간 조건을 꼼꼼히 따져봐야 한다. 이건 좀 과하다 싶을 정도로 조건이 붙는 곳도 있다.

결국 개인 투자자가 택할 수 있는 조합

정리해보자. 자금 여력이 크고 장기 보유가 가능하면 세컨더리 마켓을 통한 비상장 투자를 검토해볼 만하다. 소액으로 AI 성장에 올라타고 싶다면? 엔비디아·마이크로소프트 같은 상장주나 AI 테마 ETF 쪽이 접근성 면에서 훨씬 낫다. 오픈AI 지분을 직접 사는 상상보다는, 오픈AI 생태계에 걸쳐 있는 기업들을 통해 간접적으로 참여하는 쪽. 대다수 개인 투자자에게는 이게 현실적인 선택지다.

MIT Tech Review AI가 전한 바에 따르면 관련 기사에서도 비슷한 맥락을 짚고 있다.