[카테고리:] AI

AI 기업들이 그리는 가장 대담한 로드맵 하나. AI가 스스로를 개선해서 인간 개입 없이도 발전을 이어간다는 시나리오다. 코드를 짜고, 실험을 설계하고, 다음 버전 모델을 훈련시키는 전 과정을 AI 혼자 담당한다는 구상인데 — 실제 연구 현장 사정은 이보다 훨씬 지저분하다. ‘재귀적 자기개선’이라는 말이 정확히 뭘 뜻하는지, 왜 아직 멀었는지, 실무에서는 뭘 기준으로 판단해야 하는지 정리해봤다.

재귀적 자기개선, 정확히 뭘 말하는 걸까

재귀적 자기개선(Recursive Self-Improvement, RSI)은 AI 시스템이 자기 자신의 설계, 코드, 학습 방식을 스스로 고쳐 성능을 끌어올리고, 그렇게 개선된 버전이 다시 다음 개선을 수행하는 순환 구조를 말한다. 개념 자체는 새롭지 않다. 1965년 수학자 I. J. 굿이 내놓은 ‘지능 폭발(intelligence explosion)’ 가설에서 출발했고, 지금은 AGI(범용인공지능) 논의의 핵심 축이 됐다. 초기 시드 AI(seed AI)가 자신을 개선하는 속도가 빨라질수록 성능이 기하급수적으로 늘어난다는 게 이 가설의 골자다.

여기서 구분해야 할 게 하나 있다. AI가 코드 자동완성이나 버그 수정을 돕는 것과, AI가 차세대 모델의 아키텍처와 학습 데이터, 훈련 파이프라인 전체를 스스로 설계하는 것은 차원이 다르다. 전자는 이미 상용화됐다. 후자가 바로 RSI가 가리키는 상태다.

왜 다시 화두로 떠올랐나

OpenAI, 구글 딥마인드, 앤스로픽 같은 주요 연구소는 AI 연구원 역할 자체를 자동화하는 프로젝트에 막대한 자원을 쏟아왔다. AI 모델이 논문을 읽고, 실험 코드를 작성하고, 결과를 해석해서 다음 실험을 제안하는 파이프라인을 구축하는 식이다. SWE-bench, RE-Bench 같은 벤치마크도 AI가 실제 소프트웨어 엔지니어링 작업을 얼마나 자율적으로 처리하는지 숫자로 재보려고 만든 것들이다.

문제는 이 벤치마크 점수가 꾸준히 오른다고 해서 곧바로 ‘자기개선 루프가 돌아가기 시작했다’는 뜻은 아니라는 점이다. 특정 작업을 자동화하는 것과, 그 자동화가 다음 세대 모델의 근본적인 능력을 스스로 끌어올리는 것 사이에는 여전히 큰 간극이 있다. 이 둘을 섞어서 말하는 기사가 은근히 많다.

속도를 늦추는 기술적 병목들

RSI가 이론처럼 빠르게 진행되지 않는 이유, 몇 가지로 정리된다.

• 검증 비용: AI가 스스로 제안한 개선안이 진짜 성능을 높이는지 확인하려면 대규모 재훈련과 평가가 필요하다. 이 과정에 막대한 컴퓨팅 자원과 시간이 들어간다.
• 자기평가의 한계: 모델이 자기 출력이 옳은지 스스로 판단하는 능력은 아직 인간 전문가 수준에 못 미친다. 오류를 오류로 인식 못 하면, 개선이 아니라 오차만 누적된다.
• 데이터 고갈: 웹에서 긁어모을 수 있는 고품질 텍스트 데이터는 이미 상당 부분 바닥났다는 분석이 나온다. 합성 데이터로 메우려는 시도는 늘고 있지만, 품질 관리가 만만치 않다.
• 보상 함수 설계: ‘더 나은 모델’을 정의하는 지표 자체가 허술하면, 자기개선 루프는 지표만 최적화하고 실제 능력은 제자리걸음일 여지가 있다.

컴퓨팅과 전력이 진짜 발목을 잡는다

모델을 재훈련하고 검증하는 사이클 하나하나에 GPU 클러스터와 전력이 대량으로 들어간다. 엔비디아의 최신 GPU 공급이 늘어도 데이터센터 건설과 전력망 증설 속도가 못 따라가는 경우가 흔하다. 여름철 데이터센터 발열 문제도 같은 맥락이다. GPU 밀도가 높아질수록 냉각에 드는 에너지 비중이 커지고, 이건 곧 운영 비용과 확장 속도를 좌우하는 변수가 된다. 액체 냉각 방식으로 갈아타는 사업자가 느는 이유도 여기 있다.

결국 자기개선 루프를 몇 배속으로 돌리고 싶어도, 물리적 인프라가 그 속도를 못 받쳐주면 이론상 기하급수적 성장은 현실에서 완만한 곡선으로 바뀐다. 전기가 부족하면 알고리즘이 아무리 좋아도 소용없다는 얘기다.

자기개선 AI와 AGI는 같은 말이 아니다

많이들 두 개념을 섞어 쓰는데, 구분은 필요하다. AGI(범용인공지능)는 인간 수준의 폭넓은 인지 능력을 가리키는 상태 개념이고, RSI는 그 상태에 도달하는 하나의 경로 혹은 메커니즘이다. AGI는 RSI 없이도 점진적 연구개발만으로 도달 가능하다는 주장이 있는가 하면, 반대로 RSI가 먼저 가동되면 AGI 단계를 건너뛰고 곧바로 초지능(ASI)으로 도약한다는 시나리오도 있다.

지금 시장에 나온 AI 코딩 에이전트 — 클로드 코드, 데빈 같은 것들 — 는 RSI의 아주 초기 단계, 그러니까 ‘연구개발 업무의 부분 자동화’에 해당한다. 전체 파이프라인을 인간 개입 없이 스스로 설계하고 실행하는 수준과는 아직 거리가 멀다.

실무자라면 이 지표부터 확인하자

RSI 관련 로드맵이나 발표를 접할 때, 과장된 주장과 실제 진척을 가르는 기준은 이렇다.

• 벤치마크 점수 상승이 실제 프로덕션 코드 품질로 이어지는지, 아니면 벤치마크 특화 최적화에 그치는지 확인한다.
• 연구소가 공개하는 자동화 비율이 ‘연구 아이디어 제안’인지 ‘전체 개발 사이클 완결’인지 구분한다.
• 모델 훈련에 들어가는 컴퓨팅 예산과 전력 조달 계획이 함께 공개되는지 본다. 인프라 투자 없이 자기개선을 주장하면 일단 의심하는 게 맞다.
• 안전성 검증(레드팀, 정렬 평가) 절차가 자동화 속도와 함께 강화되고 있는지 살핀다.

Q&A로 정리하는 핵심 3가지

Q. RSI가 실현되면 AI 개발자 일자리는 사라지나?
연구개발의 반복 작업(실험 설계, 코드 리뷰 보조)은 자동화 폭이 커지겠지만, 문제 정의와 검증 기준 설정 같은 상위 판단은 당분간 인간 영역으로 남는다는 분석이 우세하다.

Q. RSI와 오픈소스 모델은 어떤 관계가 있나?
오픈소스 진영도 자체 파인튜닝 자동화 도구를 늘리는 중이다. 다만 대규모 재훈련에 필요한 컴퓨팅 자원 격차 탓에, 상업 연구소 대비 루프 속도는 여전히 느리다.

Q. 몇 년 안에 RSI가 본격화될까?
정해진 답은 없다. 검증 비용과 전력 인프라, 이 두 병목이 동시에 풀려야 하는 문제라서 단일 기술 돌파보다는 인프라 투자 속도가 실제 타임라인을 좌우할 가능성이 크다.

참고: MIT Tech Review AI 보도 내용을 바탕으로 정리했다.

아이 방에 로봇 하나가 있다. 말도 걸고, 노래도 불러주고, 가끔 농담까지 하는 녀석이다. 그런데 어느 날 갑자기 입을 다물어 버린다면? 실제로 벌어진 일이다. 한 스타트업이 만든 AI 탑재 로봇 장난감이 아이들한테 정서적 위안까지 줬는데, 회사가 문을 닫고 서버를 내리자 로봇은 하루아침에 벙어리가 됐다. 아이 입장에서는 친구 하나를 잃은 셈이다.

낯설지 않다, 이 이야기. 스마트 스피커, 로봇청소기, 반려 로봇, 홈 카메라… 요즘 나오는 전자기기 대부분은 인터넷 연결과 제조사 서버가 있어야 굴러간다. 서버가 꺼지면? 비싸게 산 기기는 그냥 ‘벽돌’이 된다. 이런 ‘브릭(Brick)’ 현상이 왜 계속 반복되는지, 사기 전에 뭘 체크해야 하는지, 이미 벽돌이 된 기기는 살릴 방법이 있는지 정리해봤다.

브릭 현상, 정확히 뭘 말하는 걸까

브릭(Brick)은 원래 하드웨어를 잘못 만지다가 아예 켜지지도 않는 상태로 만들었을 때 쓰던 은어였다. 요즘은 뜻이 좀 넓어졌다. 기기 자체는 멀쩡한데 제조사 서버가 사라지면서 핵심 기능이 통째로 막히는 상황을 가리키는 말로 더 많이 쓴다. 로봇 장난감이 대화를 못 하게 되거나, 스마트 스피커가 음악 재생조차 안 되거나, 홈 카메라 앱이 로그인 화면에서 멈춰버리는 식이다. 기기는 손에 있는데 서비스는 클라우드에 있다. 회사가 사라지면 물건만 남고 기능은 증발해버린다.

로봇도 스피커도 왜 서버 하나에 목숨을 거나

제조사가 클라우드 서버를 쓰는 이유는 단순하다. 음성인식, AI 대화, 얼굴 인식 같은 무거운 연산을 기기 안에서 처리하려면 부품 단가가 확 뛴다. 서버에서 처리하고 결과만 기기로 보내주면 하드웨어는 싸고 가볍게 만들 수 있다. 대신 대가가 있다. 서버 없이는 아무것도 못 하는 기기가 탄생한다는 것. 로컬에서 최소한의 기능이라도 돌아가게 설계하면 되긴 한다. 문제는 개발 비용과 시간이다. 스타트업일수록 이 부분부터 생략한다.

서비스 종료가 반복되는 진짜 이유

하드웨어 스타트업은 원래 자금 압박에 시달리는 업종이다. 로봇이나 스마트 기기를 만들려면 초기 개발비, 금형비, 재고 비용이 크게 들어가는데 매출은 기기를 한 번 팔고 나면 뚝 끊기는 구조가 많다. 구독료로 서버 운영비를 메우려 해도 가입자가 기대만큼 안 늘면? 서버 유지비만 계속 새는 거다. 결국 투자 유치가 끊기거나 인수자가 안 나타나면 회사는 제일 먼저 서버부터 내린다. 사용자에게는 예고 없이, 혹은 짧은 공지 하나로 끝나는 경우가 흔하다. 이건 좀 너무한 거 아닌가 싶을 정도로.

사기 전에 확인해야 할 체크리스트

스마트 기기, AI 로봇, 구독형 가전을 사기 전에 아래 항목만 확인해도 브릭 위험은 크게 줄어든다.

• 로컬 모드 지원 여부 — 인터넷이나 서버 없이도 기본 기능(시간 확인, 음악 재생, 알람 등)이 동작하는지 확인한다.
• 제조사 규모와 투자 이력 — 1인 스타트업 크라우드펀딩 제품보다는 상장사나 대기업 계열 제품 쪽이 서비스가 오래 간다.
• 오픈소스·오픈 API 지원 — 회사가 없어져도 커뮤니티가 자체 서버를 만들어 살릴 수 있는 구조인지 살펴본다.
• 제품 출시 시점과 후속 모델 — 후속 모델이 꾸준히 나오는 제품군인지, 반짝 나온 단발성 프로젝트인지 확인한다.
• 서비스 종료 시 정책 명시 여부 — 약관에 ‘서비스 종료 시 로컬 기능 유지’ 같은 조항이 있는 제품은 드물다. 있다면 그것만으로도 신뢰도가 확 올라간다.

이미 벽돌 된 기기, 살릴 방법은

기기가 이미 먹통이 됐다면 선택지가 많지는 않다. 그래도 아예 없지는 않다.

• 커뮤니티 대체 서버 찾기 — 인기 있던 제품일수록 사용자들이 직접 서버를 복제해 배포하는 경우가 있다. 해외 포럼이나 깃허브에서 제품명과 ‘self-hosted’, ‘server revival’ 같은 키워드로 검색해볼 만하다.
• 펌웨어 커스텀 — 안드로이드 기반 기기라면 개발자 커뮤니티가 대체 펌웨어를 올리기도 한다. 워런티는 이미 의미 없어진 상태라 부담 없이 시도해볼 만하다.
• 부품 재활용 — 완전히 못 살리면 센서나 스피커, 모터만 떼어 다른 프로젝트에 쓰는 방법도 있다.
• 환불·보상 요구 — 서비스 종료로 정상 이용이 불가능해지면 소비자분쟁조정 절차를 통해 환불을 요청하는 경우도 있다. 구독료를 선결제한 상태라면 남은 기간에 대한 환불 근거가 된다.

제조사는 왜 이 문제를 안 고칠까

기술적으로 불가능한 일은 아니다. 서버가 꺼지기 전에 기기를 오프라인 모드로 전환하는 업데이트를 배포하거나, 소스코드를 공개해 커뮤니티가 이어받게 하는 사례도 실제로 있다. 문제는 이게 회사 매출과는 무관한 일이라는 점이다. 이미 폐업 절차를 밟고 있는 회사가 마지막까지 고객 경험을 챙길 여력도, 동기도 크지 않다. 냉정하게 말하면 그렇다. 결국 소비자 스스로 위험을 줄이는 수밖에 없는 구조다.

헷갈리는 부분 몇 가지 더

Q. 브릭 현상은 로봇 장난감에만 해당되나?
아니다. 스마트 스피커, 홈 카메라, 반려 로봇, 심지어 일부 전기차 기능까지 클라우드 의존형 제품이라면 똑같은 위험이 있다.

Q. 유명 대기업 제품이면 안전한가?
상대적으로 안전하지만 완전히 안전하지는 않다. 대기업도 수익성 낮은 서비스는 정리 대상에 오른다. 특정 스마트홈 라인업이 통째로 단종되며 서버 지원이 끊긴 사례도 실제로 있었다.

Q. 크라우드펀딩 제품은 무조건 피해야 하나?
무조건 피할 필요는 없다. 다만 서버 의존도가 높은 제품이라면 후속 지원 이력과 커뮤니티 활성도부터 확인하는 게 안전하다.

출처: MIT Tech Review AI

초등학생 조카가 수학 숙제를 챗GPT한테 물어보는 걸 본 적 있다. 중학생 딸은 AI 캐릭터한테 친구 고민을 털어놓는다고 한다. 이제 낯선 풍경이 아니다. 문제는 부모 입장에서 이걸 어디까지 놔둬야 할지 감이 안 온다는 거다. 학습 도구로 써도 되는 건지, 대화형 챗봇이 아이 정서에 안 좋은 건 아닌지 — 걱정만 쌓인다.

아이들 마음속, 생각보다 복잡하다

미국 청소년 매체 Anyway 편집진이 실제 아이들한테 물어본 적 있다. AI를 어떻게 느끼냐고. 돌아온 답은 어른들 예상과 달랐다. 신기해하면서도 동시에 “내 친구 자리를 얘가 대신하면 어쩌지” 하는 불안이 같이 있었다. 기대와 경계심이 한 아이 안에 공존하는 셈이다. 사실 어른들이 챗봇 대할 때 느끼는 감정이랑 크게 다르지 않다. 다만 아이들은 그 감정을 말로 정리하는 게 서툴 뿐이다.

몇 살부터 써도 되나, 기준부터 정리

주요 AI 서비스는 대부분 이용약관에 나이 기준을 박아놨다. 현장에서 통용되는 기준은 대략 이렇다.

• 13세 미만: 대부분의 챗봇 서비스가 단독 계정 생성을 막는다. 부모 계정으로 함께 쓰는 방식이 안전하다.
• 13~17세: 계정 생성은 가능하지만 보호자 동의나 연동 기능을 켜두는 게 좋다.
• 18세 이상: 제한이 거의 없다. 다만 결제나 개인정보 입력은 별개로 챙겨야 한다.

나이 기준을 지켰다고 끝이 아니다. 같은 열두 살이라도 AI 말을 곧이곧대로 믿는 정도는 아이마다 다르다. 기준은 최소선일 뿐이고, 판단은 결국 부모 몫이다.

AI로 숙제하면 진짜 머리가 나빠질까

이 질문엔 정답이 없다. 답만 베껴 쓰면 실력이 늘 리가 없다. 반대로 풀이 과정을 캐묻고 스스로 검산하는 용도로 쓰면 오히려 도움이 된다. 결국 사용 방식 차이다.

• 답을 바로 요구하지 않고 “어떻게 풀어야 해?”라고 과정을 묻게 한다.
• AI가 준 답을 교과서나 다른 자료로 한 번 더 확인하는 습관을 들인다.
• 에세이나 독후감은 AI가 쓴 문장을 그대로 제출하지 않고 자기 말로 고쳐 쓰게 한다.

학교마다 AI 사용 규정이 제각각이다. 담임 교사나 학교 방침부터 먼저 확인하는 게 순서다.

챗GPT·제미나이·클로드, 부모용 안전장치는 뭐가 다를까

세 서비스 다 청소년 이용을 염두에 둔 장치는 갖췄다. 방식은 제각각이다.

• 챗GPT: 보호자 계정과 자녀 계정을 연동해서, 민감한 대화가 감지되면 알림이 온다.
• 제미나이: 구글 패밀리링크와 묶여서 나이대별로 답변 범위를 조절하는 방식을 쓴다.
• 클로드: 아예 18세 미만 단독 이용을 제한하는 쪽에 가깝다. 학생용 별도 모드보다는, 사용 자체를 성인 보호자 아래 두는 접근이다.

어느 쪽이 낫다고 단정하긴 어렵다. 아이 나이와 쓰는 목적에 따라 골라 쓰는 게 현실적이다.

너무 빠졌다는 신호, 시간보다 태도를 봐라

사용 시간만 재는 건 큰 의미가 없다. 오히려 눈여겨봐야 할 건 태도 변화다.

• 친구나 가족과의 대화보다 AI와의 대화를 더 편하게 느낀다.
• AI가 틀린 말을 해도 의심 없이 그대로 믿는다.
• AI 사용을 못 하게 하면 유난히 예민하게 반응한다.

이 중 하나만 걸린다고 당장 문제는 아니다. 다만 두세 개가 겹친다면, 사용 시간과 대화 내용을 한번 들여다볼 필요는 있다.

집에서 바로 써먹는 규칙 3가지

거창한 정책보다 단순한 규칙 몇 개가 먹힌다.

• 공용 공간에서만 사용: 방문 닫고 혼자 쓰게 두지 않는다.
• 대화 내용 가끔 같이 보기: 검열이 아니라 “요즘 뭐 물어봐?” 정도로 자연스럽게 물으면 충분하다.
• AI 답변도 틀릴 수 있다고 미리 알려주기: 이 한마디가 의외로 제일 효과 있다.

부모들이 자주 묻는 것들

Q. AI 챗봇이 개인정보를 물어보면 위험한가요?
이름, 학교, 사는 동네 같은 정보는 굳이 넣지 않는 게 안전하다. 아이한테는 “AI는 모르는 사람이랑 똑같다”고 설명하면 이해가 빠르다.

Q. AI 캐릭터랑 대화하는 앱, 그냥 게임 아닌가요?
겉모습은 캐릭터 대화 게임 같아도 실제로는 대형 언어모델이 응답을 만든다. 게임보다는 챗봇에 가깝다고 보고 접근하는 게 맞다.

Q. 학교에서 AI 사용을 금지했는데 집에서는 써도 되나요?
학교 방침이랑 집에서 쓰는 목적은 다를 수 있다. 다만 숙제나 시험 관련해서는 학교 규정부터 따르는 게 안전하다.

출처: MIT Tech Review AI

세포 37조 개. 사람 몸 하나에 들어있는 세포 수다. 이 세포 하나하나가 어떤 유전자를 켜고 끄는지 낱낱이 기록해서 지도로 만들겠다는 프로젝트가 몇 년째 전 세계 연구소를 끌어모으고 있다. 이름하여 ‘휴먼 셀 아틀라스(Human Cell Atlas)’. 그런데 이 지도, 성인 데이터에만 쏠려 있다는 지적이 나오면서 소아·발달 단계 세포를 채워 넣으려는 움직임이 최근 이어지는 중이다. 세포 지도가 정확히 뭐고, AI가 왜 여기서 필수 도구로 쓰이는지 짚어본다.

휴먼 셀 아틀라스, 뭘 만들겠다는 건가

휴먼 셀 아틀라스는 2016년 무렵 시작된 국제 컨소시엄 프로젝트다. 목표는 단순하다. 인체에 존재하는 세포 유형을 종류별로 빠짐없이 분류하고, 각 세포가 어떤 유전자를 발현하는지 기록해서 하나의 참조 지도로 묶는 것. 화학에 주기율표가 있듯, 생물학에도 기준표 하나 만들겠다는 발상이다. 스케일이 좀 큰가 싶지만, 실제로 영국 웰컴 트러스트 생어 연구소를 비롯해 전 세계 수십 개 기관이 이미 뛰어들었다. 지금까지 공개된 세포 데이터만 수천만 건. 적은 숫자가 아니다.

지도를 그리는 핵심 기술, 단일세포 시퀀싱

단일세포 RNA 시퀀싱(scRNA-seq)이 이 지도의 뼈대다. 예전 유전자 분석은 조직 하나를 통째로 갈아서 평균값을 뽑는 식이었다. 세포 수천 개가 뒤섞인 채로 측정하니 개별 세포의 개성은 죄다 뭉개졌던 셈. 단일세포 시퀀싱은 세포를 하나씩 분리해서 각각의 유전자 발현을 따로 읽어낸다. 덕분에 같은 조직 안에서도 전혀 다른 역할을 하는 세포 아형(subtype)까지 구분해낸다. 시퀀싱 비용이 10년 전보다 수십 분의 1로 떨어진 것도 이 프로젝트가 현실이 될 수 있었던 배경 중 하나다.

AI 없이는 애초에 불가능했던 작업

세포 하나당 측정되는 유전자는 2만 개가 넘는다. 여기에 수백만 개 세포 데이터가 쌓이면 사람 손으로 일일이 분류하는 건 사실상 불가능하다. 그래서 이 작업의 대부분을 머신러닝이 떠맡는다. UMAP이나 t-SNE 같은 차원 축소 알고리즘으로 비슷한 발현 패턴의 세포를 묶고, 분류 모델이 세포 유형에 이름을 붙이는 식이다. 최근엔 scGPT, Geneformer처럼 유전자 발현 데이터로 사전학습한 생물학 파운데이션 모델까지 나왔다. 처음 보는 조직의 세포도 기존 지도와 대조해 유형을 추정하는 수준까지 왔다는 얘기다. 텍스트 대신 유전자 발현 벡터를 학습한 언어모델, 이라고 생각하면 이해가 빠르다.

성인 지도만으론 부족했다 — 소아·발달 데이터의 빈틈

MIT 테크놀로지 리뷰가 다룬 사례를 보면, 필라델피아 아동병원 소속 연구자가 이 빈틈을 알아챈 경위도 비슷하다. 지금까지 쌓인 데이터 대부분이 성인 조직에서 나왔다는 게 문제였다. 태아기부터 청소년기까지 세포가 분화하고 조직이 자라는 과정은 성인 세포와 발현 패턴 자체가 다르다. 소아암, 선천성 심장질환, 발달장애처럼 어린 시기에만 나타나는 질환을 연구하려면 그 시기의 세포 지도가 따로 필요한데, 정작 그 구간이 텅 비어 있었던 것. 요즘 태아·영유아·청소년 단계 세포를 모아 별도의 소아 세포 지도를 구축하려는 연구가 속도를 내는 이유다. 성장 과정을 시간순으로 담은 지도가 생기면, 특정 유전자가 언제 켜지고 꺼지는지까지 추적하는 일도 가능해진다.

세포 지도, 실제로 어디에 쓰이나

이렇게 완성된 지도는 논문 속에만 머무르지 않는다. 실제 활용처를 꼽아보면 이렇다.

• 신약 타깃 발굴: 질병 조직에만 특이적으로 나타나는 세포와 유전자를 찾아내면, 그 유전자를 겨냥한 치료제 후보를 훨씬 빠르게 좁힐 수 있다.
• 희귀질환 진단: 정상 세포 지도와 환자 세포 데이터를 비교해서 어느 단계에서 발달이 어긋났는지 짚어낸다.
• 암 조기 발견: 암세포로 변하기 직전 단계의 미세한 유전자 발현 변화를, 정상 지도와 대조해 잡아낸다.
• 재생의료: 특정 세포를 인공적으로 배양할 때, 진짜 그 세포가 맞는지 검증하는 기준표로 쓴다.

바이오인포매틱스, 커리어로 볼 만한가

이 판이 커지면서 자연스럽게 뜨는 직군이 바이오인포매틱스다. 생물학 지식만으로는 부족하다. 파이썬이나 R로 대용량 유전체 데이터를 다루는 능력, 여기에 머신러닝 모델을 직접 돌려볼 줄 아는 역량까지 겹쳐야 몸값이 오른다. 국내에서도 제약사와 바이오 스타트업 중심으로 단일세포 데이터 분석 경력자를 찾는 채용 공고가 꾸준히 올라온다. 순수 개발자 출신이 이 분야로 넘어가는 사례도 늘고 있다. 데이터 엔지니어링이나 ML 파이프라인 구축 경험이 생물학 도메인 지식보다 먼저 통하는 경우도 많다고 한다. 생물학은 일하면서 배워도 늦지 않다는 얘기, 현업 연구자들에게서 은근히 자주 듣는다.

출처: MIT Tech Review AI

지하주차장 입구, 차단기 옆 카메라가 번호판을 찍는다. 톨게이트도 마찬가지고, 대형마트 주차장 들어갈 때도 똑같다. 이게 ALPR, 번호판 자동인식 시스템이다. 최근 미국에서는 이 기술을 운영하는 대표 업체가 경찰의 데이터 접근 권한을 스스로 줄였다는 소식이 나왔다. 카메라가 실제로 뭘 얼마나 모으고 누가 들여다보는지, 궁금해하는 사람이 확실히 늘었다는 뜻이다. 국내도 CCTV와 번호판 인식기가 촘촘히 깔린 건 마찬가지라, 원리와 논란을 한번 정리해본다.

번호판 자동인식 카메라, 정확히 뭐길래

ALPR은 Automatic License Plate Recognition의 줄임말. 카메라로 찍은 번호판을 광학문자인식(OCR)으로 텍스트 데이터로 바꾸는 시스템이다. 국내에서는 보통 차량번호 자동인식 시스템, 번호판 인식기 정도로 부른다. 핵심은 단순 촬영이 아니라 데이터화라는 점이다. 이미지를 문자로 바꿔서 데이터베이스에 저장하면, 어떤 차가 언제 어디를 지나갔는지 시간과 장소가 같이 남는다. 사진 한 장이 아니라 이동 기록이 쌓이는 구조. 일반 CCTV와는 바로 이 지점에서 갈린다.

작동 원리는 의외로 단순하다

동작 방식은 크게 3단계다.

• 적외선 카메라로 야간이나 역광에도 번호판을 선명하게 촬영한다
• OCR 소프트웨어가 이미지 속 문자와 숫자를 인식해 텍스트로 변환한다
• 변환된 번호를 데이터베이스와 대조해 수배차량, 도난차량, 주차 정산 대상 등을 가려낸다

이 과정이 차량 한 대당 1초 안팎에 끝난다. 그러니 고속도로 톨게이트처럼 차가 쌩쌩 지나가는 구간에서도 별 무리 없이 돌아간다.

어디까지 깔려 있나

생각보다 범위가 넓다. 이쯤 되면 안 걸리는 게 이상할 지경이다.

• 아파트·오피스텔 지하주차장 출입 관제
• 고속도로 하이패스·무정차 통행료 정산
• 대형마트, 백화점 주차 할인 자동 적용
• 경찰의 수배·도난 차량 조회
• 속도위반, 신호위반 등 교통법규 단속

일상에서 마주치는 카메라 대부분, 이미 이 기술 쓴다고 보면 된다.

왜 갑자기 시끄러워졌나

문제는 이 데이터가 누구 손에, 얼마나 오래 남느냐다. 미국에서는 경찰이 아니라 민간 업체가 전국 단위로 번호판 데이터를 모아 지방정부와 연방기관에 파는 구조 자체가 도마에 올랐다. 대표적으로 한 번호판 인식 업체는 이민 단속 기관이나 특정 수사기관이 별다른 제한 없이 위치 이력을 조회하게 열어뒀다가 시민단체 반발을 샀다. 이 대목에서 좀 소름 돋는다. 결국 경찰 접근 권한을 축소하는 쪽으로 정책을 바꿨다. 우려는 크게 세 가지로 압축된다.

• 영장 없이 특정 차량의 이동 경로를 몇 달치씩 조회할 수 있다는 점
• 수집된 데이터가 필요 이상으로 오래 보관되거나 제3자에게 넘어갈 수 있다는 점
• 범죄 수사가 아니라 이민자, 시위 참가자 등 특정 집단을 추적하는 데 악용될 여지가 있다는 점

국내는 좀 다를까

한국은 인구 대비 CCTV 밀집도가 세계적으로 높은 축에 속한다. 개인정보보호법에 CCTV 설치·운영 기준이 있긴 하지만, 번호판 인식 데이터를 얼마나 보관하고 어떻게 쓰는지는 기관마다 제각각이다. 아파트 관리사무소, 마트, 경찰이 각자 다른 기준으로 데이터를 다루다 보니, 정작 내 차량 정보가 어디까지 남아있는지 파악하기 힘든 구조다.

내 번호판 정보, 어디까지 남았는지 확인하는 법

불안하다고 손 놓고 있을 필요는 없다. 실제로 확인하고 요청할 수 있는 절차가 마련돼 있다.

• 개인정보보호위원회 홈페이지에서 개인정보 열람·삭제 청구가 가능하다
• 아파트나 상가 관리사무소에는 CCTV 운영방침 열람을 요청할 권리가 있다
• 부당한 데이터 활용이 의심되면 국민신문고를 통해 민원을 제기할 수 있다
• 차량용 블랙박스나 내비게이션 앱의 위치 기록 공유 설정도 함께 점검해두면 좋다

결국 핵심은 기술이 아니라 관리 방식

ALPR 자체는 도난 차량 찾고, 통행료 자동 정산하고, 주차장 출입 편하게 만드는 실용적인 기술이다. 기술 자체를 없애자는 논의로 흘러가는 경우는 거의 없다. 당연한 얘기다. 진짜 쟁점은 누가 데이터를 얼마나 오래 쥐고 있고, 어떤 절차로 조회하느냐다. 해외에서 벌어진 규제 강화 움직임도 결국 이 지점을 겨냥한 거다. 국내에서도 번호판 인식 데이터의 보관 기간과 접근 권한을 명확히 하자는 논의가 이어질 가능성이 크다. 차를 몰고 다니는 이상 이 카메라들과 마주치는 일을 피하긴 어렵다. 다만 내 정보가 어떻게 쓰이는지 확인하는 습관 정도는 들여둘 만하다.

출처: MIT Tech Review AI

기업 10곳 중 8곳이 AI 에이전트를 검토 중이거나 이미 쓰고 있다고 답했다. 실험 단계는 진작에 지났다는 뜻이다. 근데 진짜 문제는 그 다음부터다. 도입은 했는데, 기대했던 성과가 안 나온다는 하소연이 여기저기서 들린다. 원인을 하나씩 파고 들어가 보면 결국 한 지점에서 막힌다. 데이터.

챗봇이랑 뭐가 다른데?

AI 에이전트랑 챗봇을 같은 걸로 착각하는 사람, 생각보다 많다. 챗봇은 물어보면 답만 한다. 에이전트는 다르다. 스스로 판단하고, 여러 단계를 거쳐 실제로 일을 처리한다.

• 고객 문의를 읽고 환불 규정 확인한 다음, 진짜로 환불까지 처리
• 재고 데이터 조회해서 부족한 품목을 발주 시스템에 자동 등록
• 코드 저장소 뒤져서 버그 찾고 수정안까지 작성

핵심은 행동이다. 대답만 던지고 끝나는 게 아니라 실제 시스템을 건드린다. 이 지점에서 챗봇과는 완전히 다른 물건이 된다.

데이터가 왜 생사여탈권을 쥐고 있나

에이전트가 알아서 움직인다는 건 양날의 검이다. 데이터가 정확하면 업무 속도는 몰라보게 빨라진다. 근데 데이터가 틀렸거나 오래됐으면? 그 오류가 그대로 실행된다. 챗봇이 이상한 답을 뱉으면 사람이 걸러내고 넘어가면 그만이다. 에이전트는 걸러낼 틈도 없이 주문을 넣고, 이메일을 보내고, 시스템 값을 바꿔버린다. 되돌리기 번거로운 일들이다.

MIT 테크놀로지 리뷰가 짚은 대로, 에이전트 프로젝트의 ROI는 모델 성능보다 데이터 인프라 쪽에 달려 있는 경우가 많다고 한다. 아무리 좋은 모델을 붙여놔도 참조하는 데이터가 사일로에 갇혀 있거나 갱신이 느리면, 결과물은 부실할 수밖에 없다. 모델 탓이 아니라는 얘기다.

도입한 기업들, 다 이 벽에 걸린다

실제 사례를 뜯어보면 패턴이 비슷하다.

• 데이터 사일로 — 부서마다 다른 시스템에 데이터가 흩어져 있어서 에이전트가 전체 그림을 못 본다
• 신선도 부족 — 하루 한 번 배치로 갱신되는 데이터를 실시간 판단에 쓰다 보니 엇박자가 난다
• 권한 관리 공백 — 누가 어떤 데이터에 접근해서 뭘 했는지 추적이 안 되는 경우가 태반이다

이 셋 중 하나만 걸려도 프로젝트는 파일럿 단계에서 멈춘다. 셋 다 걸리면? 말할 것도 없다.

믿고 쓸 만한 데이터 인프라, 조건은 네 가지

에이전트를 실전에 투입하려면 최소 이 네 가지는 갖춰야 한다.

• 정확성 — 출처가 검증된 데이터, 중복이나 오류 없는 값
• 접근성 — API나 MCP(Model Context Protocol) 같은 표준 연동으로 여러 시스템을 한 창구에서 조회
• 거버넌스 — 누가 뭘 봤고 뭘 바꿨는지 남는 감사 로그, 세밀한 권한 설정
• 실시간성 — 재고, 가격, 상태값처럼 자주 바뀌는 데이터는 최소 몇 분 단위로 갱신

개인적으로 이 넷 중에서 거버넌스를 제일 늦게 챙기다가 뒤통수 맞는 조직, 진짜 많이 봤다. 초반엔 다들 정확성이랑 속도에만 매달린다. 그러다 에이전트가 잘못된 권한으로 민감 데이터를 건드리는 사고가 한 번 터지면, 그제서야 부랴부랴 손보기 시작한다. 순서가 항상 거꾸로다.

도입 전에 체크해야 할 것들

실무에서 바로 써먹을 수 있는 점검 항목이다.

• 에이전트가 접근할 데이터 소스 목록, 전부 파악했는가
• 각 데이터의 갱신 주기와 신뢰도를 알고 있는가
• 잘못된 행동을 했을 때 되돌릴 롤백 절차가 있는가
• 사람이 최종 승인해야 하는 액션과 자동 실행해도 되는 액션, 구분해뒀는가
• 파일럿 성공 여부를 판단할 명확한 KPI(처리 시간, 오류율, 비용 절감액 등)를 세웠는가

결국 남는 조직과 사라지는 조직

성과 낸 조직들 보면 접근 방식이 비슷하다. 전사 도입부터 밀어붙이지 않는다. 반복 업무 하나 골라서 좁게 시작한다. 그 안에서 데이터 파이프라인 다듬고 거버넌스 체계 검증한 다음에야 범위를 넓힌다. 처음부터 완벽한 데이터 인프라 갖추고 시작하는 조직, 거의 없다. 작은 실패를 빨리 겪고 고쳐나가는 속도. 그게 결과를 가른다.

궁금할 만한 것들

Q. AI 에이전트 도입에 꼭 대규모 데이터팀이 필요한가?
아니다. 소규모 팀도 데이터 소스를 3~4개로 좁혀서 시작하면 충분히 검증 가능하다. 규모보다 데이터 정합성 체크 프로세스가 있느냐가 관건이다.

Q. RAG(검색증강생성)만 잘 구축하면 데이터 문제는 해결되나?
RAG는 참조용 데이터를 잘 찾아오는 기술이다. 그 데이터 자체의 정확성이나 신선도까지 보장해주는 건 아니다. 소스 데이터 관리가 먼저다.

Q. 기존 챗봇 시스템에서 에이전트로 넘어갈 때 뭐부터 바꿔야 하나?
권한 체계부터 다시 짜는 걸 추천한다. 챗봇은 답변만 하지만 에이전트는 실행 권한을 갖는다. 기존의 느슨한 접근 제어를 그대로 가져가면, 사고 확률이 확 올라간다.

출처: MIT Tech Review AI