Daily News Korea

[태그:] 에이전틱 AI

  • 리빙 디지털 트윈, AI 자율 범위는 사람이 긋는다

    리빙 디지털 트윈, AI 자율 범위는 사람이 긋는다

    3줄 요약

    • 리빙 디지털 트윈은 실시간 데이터로 계속 갱신되는 공장 모델에, 운전·제어 시스템을 통해 실제 설비에 개입하는 능력을 더한 개념이다.
    • AI 자율성은 ‘권고 후 사람 승인’, ‘폐루프 운전과 사람 감독’, ‘좁은 반복 작업의 완전 자율’처럼 단계를 나눠 설계한다.
    • 운영자의 일은 조치를 하나씩 승인하는 데서, 허용 운전 한계를 정하고 AI가 경계를 벗어나는 순간을 잡아내는 쪽으로 옮겨 간다.

    사우디 아람코(Saudi Aramco)의 얀부(Yanbu) 정유 공장에서는 최적화 알고리즘이 생산 조건을 폐루프로 직접 조정하고, 운영자는 필요할 때 감독해요. 같은 회사의 라스타누라(Ras Tanura) 정유 공장은 다르게 움직입니다. 알고리즘은 변경안을 내놓는 데서 멈추고, 적용할지 말지는 운영자가 정하죠. 회사도 같고 기술 계열도 비슷해요. 그런데 AI에게 맡긴 범위는 공장마다 다릅니다.

    산업용 AI에서 정말 어려운 건 성능 좋은 모델 고르기가 아니에요. ‘어떤 결정을 AI에게 넘기고, 어떤 결정을 사람이 쥐고 있을지’를 설계하는 쪽이 훨씬 까다롭습니다. 이 분야를 처음 공부할 때 가장 놓치기 쉬운 지점이기도 하고요. MIT Technology Review가 산업 소프트웨어 기업 AVEVA의 최고제품책임자(CPO) 롭 맥그리비(Rob McGreevy)의 설명을 바탕으로 소개한 ‘리빙 디지털 트윈(living digital twin)’은 이 설계 문제를 이해하기 좋은 틀이에요. 아람코 두 공장의 차이도 이 틀에 올려보면 한눈에 들어옵니다.

    초기 디지털 트윈은 이상을 보고도 손쓰지 못했다

    공장 하면 차가운 강철, 정해진 박자로 돌아가는 기계부터 떠오르죠. 그런데 기능만 놓고 보면 공장은 생명체에 더 가까워요. 맥박이 있고, 일종의 대사 작용도 있고, 시간이 흐르면 마모됩니다. 건강이 나빠지는 신호 역시 처음엔 눈에 거의 띄지 않는 작은 불규칙성으로 나타나요.

    디지털 트윈은 원래 이런 변화를 디지털 공간에 비춰보려고 만든 기술이에요. 큰 고장의 전조가 될 수 있는 이상 징후를 미리 모델링하자는 취지였죠. 발목을 잡은 건 속도였습니다. 초기 구현들은 물리적 현실보다 늘 몇 박자씩 뒤처졌어요. 실시간 분석이 안 됐고, 이상을 찾아내도 먼저 나서서 손쓸 방법이 없었습니다. 쓰임새가 시뮬레이션, 관찰, ‘이렇게 바꾸면 어떻게 될까’ 하는 시나리오 계획에 몰린 것도 그 때문이에요. 분석 결과를 현장 실행으로 되돌려 보내는 폐루프 실행과는 거리가 멀었죠.

    리빙 디지털 트윈은 이 마지막 연결 고리를 채웁니다. 복잡한 운영을 정밀하고 동적으로 표현하는 디지털 모델에, 운전·제어 시스템을 거쳐 물리 세계에 직접 개입하는 능력을 묶은 개념이에요. 기존 트윈이 이상을 찾아 알려주는 거울이었다면 리빙 트윈은 거울에 손까지 달린 셈입니다. 보는 도구가 움직이는 도구가 된 거예요.

    맥그리비는 AI가 들어간 새 디지털 트윈을 자라고 진화하는 유기체에 비유해요. 설비와 공정을 담은 모델이 현장 상황에 맞춰 계속 적응하고 갱신된다는 뜻입니다. 따로 돌던 시스템들을 잇는 만큼, 그동안 없던 가시성과 조율(orchestration) 계층이 생긴다는 점도 그가 힘주어 말하는 부분이고요. 에이전틱 AI까지 붙으면 진단이나 제안에서 멈추지 않아요. 스스로 행동합니다. 작은 조정을 끊임없이 반복해 공장을 건강하게 유지하는, 일종의 ‘산업 항상성’. 사람 몸이 체온을 지키려고 쉬지 않고 미세 조정하는 모습을 떠올리면 감이 옵니다.

    ‘건강한 상태’가 무엇인지 정의하는 일은 여전히 사람 몫이에요. AI가 의도에서 벗어나기 시작할 때 이를 알아채고 경고하는 것도 사람이고요. 리빙 트윈이 엔지니어에게 창 역할까지 맡아야 하는 이유가 여기 있어요. AI가 무엇을 하고 있는지 들여다보고, 실행이 제대로 가는지 확인하는 창이요. 손이 달린 거울이라면 그 손이 뭘 하는지도 비춰줘야 한다는 얘기죠.

    디지털 스레드와 값싸진 센서가 트윈을 살려냈다

    리빙 트윈의 뼈대는 디지털 스레드(digital thread)예요. 설비 하나가 설계될 때부터 수명을 다할 때까지 따라다니는 연결된 기록입니다. 설계·엔지니어링 정보와 실시간 운영 데이터를 이 스레드로 묶어야 트윈이 현실과 같은 박자로 움직여요. 개발자식으로 비유하면 이런 그림이에요. 설비마다 설계 문서 링크와 운영 로그를 하나의 키로 묶은 이력 테이블.

    이 스레드를 실제로 엮을 수 있게 된 데는 두 가지 변화가 컸어요.

    • 센서와 텔레메트리: 센서 가격이 떨어지면서 IoT 기기와 산업 제어 장비에서 텔레메트리가 끊임없이 흘러들어와요.
    • 소프트웨어 플랫폼: 흩어진 데이터를 다루기 쉬운 화면으로 모아주는 플랫폼이 자리를 잡았어요.

    예측 모델과 물리 기반 모델을 더하면 한 걸음 더 나갑니다. 기계나 공정이 앞으로 어떻게 움직일지에 대한 AI 기반 인사이트까지 얻을 수 있거든요. 데이터로 학습한 모델과 물리 법칙으로 세운 모델을 함께 쓰는 구조라서, 한쪽만 쓸 때보다 판단 근거가 넓어진다고 보면 돼요.

    트윈을 들여다보는 ‘렌즈’도 여러 갈래가 됐어요. 맥그리비가 드는 예는 세 가지입니다. 지속가능성 렌즈는 ‘배출량이 얼마인가’를, 유지보수 렌즈는 ‘이 설비가 건강하게 돌고 있는가’를, 성과 렌즈는 ‘필요한 만큼 생산하고 있는가’를 묻는다는 거죠. 트윈은 하나여도 던지는 질문에 따라 필요한 센서, 데이터, 화면 구성이 모두 달라져요. 렌즈마다 요구하는 데이터가 다르니 트윈을 기획할 때 어떤 렌즈를 먼저 쓸지부터 정하는 편이 효율적이라고 봐요. 세 렌즈를 한꺼번에 갖추려 들면 센서와 데이터 범위부터 감당하기 버거워질 수 있습니다.

    AI에게 맡기는 범위는 권고·감독·완전 자율 세 칸으로 나뉜다

    다음 단계는 이 렌즈들이 비춘 인사이트 가운데 일부를 AI가 직접 실행하게 하는 거예요. 제조업계 기대는 커요. Manufacturing Leadership Council 설문에서 제조업체의 66%가 운영에 에이전틱 AI를 쓰고 있거나 쓸 계획이라고 답했습니다. 40%는 2030년까지 어느 정도의 공장 자율화를 예상했고요. 경계심도 그만큼 큽니다. Deloitte의 스마트 제조 설문에서는 경영진의 65%가 사업 중단 가능성을 포함한 운영 리스크를 가장 큰 우려 사항 가운데 하나로 꼽았어요. 조사 대상은 서로 다르지만, 기대와 걱정이 비슷한 크기로 함께 자라고 있다는 건 분명해 보입니다.

    맥그리비는 기대와 우려 사이의 이 간극을 SCADA에 빗대 설명해요. SCADA(Supervisory Control and Data Acquisition)는 산업 현장에서 설비를 원격으로 감시·제어하는 시스템이에요. 그는 ‘SCADA의 S는 감독(supervisory)을 뜻하고, 감독이란 중간에 사람이 있다는 뜻’이라고 말합니다. 에이전틱 AI도 같은 길을 밟을 거라는 전망이에요. 당분간은 대부분 조언하는 역할에 머물고, 완전 자율은 범위가 좁고 반복성이 매우 높은 작업에 한정된다는 거죠. 자율화까지는 다듬을 부분도, 입증 사례도, 테스트와 검증도 훨씬 더 필요하다는 말도 덧붙였어요. 산업 소프트웨어를 파는 회사의 제품 책임자가 완전 자율에 먼저 선을 그은 셈이라, 가볍게 넘기기 어려운 신중론입니다.

    실제 현장의 감독 방식은 배치마다 제각각이에요. 운영자가 모든 조치를 승인하는 곳이 있는가 하면, AI가 스스로 움직이되 사람이 경계를 정하고 지켜보는 곳도 있어요. 단계별로 나누면 이렇게 볼 수 있습니다.

    운영 방식 AI가 하는 일 사람이 하는 일 언급된 사례
    권고형 변경안 제안 적용 여부 결정 사우디 아람코 라스타누라 정유 공장
    폐루프 + 감독형 생산 조건을 직접 조정 필요에 따라 감독, 운영 경계 설정 사우디 아람코 얀부 정유 공장
    완전 자율 좁고 반복성이 높은 작업을 스스로 수행 건강한 상태와 허용 범위 정의 향후 전망으로만 언급, 구체 사례 없음

    식품 쪽에도 사례가 있어요. 네슬레(Nestlé)는 네스퀵(Nesquik) 공장에서 분말 음료 원료를 만드는 산업용 건조기를 AI 최적화로 튜닝합니다. 건조기는 같은 작업을 되풀이하면서 운전 조건을 계속 맞춰줘야 하는 설비예요. 맥그리비가 말한 ‘좁고 반복적인 작업’과 성격이 가까워서, AI 튜닝을 먼저 시도해보기 좋은 대상으로 보여요. 사람이 경험으로 맞추던 설정값을 데이터로 좁혀갈 수 있으니까요.

    운영자는 승인 버튼 대신 경계선을 쥐게 된다

    AI가 실행까지 맡기 시작하면 운영자의 하루도 달라져요. 공정 라인 하나, 정비 업무 하나를 전문으로 맡던 사람이 여러 분야를 함께 다룰 수 있게 됩니다. 반복적인 조치를 하나하나 승인하던 시간은 줄어요. 대신 늘어나는 건 ‘어디까지가 허용 가능한 운전 범위인가’를 정의하는 시간이죠.

    이 구조에서 가장 중요한 감각은 AI의 실수를 일찍 잡아내는 능력이에요. AI는 입력받은 데이터의 패턴을 그대로 강화할 수 있거든요. 데이터에 섞여 있던 잘못된 운전 습관이 자동 조정을 거치며 오히려 굳어버릴 수 있다는 얘기입니다. AI가 무엇을 보고 무엇을 하고 있는지 해석하려면 현장 경험과 지식이 결정적이에요. 사람의 역할이 줄어든다기보다 성격이 바뀐다고 보는 게 정확합니다. 오래 현장을 지킨 운영자의 감각은 그대로 쓰이고, 쓰이는 자리만 옮겨 가는 거죠.

    조직 차원의 거버넌스도 따라가야 해요. AI가 혼자 내릴 수 있는 결정은 무엇인지, 그 행동을 어떻게 모니터링하고 감사할지 가드레일을 분명히 정해둬야 하죠. 준비 상태는 아직 기대에 못 미칩니다. AVEVA와 IMD의 연구에서 응답 조직의 43%는 AI 도입 뒤에도 생태계 파트너 사이의 의사결정과 책임 구조가 조금 바뀌었거나 전혀 바뀌지 않았다고 답했어요. 상당하거나 근본적인 변화가 있었다는 곳은 23%에 그쳤고, 파트너와 데이터를 상당한 수준 이상으로 공유한다는 곳도 27%뿐이었습니다. 기술보다 조직이 한참 느리게 움직이고 있다는 게 숫자로 드러나는 대목이에요.

    규제도 움직이고 있어요. EU AI Act는 핵심 기반시설에 쓰이는 일부 AI 안전 구성요소를 고위험으로 분류하고 사람의 감독을 요구합니다. 기업이 스스로 틀을 만드는 경우도 있어요. AVEVA는 책임 있는 AI 거버넌스 위원회를 두고, AI 개발·배포 원칙을 공개해뒀습니다.

    국내 제조·플랜트 현장이 먼저 부딪힐 네 가지

    아래 내용은 앞의 사례와 조사 결과를 국내 상황에 비춰본 해석이고, 일부는 추측이에요.

    • EU와 거래하는 기업은 감독 기능을 설계 요구사항으로 다뤄야 할 가능성이 커요. EU AI Act가 핵심 기반시설의 AI 안전 구성요소에 사람의 감독을 요구하는 만큼, 그 범위에 드는 시스템을 EU 시장에 공급하는 국내 기업이라면 승인 흐름과 수동 개입 기능을 처음부터 넣어야 할 것으로 보여요. 어떤 시스템이 고위험에 해당하는지는 제품별로 따로 따져봐야 하고요.
    • 운영 직무의 범위가 넓어질 수 있어요(추측). 한 라인 전담 운영자가 여러 분야를 맡고 운전 한계값을 설계하는 흐름은 특정 국가의 사정이 아니라 기술 구조에서 나오는 변화예요. 국내 현장에서도 비슷하게 나타날 가능성이 높아 보입니다. 데이터 해석과 AI 행동 검토가 운영 교육의 새 과목이 될 수도 있어요.
    • 협력사와의 데이터 공유가 병목이 될 수 있어요(추측). 파트너와 데이터를 폭넓게 공유하는 조직이 27%에 그친다는 결과를 보면, 원청과 여러 협력사로 이어진 공급망일수록 트윈을 공장 담장 밖으로 넓히는 단계에서 걸릴 가능성이 커요. 데이터 공유 범위 합의가 기술 도입보다 먼저 풀어야 할 과제가 될 것으로 보입니다.
    • 산업용 소프트웨어 개발자라면 기능 우선순위가 달라져요. AI가 실행까지 맡는 구조에서는 한계값 관리, 승인·거부 화면, 행동 감사 로그처럼 ‘사람이 통제하고 있다’는 걸 보여주는 기능이 모델 정확도만큼 중요해진다고 봐요. 거버넌스 요구가 결국 이런 기능으로 구현되기 때문이에요. 정확도가 높아도 이런 장치가 빠져 있으면 현장에서 실행 권한을 얻기 어려울 수 있습니다.

    확인된 것과 아직 불확실한 것

    확인된 것

    • 사우디 아람코 얀부 정유 공장은 최적화 알고리즘의 폐루프 생산 조정과 운영자 감독 방식을, 라스타누라 정유 공장은 알고리즘 권고와 운영자 결정 방식을 쓴다.
    • 네슬레는 네스퀵 공장에서 분말 음료 원료용 산업 건조기 튜닝에 AI 최적화를 쓴다.
    • Manufacturing Leadership Council 설문: 에이전틱 AI 사용 또는 사용 계획 66%, 2030년까지 일정 수준의 공장 자율화 예상 40%.
    • Deloitte 스마트 제조 설문: 경영진 65%가 사업 중단 가능성을 포함한 운영 리스크를 주요 우려로 꼽음.
    • AVEVA·IMD 연구: 의사결정·책임 구조 변화가 미미하거나 없음 43%, 상당하거나 근본적 변화 23%, 파트너와 데이터 상당 수준 이상 공유 27%.
    • EU AI Act는 핵심 기반시설의 일부 AI 안전 구성요소를 고위험으로 분류하고 사람의 감독을 요구한다.

    아직 불확실한 것

    • 네슬레 건조기 튜닝의 구체적인 효과와 수치
    • 얀부 정유 공장 폐루프 운전의 성과 지표
    • 완전 자율을 허용할 ‘좁고 반복적인 작업’의 구체적인 기준
    • EU AI Act 고위험 분류가 개별 공장 설비와 소프트웨어에 적용되는 세부 범위
    • 국내 제조 현장의 리빙 디지털 트윈·에이전틱 AI 도입 규모

    도입 회의 첫 안건은 플랫폼이 아니라 ‘AI에게 맡길 결정 목록’

    리빙 디지털 트윈이나 에이전틱 AI 도입을 논의하는 자리라면 플랫폼 이름부터 꺼내지 마세요. 아래 순서로 질문을 정리하는 게 먼저입니다. 앞에서 본 사례와 조사 결과에서 거꾸로 끌어낸 체크리스트예요.

    1. 렌즈를 먼저 고른다. 배출량, 설비 건강, 생산량 가운데 무엇을 가장 먼저 개선할지 정해요. 이것만 정해져도 필요한 센서와 데이터 범위가 좁혀집니다.
    2. 결정을 세 칸으로 나눈다. AI가 권고만 할 결정, 폐루프로 실행하되 사람이 감독할 결정, 완전히 맡길 결정으로 분류해요. 세 번째 칸에는 범위가 좁고 반복성이 높은 작업만 넣는 게 맥그리비의 전망과도 맞아요.
    3. 허용 운전 한계를 사람이 정의한다. ‘건강한 상태’의 기준을 숫자와 조건으로 적어두는 일. 이게 운영자의 핵심 업무가 됩니다.
    4. 감시와 감사 방법을 정한다. AI가 어떤 근거로 무엇을 바꿨는지 기록하고, 정해진 경계를 벗어나려 할 때 사람에게 알리는 구조가 있어야 해요. 그래야 잘못된 데이터 패턴이 강화되는 걸 일찍 잡을 수 있어요.
    5. 파트너와 공유할 데이터 범위를 합의한다. 공장 하나를 넘어 공급망 전체로 트윈을 넓히려면 피할 수 없는 단계예요. 상당 수준 이상 공유하는 조직이 27%라는 걸 감안하면, 시간이 가장 오래 걸릴 칸이기도 합니다.

    같은 아람코 안에서도 얀부는 폐루프, 라스타누라는 권고형이에요. 자율화 수준에 정답이 따로 없다는 걸 보여주는 사례죠. 설비의 위험도, 데이터 준비 상태, 운영 조직의 경험에 맞춰 칸을 나누고, 검증이 쌓이는 만큼 조금씩 옮겨 가는 과정에 가깝습니다. 기술은 계속 좋아질 거예요. 그래도 경계선을 긋는 손은 당분간 사람 쪽에 남아 있을 가능성이 커 보입니다.

    출처: MIT Tech Review AI

    관련 기사

  • 예측 분석, 에이전틱 AI 만나 실행까지 맡는다

    예측 분석, 에이전틱 AI 만나 실행까지 맡는다

    3줄 요약

    • 예측 분석의 쟁점이 ‘통계보다 잘 맞히느냐’에서 ‘예측한 시스템이 사업 의도를 벗어나지 않고 직접 실행하게 하는 법’으로 옮겨갔어요.
    • 변화를 떠받치는 재료는 두 가지예요. 분기마다 갈아 끼우던 모델을 계속 학습시키는 실시간 학습, 그리고 숫자 표 바깥의 비정형 데이터.
    • 도입을 검토한다면 정확도 비교보다 ‘어디까지 맡기고 무엇을 기준으로 멈출지’를 먼저 정하는 순서가 안전해 보여요.

    예측 모델이 통계 기반 예측보다 나으냐는 논쟁은 끝났다. MIT 테크놀로지 리뷰의 맞춤형 콘텐츠 조직 인사이츠(Insights)가 보고서를 소개하면서 첫머리에 못 박은 진단이에요. 까다로운 건 그 뒤에 따라붙는 질문 쪽이에요. 예측 시스템이 자기가 낸 결론대로 직접 움직이게 하되, 사업 의도에서는 벗어나지 않게 하려면 어떻게 해야 하느냐는 것.

    이 글은 그 소개 글을 재료로 세 가지를 차례로 풀어요. 예측 분석이 어디까지를 가리키는 말인지, 에이전틱 AI와 만나면 무엇이 달라지는지, 실무에서 무엇부터 따져야 하는지. 먼저 짚어둘 점이 하나 있어요. 해당 글은 편집국 기사가 아니라 맞춤형 콘텐츠라고 원문 스스로 밝히고 있어요. 보고서를 알리려고 쓴 글이라는 성격을 감안하면, 주장의 강도는 한 단계 걸러서 읽는 편이 좋아요.

    예측 분석은 모델 하나가 아니라 다섯 요소가 맞물린 작업

    예측 분석이라는 말을 들으면 보통 ‘한 달 뒤 매출을 맞히는 모델’ 정도를 떠올려요. 원문이 잡은 범위는 그보다 넓어요. 예측 모델링, 데이터 준비, 분석 워크플로, 결과 해석, 의사결정 적용까지 아우르는 폭넓은 분야라는 게 원문의 정의예요.

    • 예측 모델링: 과거 데이터에서 패턴을 뽑아 미래 값을 추정하는 부분
    • 데이터 준비: 모델에 넣기 전에 데이터를 모으고 다듬는 부분
    • 분석 워크플로: 위 작업을 반복 가능한 흐름으로 묶는 부분
    • 결과 해석: 예측값이 무슨 뜻인지 읽어내는 부분
    • 의사결정 적용: 해석을 실제 조치로 연결하는 부분

    각 항목 옆 풀이는 원문 문구가 아니라 이해를 돕으려고 덧붙인 설명이에요. 굳이 다섯으로 쪼개 보는 이유는 단순해요. 어느 요소가 약한지에 따라 처방이 달라지거든요. 모델 성능이 좋아도 데이터 준비가 엉성하면 입력부터 틀어져요. 해석이 사람마다 다르면 같은 예측값을 놓고 다른 결정이 나오고요. 그리고 다섯 번째, 의사결정 적용. 에이전틱 AI가 파고드는 자리가 바로 여기예요.

    바뀐 것은 정확도 경쟁이 아니라 던지는 질문

    원문에는 리서치 기업 에베레스트 그룹(Everest Group)의 파트너 비샬 굽타(Vishal Gupta)가 등장해요. 기업들이 뒤를 돌아보는 관점은 끝냈고 더 앞을 내다보려 한다는 게 굽타의 말이에요. 이 한마디까지 포함해 원문이 대비시킨 내용을 표로 옮겼어요.

    구분 이전 방식 원문이 가리키는 방향
    핵심 질문 예측 모델이 통계적 예측보다 나은가 예측 시스템이 사업 의도에서 벗어나지 않고 스스로 결론에 따라 행동하게 하려면
    분석의 관점 과거를 돌아보는 수동적 사후 분석 앞을 내다보는 실용적 예견
    모델 갱신 분기별 갱신을 기다림 실시간 학습으로 계속 진화
    입력 데이터 깔끔한 수치 기록 수치 기록에 더해 정돈되지 않은 비정형 상호작용 자료
    시스템의 역할 예측 자율적 의사결정

    눈여겨볼 줄은 첫 줄이에요. 정확도 경쟁은 결론이 났다고 보고, 통제 문제를 다음 과제로 올려놓은 거니까요. 원문은 이 지점에서 앞서가는 기업과 뒤처진 기업의 격차가 벌어지고 있다고도 적었어요. 그런데 그 격차가 얼마나 되는지 보여주는 수치는 소개 글에 나와 있지 않아요. 소개 글만 놓고 보면 주장은 있고 근거 숫자는 빠진 대목이에요.

    굽타는 여러 면에서 ‘분석’이라는 단어가 AI에 자리를 내주고 있고, 모든 것이 AI가 되어 간다고도 말했어요. 사내에서 ‘분석 프로젝트’와 ‘AI 프로젝트’를 가르던 경계가 흐려지고 있다는 뜻으로 읽혀요. 용어가 합쳐지면 예산 항목이나 담당 조직도 함께 섞이기 쉬워요. 그래서 이름보다는 ‘이 시스템이 예측만 하는지, 실행까지 하는지’로 구분하는 쪽이 실무에는 더 쓸모 있어 보여요.

    예측한 뒤 직접 움직일 때 ‘사업 의도 이탈’이 핵심 위험인 이유

    예측만 하는 시스템에서는 사람이 중간에서 판단을 한 번 걸러요. 가령 재고가 부족해질 거라는 예측이 나오면 담당자가 행사 일정이나 공급사 사정을 따져 발주량을 정하죠. 자율 의사결정은 이 중간 단계를 시스템이 맡는 구조예요. 그러면 예측이 조금 빗나갔을 때 치르는 비용이 달라져요. 보고서 속 숫자가 틀린 것과 실제 발주가 잘못 나간 것. 무게가 같을 리 없어요. 여기 든 재고 사례는 원문에 있는 내용이 아니라 설명을 위해 가정한 상황이에요.

    ‘사업 의도에서 벗어난다’는 말도 풀어볼 필요가 있어요. 모델은 주어진 지표 하나를 끌어올리도록 학습돼요. 회사가 바라는 건 그 지표 하나만이 아니고요. 고객 이탈을 줄이라는 목표를 받은 시스템이 할인 쿠폰을 계속 뿌린다고 가정해 봐요. 이탈 지표는 좋아져도 마진은 깎이죠. 틀린 예측이 아니라 ‘맞는 예측에 따른 엉뚱한 실행’이 문제가 되는 셈이에요.

    원문 소개 글은 이 문제를 풀 구체적인 기법까지는 보여주지 않아요. 질문을 던지는 데서 멈추고 전체 보고서로 넘겨요. 그래서 글 끝에 붙인 점검 항목은 원문의 문제 제기를 바탕으로 정리한 해석이라는 점을 밝혀둘게요.

    분기 갱신에서 실시간 학습으로, 숫자 표에서 비정형 데이터로

    이런 변화를 가능하게 한 기술로 원문이 꼽는 건 딥러닝과 생성형 AI예요. 이를 바탕으로 한 분석에는 ‘지능형 분석’이라는 이름을 붙였고요. 구체적으로 짚는 변화는 두 가지.

    하나는 실시간 학습이에요. 분기별 갱신을 기다리는 대신 AI가 계속 진화한다는 설명이죠. 장점은 분명해요. 수요나 고객 행동이 바뀌었을 때 모델이 몇 달 묵은 패턴으로 판단하는 일이 줄어요. 짚어볼 부분도 있어요. 빨리 배운다는 건 잘못된 신호도 빨리 흡수한다는 뜻이에요. 갱신 주기가 짧아질수록 검증과 되돌리기 절차도 같은 속도로 돌아가야 할 것으로 보여요.

    다른 하나는 데이터 범위예요. 새 예측 엔진이 기대는 데이터가 깔끔한 수치 기록에서, 정돈되지 않았지만 통찰이 풍부한 비정형 상호작용 자료까지 넓어졌다고 해요. 상담 대화나 문의 메일, 후기 같은 텍스트를 떠올리면 이해가 쉬워요(이 예시는 원문이 든 것이 아니에요). 숫자 표에는 ‘무엇이 일어났는지’만 남아요. 이런 자료에는 ‘왜 그랬는지’의 단서가 담기고요. 예측에 쓸 재료가 그만큼 넓어지는 효과가 생겨요.

    원문은 이 두 가지가 합쳐진 결과를 수동적인 사후 분석에서 실용적인 예견으로의 이동이라고 요약해요.

    국내 데이터 조직에서는 보고서 납품보다 권한 범위가 먼저 논의될 가능성

    원문에는 한국 사례가 없어요. 그래서 이 대목은 원문의 방향을 국내 업무 환경에 대입해 본 추측이에요. 달라질 만한 지점은 세 군데로 보여요.

    • 분석팀의 산출물: 예측 결과를 대시보드나 보고서로 넘기던 팀이라면 사정이 달라져요. 실행까지 맡는 시스템에서는 ‘어떤 조건에서 어떤 조치를 허용할지’를 적은 규칙이 산출물이 돼요. 그러면 조치가 잘못됐을 때 책임이 모델을 만든 팀에 있는지, 규칙을 승인한 현업 부서에 있는지를 미리 정해둬야 하죠.
    • 비정형 데이터: 상담 기록이나 채팅 내용에는 개인정보가 섞여 있기 쉬워요. 예측 모델의 학습 재료로 쓰려면 수집 당시 고지한 이용 목적에 들어맞는지부터 사내 법무·보안 담당과 확인하는 절차가 필요해 보여요.
    • 검증 절차와의 충돌: 모델을 바꿀 때마다 정해진 주기로 검증과 승인을 받는 조직이라면, 계속 학습하는 모델은 기존 절차와 속도가 안 맞아요. 기술보다 내부 규정을 고치는 일이 더 오래 걸릴 가능성이 있어요.

    확인된 것과 아직 불확실한 것

    확인된 사실 (원문에 적힌 내용)

    • 원문은 예측 모델이 통계적 예측을 앞서느냐는 논쟁을 결론이 난 것으로 규정해요.
    • 다음 과제로는 예측 시스템이 사업 의도에서 벗어나지 않으면서 스스로 결론에 따라 행동하게 하는 문제를 꼽아요.
    • 실시간 학습 덕분에 분기별 갱신을 기다리지 않고 AI가 계속 진화하며, 데이터 범위가 비정형 자료까지 넓어졌다고 설명해요.
    • 예측 분석을 예측 모델링, 데이터 준비, 분석 워크플로, 결과 해석, 의사결정 적용을 포함하는 분야로 정의해요.
    • 에베레스트 그룹의 비샬 굽타는 ‘분석’이라는 단어가 AI에 자리를 내주고 있다고 말했어요.
    • 이 콘텐츠는 편집국이 아닌 맞춤형 콘텐츠 조직이 제작했고, 사람이 조사·작성했으며 AI 도구는 사람의 감독 아래 제작 공정에만 쓰였다고 밝히고 있어요.

    미확정 사항

    • 앞서가는 기업과 뒤처진 기업의 격차가 어느 정도인지: 소개 글에는 수치가 없어요.
    • 사업 의도 이탈을 막는 구체적인 방법: 전체 보고서에 담겼을 것으로 짐작되지만 소개 글만으로는 확인되지 않아요.
    • 어떤 업종과 업무에서 자율 의사결정이 먼저 자리 잡는지
    • 국내 기업에도 같은 흐름이 같은 속도로 나타나는지

    도입을 검토한다면 정확도보다 먼저 물어볼 네 가지

    예측 시스템에 실행 권한을 주는 일을 검토 중이라면, 모델 성능표를 펴기 전에 아래 네 가지 기준부터 세워보길 권해요. 원문의 문제 제기에서 끌어낸 해석이에요.

    • 되돌리기 쉬운 결정인가: 잘못 실행돼도 복구 비용이 낮은 업무부터 맡기는 편이 안전해요. 취소가 어려운 계약이나 대외 발송은 뒤로 미루는 식이죠.
    • 사업 의도를 제약 조건으로 적어뒀는가: ‘수익성을 해치지 않는 선에서’ 같은 문장은 시스템이 지키기 어려워요. 한도 금액, 금지 조건, 중단 기준처럼 판정 가능한 형태로 바꿔야 이탈 여부를 확인하게 돼요.
    • 학습 주기와 검증 주기가 맞는가: 모델이 계속 학습한다면 검증도 상시로 돌아가야 해요. 검증만 분기 단위로 남아 있으면 그 사이 구간은 아무도 들여다보지 않는 셈이에요.
    • 비정형 데이터를 쓸 근거와 품질이 갖춰졌는가: 쓸 권한이 있는지, 그리고 예측에 도움이 될 만큼 일관되게 쌓였는지를 따로 확인해야 해요. 둘은 별개의 문제예요.

    네 가지에 모두 답이 나온 뒤에 사람 승인 단계를 어디에 둘지 정하면 순서가 맞아요. 처음에는 시스템이 조치를 제안하고 사람이 승인하는 구조로 시작해서, 기록이 쌓인 업무부터 자동 실행으로 넘기는 방식이 무난해 보여요. 예측이 얼마나 정확한지는 출발선일 뿐이에요. 실제로 설계해야 하는 대상은 그 예측이 무엇을 하도록 허락할지예요.

    출처: MIT Tech Review AI

    관련 기사

  • 에이전틱 AI 성과, 모델보다 프로세스가 가른다

    에이전틱 AI 성과, 모델보다 프로세스가 가른다

    3줄 요약

    • 에이전틱 전환은 AI를 도구로 쓰는 단계에서 운영 모델로 삼는 단계로 넘어가는 변화다. 더 좋은 모델만으로는 해결되지 않는다.
    • 꾸준히 성과를 내는 기업은 모델을 고르기 전에 프로세스부터 다시 설계한다.
    • 데이터는 양보다 준비도가 중요하며, 옮기지 않고 있는 자리에서 조회·가공하는 주권형·조합형 기반이 해법으로 제시된다.

    연간 2조 5천억 달러. 직전 해보다 44% 늘어난 규모다. 전 세계 AI 투자 전망치로 제시된 숫자인데, 바로 옆에 붙은 진단은 딴판이다. 대다수 기업은 AI로 매출을 키우지도, 일하는 방식을 근본적으로 바꾸지도 못했다.

    돈과 성과 사이의 이 간극을 설명하는 말이 ‘에이전틱 전환(agentic shift)’이다. MIT 테크놀로지 리뷰의 맞춤형 콘텐츠 조직 인사이츠가 낸 보고서 소개문은 원인을 모델 성능이 아닌 구조에서 찾는다. 이 글은 그 논리를 재료로 삼아, 에이전트형 AI를 들이려는 조직이 무엇을 어떤 순서로 점검해야 하는지 풀어 쓴다.

    읽기 전에 짚어 둘 점 하나. 이 보고서는 편집국이 아닌 맞춤형 콘텐츠 부서가 제작했다. 독립 취재 기사와는 성격이 다르니 주장과 근거를 갈라서 읽는 편이 좋다.

    에이전틱 전환은 도구 교체가 아니라 운영 모델 변경이다

    AI를 도구로 쓴다는 건 사람이 일을 하다가 필요한 순간에 AI를 불러 쓰는 방식이다. 문서 요약, 초안 작성, 코드 보조가 여기에 속한다. 업무 흐름의 주인은 여전히 사람.

    운영 모델로서의 AI는 판이 다르다. 에이전트가 여러 단계를 스스로 이어서 수행하고, 사람은 목표 설정과 감독을 맡는다. 보고서 소개문이 ‘에이전틱 전환’이라고 부르는 변화가 이것이다.

    구분 도구로서의 AI 운영 모델로서의 AI
    일의 진행 사람이 일하다 필요한 순간에 AI를 호출 에이전트가 여러 단계를 스스로 이어서 수행
    사람의 자리 업무 흐름의 주인 목표 설정과 감독

    전환의 조건으로 제시된 것은 둘이다.

    • 사람·프로세스·데이터를 실시간으로 연결할 것
    • 그 지능을 믿고 실행에 옮기도록 거버넌스와 통제 장치를 갖출 것

    두 조건 어디에도 모델 이름은 등장하지 않는다. 더 나은 모델, 더 빠른 인프라는 충분조건이 아니라는 뜻이다. 모델 성능은 대부분의 조직이 흡수하는 속도보다 빠르게 좋아지고, 성능당 비용은 계속 떨어진다. 병목은 기술 바깥에 있다.

    부서마다 따로 쌓인 지능이 만드는 사일로

    투자가 늘수록 흔히 나타나는 결과는 파편화다. 부서별로 AI를 따로 들이면 지능이 부서 안에만 쌓인다. 원문이 든 장면은 두 가지.

    • 영업 에이전트가 같은 고객의 미해결 지원 티켓이 있다는 것을 모른다.
    • 마케팅 시스템이 재무 부서가 이미 아는 고객 정보를 보지 못한 채 콘텐츠를 개인화한다.

    각 기능은 따로 떼어 보면 잘 돌아간다. 문제는 회사 전체다. 전사 차원에서는 배우는 것이 적고, 행동의 근거로 삼을 정보도 줄어든다.

    사일로는 사람 조직에서도 오래된 문제다. 다만 에이전트 환경에서는 비용이 더 커지는 것으로 보인다. 사람은 옆 부서에 물어 빈틈을 메우지만, 에이전트는 접근 권한이 없는 데이터를 없는 것으로 취급하고 그대로 실행하기 때문이다. 지원 티켓이 열려 있는 고객에게 영업 제안이 나가는 식의 엇박자가 자동으로, 반복해서 벌어지기 쉬운 구조다.

    성과를 내는 기업은 모델보다 프로세스를 먼저 고친다

    보고서의 첫 번째 핵심 결론은 기업 AI의 확장 문제가 구조적이라는 것. 성과가 꾸준한 기업에는 공통된 규율이 있다고 한다.

    • 프로세스 재설계를 모델 선택보다 앞선 작업으로 취급한다.
    • 기술이 앞으로 어떻게 바뀔지를 전제로 설계한다.
    • 배포한 뒤에 역할과 업무 흐름을 끼워 맞추지 않는다.

    방향 자체는 수긍이 간다. 다만 그 기업들이 얼마나 더 나은 성과를 냈는지는 소개문에 숫자로 나오지 않아, 근거의 두께까지 가늠하기는 어렵다.

    순서가 뒤집히면 벌어질 일은 어렵지 않게 그려진다. 모델부터 고르면 기존 절차 위에 AI를 얹게 된다. 승인 단계, 인수인계, 데이터 입력 방식이 그대로이니 에이전트가 맡을 구간이 좁다. 효과도 개인 생산성 수준에 머물 가능성이 높다.

    프로세스 우선 접근은 질문부터 다르다. ‘어떤 모델이 제일 똑똑한가’를 묻지 않는다. ‘이 업무에서 판단은 누가 하고, 실행은 누가 하며, 예외는 어디로 보내는가’를 먼저 정한다. 모델은 그 설계에 맞춰 끼우고, 더 나은 모델이 나오면 갈아 끼운다. 모델 성능이 빠르게 바뀌는 환경에서 이 방식이 유리해 보이는 이유다. 설계가 특정 모델에 묶여 있지 않으니까.

    데이터 준비도·조합형 아키텍처·AI 주권, 세 과제 비교

    아키텍처와 운영 모델을 동시에 다시 생각해야 한다는 것이 보고서의 주문이다. 구체적 과제는 세 가지로 나뉜다.

    과제 벗어날 것 지향점
    데이터 인프라 양을 쌓는 데 맞춘 구조 접근성을 기준으로 재구축
    아키텍처 고정된 기술 스택 모델과 도구가 바뀌어도 함께 진화하는 조합형 구조
    AI 주권 답을 미뤄 둔 상태 지능이 어디서 실행되는지, 누가 통제하는지, 조직·관할 경계를 넘어 어떻게 운영되는지 확정

    셋 중 두 번째 핵심 결론과 직결되는 것이 데이터다. 데이터를 가진 것과 AI가 쓸 준비가 된 데이터를 가진 것은 전혀 다른 일이고, 대부분의 기업이 이를 너무 늦게 깨닫는다는 지적이다.

    ‘AI가 쓸 준비가 된 상태’를 실무 언어로 풀면 대략 아래와 같다. 일반적인 해석이며 원문이 열거한 항목은 아니다.

    • 어디에 어떤 데이터가 있는지 목록이 있다.
    • 같은 고객, 같은 제품을 부서마다 다른 이름으로 부르지 않는다.
    • 누가 어디까지 볼 수 있는지 권한이 정의돼 있다.
    • 에이전트가 프로그램 방식으로 조회할 통로가 있다.

    해법으로 제시된 것은 ‘주권형·조합형 기반’. 데이터를 한곳으로 옮기거나 모으지 않고, 데이터가 있는 자리에서 조회하고 가공한다. 이렇게 하면 원시 데이터 자산이 에이전트가 행동에 쓸 지능으로 바뀐다는 설명이다.

    중앙 집중을 피하는 이유도 명시돼 있다. 데이터 거주(레지던시) 법규, 멀티클라우드 환경, 구조적 복잡성. 이 셋 때문에 한곳에 모으는 방식이 갈수록 비현실적이 되고 있다. 모델이 어디서 돌고 데이터가 어디에 머무는지를 스스로 통제해야 적응력이 유지된다는 논리다.

    방향은 나왔는데 설계도는 빠져 있다. 이 기반을 무엇으로 구현하는지가 소개문에 없으니, 이 대목은 원칙 수준으로 받아들이는 편이 맞다.

    데이터 위치 규제를 받는 국내 기업에 이 논리가 닿는 지점

    원문은 한국을 언급하지 않는다. 아래는 원문의 논리를 국내 환경에 대입한 내용이며, 추정인 항목은 따로 표시했다.

    • 데이터 이전 부담이 큰 업종일수록 ‘옮기지 않는 방식’의 의미가 크다(추정). 개인정보의 국외 이전이나 금융·공공 분야 데이터의 보관 위치를 따지는 규칙이 적용되는 조직은 데이터를 해외의 단일 저장소로 모으기 어렵다. 있는 자리에서 조회하는 구조는 이런 제약과 충돌이 적다.
    • 계열사·부서별로 시스템이 갈라진 조직은 사일로 진단이 먼저다(추정). 영업, 고객지원, 마케팅, 재무가 서로 다른 시스템을 쓰는 구조라면 원문이 묘사한 파편화가 그대로 재현되기 쉽다.
    • 도입 검토 문서의 첫 장이 달라진다. 모델 비교표보다 업무 흐름도와 데이터 접근 권한표가 앞에 와야 한다는 것이 프로세스 우선 접근의 실무적 결론이다.
    • 주권 질문은 계약 조항으로 내려온다(추정). 모델이 어느 지역에서 실행되는지, 입력 데이터의 통제권이 누구에게 있는지를 공급사 계약 단계에서 확인해야 한다.

    개인 사용자에게 바로 달라지는 것은 없다. 이 논의는 조직 단위의 설계 문제다.

    확인된 것과 아직 불확실한 것

    확인된 사실

    • 전 세계 AI 투자 전망치는 연간 2조 5천억 달러, 직전 해 대비 44% 증가로 제시됐다.
    • 대다수 기업은 AI로 매출을 늘리거나 운영 방식을 근본적으로 바꾸는 단계에 이르지 못했다고 보고서는 진단한다.
    • 지속적으로 수익을 내는 기업은 프로세스 재설계를 모델 선택보다 앞에 둔다는 것이 핵심 결론 중 하나다.
    • 데이터를 옮기지 않고 있는 자리에서 조회·가공하는 주권형·조합형 기반이 해법으로 제시됐다.
    • 이 보고서는 편집국이 아닌 맞춤형 콘텐츠 부서가 만들었다. 사람이 조사하고 집필했으며, AI 도구를 썼더라도 사람의 감독 아래 제작 공정에 한정했다고 밝혔다.

    미확정 사항

    • 소개문에는 조사 대상 기업 수, 설문 방법, 업종 구성이 나와 있지 않다.
    • 프로세스 우선 기업이 얼마나 더 높은 성과를 냈는지 보여 주는 수치는 소개문에서 확인되지 않는다.
    • 주권형·조합형 기반을 구현하는 구체적 제품이나 기술 구성은 제시되지 않았다.
    • 보고서 제작을 의뢰한 후원사가 어디인지 소개문만으로는 알 수 없다.
    • 국내 기업에 같은 결론이 그대로 적용되는지는 별도 검증이 필요하다.

    에이전트 도입 전에 조직이 답해야 할 다섯 가지 질문

    1. 어떤 프로세스를 다시 설계하는가. 모델 이름이 아닌 업무 이름으로 프로젝트를 정의한다. 판단, 실행, 예외 처리의 주체를 단계별로 적는다.
    2. 에이전트가 봐야 할 데이터가 어디에 있는가. 부서별 시스템을 나열하고 서로 보지 못하는 구간을 표시한다. 영업–지원, 마케팅–재무처럼 원문이 예로 든 조합부터 살핀다.
    3. 그 데이터는 옮겨야 쓰는가, 있는 자리에서 쓰는가. 이전이 필요한 설계라면 거주 규정과 멀티클라우드 구성에 걸리는 부분을 확인한다.
    4. 모델이나 도구를 바꿀 때 무엇을 다시 만들어야 하는가. 전체를 다시 짜야 한다면 고정 스택이다. 부품 단위로 교체된다면 조합형에 가깝다.
    5. 누가 통제하고 누가 책임지는가. 실행 위치, 접근 권한, 사람 승인이 필요한 행동의 범위를 문서로 남긴다.

    다섯 질문 가운데 모델 성능을 묻는 항목은 하나도 없다. 투자 규모가 커져도 성과가 따라오지 않는 이유를 구조에서 찾는다면, 예산도 모델 비용보다 프로세스 설계와 데이터 접근성 쪽으로 무게를 옮기는 것이 논리적으로 맞다. 어떤 모델을 쓸지는 이 질문들에 답한 뒤에 정해도 늦지 않다.

    출처: MIT Tech Review AI

    관련 기사