소식

엔비디아 이사회가 창업자이자 CEO인 젠슨 황을 조사한다. 지휘봉은 경영진이 아니라 독립 이사들로 꾸린 위원회가 쥐었고, 외부 독립 변호인이 그 위원회를 돕는다. 회사가 자기 회사 최고경영자를 들여다볼 때 경영진에게 조사를 맡기지 않는 건 이런 사안의 기본 공식이다. 의혹의 무게는 가볍지 않다. 젠슨 황이 메가스피드 임원 앨리스 황과 ‘가까운 관계’를 맺어 왔다고 뉴욕타임스가 전했고, 앨리스 황은 중국 국가안전부에 포섭돼 엔비디아를 상대로 정보 활동을 했다는 의혹을 받고 있다. 젠슨 황은 이후 사내 메모에서 이 관계가 연인 관계였다고 인정했다.

겉모습만 보면 경영자 개인의 스캔들이다. 그런데 기술 업계에서 일하는 사람이라면 이 사건에서 챙겨 둘 개념이 세 가지 있다. 이사회 독립 조사가 돌아가는 구조, 회사가 내는 성명을 읽는 법, 그리고 한 사람의 사적인 관계가 반도체 수출 통제와 국가안보 문제로 번지는 경로. 셋 모두 엔비디아 한 회사에서 끝나는 이야기가 아니다. 상장사가 최고경영자를 조사하는 방식, 성명의 행간, 수출 통제의 작동 원리는 다른 기업 사안에도 그대로 적용된다.

CEO를 조사할 땐 얽히지 않은 사외이사만 위원회에 앉힌다

상장사 이사회에는 두 부류가 함께 앉는다. 회사 경영을 직접 맡는 사내이사, 그리고 경영진에서 떨어져 있는 사외이사. 엔비디아 성명에 나오는 ‘독립 이사(independent directors)’는 우리 식으로 치면 사외이사에 가까운 개념이다. 평소라면 이 구성이 크게 문제 될 일은 없다. 조사 대상이 CEO로 바뀌는 순간 사정이 달라진다. 이사회 안건을 올리고 회사 정보를 가장 많이 쥔 사람이 바로 CEO이기 때문이다. 창업자 CEO는 이사 선임 과정에서도 입김이 센 경우가 많다. 이사회 전체가 조사를 맡으면 ‘제 식구 감싸기’라는 의심을 피하기 어렵다.

이때 꺼내는 카드가 특별위원회다. 조사 대상과 업무·금전 관계가 없는 독립 이사들만 골라 위원회를 만들고, 조사 권한과 보고 라인을 그 위원회로 몰아준다. 엔비디아 성명에도 독립 이사 위원회가 외부 독립 변호인의 도움을 받아 조사를 감독한다는 문장이 들어 있다. 눈여겨볼 건 보고 라인이다. 조사팀은 경영진이 아니라 위원회에 보고한다. 결과가 조사 대상의 손을 거치지 않고 이사회로 올라가는 구조다.

오해하기 쉬운 대목도 있다. 이사회 조사는 어디까지나 회사 내부 절차다. 수사기관 같은 강제 권한이 없으니 압수수색도, 소환장 발부도 할 수 없다. 조사 재료는 회사가 가진 자료와 임직원의 협조가 전부. 정부 조사와는 별개로 굴러가고, 두 조사의 결론이 같으리라는 보장도 없다. 내부 조사 결과가 나오더라도 그것만으로 사안이 매듭지어졌다고 보기 어려운 이유가 여기 있다.

사내 법무팀 대신 외부 변호인, 조사는 다섯 단계로 굴러간다

회사 안에도 법무팀은 있다. 그런데도 굳이 바깥 변호인을 부르는 이유는 단순하다. 사내 법무팀은 조직도상 결국 CEO 아래에 있다. 자기 회사 최고 책임자를 조사하라는 일을 맡기면, 아무리 공정하게 처리해도 결과를 믿어 줄 사람이 많지 않다. 위원회가 외부 로펌을 직접 선임하고 위원회에만 보고하게 하면 이 문제가 상당 부분 풀린다. 다만 평소 회사 일을 많이 맡아 온 로펌이라면 독립성 시비가 또 붙는다. 엔비디아 성명이 변호인 앞에 ‘독립(independent)’이라는 수식어를 굳이 붙인 데는 이런 사정이 깔려 있다.

엔비디아가 구체적인 절차까지 공개하지는 않았다. 이런 조사는 대체로 아래 순서를 밟는다.

1. 범위 확정: 위원회가 무엇을 확인할지 정한다. 관계의 성격만 볼지, 조사 대상이 접근한 정보와 그 흐름까지 볼지가 여기서 갈린다.
2. 자료 보전과 수집: 이메일, 사내 메신저, 일정·출장 기록처럼 지워지면 안 되는 자료부터 묶어 둔다.
3. 관계자 면담: 조사 대상 본인을 포함해 관련 임직원을 면담한다. 엔비디아 이사회는 젠슨 황이 조사를 전적으로 지지하고 협조하기로 했다고 밝혔다.
4. 사실 판단과 보고: 외부 변호인이 확인한 사실과 판단을 위원회에 보고한다.
5. 이사회 조치: 위원회 권고를 바탕으로 이사회가 징계, 내부 통제 보완, 대외 공개 범위 같은 후속 조치를 정한다.

다섯 단계 가운데 무게가 가장 큰 건 의외로 첫 단계다. 범위를 좁게 잡으면 조사는 빨리 끝나지만 ‘보고 싶은 것만 봤다’는 말이 따라붙는다. 넓게 잡으면 시간이 오래 걸린다. 조사 결과를 받아 들었을 때 결론보다 범위부터 확인하라는 말이 나오는 것도 그래서다. 이번 사안은 회사 기밀뿐 아니라 행정부의 AI 정책 논의까지 우려 대상으로 거론된다. 범위를 두 사람 관계의 성격에만 묶어 둔 조사라면 설득력이 약할 수밖에 없다.

엔비디아 성명은 CEO를 ‘가담자’ 아닌 ‘표적’으로 적었다

이런 성명은 대개 법무 검토를 거치며 한 문장씩 다듬어져 나온다. 단어 선택 자체가 정보라는 얘기다. 엔비디아 성명에서 눈여겨볼 대목은 네 군데.

• ‘표적(target)’이라는 단어: 이사회는 젠슨 황을 외국 정보 공작의 ‘표적’이 된 사람으로 적었다. 가담자가 아니라 노림을 당한 쪽이라는 틀부터 세운 셈이다. 이사회가 어떤 전제 위에서 조사를 출발시키는지 드러나는 단어다.
• 미국의 국가·경제 안보를 최우선에 둔다는 문장: 이사회는 이것이 엔비디아와 주주의 이익에 가장 중요하다고 적었다. 엔비디아 AI 칩이 미국 정부의 수출 통제를 받는 제품이라는 점을 감안하면, 이 문장은 주주 못지않게 미국 정부를 겨냥한 메시지로 읽힌다.
• ‘침해를 믿을 이유가 없다’: 국가안보나 엔비디아 기밀이 침해됐다고 믿을 이유가 없다는 말은 조사 전 입장이지 조사 결론이 아니다. 바로 뒤에 가용한 모든 정보를 검토하겠다는 문장이 붙어 있다는 점이 그 근거다.
• ‘신뢰’와 ‘적절할 때 추가 안내’: 이사회는 젠슨 황과 경영진을 신뢰한다고 했다. 반면 조사 일정이나 보고서 공개 여부는 약속하지 않았다. 적절할 때 추가로 알리겠다는 표현은 공개 범위를 이사회가 정하겠다는 뜻에 가깝다.

이 성명은 두 숙제를 한꺼번에 풀려고 쓴 글이다. CEO를 지키는 일, 그리고 조사가 독립적이라는 점을 보여 주는 일. 두 목표는 어느 정도 서로 부딪친다. 조사를 시작하는 단계에서 이미 CEO에 대한 신뢰를 공개적으로 밝혔으니, 나중에 나올 결론이 그 신뢰와 어긋날 경우 이사회가 떠안을 부담도 그만큼 커졌다. 어느 쪽에 무게가 실렸는지는 결과 발표에서 드러난다.

수출 통제는 칩뿐 아니라 칩을 다루는 회사까지 관리한다

CEO의 연애가 왜 국가안보 이야기로 번지는지는 수출 통제 구조를 보면 풀린다. 엔비디아 AI 칩은 미국이 기술 우위를 지키는 데 핵심으로 꼽힌다. 바이든 행정부도, 트럼프 행정부도 이 칩의 중국 판매를 제한한 이유다. 트럼프 대통령은 제한을 완화하면서도 가장 강력한 엔비디아 칩의 중국 기업 판매는 막았고, 칩을 다루는 개별 기업은 상무부 승인을 받도록 했다.

요점은 수출 통제가 ‘어떤 칩’만 관리하지 않는다는 데 있다. ‘누가 그 칩을 다루는가’까지 관리 대상이다. 승인받은 기업을 거쳐 칩이 흘러가야 체계가 유지되는데, 고객사가 칩을 몰래 중국으로 빼돌리면 구조 전체가 흔들린다. 메가스피드는 엔비디아의 고객사다. 그리고 AI 칩을 중국으로 밀반출했는지를 두고 상무부 조사를 받고 있다. 앨리스 황은 바로 그 회사의 임원이고, 미국 당국자들은 앨리스 황이 정보를 베이징에 직접 넘기고 있었다고 보고 있다. 칩 공급사의 최고경영자와, 그 칩의 밀반출 의혹을 받는 고객사 임원. 두 사람의 관계가 사생활의 영역에 머물기 어려운 이유다.

걸린 정보가 회사 기밀에 그치는 것도 아니다. 젠슨 황은 트럼프 대통령과 꽤 가까운 사이로 알려져 있다. 그가 행정부의 AI 정책 논의에서 어떤 내용을 접했는지, 그 내용이 앨리스 황을 거쳐 베이징까지 흘러갔는지가 우려의 핵심으로 꼽힌다. 관련 주체와 쟁점을 나눠 보면 다음과 같다.

GPU 도입 계획엔 변수가 아니지만, 주주와 보안 담당자는 다르다

제품부터 보자. 이사회 성명에는 제품, 공급, 서비스와 관련된 내용이 한 줄도 없다. 엔비디아 GPU로 개발 환경을 꾸렸거나 도입을 검토하던 국내 개발팀이라면, 이 발표 하나로 계획을 바꿀 근거는 없다. 조사의 초점은 경영자 개인과 정보 유출 가능성이지, 제품 결함이나 공급 차질이 아니다.

해외 주식으로 엔비디아를 들고 있는 국내 투자자는 사정이 조금 다르다. 이사회가 성명에서 주주 이익을 직접 언급한 만큼, 조사 결과는 지배구조 문제로 읽힐 수 있다. 결과에 따라 CEO의 역할이나 이사회 감독 방식에 변화가 생길 가능성도 거론할 수는 있다. 다만 이건 추측이다. 성명에는 그런 방향이 전혀 언급되지 않았고, 이사회는 오히려 젠슨 황에 대한 신뢰를 밝혔다.

기업 보안을 맡은 사람에게는 꽤 실용적인 교훈이 남는다. 이번 사안에서 노림을 당한 건 서버나 계정이 아니었다. 사람, 그것도 최고경영자. 보안 정책은 대개 직원 단말과 계정 관리에 힘을 쏟는다. 최고경영진의 개인적인 관계는 정책의 손이 닿기 어려운 영역이다. 임원 이해충돌 신고 제도, 그리고 고객사·협력사 관계자와의 관계를 이사회에 알리는 절차가 서류로만 있는지 실제로 작동하는지가 관건으로 보인다. 엔비디아 사례에서 끌어낸 의견이니 참고로만 받아들이면 된다.

AI 칩을 유통하거나 클라우드로 빌려주는 사업자 쪽에서는 고객 확인 절차가 더 깐깐해질 수 있다는 관측도 가능하다. 이 역시 추측에 가깝다. 상무부의 메가스피드 조사 결과를 보고 판단할 문제다.

확인된 것과 아직 불확실한 것

확인된 것

• 엔비디아 이사회가 젠슨 황 CEO와 관련한 독립 조사를 시작했고, 독립 이사 위원회가 외부 독립 변호인의 도움을 받아 감독한다.
• 이사회는 국가안보나 엔비디아 기밀이 침해됐다고 믿을 이유가 없다는 입장이며, 가용한 모든 정보를 검토하겠다고 밝혔다.
• 젠슨 황은 조사를 지지하고 협조하기로 했고, 사내 메모에서 앨리스 황과의 관계가 연인 관계였다고 인정했다.
• 메가스피드는 엔비디아 고객사이며, AI 칩 중국 밀반출 여부로 미국 상무부 조사를 받고 있다.
• 바이든·트럼프 행정부 모두 엔비디아 AI 칩의 중국 판매를 제한했고, 트럼프 대통령은 제한을 완화하면서도 가장 강력한 칩의 중국 기업 판매는 막았다.

아직 불확실한 것

• 앨리스 황이 중국 국가안전부에 포섭됐다는 의혹의 사실 여부
• 베이징으로 넘어간 정보가 있다면 그 종류와 범위
• 젠슨 황이 접한 행정부 AI 정책 논의의 내용과 외부 전달 여부
• 위원회에 참여하는 이사 명단과 선임된 외부 로펌
• 조사 완료 시점과 보고서 공개 방식
• 상무부의 메가스피드 조사 결론

조사 결과가 나오면 결론보다 먼저 볼 네 가지

결과가 발표되면 시선은 문제가 있었느냐 없었느냐로 먼저 쏠린다. 그 결론을 믿어도 되는지는 아래 네 가지가 가른다.

1. 조사 범위: 두 사람의 관계만 봤는지, 젠슨 황이 접근한 회사 자료와 정부 관련 대화의 흐름까지 봤는지 확인해야 한다.
2. 공개 방식: 보고서 전문, 요약본, 결론 한 줄 가운데 무엇을 내놓느냐에 따라 외부 검증 가능성이 크게 달라진다.
3. 후속 조치: 임원 이해충돌 신고 규정이나 보안 절차를 보완하는 재발 방지책이 함께 나오는지 봐야 한다. 결론만 있고 조치가 없으면 같은 일이 되풀이될 여지가 남는다.
4. 정부 조사와의 정합성: 상무부의 메가스피드 조사 결론과 이사회 결론이 엇갈리지 않는지 맞춰 봐야 한다. 내부 조사에는 강제 권한이 없다. 정부 조사에서 새 사실이 나오면 판단이 뒤집힐 수 있다.

이사회는 이미 ‘침해를 믿을 이유가 없다’는 입장을 내놨다. 결과 발표가 그 입장을 되풀이하는 데 그친다면 독립 위원회와 외부 변호인이라는 장치를 둔 의미도 옅어진다. 독립 조사의 값어치는 결론 그 자체보다, 그 결론을 남이 믿게 만드는 절차에서 나온다. 누가 조사했고, 어디까지 봤고, 무엇을 공개했는지. 젠슨 황을 둘러싼 이번 조사도 그 세 가지로 평가받게 된다.

출처: The Verge AI

영업 담당자가 AI 에이전트에게 특정 고객의 가격을 물어봅니다. 에이전트는 접근이 제한된 가격 시스템, 사내 대화 기록, 보관해 둔 예전 견적서를 뒤져서 답을 만들어요. 에이전트 입장에선 정확해 보이는 결과죠. 그래서 두 번째 에이전트가 이걸 그대로 받아 제안서 초안을 씁니다. 두 번 넘어가는 동안 사람은 한 번도 확인하지 않았고요. 나중에야 제안서에 승인되지 않은 기밀 정보가 섞여 있었다는 게 드러납니다. 그런데 그 데이터가 어디서 끼어들었는지, 어떤 시스템과 파일과 에이전트를 거쳐 퍼졌는지는 아무도 되짚지 못해요. 사고는 났는데 경로가 없는 상황.

MIT 테크놀로지 리뷰의 커스텀 콘텐츠 조직 인사이츠가 에이전트 보안 리포트를 소개하면서 꺼낸 시나리오예요. 편집국이 쓴 기사가 아니라 커스텀 콘텐츠라는 점은 감안하고 읽는 게 맞습니다. 그 점을 빼고 봐도 이 장면이 던지는 질문은 꽤 구체적이에요. 에이전트가 일하는 회사에서 사고가 터졌을 때, 원인을 찾으려면 무엇을 미리 기록해 뒀어야 하느냐. 그 답으로 나오는 개념이 데이터 리니지, 우리말로 데이터 계보입니다.

리니지는 데이터에 붙는 택배 송장

데이터 리니지는 데이터 한 덩어리가 처음 생긴 곳에서 지금 있는 곳까지 거쳐 온 경로를 적어 둔 기록이에요. 택배 송장 추적을 떠올리면 편합니다. 출발지, 거쳐 간 물류 센터, 현재 위치가 순서대로 찍히잖아요. 리니지는 그런 이력을 데이터에 붙이는 일이고요. 어느 시스템에서 읽혔는지, 누가 혹은 무엇이 가공했는지, 가공한 뒤 어디로 넘어갔는지. 이게 중간에 끊기지 않고 이어져 있어야 해요. 한 칸이 비면 그 뒤로는 추적이 안 되니까요.

원래 이 개념은 데이터 분석 쪽에서 많이 쓰던 말이에요. 보고서 숫자가 이상하게 나오면 어느 테이블, 어느 집계 단계에서 틀어졌는지 거슬러 올라가야 하잖아요. 그렇게 분석가들이 쓰던 개념이, 에이전트가 업무에 들어오면서 보안 쪽 질문으로 넘어오는 중입니다.

인사이츠는 이 변화를 한 문장으로 정리해요. AI 보안은 도구의 문제가 아니라 데이터 가시성의 문제라는 것. 에이전트를 일상 업무에 쓰는 기업이 관리해야 할 대상은 가만히 놓여 있는 파일이 아니라고 봅니다. 끊임없이 수집되고, 복사되고, 요약되고, 변형되고, 재사용되고, 새로운 형태로 다시 배포되는 데이터가 관리 대상이라는 거죠. 파일 하나 잠가 둔다고 끝나지 않는 이유가 여기 있어요. 그 파일 내용이 요약본이 되어 다른 문서에 들어가 버리면, 잠금은 그 경로까지 따라가지 못하니까요.

견적 시나리오에서 추적이 끊긴 세 지점

앞의 시나리오를 단계별로 쪼개 보면 사고 자체보다 추적이 끊긴 자리가 먼저 눈에 들어와요.

• 첫 번째 에이전트가 출처를 섞는 순간: 제한된 가격 시스템, 사내 대화, 보관 견적이 답 하나로 합쳐져요. 각 조각이 어디서 왔고 어떤 등급이었는지, 그 꼬리표가 이 단계에서 답 안으로 녹아 사라집니다.
• 에이전트에서 에이전트로 넘어가는 순간: 두 번째 에이전트 손에 들어오는 건 결과물뿐이에요. 이 숫자가 승인되지 않은 사내 대화에서 나왔다는 정보는 따라오지 않습니다. 사람의 확인도 여기엔 없었고요.
• 제안서가 파일이 되어 퍼지는 순간: 초안이 문서로 저장되고 공유되면서 문제의 데이터는 또 다른 시스템, 또 다른 파일로 번져요. 여기까지 오면 원래 출처를 거꾸로 찾아가기가 훨씬 어려워집니다.

여기서 눈여겨볼 대목. 단계 하나하나만 떼어 보면 전부 정상 동작처럼 보였다는 점이에요. 첫 번째 에이전트에겐 결과가 정확해 보였고, 두 번째 에이전트는 받은 데이터로 맡은 일을 했을 뿐이죠. 에이전트가 원래 그 시스템을 읽을 수 있는 상태였다면, 접근 기록만 들여다봐서는 이상 징후가 드러나지 않았을 가능성이 커 보입니다. 결국 문제는 개별 행동이 아니라 행동과 행동 사이의 연결에 있었던 셈이에요. 시스템마다 기록을 꼼꼼히 남겨도, 그 기록들을 잇는 끈이 없으면 사고 경로는 보이지 않는다는 얘기고요.

네트워크·엔드포인트 보안이 놓치는 자리

지금까지 보안은 주로 애플리케이션, 시스템, 네트워크, 엔드포인트 단위로 설계돼 왔어요. 어느 서버에 누가 들어왔는지, 어떤 PC에서 파일이 밖으로 나갔는지 감시하는 식이죠. 인사이츠는 이것만으로 짠 보안 체계로는 에이전트를 대규모로 쓰는 환경을 지키기에 더 이상 충분하지 않다고 봅니다. 시나리오를 다시 떠올려 보면 수긍이 가요. 그 에이전트는 외부 침입자가 아니라 사내 업무 도구였습니다. 데이터를 읽은 것도, 문서를 쓴 것도 전부 회사 안에서 벌어진 일. 경계를 넘어오는 침입을 잡도록 만든 감시라면 포착할 장면 자체가 마땅치 않았을 거로 봐요.

표의 오른쪽이 왼쪽을 갈아치운다는 얘기로 읽으면 곤란해요. 인사이츠가 문제 삼는 것도 기존 방식’만으로’ 짠 보안이거든요. 네트워크와 엔드포인트 보안은 여전히 필요합니다. 리니지는 그 위에 층을 하나 더 얹는 개념에 가까워요. 데이터 자체가 어디를 지나갔는지 보여 주는 층이요. 기존 보안을 걷어내고 리니지로 갈아타자는 결론은 이 논리에서 나오지 않는다는 점, 같이 기억해 두면 좋겠습니다.

출처부터 사람 검토까지, 리니지 기록의 다섯 칸

시나리오에서 추적이 막힌 지점을 거꾸로 따라가 보면, 적어도 아래 정보는 데이터에 붙어 다녀야 원인을 되짚을 수 있어 보여요. 도구마다 항목 이름은 제각각일 수 있습니다. 이름에 매달리기보다 이 질문들에 답할 수 있느냐를 기준으로 보세요.

1. 출처: 어느 시스템, 어느 파일, 어느 대화에서 읽었는지. 시나리오로 치면 가격 시스템인지, 사내 대화인지, 보관 견적인지가 구분돼 있어야 해요.
2. 민감도와 승인 상태: 그 조각이 제한 등급인지, 공식 승인된 값인지. 승인되지 않은 정보가 섞여 들어간 게 이번 사고의 핵심이었으니 빠질 수 없는 칸입니다.
3. 변형 이력: 그대로 복사했는지, 요약했는지, 다른 데이터와 합쳤는지. 요약을 거치면 겉모습이 원본과 달라져요. 연결 고리를 남겨 두지 않으면 같은 정보라는 걸 알아보기도 어렵습니다.
4. 전달 경로: 어느 에이전트, 어느 사람, 어느 파일로 넘어갔는지. 그중에서도 에이전트에서 에이전트로 넘어가는 지점이 특히 중요해요.
5. 사람 검토 여부: 전달 과정에서 사람이 확인했는지, 했다면 누가 했는지. 책임 소재를 가리려면 이 칸만큼은 비어 있으면 안 됩니다.

다섯 칸 중 하나만 고르라면 민감도 꼬리표예요. 이 꼬리표는 데이터와 함께 움직여야 하거든요. 제한 등급 데이터를 요약한 문장은 요약된 뒤에도 제한 등급이어야 합니다. 그런데 꼬리표가 원본 파일에만 붙어 있으면 요약하는 순간 떨어져 나가요. 인사이츠가 리니지의 목적으로 거버넌스, 책임성, 신뢰를 한데 묶어 꼽는 것도 같은 맥락으로 읽힙니다. 어디서 왔는지 모르는 데이터는 누가 책임질지 정할 수 없고, 그런 데이터로 만든 결과물은 믿을 근거가 없으니까요.

그룹웨어·메신저에 에이전트를 붙이면 바뀌는 일

이 리포트는 특정 제품이나 규제를 다루지 않아요. 그러니 국내에서 당장 바뀌는 제도가 있는 건 아닙니다. 다만 국내 기업도 그룹웨어, 사내 메신저, 영업·견적 시스템에 AI 에이전트를 붙이는 쪽으로 간다면 같은 구조의 문제를 만나게 될 거라고 봐요. 어디까지나 추측이긴 한데, 시나리오 속 재료가 가격 시스템·사내 대화·보관 견적이었다는 걸 생각하면 낯선 그림은 아니죠. 실무에서 달라질 만한 지점을 꼽아 보면 이렇습니다.

• 보안 점검 질문이 늘어난다: ‘누가 이 시스템에 접근했나’에 더해 ‘이 결과물의 이 문장은 어디서 왔나’를 물어야 해요. 내부 감사 자료도 접근 기록 중심에서 데이터 흐름 중심으로 넓어질 가능성이 있습니다. 이 부분은 추측이에요.
• 도입 검토 체크리스트가 길어진다: 에이전트 도구를 고를 때 공급사에 확인해 둘 게 생겨요. 결과물과 함께 참조한 출처를 남기는지, 에이전트끼리 주고받은 내용을 기록으로 내보낼 수 있는지, 원본의 접근 등급이 결과물에도 이어지는지.
• 현업 부서의 역할이 커진다: 어떤 가격이 승인된 값인지, 어떤 대화가 내부용인지는 보안팀보다 영업·기획 부서가 더 잘 알아요. 민감도 분류에 현업이 같이 들어와야 리니지 기록이 실제로 쓸모를 가집니다. 보안팀 혼자 등급을 매기면 칸은 채워져도 내용이 틀릴 수 있으니까요.

개인 직장인이라면 이것 하나는 의식해 두면 좋겠어요. 업무용 AI에 넣은 사내 자료가 요약·재가공돼서 다른 사람의 결과물에 들어갈 수 있다는 점. 퍼지는 건 내가 올린 파일이 아니라 그 파일의 요약일 수도 있거든요. 원본 파일의 공유 설정만 확인하고 안심하기엔 부족할 수 있습니다.

확인된 것과 아직 불확실한 것

확인된 것

• 리포트 제작 주체는 편집국이 아닌 커스텀 콘텐츠 조직 인사이츠
• 견적 시나리오는 개념 설명을 위한 예시로 제시됨
• AI 보안을 도구가 아닌 데이터 가시성의 문제로 규정
• 애플리케이션·시스템·네트워크·엔드포인트만을 중심으로 한 기존 보안은 에이전트 환경에 충분하지 않다는 주장
• 사람·에이전트·혼합 업무 흐름 전반의 거버넌스·책임성·신뢰를 위해 데이터 리니지 확립이 필요하다는 결론

아직 불확실한 것

• 리포트 전문에 담긴 구체적 권고안과 조사 데이터
• 에이전트 간 전달 기록에 대한 업계 공통 표준의 존재 여부
• 요약·변형된 데이터에 민감도 꼬리표를 자동으로 이어 붙이는 기술의 정확도
• 리니지 기록이 늘어날 때 생기는 저장 비용과 성능 부담 규모
• 국내 규제 기관의 에이전트 데이터 흐름 기록 요구 여부

솔루션 없이 화이트보드로 그리는 데이터 흐름 지도

리니지 솔루션을 들이기 전에도 할 수 있는 일이 꽤 많아요. 화이트보드 하나면 시작할 수 있습니다.

1. 에이전트가 읽을 수 있는 소스를 전부 적는다: 데이터베이스, 공유 드라이브, 메신저, 메일함, 보관 문서까지 빠짐없이요. 시나리오에서 보관해 둔 예전 견적이 출처 중 하나였던 걸 떠올려 보세요. 사람은 잊고 있던 저장소라도 에이전트에게는 똑같은 읽을거리입니다.
2. 소스마다 민감도를 표시한다: 공개, 내부용, 제한 정도로 단순하게 나눠도 괜찮아요. 등급이 아예 없으면 나중에 꼬리표를 이어 붙일 대상부터 없어집니다.
3. 에이전트 사이의 전달 지점을 화살표로 그린다: 에이전트 A의 결과가 B의 입력이 되는 곳마다 표시해요. 시나리오에서 사람이 확인하지 않고 지나간 곳이 바로 이런 전달 지점 두 곳이었습니다.
4. 화살표마다 출처 정보가 같이 넘어가는지 확인한다: 결과 텍스트만 넘어가고 출처 목록은 버려지는 구조라면, 거기가 바로 추적이 끊기는 자리예요.
5. 밖으로 나가는 결과물 앞에 사람 검토를 하나 둔다: 고객에게 가는 제안서처럼 회사 밖으로 나가는 문서는 최소 한 번, 사람이 출처 목록을 옆에 두고 확인하게 만드는 거죠.

물론 모든 화살표에 사람을 세우면 에이전트를 쓰는 의미가 줄어들어요. 현실적인 균형은 이쪽으로 보입니다. 기록은 모든 화살표에 남기고, 사람 검토는 위험이 큰 출구에만 둔다. 기록만 제대로 있으면 사고가 나더라도 문제의 데이터가 어디서 들어와 어디로 번졌는지 되짚을 수 있어요. 처음 시나리오에서 아무도 하지 못했던 바로 그 일. 리니지가 해 주는 일이 그겁니다.

출처: MIT Tech Review AI