구글 제미나이4 아르곤, 사이버 방어자에게만 선공개

새 프런티어 모델을 내놓으면서 구글은 쓸 사람부터 추렸다. 모델 이름은 제미나이 4 아르곤(Gemini 4 Argon). 당분간은 구글이 직접 고른 ‘신뢰받는 사이버 방어자(trusted cyber defenders)’ 집단만 이 모델을 쓴다. 경쟁사를 앞선다는 성능 자랑, 그리고 접근 제한. 방향이 다른 두 메시지가 한 발표에 함께 담겼다는 점이 이번 뉴스의 핵심이다.

구글이 내세운 강점, 짧은 답변보다 긴 실무 작업

발표자는 코라이 카부쿠오글루였다. 구글의 최고 AI 아키텍트이자 구글 딥마인드 수석부사장(SVP)이다. 그가 아르곤의 무대로 꼽은 건 실제 소프트웨어 엔지니어링, 법률·금융 같은 기업 지식 업무, 사이버 보안 방어였다. 이런 복잡한 워크플로에서 “프런티어 성능”을 낸다는 게 구글의 주장이다. 질문 하나에 잘 답하는 능력보다, 길게 이어지는 실무를 끝까지 밀고 가는 능력을 전면에 세운 셈이다.

구글 안에서는 이미 돌아가고 있는 모델이다. 카부쿠오글루는 아르곤이 구글의 “내부 워크플로”에 투입돼 대규모 코드베이스 마이그레이션 같은 작업을 거들었다고 소개했다. 레거시 코드를 통째로 옮기는 일이 얼마나 지루하고 위험한지 겪어본 개발자라면, 구글이 왜 하필 이 사례를 골랐는지 짐작이 갈 것이다.

• 모델명: Gemini 4 Argon(제미나이 4 아르곤)
• 강점으로 내세운 분야: 소프트웨어 엔지니어링, 법률·금융 지식 업무, 사이버 보안 방어
• 구글 내부 활용 사례: 대규모 코드베이스 마이그레이션
• 비교 대상: 오픈AI·앤트로픽의 경쟁 모델

구글은 여러 벤치마크에서 오픈AI와 앤트로픽 모델을 앞선다는 대형 비교 차트도 내놨다. 이번 주 초 X에서는 이 모델의 것으로 보이는 벤치마크 유출 자료가 돌며 AI 커뮤니티가 들썩였다. 소문으로만 돌던 모델이 이번에 정식으로 모습을 드러낸 것이다. 차트를 읽을 때 붙여야 할 단서가 하나 있다. 어떤 항목을 넣을지는 구글이 직접 골랐다. 제3자 검증은 모델이 더 넓게 풀린 뒤에야 가능하다. 지금으로선 ‘구글이 그렇게 주장한다’는 수준에서 받아들이는 게 맞다.

넓게 풀기 전 조건은 정렬 검증과 세 가지 안전장치

성능 수치보다 눈길이 가는 건 모델을 푸는 순서다. 카부쿠오글루는 “접근 범위를 점진적으로 넓혀 가는 동안 미국 정부의 자발적인 출시 전 모델 접근 절차에 적극 참여하고 있다”고 밝혔다. 미국 정부가 출시 전 모델을 먼저 들여다보는 절차가 있고, 구글이 의무가 아닌 자발적 참여 형태로 여기에 들어가 있다는 얘기다. 이 절차가 구체적으로 어떻게 돌아가는지는 원문에 나오지 않는다.

제한 공개의 목적은 정렬 검증이다. 모델이 의도에서 벗어난(misaligned) 방향으로 움직이지 않는지 먼저 확인하려는 것이라고 더버지는 전했다. 구글이 더 넓은 공개에 앞서 강화하겠다며 꼽은 ‘핵심 프런티어 안전장치’는 세 가지다.

• 오용(misuse) 방어
• 프롬프트 인젝션 공격 방어
• 정렬 이탈(misalignment) 모니터링

보안 방어에 강하다고 내세운 모델이 첫 사용자로 방어자를 고른 건 앞뒤가 맞는 선택으로 보인다. 취약점을 찾아 고치는 능력은 뒤집으면 그대로 공격 능력이 된다. 방어하는 쪽 손에 먼저 쥐여주고 반응을 살피겠다는 계산으로 읽힌다. 이 대목은 구글이 밝힌 이유가 아니다. 발표 내용을 바탕으로 한 해석이라는 점은 감안하자.

오픈AI 데브데이 하루 뒤 발표, 같은 주 멈춘 GPT-6.1 아스트라

발표 시점도 짚어둘 만하다. 아르곤은 오픈AI가 화려한 데브데이 행사에서 AI 에이전트 닷츠(Dots)와 GPT-6.1 솔(Sol) 모델을 내놓은 지 하루 만에 나왔다. 카부쿠오글루가 8월 딥마인드의 새 수장으로 임명된 지 얼마 안 된 때이기도 하다. 오픈AI는 같은 주, 원래 내놓으려던 GPT-6.1 아스트라(Astra)를 안전 우려 때문에 출시하지 않겠다고 밝혔다. 구글은 제한 공개, 오픈AI는 출시 철회. 방식은 달랐지만 두 회사가 같은 주에 ‘안전’을 이유로 문턱을 높인 모델을 하나씩 내보인 셈이다.

국내 개발자에게 먼저 닿는 건 모델이 아니라 안전장치 목록

일반 사용자 입장에서 당장 달라지는 건 없다. 지금 아르곤에 닿는 길은 ‘신뢰받는 사이버 방어자’ 집단 하나뿐이다. 개인이나 개발자가 따로 접근을 요청하는 경로는 원문 어디에도 소개되지 않았다.

이 방어자 명단에 국내 보안 기업이나 기관이 들어가는지도 알려진 바 없다. 구글이 미국 정부의 출시 전 접근 절차를 함께 언급한 걸 보면, 초기 대상이 미국 파트너 위주일 거라고 짐작해볼 여지는 있다. 어디까지나 정황에서 나온 추측이다.

실무자에게 쓸모 있는 정보는 오히려 구글이 꼽은 안전장치 목록 쪽이다. 사내 시스템에 LLM 에이전트를 붙이고 있는 조직이라면 프롬프트 인젝션은 이미 남의 얘기가 아니다. 모델을 만드는 회사가 이 방어를 더 넓은 공개의 전제 조건으로 내걸었다. 모델을 가져다 쓰는 쪽도 입력 검증과 권한 분리를 설계 단계에서부터 챙기라는 신호로 받아들이는 편이 낫다.

• (추측) 레거시 시스템을 옮기는 작업이 많은 조직이라면, 구글이 든 코드베이스 마이그레이션 사례가 나중에 도입을 검토할 때 참고가 될 만하다
• (추측) 법률·금융은 구글이 직접 겨냥한 분야다. 이쪽 업무용 AI 도구 경쟁은 한층 치열해질 것으로 보인다
• (확인됨) 구글은 오용과 프롬프트 인젝션을 막는 장치를 더 넓게 풀기 위한 전제 조건으로 밝혔다

확인된 것과 아직 불확실한 것

확인된 것

• 구글이 차세대 프런티어 모델 제미나이 4 아르곤을 공개했다
• 처음에는 신뢰받는 사이버 방어자 집단만 쓸 수 있다
• 구글은 미국 정부의 자발적인 출시 전 모델 접근 절차에 참여하고 있다
• 아르곤은 이미 구글 내부 워크플로에 쓰이고 있고, 대규모 코드베이스 마이그레이션을 도왔다
• 더 넓게 풀기 전에 오용·프롬프트 인젝션을 막는 장치와 정렬 이탈 모니터링을 강화한다
• 발표는 오픈AI 데브데이 다음 날 나왔다

아직 불확실한 것

• 일반 사용자와 개발자에게 언제 열릴지, 한국이 초기 제공 지역에 들어갈지
• 신뢰받는 사이버 방어자를 고르는 기준과 규모
• 구글 벤치마크 차트 속 수치를 제3자가 검증했는지
• 이번 주 초 X에 돌았던 유출 벤치마크가 실제 발표 내용과 얼마나 맞는지

다음 확대 발표 때 따져볼 것, 안전장치를 얼마나 구체적으로 밝히나

이번 발표에서 벤치마크 차트는 조연에 가까웠다. 구글은 경쟁사를 앞선다는 차트를 내밀면서도 접근 제한과 안전장치 얘기를 앞세웠다. 오픈AI는 같은 주에 모델 하나를 안전 문제로 접었다. 프런티어 모델 경쟁의 축이 ‘얼마나 똑똑한가’에서 ‘얼마나 통제된 상태로 내놓느냐’로 옮겨가고 있다는 신호로 볼 만하다. 다만 한 주 사이 두 회사에서 나온 사례 두 건이다. 이것만으로 업계 전체의 추세라고 못 박기는 이르다.

개발자라면 아르곤이 언제 풀리느냐보다 어떤 조건으로 풀리느냐를 지켜보는 편이 실용적이다. 사이버 방어자들과 먼저 써보며 얻는 결과가 공개 범위와 속도를 가를 가능성이 크다. 다음에 사용 범위를 넓힌다는 발표가 나오면 안전장치를 얼마나 구체적으로 설명하는지부터 확인하면 된다. 오용 방어, 프롬프트 인젝션 방어, 정렬 이탈 모니터링. 구글이 이번에 스스로 꺼낸 세 항목이 그대로 점검표다.

출처: The Verge

글로벌뉴스 데스크

Daily News Korea 글로벌뉴스 데스크는 전 세계 IT·기술 뉴스를 실시간으로 모니터링하여 한국 독자에게 가장 중요한 소식을 전합니다. 실리콘밸리, 유럽, 아시아의 최신 기술 동향을 한국 시장 관점에서 분석합니다.