[카테고리:] 기술뉴스

틱톡이 조용히 새 기능 하나를 시험대에 올렸다. 내 얼굴을 도용해 AI가 만든 영상을 자동으로 찾아주는 기능이다. 소셜미디어 컨설턴트 매트 나바라가 먼저 포착해 알렸는데, 방식은 이렇다. 크리에이터가 동의하면(옵트인) 자기 얼굴이 AI로 합성된 콘텐츠를 스캔해서 알려주고, 그 자리에서 틱톡에 신고까지 이어지게 해준다.

테스트 중인 게 정확히 뭐냐면

틱톡 미국 대변인 재커리 카이저가 더버지 취재에 확인해준 내용을 보면, 이 기능은 지금 미국의 일부 크리에이터에게만 열려 있다. 신청한 크리에이터의 얼굴을 기준 삼아 플랫폼 안의 다른 영상들을 훑고, AI가 만든 걸로 의심되는 콘텐츠가 나오면 알려준 뒤 신고 절차로 곧장 넘겨주는 구조로 보인다.

전면 공개는 아직이다. 그래서 탐지 정확도가 얼마나 되는지, 오탐은 얼마나 나는지, 신고 이후 처리는 어떻게 되는지 세부 내용은 베일에 싸여 있다. 옵트인 방식이라는 점도 눈에 걸린다. 크리에이터 본인이 자기 얼굴 데이터를 틱톡 시스템에 먼저 등록해야 돌아가는 구조라, 결국 참여율이 관건이 될 것 같다.

왜 하필 지금인가

AI 영상 생성 도구가 몇 달 새 눈에 띄게 좋아졌다. 그러면서 유명인이든 일반 크리에이터든, 남의 얼굴 가져다 쓴 딥페이크 콘텐츠가 SNS에 쏟아지기 시작했다. 오픈AI의 소라 같은 영상 생성 모델이 대중화되면서 실존 인물의 얼굴과 목소리를 합성하는 문턱이 확 낮아진 탓이다.

• 동의 없이 얼굴이 합성된 광고·홍보 영상 확산
• 가짜 발언이 담긴 정치·시사 관련 딥페이크 논란
• 크리에이터 초상권 침해로 인한 소송 및 분쟁 증가

방치하면 규제 리스크와 이용자 이탈, 두 가지를 한꺼번에 떠안아야 하는 상황이다. 그러니 플랫폼 입장에서는 선제적으로 대응 도구를 내놓는 모양새가 나올 수밖에 없다.

유튜브도 같은 문제를 붙들고 있다

더버지 기사를 보면 유튜브 역시 비슷한 얼굴 탐지 도구를 준비 중이라고 한다. 유튜브는 크리에이터가 자기 얼굴이나 목소리가 무단으로 쓰인 영상을 발견하면 삭제 요청을 할 수 있는 시스템을 이미 일부 시험해봤다. 이번 틱톡의 움직임도 결국 같은 문제의식에서 나온 셈이다.

구글과 바이트댄스, 경쟁사인 두 회사가 비슷한 시기에 같은 방향의 기능을 내놓는다는 건 의미가 있다. 딥페이크 대응이 이제 선택 사항이 아니라 플랫폼이 살아남기 위한 필수 조건이 됐다는 신호로 읽힌다.

크리에이터 입장에선 반가운 소식, 그런데

얼굴 자체가 수익 자산인 인플루언서나 크리에이터라면 이런 도구, 반가울 수밖에 없다. 팔로워 수십만 명을 거느린 크리에이터의 얼굴이 가짜 다이어트 제품 광고나 사기성 투자 콘텐츠에 무단으로 쓰이는 사례, 이미 여러 건 보고됐다.

다만 한계도 뚜렷하다. 탐지 모델이 최신 생성 AI를 얼마나 따라잡을 수 있을지는 미지수다. 옵트인 방식이라 등록하지 않은 일반 이용자는 여전히 사각지대에 남는다. 초상권 보호를 개인 신청에 맡기는 구조라는 점에서, 근본적인 한계라는 지적이 나올 만하다.

국내 K팝·연예 업계엔 남 얘기가 아니다

한국은 K팝 아이돌과 배우 얼굴을 이용한 딥페이크 피해가 이미 사회 문제로 불거진 지역이다. 실제로 일부 여성 아이돌 얼굴을 합성한 불법 영상물 유통 사건이 언론에 여러 차례 보도됐고, 국회에서도 딥페이크 처벌을 강화하는 법안이 통과됐다.

틱톡과 유튜브 모두 한국에서 이용자 기반이 압도적이다. 그래서 이런 탐지 기능이 국내에도 확대 적용될지가 관건이다. 다만 미국 크리에이터 중심으로 먼저 검증되는 단계라는 걸 감안하면, 국내 도입까지는 시차가 있을 가능성이 높다. 국내 엔터테인먼트 업계와 MCN 업체들도 이런 플랫폼 차원의 대응책을 참고해서 자체 모니터링 체계를 갖출 필요가 커지는 시점이다.

출처: The Verge

일론 머스크의 xAI가 만든 AI 코딩 도구 그록 빌드(Grok Build)가, 사용자 몰래 코드 저장소를 통째로 구글 클라우드에 퍼 날랐다. 보안 연구팀 Cereblab이 이 사실을 터뜨렸고, xAI는 며칠 안 가 업로드 기능부터 껐다.

열지 말라고 표시한 파일까지 챙겨갔다

단순한 로그 전송이 아니다. Cereblab이 이번 주 초 내놓은 조사 내용을 보면, 그록 빌드의 CLI(명령줄 인터페이스) 버전이 사용자 코드 저장소 전체를 패키징해서 구글 클라우드 스토리지로 올리고 있었다.

• 업로드 대상에는 사용자가 ‘열람 금지’로 지정한 파일도 섞여 있었다
• 대상은 코딩 작업과 무관하게, 저장소 전체였다
• 동의를 구하거나 고지한 흔적은 딱히 없었다

개발자한테 코드 저장소란 회사 영업비밀이자, 아직 세상에 안 나온 제품 로드맵 그 자체다. 열람 금지 파일까지 같이 실려 나갔다는 건 접근 권한 설정이 애초에 작동을 안 했다는 뜻이고, 이건 가볍게 넘길 얘기가 아니다.

어떻게 걸렸나

The Register 보도에 의하면, Cereblab은 그록 빌드 CLI의 네트워크 트래픽을 들여다보다가 코드 저장소가 구글 클라우드 쪽으로 새 나가는 패턴을 발견했다고 한다. 로컬에서만 돌아가는 코딩 어시스턴트인 줄 알고 썼는데, 실제로는 뒤에서 대용량 데이터를 밖으로 보내고 있었던 셈.

이 소식이 알려진 게 이번 주 월요일. 이후 The Verge를 포함한 여러 매체가 후속 기사를 쏟아내면서 순식간에 퍼졌다.

기사 뜨자마자 기능부터 끈 xAI

xAI의 대응은 빨랐다. 문제의 업로드 기능을 곧바로 막았다. 다만 이 기능이 정확히 언제부터 켜져 있었는지, 그동안 저장소가 몇 개나 구글 클라우드로 넘어갔는지, 업로드된 데이터를 어디에 썼는지는 설명이 없다.

보안 연구팀이 아니었다면 이 일은 그냥 조용히 지나갔을 가능성이 크다. 개발자가 직접 트래픽을 뜯어보지 않는 이상, CLI 도구 안에서 뭐가 벌어지는지 알 방법이 마땅치 않으니까.

내 코드는 지금 어디로 가고 있나

AI 코딩 어시스턴트가 편의를 대가로 소스코드에 손을 대는 구조라는 건 어제오늘 얘기가 아니다. 자동완성이든 리팩터링이든, 도와주려면 코드 맥락을 서버로 보내야 하는 경우가 많다. 그 데이터가 어디 저장되고 학습에 쓰이는지는 늘 흐릿했다.

이번 건이 다른 지점은, 사용자가 분명히 올리지 말라고 표시한 파일까지 포함됐다는 것. 옵트아웃 설정이나 접근 권한 표시가 사실상 장식이었다는 얘기가 되는 셈이라, AI 코딩 툴을 쓰는 기업이라면 계약서의 데이터 처리 조항부터 다시 들여다볼 때다.

국내 개발팀이 챙겨야 할 것들

그록을 비롯한 AI 코딩 어시스턴트를 사내 개발 파이프라인에 붙여 쓰는 스타트업, 대기업 개발팀이 국내에도 적지 않다. 미공개 서비스나 금융·헬스케어처럼 규제가 엄격한 업종 코드가 해외 클라우드로 흘러갔다면, 개인정보보호법이나 정보통신망법상 책임 소재까지 걸릴 여지가 있다.

보안팀이 있는 조직이라면 CLI 기반 AI 도구의 네트워크 트래픽을 주기적으로 점검하고, 계약 단계에서 코드 데이터 저장 위치와 삭제 정책을 문서로 못박아두는 게 안전하다. 1인 개발자나 소규모 팀이라면 방화벽 로그로 아웃바운드 트래픽을 확인하는 습관만으로도 비슷한 사고를 조기에 알아챌 수 있다.

출처: The Verge

오픈AI가 올해 안에 첫 하드웨어 기기를 내놓는다. 블룸버그 보도에 따르면 화면 없는 스마트스피커 형태다. 카메라와 각종 센서로 주변을 인식하고, 그걸로 ChatGPT와 대화하는 방식이라고 한다.

화면 대신 카메라, 오픈AI가 노리는 것

일반 스마트스피커와는 결이 다르다. 이 기기엔 카메라와 센서가 붙어서 사용자의 공간과 상황을 읽어낸다. 화면이 없어도 방 안 온도, 사람이 있는지 없는지, 주변 사물까지 파악해서 대화에 녹여내겠다는 구상으로 보인다.

• 디스플레이 없는 음성 중심 인터페이스
• 카메라·센서로 주변 환경 인식
• ChatGPT 음성 대화가 핵심 기능

샘 올트먼이 아이폰 디자이너 조니 아이브와 함께 준비 중인 별도의 AI 디바이스와는 다르다. 이건 우선 출시용, 말하자면 선발대 제품에 가깝다는 해석이 나온다.

하필 이 시점, 애플과의 소송전

보도 며칠 전 애플이 오픈AI를 상대로 소송을 걸었다. 쟁점은 아직 다 공개되지 않았다. 다만 두 회사가 하드웨어에서 정면충돌할 조짐은 이미 감지되던 참이었고, 그 직후 나온 소식이라 눈길이 갈 수밖에 없다.

애플은 시리를 대대적으로 손보는 동시에 자체 AI 하드웨어 로드맵도 그리고 있다. 오픈AI가 스피커로 먼저 치고 나온다면? 두 회사 신경전은 소송을 넘어 제품 경쟁으로 번질 가능성이 크다.

아마존 에코·구글 홈과는 뭐가 다를까

아마존 에코와 구글 홈은 벌써 수년째 각 가정에 자리 잡은 제품들이다. 다만 단순 명령 처리 수준에 머물렀다는 평가가 많았다. ChatGPT 기반 스피커는 그 지점, 자연스러운 대화와 맥락 이해에서 우위를 노린다.

여기에 카메라 기반 환경 인식까지 얹히면 얘기가 달라진다. 단순 스피커가 아니라 집안 곳곳을 감지하는 AI 에이전트 허브로 진화할 여지가 생긴다. 물론 카메라를 집안에 들이는 순간 사생활 침해 논란은 피하기 어렵다.

국내 AI스피커 시장은 벌써 재편 중

한국은 이미 네이버 클로바, KT 기가지니, SK텔레콤 누구 같은 자체 AI스피커 생태계를 갖추고 있다. 문제는 이들 상당수가 LLM 이전 시대에 설계된 음성 인식 기술을 기반으로 한다는 점이다. ChatGPT 수준의 대화 품질과는 격차가 크다는 지적이 꾸준히 나온다.

오픈AI 스피커가 실제로 나오고 한국어 지원까지 갖춘다면 국내 이용자 입장에선 대안이 하나 늘어나는 셈이다. 통신 3사와 네이버가 자체 AI스피커에 LLM을 얼마나 빨리 이식하느냐, 이게 관건이 될 전망이다.

국내 업체가 서둘러야 할 이유

국내 통신사와 포털은 그동안 자체 AI스피커에 자체 개발 LLM을 얹는 전략을 취해왔다. 그런데 오픈AI가 하드웨어까지 직접 만든다면 얘기가 달라진다. 국내 업체 입장에선 소프트웨어 파트너십만으론 부족하다는 신호로 받아들일 수밖에 없다.

스마트홈 기기나 가전 연동 서비스를 준비 중인 국내 스타트업이라면 오픈AI 스피커의 API 개방 여부와 개발자 생태계 정책부터 챙겨봐야 한다. 카메라 기반 환경 인식 기능이 국내 개인정보보호법 기준을 통과할 수 있을지도 초기 진출의 변수로 꼽힌다.

더 버지(The Verge) 보도를 참고했다. 원문 보기

애플이 10년 넘게 붙잡고 있던 자율주행차 프로젝트 ‘타이탄’, 결국 빛을 못 보고 2024년 초 조용히 문을 닫았다. 그런데 최근 블룸버그 마크 거먼 기자가 전한 이야기를 보면 얘기가 좀 다르다. 실패로 끝난 이 프로젝트가 지금 애플 실리콘을 AI 성능 괴물로 만든 숨은 배경이었다는 거다.

자율주행이 요구한 무자비한 연산량

자율주행차는 카메라, 레이더, 라이다에서 쏟아지는 데이터를 실시간으로 처리해야 한다. 사람이 브레이크를 밟는 그 찰나까지 온디바이스에서 판단을 끝내야 하니, 클라우드로 데이터 보내고 답 받아오는 방식은 애초에 통할 수가 없는 구조였다.

애플 엔지니어들은 프로젝트 초기부터 결론을 내렸다. 기존 모바일 칩으로는 어림도 없다고. 그래서 차량 전용 프로세서를 따로 설계하기 시작했는데, 이 칩 자체는 끝내 완성되지 못했다. 다만 그 과정에서 쌓인 기술 자산은 고스란히 남았다.

M시리즈로 흘러들어간 기술

거먼 보도에 따르면, 타이탄을 위해 개발하던 고성능 AI 처리 기술이 이후 맥용 M시리즈 칩과 아이폰용 A시리즈 칩의 뉴럴 엔진 설계에 그대로 반영됐다. 애플이 매년 신제품 발표 때마다 “역대 최고 성능”이라고 외치는 그 뉴럴 엔진 강화, 사실은 자율주행차 만들다 남은 부산물이었던 셈이다. 좀 아이러니하지 않나.

• 초기 타이탄 팀이 온디바이스 AI 추론 성능을 최우선 과제로 설정
• 전용 프로세서 개발은 무산됐지만 아키텍처 노하우는 그대로 축적
• 이후 M시리즈·A시리즈 뉴럴 엔진 고도화에 기술 이전

10년, 100억 달러 넘게 쓰고 접은 이유

타이탄은 2014년 시작됐다. 완전 자율주행차로 갔다가, 반자율주행 소프트웨어로 갔다가, 방향을 여러 번 바꿨다. 외신들이 추산한 누적 투자액은 100억 달러를 훌쩍 넘는다. 팀 쿡 체제에서도 사업성을 끝내 확신하지 못했고, 2024년 2월 공식 종료를 선언했다.

그렇다고 이 돈이 전부 허공으로 날아간 건 아니다. 실리콘 설계, 센서 데이터 처리, 저전력 고성능 연산 노하우. 이게 애플의 다른 제품군에 그대로 스며들었다. 지금 애플이 AI 경쟁에서 하드웨어 우위를 자신하는 근거 중 하나가 바로 이거다.

서버용 AI칩까지 넘보는 애플 실리콘

업계에서는 애플이 자체 AI 서버용 칩, 그러니까 차세대 고성능 모델까지 준비 중이라는 관측이 나온다. 애플이 지난해 공개한 ‘프라이빗 클라우드 컴퓨트’도 자체 실리콘 기반으로 대규모 언어모델 연산을 처리하는 구조인데, 이 역시 타이탄에서 쌓은 저전력 고성능 칩 설계 역량과 무관하지 않다는 분석이 많다.

자율주행이라는 하드웨어 사업에서는 손을 뗐지만, 그 과정에서 얻은 반도체 설계 능력으로 온디바이스 AI 시장 주도권을 노리는 모양새. 결과적으로 보면 밑지는 장사는 아니었던 셈이다.

삼성·SK하이닉스, 현대차가 눈여겨볼 지점

삼성전자와 SK하이닉스 입장에서는 신호가 두 가지다. 하나는 애플이 뉴럴 엔진 성능을 계속 끌어올리면서 모바일 AP 시장에서 엑시노스나 퀄컴 스냅드래곤과의 격차를 더 벌릴 가능성. 다른 하나는 애플의 저전력 고성능 AI칩 노하우가 온디바이스 AI용 메모리, 그러니까 LPDDR이나 HBM 저전력 버전 수요를 끌어올릴 여지가 있다는 점이다.

현대차·기아 쪽에서도 참고할 대목이 있다. 애플조차 100억 달러를 쓰고도 완전 자율주행 상용화에 실패했다는 사실, 이게 레벨3 이상 자율주행 기술이 얼마나 넘기 힘든 벽인지 다시 보여준다. 대신 그 과정에서 나온 반도체·AI 기술이 전혀 다른 제품에서 꽃피웠다는 점. 국내 자동차·부품사들의 자율주행 R&D 투자도 당장 성과가 안 보이더라도, 장기적으로는 다른 사업의 자산이 될 여지가 있다는 얘기다.

출처: The Verge