오픈AI, 美 8개 주에 줄소송…‘아동 안전 속였다’

소장은 하나가 아니라 여덟 개예요. 아이오와, 캔자스, 네브래스카, 웨스트버지니아, 아칸소, 애리조나, 아이다호, 몬태나가 공동 소송으로 묶지 않고 저마다 오픈AI를 법정에 세웠습니다. 로이터가 처음 전한 이 소송들은 결국 한 문장으로 모입니다. 오픈AI가 ChatGPT를 만들면서 안전보다 이익을 먼저 챙겼고, 그 위험을 소비자에게 제대로 알리지 않았다는 거죠.

눈여겨볼 건 주 정부들이 꺼내 든 무기예요. 지금까지 AI 규제 얘기는 대부분 ‘새 법을 만들자’에서 출발했거든요. 이번엔 다릅니다. 이미 있는 소비자보호법을 그대로 가져와 AI 챗봇 회사에 들이댔어요.

소장의 과녁은 ChatGPT에 걸린 ‘안전하다’는 간판

소장 논리는 의외로 단순해요. 오픈AI는 ChatGPT를 “안전을 최우선으로 하는, 청소년에게 적합한 도구”라고 소개해 왔습니다. 주 정부들 눈에 비친 실제 모습은 “취약한 이용자에게 위험한” 제품이었고요. 말과 실제가 다르니 기만, 위험을 경고하지 않았으니 소비자보호법 위반. 뼈대는 이게 전부입니다.

대신 위험 목록은 꽤 구체적이에요. 소장에 담긴 내용을 추리면 네 가지로 정리됩니다.

• 비판적 사고 능력을 떨어뜨린다
• 편집증과 망상을 부추긴다
• 위험한 의료 조언을 내놓는다
• 건강하지 않은 행동과 관계를 조장한다

이 주장을 받치려고 주 정부들은 10대와 성인 이용자 가족들이 낸 여러 소송을 끌어왔어요. 하나같이 ChatGPT가 가족의 죽음에 영향을 미쳤다고 주장하는 사건들이죠. 혐의는 여기서 두 개가 더 얹힙니다. 미성년자 데이터를 수집했다는 것, 그리고 나이 어린 이용자를 걸러내는 데 소홀했다는 것.

조금 뜻밖인 대목도 있습니다. 최근 잇따른 ‘폭주 AI(rogue AI)’ 해킹 사건까지 소장에 들어갔거든요. 주 정부들은 이걸 오픈AI의 “무모함”을 보여주는 증거로 내세웠는데, 정작 어떤 사건을 가리키는지는 기사만으로 확인이 안 돼요. 그래도 아동 보호 소송에 보안 사고를 엮었다는 사실 자체가 하나의 신호입니다. 특정 기능 하나가 고장 났다는 게 아니라, 회사가 안전을 대하는 태도 전반을 문제 삼겠다는 뜻으로 읽히니까요.

애리조나는 ‘비영리 초심’을 꺼냈고, 오픈AI는 ‘업계 전체’로 맞받았다

여러 소장 가운데 가장 날이 선 문장은 애리조나에서 나왔어요. 오픈AI가 “안전을 우선하던 공익 우선 비영리 단체라는 원래 사명에서 추락”했다는 대목입니다. 애리조나는 한발 더 나가, 오픈AI가 “이익 지상주의가 필수 안전장치를 밀어낼 때 무슨 일이 벌어지는지 보여주는 경고 사례”가 됐다고까지 적었어요. 기술 결함을 짚는 수준이 아니죠. 회사의 정체성을 정면으로 겨냥한 표현입니다.

오픈AI의 대응은 대변인 드류 푸사테리가 더버지에 보낸 이메일 성명으로 나왔습니다. 요지는 ChatGPT에 “업계 최고 수준의 연령별 보호 장치”를 넣었다는 것. 어떤 시스템도 완벽하지는 않다는 점은 순순히 인정했어요. 그러면서 지금 있는 보호자 통제, 휴식 알림, 연령에 맞춘 모델 보호 위에 전문가들과 함께 안전장치를 더 쌓겠다고 했고요.

개인적으로 성명의 핵심은 마지막 문장에 있다고 봐요. 주 정부들과 함께, 한 회사가 아니라 AI 업계 전체에 적용되는 실용적인 정책을 만들겠다는 내용인데요. 풀어 말하면 “왜 우리만 겨냥하느냐”에 가까운 메시지입니다.

이렇게 나란히 놓고 보면 빈칸이 하나 눈에 띕니다. 안전성 홍보와 미성년자 보호 쟁점에는 ‘보호 장치가 이미 있다’는 답을 내놨는데, 미성년자 데이터 수집 혐의에 대해서는 성명이 아무 말도 하지 않았거든요. 일부 주가 불법 수집 정보 삭제까지 요구한 걸 생각하면 가볍게 넘길 부분은 아닌 것 같아요.

압박이 이 소송들뿐인 것도 아닙니다. 커먼센스미디어는 ‘ChatGPT for Teens’에 “용납할 수 없는 위험”이라는 평가를 내렸고, 플로리다주는 ChatGPT가 사람처럼 행동하는 걸 아예 금지하려 하고 있어요. 소송, 민간 단체의 평가, 주 차원의 규제 시도. 미성년자와 AI 챗봇이라는 주제를 두고 여러 방향에서 한꺼번에 조여 오는 모양새예요.

한국 계정은 그대로지만, 부모와 챗봇 개발자는 따져볼 게 있다

선부터 그어 둘게요. 이번 소송은 미국 8개 주가 각자의 소비자보호법을 근거로 낸 겁니다. 한국에서 ChatGPT를 쓰는 사람의 계정이나 이용 조건이 당장 달라지는 건 없어요.

• 자녀가 ChatGPT를 쓰는 부모: 오픈AI가 이미 있다고 밝힌 보호자 통제와 휴식 알림, 우리 집 계정에서 켜져 있는지 한 번쯤 확인해 볼 만해요. 이번 소송이 정면으로 다투는 게 바로 미성년자 이용 관리거든요.
• 일반 이용자(추측): ChatGPT는 여러 나라에 같은 서비스를 내놓고 있어요. 그래서 소송 압박에 밀려 연령 확인이나 안전장치가 강화된다면 국내 화면에도 반영될 가능성이 있습니다. 어디까지나 추측이고, 시기도 가늠하기 어렵습니다.
• AI 서비스를 만드는 개발자·기획자: 이번 소송의 출발점은 ‘안전하다’는 홍보 문구였어요. 마케팅 문구와 실제 가드레일 수준이 어긋나는 순간 그 문구가 그대로 공격 지점이 된다는 걸 보여준 사례입니다.

개발자 입장에서 하나 더. 주 정부들이 위험 사례로 묶은 건 위험한 의료 조언, 망상을 부추기는 응답 같은 ‘대화 결과물’이었어요. 모델이 내놓는 답 자체가 제품 책임 문제로 번진다는 얘기죠. 챗봇을 서비스하는 팀이라면 취약 이용자 대응 시나리오를 출시 체크리스트에 올려둘 이유가 하나 더 생긴 셈입니다.

확인된 것과 아직 불확실한 것

확인된 것

• 아이오와, 캔자스, 네브래스카, 웨스트버지니아, 아칸소, 애리조나, 아이다호, 몬태나 등 8개 주가 각각 별도로 소송을 냈다.
• 혐의는 크게 세 갈래다. 주별 소비자보호법 위반(위험을 알리지 않고 안전성을 오인하게 함), 미성년자 데이터 수집, 나이가 어린 이용자 차단 미흡이다.
• 주 정부들은 민사 제재금 부과와 오해를 부르는 홍보 중단을 요구했다. 일부 주는 불법으로 수집된 개인정보의 삭제도 요구했다.
• 오픈AI는 연령별 보호 장치를 이미 갖췄다고 반박하고 업계 전체를 대상으로 한 정책 논의를 제안했다. 이 성명은 10월 14일 원문 기사에 추가됐다.

아직 불확실한 것

• 주별로 청구한 민사 제재금 규모와 재판 일정
• 소장에 인용된 ‘폭주 AI’ 해킹 사건이 구체적으로 어떤 사례인지
• 소장에 인용된 유족 소송들의 결론, 그리고 이번 재판에서 그 소송들이 얼마나 무게를 가질지
• 8개 주 소송이 따로 진행될지, 어느 시점에 하나로 합쳐질지
• 오픈AI가 언급한 보호 장치가 국내 계정에 어디까지 적용되는지, 소송 이후 한국 서비스에도 변화가 생길지

결국 승부처는 ‘안전하다’는 말과 실제 작동 사이의 거리

이번 소송에서 흥미로운 건 순서예요. AI 모델 내부가 어떻게 돌아가는지 따지기 전에, 회사가 소비자에게 한 ‘약속’부터 문제 삼았습니다. 새 AI 법이 없어도 기존 소비자보호법만으로 챗봇 회사를 압박할 길이 있다는 걸 8개 주가 한꺼번에 보여준 거죠.

오픈AI의 논리도 선명합니다. 완벽한 시스템은 없다, 안전장치는 계속 보강하고 있다, 규칙은 업계 전체에 똑같이 적용돼야 한다. 그러니 법원이 따질 건 사실상 하나예요. ‘청소년에게 적합하고 안전을 우선하는 도구’라는 설명이 실제 작동과 얼마나 맞아떨어졌느냐. 그 판단이 나오면 챗봇을 ‘안전하다’고 홍보해 온 다른 회사들도 자기 문구를 다시 들여다보게 될 거라고 봐요. 홍보 문구 한 줄이 법적 책임의 출발점이 될 수 있다는 걸 보여주는 사례니까요.

출처: The Verge

글로벌뉴스 데스크

Daily News Korea 글로벌뉴스 데스크는 전 세계 IT·기술 뉴스를 실시간으로 모니터링하여 한국 독자에게 가장 중요한 소식을 전합니다. 실리콘밸리, 유럽, 아시아의 최신 기술 동향을 한국 시장 관점에서 분석합니다.