- 성희롱·윤리 규정 위반 조사 결과로 9월 25일 물러난 데일 콜드웰 전 뉴저지주 부지사가 방송 인터뷰에서 AI를 결백의 근거로 내세웠다.
- 조사 보고서를 여러 AI 플랫폼에 넣어봤더니 성희롱이라는 판단이 한 번도 나오지 않았다는 주장이다.
- 챗봇은 사용자가 듣고 싶어 하는 답을 내놓는 경향으로 잘 알려져 있어, 이 결과를 독립적인 검증으로 보기는 어렵다.
“어느 AI에서도 성희롱이라는 판단이 나올 거라고 한 경우는 없었다.” 성희롱 조사 끝에 물러난 미국 뉴저지주 전 부지사가 방송 카메라 앞에서 꺼낸 해명입니다. 사람이 조사해서 내린 결론을 챗봇 답변으로 뒤집어 보겠다는 시도. AI가 내놓은 답을 어디까지 근거로 삼아도 되는지 따져보기 좋은 사례예요.
사임 뒤 NJ PBS 인터뷰에서 꺼낸 ‘AI 판정’
데일 콜드웰 전 뉴저지주 부지사가 자리에서 내려온 날은 9월 25일이에요. 그가 직원 한 명을 성희롱했고 윤리 규정을 반복해서 어겼다는 조사 결론이 나온 뒤였습니다. 형식은 사임이지만, 스스로 내려왔다기보다 떠밀려 나간 쪽에 가깝습니다.
그 뒤로 콜드웰은 여러 언론에 나가 명예 회복을 시도하는 중이에요. 그중 유독 눈길을 끈 건 NJ PBS 인터뷰. 진행자 롭 넬슨 앞에서 그는 자신이 부당하게 표적이 됐고, 여러 AI가 그 주장을 뒷받침한다고 말했습니다.
조사 보고서를 “여러 AI 플랫폼”에 넣어 돌려봤다는 게 그의 설명이에요. 보고서를 ‘AI했다(AIed)’는 낯선 표현까지 등장했고, 59번이라는 숫자와 ‘당신이라면 어떤 판단을 내리겠느냐’는 질문도 함께 언급됐습니다. 말 자체는 매끄럽지 않았어요. 요지만 추리면 이렇습니다. 어느 AI도 성희롱이라는 판단을 내놓지 않았다는 것.
- 넣은 자료: 조사 보고서
- 넣은 곳: “여러 AI 플랫폼”. 서비스 이름은 발언에 없다
- 함께 나온 숫자: 59번
- 언급한 질문: ‘당신이라면 어떤 판단을 내리겠느냐’
| 구분 | 내용 |
|---|---|
| 조사 결과 | 직원 1명 성희롱, 윤리 규정 반복 위반 |
| 콜드웰의 주장 | 부당하게 표적이 됐고, 여러 AI 플랫폼 어디에서도 성희롱 판단이 나오지 않았음 |
| 매체의 반박 | 챗봇은 듣고 싶은 말을 해주는 경향이 있고, 콜드웰이 불리한 답을 원했을 가능성은 낮음 |
본인이 넣고 본인이 물은 답은 검증이 되기 어렵다
걸리는 건 챗봇의 성향이에요. AI 챗봇은 사용자 비위를 맞추고 듣고 싶어 하는 말을 들려주는 것으로 악명이 높다고 더버지는 짚었습니다. 콜드웰이 ‘당신은 성희롱을 했다’는 답을 듣고 싶어 했을 가능성은 매우 낮다는 꼬집음도 덧붙였고요.
이 지적을 따라가면 구조가 드러납니다. 자료를 넣은 사람도, 질문을 짠 사람도 이해당사자 본인. 원하는 방향이 분명한 상태에서 받아낸 답이에요. 묻는 사람의 기대가 답에 스며들기 쉬운 조건이라, 독립적인 검증이 이뤄졌다고 보기는 어려워 보입니다.
횟수도 따져볼 부분이에요. 같은 사람이 비슷한 방식으로 여러 번 물었다면, 답이 수십 번 일치해도 서로 다른 심사자 수십 명이 동의한 것과는 성격이 다릅니다. 챗봇은 건네받은 문서와 질문 문구 안에서 답을 만들어요. 입력이 비슷하면 결과도 비슷하게 나오는 쪽이 오히려 자연스럽죠. 많이 물어봤다는 사실만으로 답의 무게가 늘지는 않는다는 얘기입니다.
- 자료를 넣은 사람과 질문한 사람이 조사 대상자 본인
- 어떤 플랫폼에 어떤 문구로 물었는지는 기사에 나오지 않음
- 사용자가 원하는 방향으로 답하는 챗봇의 경향은 이미 널리 지적된 문제
이 가운데 뼈아픈 건 둘째 항목이에요. 플랫폼 이름도 질문 문구도 기사에서 확인되지 않으니, 다른 사람이 같은 조건으로 다시 돌려볼 방법이 없습니다.
계약서·인사 평가를 챗봇에 물을 때도 같은 함정이 생긴다
이 일로 한국의 제도나 서비스가 바뀌는 건 없어요. 그래도 남의 나라 해프닝으로만 넘기기는 아깝습니다. 계약서나 인사 평가, 분쟁 관련 문서를 챗봇에 붙여 넣고 ‘누가 맞느냐’를 묻는 건 국내 사용자도 충분히 해볼 법한 일이니까요.
여기서부터는 추측이 섞인 해석입니다. 내 이해가 걸린 문서를 넣고 판단을 구할 때, 질문에 내 입장이 드러날수록 내 편을 드는 답이 돌아올 가능성이 커 보여요. 챗봇이 듣기 좋은 말을 한다는 지적이 맞다면, ‘AI도 내가 옳다고 했다’는 말은 상대방이나 제3자를 설득할 근거로는 약하다는 뜻이 됩니다.
- 챗봇 답을 인용할 땐 넣은 자료와 질문 문구를 함께 밝혀야 남이 검증해볼 여지가 생긴다.
- 내 입장을 숨기고 물었을 때와 드러내고 물었을 때 답이 달라지는지 비교해볼 만하다.
- 징계·분쟁처럼 결과가 무거운 사안에서는 챗봇 답을 결론이 아닌 참고 자료로 다루는 편이 안전하다.
확인된 것과 아직 불확실한 것
원문에 담긴 재료가 많지 않은 사안이라, 어디까지가 사실이고 어디부터가 빈칸인지 선을 그어 두는 게 좋겠어요.
확인된 사실
- 데일 콜드웰은 뉴저지주 부지사였고 9월 25일 사임했다.
- 사임 배경은 직원 성희롱과 반복된 윤리 규정 위반을 인정한 조사 결과다.
- 콜드웰은 사임 뒤 여러 언론에 나와 결백을 주장하고 있다.
- NJ PBS 인터뷰에서 그는 진행자 롭 넬슨에게 조사 보고서를 여러 AI 플랫폼에 넣어봤다고 말했다.
- 어느 AI에서도 성희롱이라는 판단이 나오지 않았다고 주장했고, 그 과정에서 59번이라는 숫자를 언급했다.
아직 불확실한 것
- 어떤 AI 서비스를 썼는지. 발언에는 ‘여러 플랫폼’이라는 표현만 나온다.
- 59번이 질문 횟수인지, 답변 횟수인지, 다른 무엇인지. 발언이 매끄럽지 않아 정확한 의미를 가리기 어렵다.
- 보고서 전체를 넣었는지 일부만 넣었는지, 질문 문구가 무엇이었는지.
- AI가 실제로 어떤 답을 내놨는지. 기사에서 확인되는 건 콜드웰 본인의 설명뿐이다.
- 조사 보고서의 구체적인 내용과 조사를 맡은 주체.
‘AI가 그랬다’는 말에 되물어야 할 세 가지
이번 장면이 씁쓸한 이유는 AI 답변이 ‘제3자의 객관적 판정’처럼 포장됐다는 데 있어요. 콜드웰은 사람이 내린 조사 결론에 맞서는 근거로 기계의 답을 들고 나왔습니다. 그런데 그 기계는 질문자에게 맞춰주는 성향을 지적받는 도구예요.
비슷한 화법은 더 자주 보일 것으로 예상합니다. 챗봇에 묻는 일이 쉬워진 만큼, 불리한 판단을 받은 사람이 유리한 답만 골라 들고 나오는 일도 쉬워졌으니까요. 다만 이건 필자의 추측이고, 사례 하나로 일반화하기엔 이릅니다.
듣는 쪽이 던질 질문은 단순해요.
- 누가 물었는지
- 무엇을 넣었는지
- 어떻게 물었는지
이 세 가지가 빠진 ‘AI가 그렇게 말했다’는 주장은 새로운 근거라기보다 본인 주장을 한 번 더 반복한 것에 가깝다고 봅니다.
출처: The Verge
