[태그:] AI 과학적 발견

효소 하나, 그리고 그 주변에서 어떤 목록에도 올라 있지 않던 패턴. 앤트로픽의 AI 에이전트가 짚어낸 건 이것이었다. 회사는 여기에 새로 꾸린 분자생물학 연구실의 ‘첫 발견’이라는 이름을 붙였다. 유전자 편집 기술 크리스퍼(CRISPR)로 이어진 발견을 ‘연상시킨다’는 설명까지 곁들였다. 생물학자들에게서 돌아온 반응은 박수가 아니라 반발이었다. 여기까지가 사실관계다. 해석을 보태자면, 이 논란의 무게중심은 AI의 실력이 아니다. ‘발견’이라는 단어를 어디서부터 붙여도 되느냐다. AI 기업이 연구실까지 직접 차리는 흐름이니 ‘AI가 과학적 발견을 했다’는 헤드라인은 앞으로도 계속 나올 공산이 크다. 이 글은 그런 주장을 독자가 직접 걸러볼 기준 다섯 가지를 먼저 세우고, 연구자가 챗봇을 쓸 때 바꿔둘 설정을 뒤에 붙였다.

생물학자들이 문제 삼은 건 ‘정의’와 ‘선후’

MIT 테크놀로지 리뷰는 AI 뉴스레터에서 이 반론을 두 갈래로 나눠 전했다. 하나는 정의를 둘러싼 것이다. 데이터에서 패턴을 건져낸 것만으로 ‘발견’이라는 이름을 붙여도 되느냐는 물음. 다른 하나는 누가 먼저였느냐다. 한 연구자가 자기 팀이 같은 패턴을 이미 찾아냈다고 밝혔다. 이야기는 곧 앤트로픽 시스템이 그 연구자와 클로드(Claude)가 나눈 대화에서 패턴을 익힌 것 아니냐는 의문으로 번졌다. 이 의문의 진위는 아직 가려지지 않았다.

매체가 더 무게를 실은 건 그다음 대목이다. AI에게는 새로운 것이 생물학자에게는 흔하거나, 놀랍지 않거나, 그다지 중요하지 않은 결과일 가능성이 있다는 지적이다. 과장된 주장이 되풀이되면 정작 진짜 진전이 나왔을 때 알아보기 어려워진다는 경고도 뒤따랐다. AI 기업이 과학적 발견의 문턱을 엉뚱한 높이에 세우고 있을지 모른다는 문제 제기다. 이 지적은 효소 패턴 하나가 진짜 발견이냐와는 별개다. 발견을 내세우는 AI 기업 전체를 향한 말이어서 앤트로픽만의 문제로 좁혀 읽기도 어렵다.

새로움부터 재현성까지, 발견이 넘어야 할 다섯 관문

과학계에서 어떤 결과가 발견으로 자리 잡는 과정은 발표 한 번으로 끝나지 않는다. 세부 절차는 분야마다 달라도, 대체로 아래 다섯 질문을 거친다는 뼈대는 비슷하다. 결과를 낸 쪽이 사람이든 AI든 문턱이 낮아질 이유는 없다. AI가 냈다는 이유로 기준을 느슨하게 적용한다면 그건 검증이라기보다 홍보다.

• 새로움: 데이터베이스에 등록되지 않았다고 아무도 모른다는 뜻은 아니다. 미발표 실험 노트나 학회 포스터, 연구실 내부 데이터에 이미 들어 있을 가능성까지 따져야 한다.
• 검증: 컴퓨터가 찾아낸 패턴은 아직 가설이다. 생물학이라면 그 패턴이 실제 기능과 이어지는지 실험으로 확인하는 단계가 필요하다.
• 중요성: 그 분야 연구자가 보기에 의미 있는 질문에 답하는가. 통계적으로 드문 것과 과학적으로 중요한 것은 별개의 이야기다.
• 출처 독립성: AI가 학습 과정에서 이미 본 정보를 되풀이한 것은 아닌가.
• 재현성: 다른 팀이 같은 방법을 썼을 때 같은 결과가 나오는가.

기준	확인할 질문	효소 패턴 논란에서 드러난 쟁점
새로움	이미 알려진 결과인가	한 연구자가 자기 팀이 같은 패턴을 먼저 찾았다고 주장
검증	실험으로 기능을 확인했나	패턴을 찾은 것만으로 발견이냐는 의문 제기. 실험 확인 여부는 원문에 나오지 않음
중요성	분야 전문가에게 의미가 있나	AI에게 새로운 것이 생물학자에겐 흔한 결과일 수 있다는 지적
출처 독립성	학습 데이터에서 온 것은 아닌가	그 연구자와 클로드의 대화에서 익혔을 가능성에 대한 의문(확인되지 않음)
재현성	다른 팀도 같은 결과를 얻나	원문에서 다뤄지지 않음

표를 채워놓고 보면 빈칸부터 눈에 들어온다. 검증과 재현성 두 칸은 원문에 근거가 없다. 나머지 세 칸은 반론이거나 확인되지 않은 의문이다. 원문에 담긴 정보만으로는 다섯 기준 가운데 통과가 확인된 항목이 아직 하나도 없는 셈이다. 실패했다는 뜻은 아니다. 판정할 자료가 아직 나오지 않았다는 뜻이다.

크리스퍼도 반복 서열에서 편집 도구까지 세 단계를 거쳤다

패턴을 찾는 일과 발견 사이의 거리는, 공교롭게도 앤트로픽이 직접 꺼낸 비교 대상에서 가장 선명하게 드러난다. 크리스퍼의 출발점은 세균 유전체 안에서 이상하게 되풀이되던 DNA 서열이었다. 그 반복 서열이 무슨 일을 하는지는 한동안 수수께끼로 남았다. 나중에야 정체가 밝혀졌다. 세균이 침입했던 바이러스를 기억해뒀다가 다시 들어오면 잘라내는, 일종의 면역 체계였다. 거기서 한 걸음 더 나아가 원하는 유전자 위치를 골라 자르는 편집 도구가 됐다.

반복 패턴 관찰, 기능 규명, 도구화. 단계 하나하나가 별도의 연구를 요구했다. 과학계가 가장 높이 평가한 것도 반복 서열을 처음 본 순간이 아니었다. 그것을 유전자 편집 도구로 바꿔낸 단계였다. 이 흐름에 앤트로픽 사례를 겹쳐 보면 효소 주변 패턴을 찾아낸 일은 첫 칸에 놓인다. ‘크리스퍼를 연상시킨다’는 표현은 출발점이 닮았다는 말로 읽는 게 정확하다. 같은 곳에 도착한다는 보장까지 담긴 말은 아니다. 비유를 고른 쪽이 앤트로픽 자신이라는 점을 떠올리면, 이 비유는 아직 남은 두 단계를 스스로 상기시키는 꼴이 된다.

문턱의 생김새는 분야마다 다르다. 수학은 증명이 맞는지 가리는 절차가 비교적 뚜렷하다. 수학자들이 무작위성을 활용해 1971년에 제안된 증명을 완성하고 55년 묵은 문제를 푼 사례가 그렇다. 이건 AI가 아니라 사람 수학자들이 낸 성과다. 다만 증명이 완결되는 순간 결과의 성격이 분명해진다는 점을 보여주기에는 충분한 예다. 생물학 사정은 다르다. 데이터에서 찾은 패턴은 살아 있는 세포 안에서 실제로 작동하는지 확인될 때까지 가설로 남는다. AI가 어느 분야에서 ‘발견’을 내세우느냐에 따라 요구되는 검증의 무게도 달라진다는 얘기다. 앤트로픽이 발을 들인 분자생물학은 그 무게가 무거운 쪽에 속한다.

학습 데이터에서 온 결과는 발견보다 기억에 가깝다

대규모 언어모델은 방대한 양의 텍스트로 학습한다. 모델이 내놓은 ‘새로운’ 결과가 실은 학습 중에 본 논문이나 게시물, 사용자 대화의 조각을 다시 짜 맞춘 것이라면, 그건 발견이라기보다 기억이다. AI 성능 평가 쪽에는 이미 이름이 붙은 현상이 있다. 시험 문제가 학습 데이터에 섞여 들어가 점수가 부풀려지는 것, 이른바 ‘데이터 오염’이다. 과학적 발견 주장도 같은 구조의 함정을 안고 있다. 부풀려지는 게 점수가 아니라 ‘새로움’이라는 차이뿐.

골치 아픈 건 바깥에서 확인할 길이 마땅치 않다는 점이다. 학습 데이터 전체가 공개되는 경우는 드물다. 그래서 제3자가 “이 결과는 어디서 왔나”를 거슬러 올라가 추적하기 어렵다. 앤트로픽 시스템이 그 연구자와 클로드의 대화에서 패턴을 익혔느냐는 의문도 이 벽 앞에 멈춰 있다. 근거 없는 의심으로 끝날 가능성도 충분하다. 이런 의문이 나왔다는 사실 자체는 가볍지 않다고 본다. AI의 발견 주장에는 출처 독립성을 따로 검증하는 절차가 필요하다는 신호로 읽히기 때문이다.

AI 기업의 발견 주장을 믿으려면 적어도 세 가지가 함께 공개돼야 한다는 게 이 글의 판단이다. 모델이 학습한 데이터의 대략적인 범위와 기준 시점. 발표 전에 수행한 선행 문헌 조사 결과. 실험 검증 계획이나 그 결과. 앞의 표에 대입하면 각각 출처 독립성, 새로움, 검증 칸을 채우는 자료다. 셋이 빠진 발표라면 ‘흥미로운 가설’ 정도로 받아들이는 편이 안전하다.

국내 연구실이 바꿀 건 제도가 아니라 챗봇 학습 설정

이번 논란으로 국내 사용자에게 당장 바뀌는 제도나 서비스는 없다. 달라져야 할 건 연구실의 챗봇 사용 습관이다. 대학원생이나 기업 연구원이 실험 데이터를 붙여넣고 해석을 묻거나 논문 초안을 다듬는 데 챗봇을 쓰고 있다면, 그 대화가 모델 개선에 쓰이는지부터 확인해두는 게 연구 아이디어를 지키는 기본 조치다. 앞서 나온 의문의 진위가 아직 가려지지 않았다는 점은 설정 변경을 미룰 이유가 되지 못한다. 오히려 서둘러 꺼둘 이유다. 가능성을 미리 닫아둬서 손해 볼 일은 거의 없다.

• 클로드: 왼쪽 아래 프로필(이름) → 설정 → 개인정보 보호(Privacy) → ‘Claude 개선에 도움 주기’ 토글 끄기. 마지막 항목의 한국어 표기는 확실하지 않으며, 영문 화면에서는 ‘Help improve Claude’로 나온다.
• 챗GPT: 프로필 아이콘 → 설정 → 데이터 제어(Data controls) → ‘모두를 위한 모델 개선(Improve the model for everyone)’ 끄기.
• 일회성 대화: 설정 전체를 건드리기 싫다면 챗GPT의 임시 채팅을 쓰면 된다. 클로드에도 기록을 남기지 않는 대화 기능이 있는데, 한국어 표기 이름은 확실하지 않다(영문 ‘Incognito’).
• 기관 계약 확인: 학교나 회사가 팀·기업용 요금제를 계약했다면 학습 사용 조건이 개인 요금제와 따로 정해져 있을 가능성이 크다. 연구지원팀이나 IT 부서에 계약 조건을 직접 물어보는 게 가장 정확하다.

앱이 업데이트되면서 항목 이름이 조금씩 바뀌어 왔다. 위 문구가 그대로 보이지 않으면 ‘학습’이나 ‘개선’이 들어간 토글을 찾으면 된다. 설정을 끈 효과가 이미 나눈 대화에까지 미치는지는 서비스별 약관에서 따로 확인해야 한다. 하나 짚어둘 점이 있다. 토글을 끄면 내 아이디어가 학습에 섞일 가능성은 줄어들지만, 내가 먼저 알았다는 사실까지 증명되지는 않는다. 선후를 가리는 데 가장 확실한 수단은 여전히 기록이다. 날짜가 남는 연구 노트, 내부 보고서, 프리프린트. 이번 논란에서 ‘우리 팀이 먼저 찾았다’는 주장이 힘을 얻는 데도 결국 그런 흔적이 필요하다. 기록하는 습관이 어떤 AI 도구보다 오래 간다고 해도 과장은 아니다.

확인된 것과 아직 불확실한 것

확인된 것

• 앤트로픽은 새 분자생물학 연구실의 첫 발견을 발표했다. AI 에이전트가 효소 주변에서 목록에 없던 패턴을 찾아냈다는 내용이다.
• 앤트로픽은 이 패턴이 크리스퍼로 이어진 것을 ‘연상시킨다’고 표현했다.
• 일부 생물학자는 패턴을 찾은 것만으로 발견이라 할 수 있는지 의문을 제기했다.
• 한 연구자는 자기 팀이 같은 패턴을 이미 발견했다고 밝혔다.

아직 불확실한 것

• 앤트로픽 시스템이 그 연구자와 클로드의 대화에서 패턴을 학습했는지 여부
• 이 패턴의 기능이 실험으로 확인됐는지 여부
• 누가 먼저 발견했는지에 대한 판정
• 이 패턴이 크리스퍼처럼 실제 응용으로 이어질지 여부

‘찾았다’와 ‘확인했다’ 사이, 발견이라는 단어의 무게

다섯 기준을 매번 다 대입하기 번거롭다면 질문 하나만 남겨도 된다. “누가, 어떤 방법으로 확인했나.” 패턴을 찾았다, 후보를 추렸다, 가능성을 제시했다. 기사에 이런 동사만 있다면 아직 가설 단계의 말이다. 실험으로 기능을 확인했다, 다른 팀이 재현했다, 해당 분야 학술지 심사를 통과했다는 문장이 뒤따라야 발견이라는 단어가 제 무게를 감당한다. 데이터를 훑는 속도에서 AI는 사람보다 훨씬 빠르다. 하지만 그 결과가 과학으로 인정받으려면 여전히 사람의 검증을 거쳐야 한다. 앤트로픽의 효소 패턴이 어느 쪽으로 판가름 나든, 이 기준을 쥐고 읽으면 과장된 발표에 덜 휘둘린다. 과장이 쌓이면 진짜 진전을 못 알아보게 된다는 앞의 경고는 반대로도 읽힌다. 기준이 선명할수록 정말 의미 있는 AI 연구 성과가 나왔을 때 그걸 알아보는 눈도 밝아진다.

출처: MIT Tech Review AI