AI 과학 발견 논쟁, 패턴 찾기와 발견은 다르다

에이전트 950개, 작업 시간 21시간. Anthropic이 자체 분자생물학 연구실에서 돌린 Claude 에이전트들의 첫 성과를 공개하면서 앞세운 숫자예요. 연구실 구조 자체는 간단한 편이에요. Claude 에이전트가 어려운 생물학 문제를 읽고 가설을 세우면, 사람 과학자가 그 보고를 받아 실제 실험을 돌리는 식이거든요. 회사는 이 시스템이 ‘발견’을 해냈다고 했어요. 그런데 생물학계에서는 박수보다 반론이 더 많이 나왔고요. 한 회사 홍보 문구가 과했느냐로 끝날 얘기는 아니에요. ‘AI가 과학적 발견을 했다’는 발표는 앞으로도 줄줄이 나올 텐데, 그걸 어떤 잣대로 읽어야 하느냐가 이번 논쟁이 남긴 진짜 질문이니까요.

후보 서열 찾기와 기능 밝히기는 다른 단계예요

생물학 연구가 돌파구에 닿기까지의 과정을 단계별로 쪼개 보면, 어디서 말이 엇갈렸는지가 금방 보여요. 과학자들이 생명체의 유전 정보를 해독하면서 쌓아 온 DNA 서열이 수백만 개 규모의 도서관처럼 모여 있다고 상상해 보세요. 첫 단계는 이 도서관을 뒤져 흥미로운 효소를 만드는 특이한 서열을 찾아내는 일이에요. 두 번째는 그 효소가 실제로 무슨 일을 하는지 밝히는 단계. 마지막이 그 효소를 조작해서 쓸모 있는 일을 하게 만드는 단계예요. 이번 논쟁은 정확히 첫 단계와 두 번째 단계 사이, 그 경계선 위에서 벌어졌어요.

Anthropic 에이전트들이 짚어낸 건 완전히 새로운 서열이 아니었어요. 이미 알려진 효소를 둘러싼 반복 패턴이었고, 회사는 이 패턴이 그동안 목록에 올라 있지 않았다고 설명했어요. 위 단계에 대 보면 첫 단계, 그중에서도 이미 아는 효소 주변을 다시 훑은 작업에 가까워요. 그런데 발표문은 이 패턴이 크리스퍼(CRISPR)로 이어진 발견을 ‘연상시킨다’고 적었어요. 크리스퍼는 과학과 의학을 바꿔 놓은 유전자 편집 기술이죠. 그 이름이 나오는 순간 읽는 사람은 대단한 게 나왔다고 받아들이기 쉬워요. 결과보다 기대를 먼저 건넨 비유였던 셈인데요. ‘발견은 아니다’라는 반박이 유난히 날카로웠던 것도 이 비유가 끌어올린 기대치와 무관해 보이지 않아요.

해링턴의 반론, ‘패턴 찾기는 쉬운 부분’

반론의 한가운데에는 생물학자 루커스 해링턴의 게시물이 있었어요. 그는 “이상한 유전자 묶음과 반복 서열을 찾는 건 대개 쉬운 부분이고, 어려운 부분이자 진짜 발견이 나오는 곳은 그 시스템이 실제로 무엇을 하는지 알아내는 일”이라고 썼는데요. 앞에서 나눈 단계로 옮기면 첫 단계와 두 번째 단계 사이에 선을 분명히 그은 거예요. 이 글은 빠르게 퍼졌고, 제약사 일라이 릴리의 회장 겸 CEO까지 공개적으로 지지하고 나섰어요. 에이전트가 실험실의 고된 기초 작업 일부를 도운 건 맞다, 하지만 그걸 발견이라고 부르긴 어렵다. 반론을 한 문장으로 줄이면 이 정도예요.

크레딧 문제는 또 다른 쪽에서 불거졌어요. 코펜하겐대 생물학자 마리오 로드리게스 메스트레가 자기 연구팀이 바로 이 패턴을 이미 찾아냈다고 밝힌 건데, 이 주장이 알려진 건 뉴욕타임스를 통해서였어요. 메스트레는 평소 연구하면서 Claude와 대화를 자주 나눠 왔다고 해요. 그러니 Anthropic 팀이 자기 대화에서 뭔가를 배운 건 아니냐는 의문이 나올 법했죠. Anthropic은 이를 부인했어요. 메스트레는 그와 상관없이 Claude 사용을 전부 중단하겠다고 했고요.

메스트레 건을 떼어 놓고 봐도 남는 문제가 있어요. AI가 사람 눈만으로는 알아보기 힘든 패턴을 방대한 생물학 데이터에서 찾아냈다면, 그 자체로는 인상적인 일이 맞아요. 그렇다고 그 결과가 곧 과학의 돌파구가 되는 건 아니에요. AI 입장에서 새로운 성과가 생물학자에게는 흔한 일이거나, 예상 가능한 결과거나, 파급력이 크지 않은 결과일 가능성이 있거든요. 누구 눈높이에서 새로운지에 따라 같은 결과의 무게가 완전히 달라지는 거죠.

OpenAI ‘100만 달러짜리’ 수학 난제에서도 골대가 옮겨졌어요

비슷한 장면은 수학에서도 나왔어요. OpenAI가 자사 에이전트들이 ‘100만 달러짜리’ 수학 난제를 풀었다고 발표하자, AI에 회의적인 사람들 사이에서 그게 정말 중요한 문제였느냐고 묻는 글이 널리 공유됐어요. 짚고 넘어갈 점이 있는데요, 이 글은 OpenAI의 풀이가 틀렸다고 주장하지 않았어요. 해당 결과가 수학자들이 가장 관심을 두는 문제는 아닐 수도 있다는 지적이었죠. 그 와중에 한 수학자가 모델이 자기 연구를 출처 표시 없이 썼을 가능성을 제기했고요. 그러고 나니 사람들 머릿속에는 ‘OpenAI가 반칙을 했다’거나 ‘풀이가 별로 중요하지 않다’, 혹은 둘 다라는 인상만 남았어요. 풀이가 틀렸다고 한 사람은 없는데 평가는 깎여 나간, 좀 묘한 결말.

두 사례를 나란히 놓아 보면 논쟁의 뼈대가 꽤 닮았어요. 성과 발표, 중요도에 대한 반론, 크레딧 논란이 거의 같은 순서로 이어지거든요.

‘AI가 발견했다’는 발표를 쪼개 읽는 다섯 가지 기준

‘AI가 발견했다’는 발표가 나올 때마다 믿을지 말지부터 고민하면 금방 지쳐요. 아래 기준으로 쪼개서 보는 편이 훨씬 덜 헷갈리고요.

1. 연구 단계 어디까지 갔나 — 후보를 찾은 건지, 그 후보가 무엇을 하는지 밝힌 건지, 실제로 쓸모 있게 조작까지 해 본 건지 가르세요. Anthropic 사례에서 비판이 몰린 곳도 딱 첫 단계와 둘째 단계 사이였어요.
2. AI에게 새로운가, 분야에 새로운가 — 데이터 더미에서 패턴을 뽑아낸 건 AI 능력으로 보면 눈에 띄는 일이 맞아요. 그 분야 연구자 눈에도 새롭고 중요한지는 따로 따져야 할 질문이고요.
3. 사람은 어디서 개입했나 — 방향은 누가 잡았고 실험은 누가 했는지 보세요. Anthropic 연구실만 해도 실험은 사람 과학자 몫이에요. 새로운 지식은 대개 협업과, 계속 늘어나는 도구들 사이에서 나와요. 그래서 AI를 현미경이나 슈퍼컴퓨터 같은 도구로 보는 관점이 과학이 실제로 굴러가는 방식에 더 잘 맞는다는 시각도 있어요.
4. 선행 연구와 크레딧은 확인됐나 — 이미 누가 같은 걸 찾았는지, 모델이 다른 연구자의 작업을 출처 없이 가져다 쓴 건 아닌지. 생물학 사례와 수학 사례에서 똑같이 쟁점이 된 부분이에요. 독립적인 확인이 나오기 전까지는 판단을 잠시 미뤄 두는 게 안전해요.
5. 비유와 수식어를 걷어내면 무엇이 남나 — ‘크리스퍼를 연상시킨다’ 같은 표현이 전하는 건 결과가 아니라 기대예요. 수식어를 다 지우고 ‘무엇을, 얼마나 많은 후보 중에서, 어떻게 확인했나’만 남겨 보세요. 성과의 실제 크기가 그제야 보여요.

이런 기준을 굳이 챙기는 데는 이유가 있어요. ‘돌파구 아니면 실패’라는 이분법이 진짜 진전까지 가려 버리거든요. 이 논쟁을 다룬 분석 글은 20만 개 후보를 살펴볼 만한 몇 개로 추려낸 작업을 결코 작지 않은, 정당한 과학 작업이라고 평가해요. 사람이 방향을 잡아 주고 실험도 사람이 돌렸다는 점을 감안해도, 범용 챗봇이 그 일을 해냈다는 것 자체는 주목할 만하다는 거죠. 평가 기준이 ‘Claude가 스스로 발견했느냐’ 하나로 좁혀지면 사정이 달라져요. 이런 성과가 전부 찬반 논쟁의 증거로만 소비되니까요. 반대쪽 함정도 있어요. AI가 정말 성과를 낸 것처럼 보일 때 ‘그게 중요한 문제였냐’며 골대를 옮기고 싶어지는 유혹. AI 회사들이 자기 시스템을 과학자가 쓰는 도구가 아니라 스스로 발견하는 주체로 내세우는 한, 이 악순환은 되풀이될 가능성이 커 보여요. 개인적으로는 ‘20만 개 후보를 몇 개로 좁혔다’는 설명이 크리스퍼 비유보다 훨씬 단단한 홍보 문구가 됐을 거라고 봐요. 반박할 틈이 적은 문장이니까요.

국내 연구자는 챗봇 학습 설정을, 뉴스 독자는 ‘발견’ 제목을 다시 볼 때

한국에서 이 논쟁을 지켜보는 사람에게 실제로 달라지는 건 두 가지 정도로 보여요.

첫째, 연구에 챗봇을 쓰는 사람의 데이터 관리. 메스트레의 의혹은 Anthropic이 부인했고, 사실로 확인된 적도 없어요. 그래도 연구자가 이 문제 하나로 도구를 끊어 버린 사례가 나왔다는 건 가볍게 넘길 일이 아니에요. 아직 발표하지 않은 아이디어나 데이터를 챗봇에 넣고 있다면, 그 대화가 모델 개선에 쓰이는지부터 확인해 두세요. Claude 웹·앱 기준으로는 설정 → 개인정보 보호(Privacy)로 들어가 ‘Claude 개선에 도움 주기(Help improve Claude)’ 항목을 보면 되는데, 이 항목의 한국어 표기는 확실하지 않아요. 앱 버전에 따라 표기가 조금씩 바뀌기도 해서 영어 이름을 같이 기억해 두면 찾기 편하고요. 다른 챗봇을 쓴다면 설정에서 ‘데이터’나 ‘개인정보’ 항목부터 열어 보세요. 대학이나 연구기관이 계약한 계정은 사정이 좀 달라요. 개인 설정보다 기관 이용 조건이 먼저 적용되는 경우가 있어서, 담당 부서에 한 번 물어보는 편이 확실하거든요. 하나 더. 우선권 다툼이 붙으면 기댈 곳은 결국 기록이에요. 챗봇과 주고받은 아이디어도 연구 노트에 날짜와 함께 남겨 두면, 나중에 누가 먼저였는지 설명할 근거가 돼요.

둘째는 뉴스를 읽는 방식이에요. 해외 AI 기업의 과학 성과 발표가 국내 기사로 옮겨질 때 ‘발견’, ‘돌파구’ 같은 단어가 제목에 그대로 실리는 경우가 많은 편으로 보여요. 다만 이건 따로 집계한 게 아니라 개인적인 관찰에 가까운 추정이에요. 그런 제목을 만나면 위 다섯 가지 기준 가운데 연구 단계와 선행 연구, 이 두 개만 먼저 확인해도 과장된 부분이 상당히 걸러져요. 국내 대학이나 연구기관에서 AI를 활용한 연구 성과를 평가할 때도 ‘AI가 한 일’과 ‘사람이 한 일’을 어떻게 나눠 적을지가 비슷한 질문으로 떠오르지 않을까 싶은데요. 이것 역시 추측이라는 점은 밝혀 둘게요.

확인된 것과 아직 불확실한 것

확인된 것

• Anthropic은 Claude 에이전트가 생물학 문제를 읽고 추론하면 사람 과학자가 실험하는 분자생물학 연구실을 운영한다고 밝혔어요.
• 에이전트 950개가 21시간 동안 작업해 찾은 건 새로운 서열이 아니라, 알려진 효소 주변의 반복 패턴이에요. 회사는 이 패턴이 목록에 없던 것이라고 설명했어요.
• 이를 비판한 해링턴의 게시물에 일라이 릴리 회장 겸 CEO가 지지를 표했어요.
• 메스트레는 자기 팀이 같은 패턴을 먼저 찾았다고 주장했고, Anthropic은 대화 학습 의혹을 부인했어요. 메스트레는 Claude 사용을 중단하겠다고 했어요.
• OpenAI 수학 성과를 비판한 글은 풀이가 틀렸다고 주장하지 않았어요.

아직 불확실한 것

• Anthropic 에이전트가 짚은 반복 패턴이 실제로 어떤 기능을 하는지
• 메스트레 팀의 선행 발견이 Anthropic 결과와 정확히 같은 것인지, 우선권이 어떻게 정리될지
• 메스트레의 대화 내용이 연구에 쓰였다는 의혹의 사실 여부
• OpenAI가 푼 수학 문제가 수학계에서 얼마나 중요한 결과로 평가받을지
• 한 수학자가 제기한 출처 누락 문제가 어떻게 결론 날지

해링턴의 제안, 기준은 진짜 발견이 나오기 전에 올려 둬야

해링턴은 비판 글 끝에 제안을 하나 덧붙였어요. AI 회사들이 지금 기준을 높게 세워 둬야, 나중에 AI가 정말로 근본적으로 새로운 생물학적 메커니즘을 발견했을 때 모두가 그게 얼마나 큰일인지 제대로 알아본다는 거예요. 뒤집어 읽으면 경고에 가까워요. 기준을 낮게 잡고 매번 ‘발견’을 외치다 보면, 진짜 발견이 나왔을 때 오히려 믿음을 얻지 못한다는.

걸리는 건 회사 쪽에 이 제안을 받아들일 동기가 별로 없어 보인다는 점이에요. OpenAI의 샘 올트먼과 Anthropic의 다리오 아모데이가 서로 한발 앞서려고 경쟁하는 구도에서, AI 과학 성과의 기준을 스스로 높이는 일은 우선순위에서 밀리기 쉽거든요. 기준을 세우는 몫은 읽는 쪽에도 남아 있는 셈이에요. 다음에 ‘AI가 발견했다’는 제목을 보면 발견이라는 단어에 반응하기 전에 세 가지만 물어보세요. 어느 단계까지 갔나. 누구와 함께 했나. 누구보다 먼저였나. 이 세 질문에 답이 나오는 성과라면, 붙은 이름표가 발견이든 아니든 충분히 의미 있는 진전일 거예요.

출처: MIT Tech Review AI

AI리서치팀

Daily News Korea AI리서치팀은 인공지능, 머신러닝, 생성형 AI의 최신 동향과 실용적 활용법을 연구합니다. ChatGPT, 클로드, 미드저니 등 AI 도구 비교 분석과 활용 가이드를 제공합니다.