[태그:] 수학

카케야 추측의 3차원 증명은 올해 필즈상 수상 업적 가운데 하나다. 오픈AI는 AI가 이 증명을 모든 차원으로 확장했다고 주장한다.

발표는 현지시간 월요일에 나왔다. 수학 한 건이 아니었다. 컴퓨터과학과 물리학까지 합쳐 성과 3건이 한꺼번에 발표됐고, 오픈AI는 결과를 알리는 방식도 계속 다듬고 있다고 덧붙였다.

논란은 성과보다 공개 방식에서 터졌다. 오픈AI는 분야별 전문가를 ‘길잡이(shepherd)’로 세워 공개 전략을 짰다. 결과를 누가 먼저 볼지 회사가 정하는 구조라는 비판이 곧바로 따라붙었다.

더버지가 접촉한 연구자들의 반응은 두 갈래였다. 과학적 성과에는 흥분. 오픈AI의 행보에는 점점 쌓여 가는 피로.

카케야·지수 시간 가설·양-밀스, 세 결과의 공개 방식은 제각각

세 결과 모두 각 분야에서 손꼽히는 미해결 문제와 맞닿아 있다. 오픈AI의 기존 연구를 이어 간 것도 있고, 새 영역에 처음 발을 들인 것도 있다. 공개 전략은 길잡이들의 조언을 받아 결과마다 따로 정했다.

분야	다룬 문제	주장 내용	공개 방식
수학	카케야 추측	모든 차원에서 해결	AI 생성 출력물 공개, 해설은 연구자들이 자율적으로 조직
컴퓨터과학	지수 시간 가설(ETH)	가설 반증	오픈AI가 외부 연구자 그룹을 꾸려 결과 설명
물리학	양자색역학과 양-밀스 이론의 관계	표준모형 관련 결과(‘질량 간극’ 문제는 다루지 않음)	미공개, 공개 방식은 외부 전문가 그룹 판단에 맡김

세 결과는 출발선부터 다르다. 수학은 출력물이 이미 나와 있는데, 물리학은 아직 아무것도 나오지 않았다. 같은 날 발표됐어도 세 결과를 같은 속도로 검증할 수는 없다.

가장 극적인 건 수학이다. 카케야 추측을 거칠게 줄이면 이런 질문이 된다. 바늘이나 연필을 모든 방향으로 돌리려면 공간이 최소 얼마나 필요한가.

3차원 버전의 증명은 뉴욕대(NYU) 수학자 훙 왕(Hong Wang)이 올해 필즈상을 받은 업적 중 하나였다. 오픈AI는 이를 모든 차원으로 풀었다고 주장한다. 필즈상 업적을 발판 삼아 일반화까지 마쳤다는 주장이니 무게가 남다르다.

브라운대 수학과 브렌던 하셋 교수는 이 주장이 “충분히 뒷받침되는 것으로 보인다”고 했다. 단서도 하나 달았다. 증명을 컴퓨터로 검증하는 린(Lean) 형식화 결과는 아직 직접 확인하지 않았다는 것.

컴퓨터과학 쪽은 지수 시간 가설이 틀렸다고 주장한다. 지수 시간 가설은 이론전산학에서 널리 받아들여진 전제로, 특정 문제는 모든 경우를 다 따져 보는 무차별 대입보다 획기적으로 빨리 풀 수 없다는 내용이다.

이 가설은 ‘P 대 NP’ 문제와 밀접하게 얽혀 있다. 그래서 반증 주장이 더 크게 들린다. P 대 NP는 답이 맞는지 확인하기 쉬운 문제가 풀기도 쉬운지를 묻는 문제로, 7대 밀레니엄 난제 중 하나다.

물리학 결과는 양자색역학과 양-밀스 이론의 관계를 다룬다. 양자색역학은 강한 핵력을 설명하는 이론이다. 강한 핵력은 중력·전자기력·약한 핵력과 함께 자연의 4가지 기본 힘 중 하나이고, 양-밀스 이론은 현대 입자물리학의 주춧돌이자 밀레니엄 난제 하나의 핵심이다.

헷갈리면 안 되는 대목. 이번 연구는 그 난제의 미해결 고리인 ‘질량 간극’까지 다루지 않았다. 양-밀스라는 이름만 보고 밀레니엄 난제가 풀렸다고 읽으면 오독이다.

“직접 고르는 건 재앙”…자문그룹 AGMAI까지 경고한 선별 공개

반발은 하루아침에 나온 게 아니다. 바닥에는 몇 달 동안 쌓인 피로가 있다. 오픈AI는 10월 초 수백 편의 프리프린트를 별다른 설명 없이 한꺼번에 내놓았고, 수학자들은 아직 그 물량을 소화하는 중이다. 연구자들은 쏟아지는 AI 생성 결과를 진을 빼는 폭격에 빗댄다. 이번 발표는 이런 상황을 바로잡으려는 시도로 나왔다.

성과 자체에 대한 평가는 후하다. 전문가들이 내놓은 표현만 추려도 이렇다.

• “거대하다”
• “중대한 돌파”
• “의미 있다”

진지하게 받아들일 이유가 충분하다는 게 전문가들의 판단이다. 걸림돌은 시간이다. 공개 수준이 결과마다 다르고 검증 자체도 복잡해서, 정보를 모두 받더라도 판단을 내리기까지 시간이 걸린다.

비판은 ‘누가 먼저 보느냐’에 쏠린다. 고등연구소(IAS) 콘스탄틴 코글러 연구원은 수백 건 대신 3건으로 양을 줄인 점은 반겼다. 그러면서 이렇게 지적했다. “소수의 저명한 과학자만 먼저 볼 수 있다는 건 말이 안 된다.”

텍사스대 오스틴 캠퍼스의 안드레아스 카르히 물리학 교수는 훨씬 직설적이었다.

그는 “그룹을 직접 고른다는 것 자체가 재앙”이라고 했다. “대형 연구소는 이미 충분한 권력을 갖고 있다. 승자와 패자를 골라서는 안 된다.”

카르히 교수는 경쟁 절차로 전문가를 뽑자고 제안했다. 그렇게 해도 비슷한 “일류” 집단이 뽑힐 것이라는 점은 본인도 인정했다. 그래서 다른 길도 내놨다. 전문가 팀과 별개로 증명을 지금 공개하라는 것이다. 그러면 “접근을 민주화하면서도 결과를 이해할 수 있게 만드는 데 신경 쓴다는 점을 보여 줄 수 있다”고 했다.

오픈AI에 더 곤란한 대목은 따로 있다. 이 방식에 경고를 보낸 곳이 ‘수학·AI 자문그룹(AGMAI)’이다. 오픈AI가 공개 방식을 자문하겠다고 약속했던 바로 그 단체다.

AGMAI는 발표 하루 전 “AI 기업이 이런 관행을 채택하지 않기를 권고한다”고 밝혔다. 문제로 꼽은 것은 세 가지다.

• 특정인에게 출력물을 먼저 주는 방식 자체가 불필요하다
• 선정된 연구자의 명성을 빌리는 일이 된다
• 접근 불평등, 편향된 선정, 공개 지연을 부를 수 있다

자문을 구하겠다던 단체가 하루 전에 경고했는데도 발표는 그대로 나갔다. 바깥에서 나온 비판보다 훨씬 무겁게 받아들여질 수밖에 없다.

대안도 구체적으로 내놨다.

• 출력물을 학술 저장소에 공개할 것
• 형식화된 증명과 문제를 고른 경위를 함께 공개할 것
• 결과를 이해하려는 연구자에게 자금 등 지원을 제공할 것

발표 뒤 AGMAI는 한발 더 나갔다. 물리학 결과의 자연어 출력물과 린 출력물을 “지체 없이 공개하라”고 촉구한 것이다. 근거는 두 가지다. 양자 양-밀스 이론의 존재는 밀레니엄 난제의 일부다. 4차원에서 상호작용하는 양자장론을 만드는 일도 수십 년 동안 수리물리학의 목표였다. 물리학만의 문제가 아니라 수학계의 문제이기도 하다는 얘기다.

AGMAI는 오픈AI가 작업을 맡긴 과학자들에게는 존중을 표했다. 그러면서도 즉시 공개 요구는 분명히 했다.

국내 연구자의 검증 출발선, 수학은 지금·물리학은 대기

이번 발표는 제품이 아니라 연구 결과다. 한국에서 변화가 먼저 나타날 곳도 대학과 연구기관이다. 가장 직접적인 차이는 자료를 볼 수 있는 시점인데, 분야마다 다르다.

• 수학(카케야 추측): AI 생성 출력물이 이미 공개됐다. 국내 연구자도 해외 연구자와 같은 시점에 검토를 시작할 수 있다. 하셋 교수가 언급한 린 형식화를 직접 돌려 보면서 컴퓨터 검증에 참여하는 것도 가능하다.
• 컴퓨터과학(지수 시간 가설): 오픈AI가 꾸리는 외부 그룹의 해설이 먼저 나온다. 그때까지 그룹 밖 연구자는 이해가 한발 늦을 수 있다.
• 물리학(양-밀스 이론): 출력물 자체가 비공개 상태다. 오픈AI가 고른 그룹에 들지 않은 국내 연구자는 공개 결정이 나올 때까지 기다리는 수밖에 없다.

국내 연구에 미칠 영향으로는 지수 시간 가설 쪽이 눈에 띈다. 이론전산학에서는 여러 문제가 ‘이보다 빨리 풀릴 수 없다’고 논증할 때 이 가설을 전제로 써 왔다. 반증 주장이 검증을 통과하면 이 가설에 기댄 국내 알고리즘·복잡도 연구도 전제를 다시 점검해야 할 수 있다. 아직은 검증 전 주장이라 전망에 가깝다.

검증 역량의 값어치도 오를 것으로 보인다. AI가 결과를 대량으로 내놓고 린 같은 형식 검증 도구가 판단 근거로 쓰이는 흐름이 굳어지고 있다. 형식화된 증명을 읽고 다룰 줄 아는 연구 인력이 귀해질 수밖에 없다. 선별 그룹에 들지 못한 연구자가 이 과정에 참여할 방법은 공개 자료를 빠르게 검증하는 것 말고는 사실상 없다.

확인된 것과 아직 불확실한 것

확인된 것

• 오픈AI가 현지시간 월요일 수학·컴퓨터과학·물리학 성과 3건을 발표했다.
• 수학 결과는 카케야 추측을 모든 차원에서 해결했다는 주장이며, AI가 생성한 출력물이 공개됐다.
• 컴퓨터과학 결과는 지수 시간 가설을 반증했다는 주장이며, 오픈AI가 외부 연구자 그룹을 꾸려 설명할 예정이다.
• 물리학 결과는 아직 공개되지 않았고, 공개 방식은 외부 전문가 그룹의 판단에 맡겨졌다.
• AGMAI는 발표 하루 전 선별 우선 공개를 권고하지 않았고, 발표 뒤에는 물리학 출력물의 즉시 공개를 촉구했다.
• 하셋 교수는 수학 결과가 잘 뒷받침된다고 봤지만 린 형식화는 아직 확인하지 않았다.

아직 불확실한 것

• 세 결과에 대한 독립 검증과 동료 심사 결과
• 컴퓨터과학 결과의 전체 출력물이 일반 연구자에게 공개되는 시점
• 외부 전문가 그룹의 구성원과 선정 기준, 국내 연구자 포함 여부
• 물리학 결과의 공개 시점과 형식
• 오픈AI의 AGMAI 즉시 공개 요구 수용 여부
• 10월 초 공개된 수백 편 프리프린트의 검증 진행 상황

성과의 크기보다 공개 범위가 신뢰를 가른다

수백 편을 한꺼번에 쏟아 낸 10월 초와 비교하면 이번 조치는 분명 진전이다. 결과를 3건으로 추리고 외부 연구자에게 자문을 구한 점은 대부분의 전문가가 반겼다.

연구자들이 원하는 건 다른 데 있다. 친절한 해설보다, 누구나 바로 열어 볼 수 있는 원자료다.

어떤 방식을 택하든 불만은 나오기 마련이라는 시각도 있다. 그래도 기준은 이미 나와 있다. AGMAI가 제시한 학술 저장소 공개, 형식화된 증명, 문제 선정 경위 공개다. 오픈AI의 다음 발표는 이 세 가지를 얼마나 따르는지로 평가받을 가능성이 크다.

AI가 낸 결과가 과학계에서 사실로 인정받는 속도도 결국 하나에 달렸다. 오픈AI가 검토의 문을 얼마나 넓게 여느냐다.

출처: The Verge