90년 난제 풀었다던 오픈AI, 수학 연구 372건 공개…수학계 “성능 시험 멈춰라”

  • 동아닷컴
  • 입력 2026년 10월 7일 16시 47분


지난달 24일(현지 시간) 호주 멜버른에서 컴퓨터 화면에 챗GPT가 떠 있는 모습. 사진=게티이미지코리아
지난달 24일(현지 시간) 호주 멜버른에서 컴퓨터 화면에 챗GPT가 떠 있는 모습. 사진=게티이미지코리아
오픈AI가 자사 인공지능(AI) 모델이 수학계의 대표 난제인 ‘나비에-스토크스 방정식’을 해결했다고 발표한 데 이어 이번에는 고난도 수학 연구 결과를 대거 공개했다. 이에 수학계에서는 수학 문제가 AI 모델의 성능 측정 도구로 소모돼서는 안 된다는 반발이 나온다.

6일(현지시간) 오픈AI는 깃허브를 통해 내부 AI 모델이 만든 수학 연구 원고 722편을 공개했다. 연구 결과는 서로 연관된 논문을 묶어 372개 결과군으로 정리됐다. 분야는 대수학과 정수론, 이론 컴퓨터과학, 수리논리학, 위상수학 등 수학 전반에 걸쳐 있다.

오픈AI는 이번 연구에 일반에 공개하지 않은 내부 최상위 AI 모델을 사용했다. 약 4000개의 연구 문제를 모델에 제시했으며 “결과 하나를 얻는 데 평균적으로 해당 모델을 이용한 챗GPT 프로 약 3시간 분량의 추론 연산이 투입됐다”고 설명했다.

외부 자문단의 권고를 반영해 10개 결과에는 AI의 추론 과정을 압축한 요약본도 공개했다. 상당수 논문에는 수학적 증명을 컴퓨터로 검증할 수 있는 형식언어 ‘린(Lean)’으로 작성한 검증 자료가 첨부됐다.

다만 모든 결과가 형식 검증을 거친 것은 아니다. 오픈AI는 일부 미검증 결과에는 오류가 있을 수 있으며, 수정이 필요한 경우 공개 저장소를 계속 업데이트하겠다고 밝혔다.

● 독립 자문단 “수학 문제로 성능 측정 중단하라” 요구

이번 공개는 오픈AI가 ‘나비에-스토크스 방정식’의 해법을 내놨다고 발표한 지 한 달 만이다. 이는 유체의 움직임을 설명하는 방정식의 해가 항상 매끄럽게 유지되는지 묻는 ‘밀레니엄 문제’ 가운데 하나다. 오픈AI는 자사 AI가 해가 깨지는 경우가 있음을 증명했다고 밝혔지만, 수학계 검증은 아직 받지 않은 상태다.

AI 기업들은 그동안 국제수학올림피아드(IMO) 문제 등을 모델의 수학 능력을 평가하는 기준으로 활용해왔다. 그러나 기존 평가 문제만으로는 성능을 가늠하기 어려워지면서 최근에는 아직 풀리지 않은 고난도 연구 문제와 수학 난제까지 모델 시험에 사용하고 있다.

이 과정에서 수학계의 반발도 커졌다. 미국 프린스턴 고등연구소가 주관하는 독립 ‘수학과 인공지능 자문그룹(AGMAI)’은 지난달 공개한 권고안에서 비공개 독점 모델에 고난도 수학 문제를 넣어 성능을 시험하는 관행을 지지하지 않는다며 중단을 요구했다.

자문단은 결과마다 오픈AI 측이 입력한 지시문과 AI의 사고 과정 요약을 공개하라고도 권고했다. 오픈AI는 홈페이지에서 “자문단의 조언과 공개 권고를 참고해 결과 공개 방식을 정했다”고 밝혔다.

다만 오픈AI는 내부 모델을 시험하기 위해 이런 과정이 필요하다는 입장이다. 댄 로버츠 오픈AI 연구 책임자는 “더 나은 도구를 만들려면 내부 모델 시험이 중요하다”며 “증명은 그 시험의 부산물”이라고 말했다.

● 수학계는 반발…“남의 연구 가져다 마무리했을 수도”

지난달 11일(현지 시간) 미국 뉴욕 맨해튼의 연구실에서 포즈를 취한 호주 출신 수학자 트리스탄 벅마스터 뉴욕대 쿠란트 수학연구소 교수. 벅마스터 교수와 수학자 레벤트 알푀게는 나비에-스토크스 방정식을 연구해 왔으며, 이 방정식을 풀었다고 주장하는 오픈AI와 충돌하고 있다. 사진=게티이미지코리아
지난달 11일(현지 시간) 미국 뉴욕 맨해튼의 연구실에서 포즈를 취한 호주 출신 수학자 트리스탄 벅마스터 뉴욕대 쿠란트 수학연구소 교수. 벅마스터 교수와 수학자 레벤트 알푀게는 나비에-스토크스 방정식을 연구해 왔으며, 이 방정식을 풀었다고 주장하는 오픈AI와 충돌하고 있다. 사진=게티이미지코리아
대규모 연구 결과 발표에 수학계는 술렁이고 있다. 나비에-스토크스 방정식을 연구해 온 트리스탄 벅마스터 뉴욕대 교수는 “다른 수학자들이 평생 매달려 온 연구를 가져다 마무리만 한 결과가 여럿 있을 가능성이 크다”며 “그들이 마땅히 해야 할 검증을 전혀 하지 않은 것 같다”고 주장했다.

난제 풀이 과정 자체의 본질을 흐린다는 지적도 나왔다. 카이 샤이크 토론토대 수학과 대학원생은 “이 문제의 핵심에는 경쟁하려는 성향과 아름다움을 느끼는 능력이라는 인간의 두 본성이 있다”며 “지금은 전자가 후자의 목을 조르려는 것으로 보인다”고 말했다.

놓친 뉴스와 그 맥락까지, 종이신문으로 읽어보세요.

동아일보 구독 신청
#오픈AI#인공지능#수학 난제#나비에-스토크스 방정식#밀레니엄 문제#AI 성능 평가#프린스턴 고등연구소
© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지

트렌드뉴스

트렌드뉴스

  • 좋아요
    0개
  • 슬퍼요
    0개
  • 화나요
    0개

댓글 0

오늘의 추천영상

지금 뜨는 뉴스