“수학자 지정해 검증 맡기지 마” 수학계, AI 업계에 제동 [김현지의 with AI]

  • 동아일보

AI 개발사가 수학 난제를 풀었다며 수학자를 지정해 결과물 검증을 의뢰하던 관행에 미국 수학계가 제동을 걸었다. 수학을 둘러싼 학계와 AI 업계의 긴장이 한층 고조되는 양상이다.

수학·인공지능 자문그룹(AGMAI·Advisory Group on Mathematics and Artificial Intelligence)은 지난 25일 UCLA 테런스 타오 교수의 블로그를 통해 ‘AI 결과 공개에서 수학자를 지정하는 방식의 단점(Disadvantages of Designating Mathematicians for AI Output Releases)’이라는 제목의 글을 공개하고 AI 기업이 특정 수학자를 지정해 비공개로 검토·해설하게 하는 관행을 앞으로는 쓰지 말라고 권고했다.

UCLA 테런스 타오 교수의 블로그를 통해 공개된 AGMAI의 ‘AI 결과 공개에서 수학자를 지정하는 방식의 단점(Disadvantages of Designating Mathematicians for AI Output Releases)’
UCLA 테런스 타오 교수의 블로그를 통해 공개된 AGMAI의 ‘AI 결과 공개에서 수학자를 지정하는 방식의 단점(Disadvantages of Designating Mathematicians for AI Output Releases)’

● AI개발사가 고른 수학자, 검증 아닌 방패될 수 있어
AGMAI는 기업이 결과를 검증하고 정리할 수학자를 직접 지정하면 학계가 스스로 결정할 권한을 빼앗기고, 다른 수학자들의 참여도 위축될 수 있다고 짚었다. 또 수학자 지정 과정이 기업의 인맥과 우선순위를 반영하는 데다 과정이 불투명하고 책임 소재도 불분명하며 지정된 수학자가 기업의 기대에 맞춰 행동하도록 유도될 수 있다고 우려했다. 수학자의 이름이 결과물의 보증이자 기업을 비판으로부터 막아 주는 방패가 된다면, ‘이해를 돕는다’는 본연의 역할마저 해칠 수 있다고 지적했다.

이어 수학자를 지정하는 대신 결과물을 기업이 통제하지 않는 학술 저장소에 올리고 독립적인 학술 공동체가 자율적으로 검토·해석할 수 있도록 지원하라고 썼다.

이같은 권고는 지난 9월 29일 AGMAI가 발표한 성명 가운데 “AI 결과를 이해하는 과정은 학계가 주도해야 한다”는 원칙을 두고 여러 연구소와 수학자의 질문이 이어지자 취지를 설명하기 위해 추가로 나온 것이다.

당시 AGMAI는 ‘AI가 생성한 수학 내용에 대해 책임감 있게 공개하라’는 제목의 성명에서 “AI가 수학을 풀었다고 발표만 하지 말고 출처·검증 가능성·이해를 위한 자원까지 함께 책임지고 공개하라”고 권고했다. 답을 제시했을 수는 있어도 그 답이 어떻게 나왔는지 제대로 이해하지 못한 채 AI 성능을 홍보하려고 섣불리 내용을 공개하는 것은 수학계가 추구해 온 가치와 맞지 않다고 꼬집은 것이다.

게티이미지뱅크
게티이미지뱅크

● 아이디어 도용·협박…“AI 개발사 방식 수용 힘들어”
수학계가 한 달 사이에 이렇게 성명에 이어 추가 문서까지 낸 것은 이례적이다. 그 배경에는 올여름부터 쌓여 온 AI 개발사와의 갈등이 있다. 갈등의 불씨는 AI 개발사가 AI의 수학 성과를 수학계가 받아들이기 힘든 방식으로 공개하면서 발생했다.

7월에는 앤트로픽의 모델이 수십 년간 풀리지 않던 야코비안 추측과 관련해 일부 진전을 이루었다고 하면서 학계를 놀라게 했다. 이어 9월 8일에는 오픈AI가 7대 난제 중 하나라는 나비에-스토크스 방정식의 해법을 찾았다고 주장하면서 긴장이 더욱 높아졌다.

이와 동시에 공로를 둘러싼 잡음이 불거졌다. 뉴욕대(NYU) 트리스탄 버크마스터 교수는 오픈AI 발표 직전인 9월 7일 밤(미 동부시간) 성명서를 올려 자신과 동료의 연구 정보가 오픈AI에 흘러 들어갔을 가능성을 제기했다. 쉽게 말해 연구진이 오픈AI의 모델을 사용할 때 입력한 아이디어를 오픈AI가 도용했다는 것이다.

버크마스터 교수는 오픈AI 측이 자신과 접촉 과정에서 공동연구자 레벤트 알푀게가 앤트로픽 소속이라는 이유로 그를 저자에서 빼도록 압박했다고도 주장했다. 버크마스터 교수가 이 사실을 공개하겠다고 하자 오픈AI 측은 “왜 당신 경력을 망치려 하지?”라고 응수했다는 것이다.

오픈AI는 의혹을 부인했다. 프로젝트를 이끈 세바스티앙 뷔벡은 기자회견에서 두 사람의 프롬프트나 증명을 모델에 입력하거나 에이전트의 방향을 정하는 데 쓰지 않았다고 밝혔다. 또 알푀게를 저자에서 빼 달라고 요구한 적도 없다고 반박했다.

이런 일련의 상황이 지속되며 수학계의 우려가 커졌다. 한국계 수학자인 허준이 미국 프린스턴대 교수 등 수학계 최고 권위의 상인 필즈상 수상자들은 9월 11일 긴급 성명을 내고 “AI 업계의 수학 문제 풀이 경쟁이 수학 공동체의 목표와 본질적으로 어긋나며 인간의 지적 활동을 위협할 수 있다”고 경고했다.

● 자문 협업 노력에도 몇 주만에 충돌
갈등을 봉합하려는 시도가 없었던 것은 아니다. 오픈AI는 나비에-스토크스 방정식 논란 이후 외부 자문위 구성을 타진했다. 수학자들은 논의 끝에 독립 조직인 AGMAI를 꾸렸고 오픈AI는 이 그룹과 협의해 왔다고 밝혔다.

9월 29일 AGMAI의 책임 있는 공개 권고 성명은 이런 분위기 속에서 나왔다. AGMAI는 오픈AI의 외부 자문위 구성에는 긍정적으로 화답하면서도 이해 과정은 학계가 주도해야 한다는 원칙을 분명히 해 주도권이 수학계에 있음을 못 박았다.

그러나 권고 일주일 만인 10월 6일 오픈AI는 AI가 작성한 수학 논문 722편을 깃허브에 한꺼번에 공개했다. 미공개 내부 모델이 만든 결과라는 설명이었다. 방대한 기계 생성 원고가 일시에 풀리자 학계는 혼란에 빠졌고 상당수 수학자는 격한 거부감을 드러냈다.

이튿날 ‘인간을 위한 수학 협회(AHM·Association for Human Mathematics)’는 성명을 내고 “오픈AI의 행태가 학문적 성취를 보여주려는 것이 아니라 힘을 과시하려는 행위”라고 비판하며 수학자들에게 오픈AI와의 협력을 중단하라고 촉구했다. 논문의 완성도도 도마에 올랐다. 외신에 따르면 오픈AI가 공개한 722편의 논문 가운데 3편이 철회되고 14편이 수정됐다.

물론 수학계가 일제히 보이콧에 나선 것은 아니다. 실용주의적 입장의 연구자들 사이에서는 반론도 만만치 않다. 토론토대의 대니얼 리트는 포천(Fortune)과의 인터뷰에서 오픈AI의 결과에 기대감을 나타냈다. 그는 “저를 비롯한 많은 사람이 관심을 가진 질문에 새로운 해법이 나온 것은 정말 좋은 일”이라며 수학 발전에 긍정적이라고 평가했다.

그러나 학문의 지적 생태계가 무너질 수 있다는 경고는 갈수록 커지고 있다. 이 논쟁에 적극 발언해 온 타오 교수는 학계가 나아갈 방향으로 ‘수학 2.0’을 거론했다. 단순히 답을 구하는 데 그치지 않고 개념의 본질적 이해를 되살려야 한다는 취지다. 그는 수학의 미해결 문제를 등대에 비유했다. 등대는 수학 세계를 탐험하도록 이끄는 길잡이일 뿐 도달한다고 탐험이 끝나지 않으며 성공과 실패를 떠나 그 과정에서 얻는 이론과 방법이 최종 답보다 값질 수 있다는 것이다. AI가 답만 먼저 내놓는다고 해서 해답에만 가치를 두면 아직 가 보지 않은 길을 탐구할 동기가 사라질 수 있다는 취지다.

▼문서 출처
1. AGMAI ‘AI 결과 공개에서 수학자를 지정하는 방식의 단점(Disadvantages of Designating Mathematicians for AI Output Releases)’
https://terrytao.wordpress.com/2026/10/25/disadvantages-of-designating-mathematicians-for-ai-output-releases/

2. AGMAI ‘인공지능 생성 수학의 책임 있는 공개(Responsible Release of AI-Generated Mathematics)’ https://agmai.org/general-sep29/

3. AHM, OpenAI의 10월 6일 수학 논문 공개에 대한 성명
https://www.ahmath.org/statements

4. 뉴욕대(NYU) 트리스탄 버크마스터 교수의 글
https://cims.nyu.edu/~tristanb/statement.pdf

놓친 뉴스와 그 맥락까지, 종이신문으로 읽어보세요.

동아일보 구독 신청
#AI 개발사#수학자 지정 관행#AGMAI 권고#오픈AI 논란#수학계 갈등#필즈상 수상자#나비에-스토크스 방정식
© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지

트렌드뉴스

트렌드뉴스

  • 좋아요
    0개
  • 슬퍼요
    0개
  • 화나요
    0개

댓글 0

지금 뜨는 뉴스