“‘AI 추론 능력’ 높이기 글로벌 경쟁… 빅테크서 수학자 역할 커질 것”

AI로 수학올림피아드 금메달급 성적… 정준혁 美 브라운대 수학과 교수
구글 AI 모델 ‘제미나이 딥싱크’ 개발과정서 데이터취합-평가 담당
수학적 논리에 기반해 추론 판단
사람처럼 자연어로 문제읽고 증명… “AI, 1년 내에 수학 난제 풀 수도”

23일 서울 구글코리아 본사에서 만난 정준혁 브라운대 수학과 교수 겸 고등과학원 허준이수학난제연구소 키아스 스칼라(KIAS Scholar). 정 교수는 구글 딥마인드에서 구글 챗봇 제미나이(Gemini)의 고급 추론 모델인 ‘제미나이 딥싱크’의 성능을 높여 IMO에 참가시키는 프로젝트에 참여했다. 이채린 동아사이언스 기자 rini113@donga.com

“구글, 오픈AI 등 빅테크는 인공지능(AI)의 성능을 높이기 위해 수학에 계속 도전할 것입니다. AI의 성능은 추론 능력에 달려 있는데 수학은 AI가 논리를 갖고 잘 추론하는지 평가할 수 있는 최고의 지표이기 때문입니다. AI 분야에서 수학 등 기초과학의 중요성이 더 커지는 이유입니다.”

올해 국제수학올림피아드에 참여한 정준혁 교수(왼쪽)와 동료들. 정준혁 교수 제공

23일 서울에서 만난 정준혁 미국 브라운대 수학과 교수의 말이다. 21일(현지 시간) 구글 딥마인드의 AI 모델이 국가대표 수학 영재들이 경쟁하는 국제수학올림피아드(IMO)에서 금메달에 해당하는 점수를 받았다는 소식이 전해진 직후였다. AI가 어려운 수학 문제를 직접 읽고 논리를 짜고 증명하는 수준에까지 도달한 것이 충격적이란 반응이 터져나온 때였다.

딥마인드의 IMO 참가 프로젝트에 직접 참여한 한국인 수학자로, 고등과학원 허준이수학난제연구소 키아스 스칼라(KIAS Scholar)이기도 한 정 교수는 “빅테크와 학계에서 AI와 수학을 접목시키기 위한 노력이 한창이다”라고 말했다.

해석적 정수론 연구자인 정 교수는 지난해부터 딥마인드에서 구글 챗봇 제미나이(Gemini)의 고급 추론 모델인 ‘제미나이 딥싱크’의 성능을 높여 IMO에 참가시키는 프로젝트에 참여했다. 정 교수는 AI 기계학습에 필요한 데이터를 취합하고 디자인하는 데이터 공동 리더였다.

제미나이 딥싱크는 하루 3문제씩 4시간 30분 동안 총 6문제를 풀었고 그 중 5문제를 완벽하게 풀었다. IMO 문제에서는 답이 나오는 증명 과정을 작성해야 한다. IMO 위원회에서 제미나이 딥싱크의 답안을 사람과 똑같은 조건과 채점 기준으로 평가한 결과 42점 만점에 35점이 나왔다. 금메달을 받을 수 있는 수준의 점수다. 지난해 구글 AI 모델인 ‘알파지오메트리’ ‘알파프루프’는 IMO에서 은메달을 받았다.

올해 성과가 더 특별한 점은 달라진 메달 색깔뿐 아니라 제미나이 딥싱크가 사람처럼 영어로 문제를 이해하고 영어로 증명 과정을 서술했다는 것이다. 기계가 이해하는 형식 언어(formal language)가 아닌 사람이 사용하는 자연어로 답변했다는 뜻이다. 정 교수는 “제미나이 딥싱크는 문제마다 단계별로 보조정리와 정리 등을 스스로 고안해 체계적으로 답안을 서술했다”며 “자연어 기반 AI는 사람의 생각과 말을 가장 잘 표현하고 이해하는 AI로, 미래 활용 가능성이 다양하다”고 말했다.

정 교수는 “6개월 동안 제미나이 딥싱크로 수학 문제를 풀게 하면서 얻은 핵심 아이디어를 바탕으로 IMO 관련 성능을 높였다”고 밝혔다. 정 교수는 “사람은 문제를 풀 때 여러 문제 해결 방법을 염두에 두고 차례로 방법을 시도한 다음 결론을 내린다”며 “제미나이 딥싱크는 다양한 방법을 동시에 시도하고 나오는 결론을 계속 시도해 가지치기 하듯이 빠르게 답변을 작성한다”고 했다.

정 교수는 한국인이 이번 IMO 참가 성과에 가장 큰 기여를 하도록 이끌었다. 이번 프로젝트에 참여한 120명 중 한국인이 30여 명이 되도록 이들을 섭외했다. 대부분 한국 IMO 대표 출신이다. 정 교수 또한 2003년 IMO에 한국 대표로 참가했다.

정 교수는 “세계 각지에 있는 IMO 출신 한국인 학생, 연구자와 밤낮 없이 연락하며 제미나이 딥싱크 증명을 검증받고 부족한 점을 찾아내고 보완하는 과정을 반복했다”고 설명했다. 제미나이 딥싱크에 적절한 피드백을 주고 성능을 강화할 구체적인 방법론을 마련한 것이다. 정 교수는 수학 전공자가 아니었으면 성과를 낼 수 없었다고 말했다. 정 교수는 “AI 추론 성능을 높이기 위해 어떤 데이터가 필요한지, 어떤 형식으로 데이터를 디자인해야 하는지 등을 수학자이기 때문에 판단할 수 있었다”고 했다.

또 AI의 추론 능력을 높이기 위해 전 세계가 치열하게 경쟁하면서 수학의 중요성은 더 커질 것이라고 강조했다. 정 교수는 “수학은 철저히 논리에 기반하기 때문에 추론을 잘했는지, 잘 못했는지 명확하게 판단할 수 있다”며 “수학 전공자들이 이런 판단을 하는 데 큰 역할을 하고 있어 빅테크에서 수학 전공자를 찾는 수요가 나날이 높아지고 있다”고 말했다. 점수가 명확히 나오는 IMO에 빅테크들이 도전하는 것도 이 때문이다.

정 교수는 “1년 이내에 AI가 수학 난제를 풀 수 있는 수준에 이를 가능성이 크다”면서도 반대로 “AI 발전에서 점점 더 인간의 역할이 커질 것”이라고 말했다. 그는 “AI가 어떤 문제를 풀 수 있을지, 왜 AI에 이 문제를 풀라고 해야 할지 등 큰 방향성을 정하는 것은 인간일 것이며 인간이어야 하기 때문”이라며 “AI가 발전하더라도 인간이 깊이 있는 생각과 전문 지식을 반드시 겸비해야 하는 이유”라고 말했다.