‘메이드 바이 AI’ 가짜 논문 잡는 탐지 AI 개발한 ‘네이처’

스프링거 네이처 COO 인터뷰
무의미한 글 잡아내는 탐지 AI 개발
논문 데이터 학습한 연구용 AI 개발도

세계적인 학술지 출판사인 ‘스프링거 네이처’의 마르크 슈펜레 최고운영책임자(COO)가 15일 서울 송파구에서 기자를 만나 스프링거 네이처가 자체 개발한 가짜 논문 탐지 인공지능(AI)에 대해 설명하고 있다. 최지원 기자 jwchoi@donga.com

“인공지능(AI)이 만들어 내는 가짜 논문을 잡기 위해 탐지 AI를 자체적으로 개발했습니다. 가짜 논문처럼 AI로 인해 발생하는 문제들도 많지만 ‘네이처’는 여전히 AI가 연구의 창의성을 높이고 논문 출판의 효율성과 형평성을 가져다 주는 데 기여할 것이라고 믿습니다.”

15일 서울 송파구에서 만난 세계적인 출판사 ‘스프링거 네이처’의 마르크 슈펜레 최고운영책임자(COO)는 최근 학계에서 문제가 되고 있는 AI 가짜 논문에 대한 네이처의 대응에 대해 이같이 설명했다. 그는 AI의 등장 이후 ‘격동의 시기’를 지나고 있는 학계 상황을 국내 연구자들과 논의하기 위해 한국을 방문했다. 올해 두 번째로 열리는 ‘한국 연구 자문 포럼(KRAF)’의 이번 주제는 ‘AI와 출판’이다.

● AI로 논문 찍어내는 ‘논문 공장’… 탐지 AI로 맞선다

여전히 많은 나라가 논문 수로 연구자의 실력을 평가하기 때문에 AI의 등장 이후 중국과 러시아를 중심으로 조직적으로 가짜 논문을 쏟아내는 ‘논문 공장’(페이퍼 밀)이 큰 문제로 떠오르고 있다. 이들은 AI로 그럴듯한 가짜 논문을 작성하고 인용하는 논문마저 허위로 만들어 낸다. 최근 미국 노스웨스턴대 연구팀은 논문 공장에서 만들어진 가짜 논문 수가 1년 6개월마다 2배씩 늘어나고 있다는 연구 결과를 발표하기도 했다. 슈펜레 COO는 “허위 투고는 전 학술계가 맞닥뜨린 도전 과제”라며 “네이처는 연구 진실성 팀을 운영하며 탐지 기술에 지속적인 투자를 하고 있다”고 설명했다.

실제 네이처는 지난해 12월 자체적으로 개발한 탐지 AI ‘제페토’와 ‘스냅샷’을 공개했다. 많은 출판사들이 허위 논문에 골머리를 앓고 있지만 네이처처럼 탐지 AI를 자체적으로 개발하는 경우는 매우 드문 사례다. 제페토는 AI가 생성한 무의미한 글을 감지하고, 스냅샷은 문제 이미지를 탐색하는 역할을 맡는다. 슈펜레 COO는 “이 도구들이 일차적으로 이상 신호를 감지해 사람이 추가적인 판단을 할 수 있도록 돕는다”며 “현재 각국의 여러 연구 커뮤니티와 협업해 여러 출판사 및 연구자들이 이를 활용할 수 있도록 하고 있다”고 했다.

● 150여 년간 쌓인 네이처의 데이터 학습한 AI

이렇듯 AI로 인해 허위 논문이 늘어나는 부작용이 발생하기는 했지만 그는 큰 틀에서 볼 때 AI가 결국 과학계의 질적 향상에 기여할 것이라고 강조했다. 슈펜레 COO는 “우리가 개발한 것은 탐지 AI만이 아니다”며 “우리가 가진 자체 데이터를 활용해 연구 생산성을 높이는 ‘네이처 리서치 어시스턴트’를 개발해 현재 수천 명의 연구자가 이를 활용하고 있다”고 했다.

네이처 리서치 어시스턴트는 1869년 처음 발행된 네이처의 첫 발행호부터 현재까지 쌓아온 양질의 논문 데이터를 학습해 연구자의 새로운 발견을 돕는 AI 도구다. 슈펜레 COO는 “(AI 챗봇인) 챗GPT와 가장 크게 다른 점이 여기에 있다”며 “생의학, 인문학 등 전혀 다른 연구 분야에 맞게 설정을 구성해 검색할 수 있다”고 설명했다. 이어 “연말까지 연구자 6만여 명이 이 도구를 사용하기를 기대한다”고 했다.