“윤리적 고민없는 AI, 인간이 듣고 싶어하는 말만 해줘 위험”

‘AI 부디즘 연구소’ 만드는 보일 스님
“익명성 보장돼 인생상담 급증… 쓰면 쓸수록 사용자에 최적화
과거 정보 적용해 편향적 대답
윤리적 연구 통해 재앙 막아야”

크게보기

보일 스님은 인공지능(AI)으로 인해 종교도 큰 변화를 겪을 가능성이 있다고 말했다. 그는 “인간의 생로병사가 종교의 출발점인데, 고도로 발달한 AI 시대에는 ‘생사’는 아니어도 ‘늙고 병듦’은 지금과는 완전히 달라질 것”이라며 “생로병사 중 ‘늙고 병듦’이 없는 시대의 종교가 지금과 같을 수는 없지 않겠느냐”라고 말했다. 전영한 기자 scoopjyh@donga.com

“인공지능(AI)은 인류의 삶을 완전히 바꿔놓을 것입니다. 그런데, 그에 대한 고민은 그릇 속 환경호르몬만큼도 안 해서….”

18일 서울 종로구 대한불교조계종(총무원장 진우 스님) 조계사에서 만난 전 합천 해인사 승가대학장 보일 스님은 “불교계에서 왜 AI 연구소를 만들려고 하느냐”라는 질문에 이렇게 답했다. 서울대 철학박사이기도 한 스님은 20여 년 전 스마트폰이 나오기도 전에 이미 AI와 관련된 논문을 썼을 정도로 불교계에선 AI 전문가로 통한다. 현재 올해 말 설립을 목표로 AI 시대에 벌어질 윤리·철학적 문제를 고민하고 대안을 제시하는 ‘AI 부디즘 연구소’를 준비하고 있다.

―윤리적, 철학적 고민이 없는 AI 기술은 재앙을 부를 수 있다고요.

“예를 들면 지금은 북한, 인권, 동성애 등에 대한 입장으로 진보·보수를 판단하지만 AI 시대엔 완전히 달라질 수 있어요. 만약 AI 칩을 몸에 이식해 컴퓨터나 스마트폰을 대체하는 세상이 오면 어떻게 되겠습니까. 인체의 내외부 조직을 기계로 대체하고 이를 이식한 AI로 움직인다면요. 그때는 AI 칩 이식에 대한 찬반이 진보·보수를 가르는 중요한 기준 중 하나일 겁니다. 아무 준비 없이 덜컥 그런 날이 오면 어떻게 되겠습니까?”

―간간이 우려는 나오지만, 본격적으로 고민하는 곳은 별로 없는 것 같습니다.

“기술적 발전이나 관련 회사의 주가에는 관심이 많지만, 발전된 AI 기술이 파생시킬 사회문제에 대해 우리가 어떤 가치관이나 기준을 마련해야 하는지는 고민하지 않아요. 아직은 로마 교황청 등 종교 쪽에서 문제를 제기하는 정도지요. 그래서 이름은 ‘AI 부디즘 연구소’이지만, 실제 연구는 불교를 넘어 AI로 인해 벌어지는 다양한 문제를 다룰 계획입니다.”

―AI 이용 패턴이 빠르게 변하고 있다고요.

“기존 이용률 1위는 검색과 자료 조사 등이었어요. 그런데 작년부터 1위가 인생 상담으로 바뀌는 추세입니다. 특히 가족 갈등이 눈에 띄게 많아요. 부부나 자식, 고부간 문제 등을 AI와 의논하는 거죠.”

―그렇게 된 이유가 있을 것 같습니다.

“가족 문제는 남에게 털어놓기 어렵습니다. 그런데 AI는 완벽하게 익명성이 보장되고, 말이 샐 걱정도 없지요. 그러다 보니 사람에게 상담할 때보다 훨씬 더 직설적으로, 더 세세하게, 분노나 미움 같은 속마음까지 담아서 털어놔요. 생성형 AI는 그런 표현, 말투, 말의 뉘앙스까지 학습해서 사람이 듣고 싶어 하는 말을 파악해 답하니 고민, 인생 상담에 그 이상 좋은 상대가 없지요. 그래서 더 위험합니다.”

―한번 끌리면 빠져나오기 힘들 것 같습니다.

“AI는 오래 쓰면 쓸수록 사용자에게 최적화해요. ‘맥락 인터페이스’라고, 사용자가 얼핏 진행 중인 대화와 관계없어 보이게 말해도 과거의 모든 정보나 상황, 행동 등을 바탕으로 맥락을 이해해 대화를 이어가는 거죠. 앞서 말한 것처럼 사용자가 듣고 싶어 하는 편향된 방향으로요. 웬만해서 빠져나오고 싶은 생각이 들겠습니까? AI는 우리 인간성이 파괴될 수 있는 위험성을 많이 갖고 있습니다. 그래서 기술적 발전에 못지않게 인문학적·윤리적 성찰과 연구가 꼭 필요합니다.”