“AI, 누굴 폭격할지 스스로 결정… 차원 다른 위협”

유발 하라리 8년만에 방한 간담회
“AI 다루려면 인류 협동 절실한데
서로에 대한 신뢰 빠르게 상실해
AI 알고리즘 거짓정보 확산 문제”

20일 서울 종로구에서 열린 간담회에서 이스라엘 역사가 유발 하라리는 “인공지능(AI) 혁명은 국가 간 불평등을 심화시켜 19세기 제국주의를 재현할 위험이 있다”면서 “이 경우 AI 기술이 발달한 소수 국가가 전 세계를 군사적, 경제적으로 압도하게 될 것”이라고 말했다. 김영사 제공

“석기시대 돌칼부터 인쇄기, 원자폭탄까지 지금까지의 과학기술 혁명은 우리 손에 달린 도구였습니다. 하지만 인공지능(AI)은 스스로 결정할 수 있죠. 누구를 폭격할지, 어떤 무기를 발명할지 모릅니다. AI 혁명은 지금까지와는 차원이 다른 위협이 될 수 있습니다.”

세계적인 베스트셀러 작가인 이스라엘 역사가 유발 하라리(49)가 2017년 저서 ‘호모 데우스’ 발간 이후 8년 만에 한국을 다시 찾았다. 지난해 펴낸 책 ‘넥서스’의 국내 출간에 맞춰 방한한 그는 20일 서울 종로구에서 간담회를 갖고 AI와 인류의 미래를 진단했다.

하라리는 “AI라는 문제를 다루기 위해서는 인류 역사상 어느 때보다도 인류의 협동이 절실하다. 하지만 우리는 서로에 대한 신뢰를 빠르게 상실하고 있다”며 “역사상 가장 정교화한 정보 기술을 가졌는데도 서로 간의 대화는 더 어려워졌다”고 지적했다.

그는 이런 현상이 벌어진 원인으로 ‘AI 알고리즘’을 지목했다. ‘진실 좇기’가 아닌 ‘사용자 참여도 높이기’에 맞춰 설계돼, AI가 소셜미디어에서 거짓 정보는 물론 공포나 증오심을 자극하는 콘텐츠를 확산한다고 지적했다.

“오랜 경험과 장치를 토대로 정보의 진위를 분별해내는 (신문이나 TV 등) 레거시 미디어와 달리, 새로운 미디어 세상에선 진실은 밑바닥에 가라앉고 값싸고 허울 좋은 허구로 세상이 도배되고 있습니다. 이는 민주주의를 저해하는 심각한 요인이에요.”

하라리는 AI가 초래할 더 큰 위험을 막으려면 “신뢰의 역설부터 해소해야 한다”고 충고했다.

“AI 흐름을 선도하는 이들에게 ‘왜 이렇게 서둘러 가느냐’고 물었을 때, 돌아온 답은 ‘우리가 신중하게 접근하면 경쟁자들이 AI 경주에서 이길 수 있기 때문’이었어요. 서로가 신뢰할 수 있는 기틀을 먼저 쌓아야 합니다. 불신과 갈등에서 태어난 AI가 아닌, 신뢰를 바탕으로 학습시킨 AI여야 믿고 의지할 수 있습니다.”

하라리는 개개인이 “AI를 어떻게 사용할지에 대해 고민해볼 시점”이라고 제언했다. 음식 먹은 뒤 소화할 시간이 필요하듯, 정보에 노출된 뒤 성찰할 시간을 가져야 한다는 취지다.