얀 르쿤 “AI발 보안사고는 경험 부족이 원인…쉽게 고치는 문제”

  • 동아닷컴

12일 서울 웨스틴조선 호텔에서 열린 ‘산업 AI 글로벌 협력’ 기자간담회에서 AMI랩스 얀 르쿤 회장이 답변하고 있다.
12일 서울 웨스틴조선 호텔에서 열린 ‘산업 AI 글로벌 협력’ 기자간담회에서 AMI랩스 얀 르쿤 회장이 답변하고 있다.
얀 르쿤 AMI랩스 회장이 최근 몇 달 새 잇따른 인공지능(AI) 보안 사고를 두고 AI 기업의 ‘경험 부족’이 원인이라며 쉽게 고칠 수 있는 문제라고 말했다.

르쿤 회장은 12일 서울 중구 웨스틴조선서울에서 열린 ‘산업 AI 글로벌 협력’ 기자간담회에서 AI의 보안 위험과 통제 가능성을 묻는 질문에 이같이 답했다. 2018년 튜링상 수상자인 르쿤 회장은 그간 AI가 인류를 위협한다는 종말론을 ‘망상’이라고 비판해 왔다.

최근 금융권에 따르면 지난달 말부터 신한·KB국민·하나은행에서 고객 정보가 잇달아 빠져나갔다. 이억원 금융위원장은 이를 두고 AI를 활용한 해킹일 가능성을 배제할 수 없다고 했다.

통신·OTT 업계에서도 대규모 유출이 이어졌다. 지난해 SK텔레콤·KT·LG유플러스 통신 3사가 잇달아 해킹을 당했고, 올해는 온라인동영상서비스(OTT) 티빙에서 휴면 계정을 포함해 3954만 개 계정 정보가 빠져나갔다.

르쿤 회장은 보안 사고의 원인으로 ‘경험 부족’을 꼽았다.

그는 “스스로 작업을 처리하는 AI 프로그램(에이전트)을 배치한 AI 기업들은 사이버보안 경험이 많지 않았다”며 “에이전트를 가둬둔 격리 공간(샌드박스)에 빈틈이 있어 밖으로 새어 나간 것”이라고 했다. 샌드박스는 AI 프로그램이 외부 시스템에 함부로 접근하지 못하도록 막아둔 실행 환경이다.

르쿤 회장은 이를 두고 “잘 알려진 기술을 제대로 적용하지 못했을 뿐”이라며 “쉽게 고칠 수 있는 문제”라고 주장했다.

● “AI는 공격자보다 방어자에게 유리하다”

르쿤 회장은 AI가 사이버보안에서 공격자보다 방어자에게 유리하다고 봤다. 그는 방어하는 쪽은 인력이 더 많고 숨어서 일할 필요가 없으며 자금도 많다는 점을 근거로 들었다.

그는 “화이트 해커는 서로 소통하는 큰 공동체를 이룬다”며 “반면 블랙 해커는 수가 적고 숨어서 일을 해야 해 지식을 나누기 어렵다”고 주장했다. 이어 “강력한 AI 시스템을 쓰려면 막대한 컴퓨팅 자원이 드는 점도 어려움 중 하나다. 쉽게 탐지되기 때문”이라고 짚었다.

● 통제 어려운 LLM, 목표 지향 AI로 풀어야

다만 르쿤 회장은 대규모 언어모델(LLM) 기반 AI는 구조적으로 직접 통제하기 어렵다고 봤다.

현재 생성형 AI 개발사들은 예상되는 질문마다 위험하지 않은 답을 내놓도록 미세조정(fine-tuning)하는 방식으로 AI를 통제한다. 르쿤 회장은 “질문의 가능성은 무한하다. 모든 질문을 학습시키는 건 전혀 현실적이지 않다”고 지적했다.

그가 대안으로 내놓은 것은 세계 모델 기반의 ‘목표 지향 AI(objective-driven AI)’다. 이는 행동하기 전에 세계 모델로 결과를 예측하는 방식으로, 작동 규칙 안에 안전장치를 넣어 위험한 행동을 제한하는 개념이다.

르쿤 회장은 이 방식도 완벽하지는 않다고 인정했다. 기반 모델의 설계가 부실하면 AI의 판단도 엇나갈 수 있다는 것이다.

그럼에도 그는 AI 안전을 공학으로 풀 수 있는 문제로 봤다. 그는 “AI를 안전하게 만드는 건 아마 터보제트 엔진을 안전하게 만드는 것보다 쉬운 공학 문제일 것”이라며 “엔지니어들은 녹거나 터지는 게 당연한 엔진을 믿을 수 있게 만들었다. AI에도 똑같이 하면 된다”고 했다.

놓친 뉴스와 그 맥락까지, 종이신문으로 읽어보세요.

동아일보 구독 신청
#얀 르쿤#AI 보안 사고#AI 안전#샌드박스#사이버보안#세계 모델#목표 지향 AI
© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지

트렌드뉴스

트렌드뉴스

  • 좋아요
    0개
  • 슬퍼요
    0개
  • 화나요
    0개

댓글 0

오늘의 추천영상

지금 뜨는 뉴스