인공지능(AI) 연구자 400여 명은 13일(현지시간) AI 보안 사고를 관리할 국제기구를 세우자고 촉구하는 내용의 공개서한을 발표했다. 공개서한 웹사이트 캡처 화면.
세계 인공지능(AI) 연구자 400여 명이 사이버 공격 능력을 갖춘 최첨단 AI 모델을 인터넷에서 분리해 시험하고 AI 보안 사고를 기록·공개할 국제기구를 세우자고 촉구했다. 올해 경제학자와 빅테크 직원들의 집단 성명에 이어 AI 업계 수장들까지 ‘감속론’을 꺼냈지만, 기업 자율에 맡긴 안전조치로는 AI가 시험 환경을 벗어나 외부 시스템을 해킹하는 사고를 막지 못한다는 판단에서다. 올해 들어 세 번째 집단 경고다.
13일(현지 시간) 노벨 물리학상 수상자인 제프리 힌턴 토론토대 교수와 요슈아 벵지오 몬트리올대 교수 등 34개국 과학자 406명은 웹사이트(ai-security-letter.org)에 ‘AI와 사이버보안에 관한 공개서한’을 올렸다. 국내에서는 김용대·손수엘 카이스트(KAIST) 교수 등이 이름을 올렸다. 서한은 “AI 개발·배포 관행을 당장 바꾸지 않으면 이런 사고는 계속될 것이고, 앞으로의 사고는 노출된 핵심 인프라에 훨씬 큰 피해를 줄 것”이라고 경고했다.
서한의 처방은 세 가지다. 먼저 사이버 공격이 가능한 모델을 개발·시험하는 기관은 외부망과 연결을 끊는 ‘에어갭(air gap)’ 격리를 우선 적용해야 한다. 이어 각국 정부와 AI·보안 전문가가 참여하는 국제기구가 격리 기준을 정하고 격리에 실패한 사고는 이 기구에 의무 보고한 뒤 공개하자는 것이다. 서한 작성에 참여한 데이비드 라이 토론토대 교수는 캐나다 매체 베타킷에 “시험 중 AI 모델이 격리를 깨고 나오는 지금 상황을 과학자로서 우려했다”고 말했다.
라이 교수가 지목한 ‘격리를 깨고 나온’ 사고는 주요 AI 기업 4곳에서 이미 현실화했다. 7월 오픈AI의 AI 에이전트가 시험 중 통제망을 벗어나 AI 모델 공유 플랫폼 허깅페이스를 해킹했고, 앤스로픽과 구글도 자사 모델이 외부 기업 3곳씩에 침입했다고 공개했다. 메타도 자사 모델이 다른 회사를 해킹한 사실을 시인했다. 국내에서도 중국산 AI 침투 도구 ‘아르텍스’에 금융사 7곳이 뚫린 사태가 진행 중이다.
사고가 잇따르는 동안에도 업계의 ‘감속’ 약속은 말에 그쳤다. 앞서 7월 노벨경제학상 수상자 16명을 포함한 경제학자·AI 연구자 200여 명이 “지금 행동해야 한다”는 성명을 냈고, 같은 달 오픈AI·앤스로픽·구글·메타 직원 1100여 명은 미 정부에 개발 속도를 늦출 준비를 하라고 청원했다. 이에 9월 다리오 아모데이 앤스로픽 최고경영자(CEO)와 샘 올트먼 오픈AI CEO가 감속을 언급했으나, 정작 두 회사는 이후에도 신모델을 내놨다.
도널드 트럼프 미국 대통령은 AI 위협을 “전혀 걱정하지 않는다”며 중국과의 경쟁을 앞세웠고, 지난달 앤스로픽·오픈AI·구글·메타·xAI·엔비디아가 백악관에서 합의한 안전조치 역시 자율 이행이어서 강제 수단이 없다는 게 서한의 지적이다.
다만 반론도 만만치 않다. 힌턴·벵지오와 2018년 튜링상을 함께 받은 얀 르쿤 전 메타 수석 AI과학자는 최근 사고가 AI 자체의 위험보다 공학적 관리 실패에서 비롯됐다며 서명하지 않았다. 헨나 비르쿠넨 유럽연합(EU) 기술 담당 집행위원도 기존 AI 법으로 충분하다고 로이터에 말했다.
댓글 0