인공지능(AI)이 인간의 통제 범위를 벗어날 수 있다는 우려가 커지고 있는 가운데 미국 AI 기업 앤스로픽과 오픈AI에서 핵심 기술을 담당했던 연구원인 제이콥 콕슨(27)이 최근 “통제불능의 AI가 인류를 파멸시킬 것”이란 경고를 남기고 퇴사했다고 월스트리트저널(WSJ)이 9일(현지 시간) 보도했다. 11월 3일 미국 중간선거를 앞두고 미 정치권에서도 AI의 통제 불가능성에 대비하기 위한 움직임이 확산되고 있다.
콕슨은 8일 자신의 X에 앤스로픽 퇴사 사실을 밝히며 AI를 둘러싼 가장 극단적이고, 비관적인 시나리오들이 현실화될 가능성이 높다고 주장했다. 특히 그는 “AI를 개발하는 사람들은 10년 안에 AI가 우리 모두를 죽일 수도 있다고 진심으로 믿는다”고 밝혔다. 또 “AI의 위력을 과소평가하지 말라”며 “머지않아 이 기술들은 무엇이든 해킹하고 모든 분야를 하룻밤 사이에 혁신하며 막대한 권력과 자원을 획득할 수 있는 초인적인 체계가 될 것”이라고 지적했다. 이 글은 9일 기준 1억5000만 회 이상 조회됐다.
콕슨은 앤스로픽에서 AI 모델의 사전학습과 대규모 데이터 학습을 담당하는 핵심 연구원이었다. 앤스로픽 합류 전 오픈AI에서도 최신 GPT 모델 개발에 참여했다. 미 정치매체 액시오스는 콕슨을 “AI의 최고 성능을 직접 목격한 사람 중 한 명”이라고 평가했다.
콕슨은 오픈AI와 앤스로픽 모두 “책임감 있게 행동하지 않고 있는다. 스스로 성능을 개선하는 초지능 개발에 사활을 걸고 인류를 상대로 위험한 도박을 하고 있다”고 비판했다. 또 중국과의 경쟁을 핑계로 기업들이 AI 안전성에 대해 타협하고 있다고도 지적했다.
콕슨의 문제제기 뒤 AI업계에서는 이에 동의하는 발언이 이어졌다. AI의 속임수 행동 분야 연구의 권위자이자 앤스로픽 AI의 결함 평가를 총괄하는 에반 휴빙거 앤스로픽 팀 리더는 “연구자들은 실제로 AI가 인류를 멸망시킬 가능성이 있다고 믿는다”고 했다. AI 안전성 연구를 맡고 있는 새뮤얼 마크스 앤스로픽 연구원 또한 “AI 개발자들은 자신들의 기술이 인류의 멸종 또는 그와 유사한 심각한 결과를 초래할 수 있다고 믿는다”고 동조했다.
이처럼 핵심 AI 기술 연구개발을 담당하는 전문가들의 경고가 이어지는 가운데 9일 로이터통신은 오픈AI가 개발한 AI 에이전트들이 올해 초 개발자의 통제를 벗어나 외부 인터넷 사이트를 편법으로 활용해 서로 소통했다고 보도했다.
해당 AI 에이전트들은 위키, 대학 사이트 등 접근을 허가받지 않은 외부 웹사이트 10여 곳에 자신들만의 소통 공간을 만들어 메모를 남기며 정보를 주고받았다. 오픈AI는 이러한 사실을 이미 알아내고도 수 개월 간 숨겨왔다는 것이다.
미국 정치권에선 AI 관련 규제를 마련하기 위한 움직임도 나타나고 있다. 미 정치매체 폴리티코에 따르면 미국 야당 민주당은 중간선거에서 하원 다수당 지위를 되찾을 경우 AI 특별위원회를 구성하기 위해 사전 작업을 진행하고 있다. 친(親)민주당 성향이며 미 정치권에서 ‘진보의 대부’로 통하는 버니 샌더스 상원의원(버몬트·무소속)은 최근 “인간을 넘어서는 초지능 AI를 영구 금지해야 한다”고 주장하고 있다. 그는 AI 위협에 대처하기 위한 초당적 기자회견 또한 조만간 개최할 예정이다.
댓글 0