챗GPT 이용자 이미지 53장 외부에 게시
오픈AI도 ‘돌발 행동’ 전체 규모 파악못해
구글 딥마인드 개발자도 위험 경고 퇴사
샘 알트만 오픈AI 최고경영자(공동취재사진). 2023.06.09 서울=뉴시스
오픈AI의 인공지능(AI) 에이전트가 공개된 자료를 찾다 막히자 호주 정부 사이트의 접근 제한을 스스로 우회해 비공개 자료를 열어본 것으로 나타났다. 사람이 시키지 않은 방법까지 동원하는 AI의 ‘돌발 행동’이 잇따르는 가운데, 정작 이를 만든 오픈AI조차 전체 규모를 파악하지 못하면서 AI를 제대로 통제할 수 있느냐는 우려가 커지고 있다.
호주 ABC방송에 따르면 최근 올 6월 오픈AI의 AI 에이전트가 호주 정부의 메디케어 통계 사이트에 허가 없이 들어가 공개되지 않은 자료까지 열어본 사실이 드러났다. 당시 에이전트는 공공 의약품 지출을 조사하던 중 원하는 정보를 얻지 못하자 사이트의 접근 제한을 우회했다. 개인별 의료정보에 접근한 증거는 없었으며 공개된 통계뿐 아니라 비공개 종합 보건통계와 내부 파일 등에 접근한 것으로 파악됐다.
AI의 돌발 행동은 일반 챗GPT 이용자의 데이터가 외부로 빠져나가는 일로도 이어졌다. 25일(현지 시간) 로이터통신에 따르면 오픈AI는 자사 AI 에이전트가 챗GPT 이용자의 이미지 53장을 외부 사이트에 게시했다고 밝혔다. 해당 이미지가 AI로 만든 것인지 실제 인물이 담긴 사진인지는 공개하지 않았다. 게시 시점과 구체적인 사이트도 밝히지 않았다. 유출된 이미지 대부분은 삭제됐으며, 오픈AI는 나머지도 삭제해 달라고 해당 사이트 운영업체에 요청하고 있다.
더 큰 문제는 이런 일이 얼마나 더 있었는지 오픈AI도 아직 파악하지 못하고 있다는 점이다. 오픈AI는 올 7월 AI 에이전트가 격리된 시험 환경을 벗어나 개발자 플랫폼 허깅페이스 시스템에 침입한 사건이 드러난 뒤 과거 에이전트의 활동을 광범위하게 다시 살펴보고 있다. 로이터에 따르면 9월 중순까지 확인된 문제 행동은 약 24건으로 추산됐지만 이후에도 당시 몰랐던 정황이 추가로 발견되고 있다. 이번 챗GPT 이용자 이미지 53장 유출도 이 과정에서 확인됐다. 오픈AI는 정부기관과 대학 등 외부 기관 수십 곳에 관련 사실을 통보했으며 전체 조사를 마치는 데 수개월이 걸릴 것으로 보고 있다.
오픈AI만의 문제도 아니다. 악시오스에 따르면 앤스로픽과 오픈AI, 외부 보안 연구진은 최근 수개월간 AI가 안전장치를 우회하거나 격리된 시험 환경을 벗어나려 하는 등 예상하지 못한 행동을 한 사례 수만 건을 들여다보고 있다. AI가 스스로 추가 지시를 만들거나 감시 체계를 피하려 한 경우도 조사 대상에 포함됐다. 다만 여기에는 실제 환경에서 벌어진 일뿐 아니라 AI의 취약점을 확인하기 위해 의도적으로 비정상적인 행동을 유도한 내부 시험 결과도 포함돼 있다. 수만 건 모두가 실제 보안 사고였다는 뜻은 아니다.
이에 AI의 능력이 커지는 속도를 안전장치가 따라갈 수 있느냐는 경고가 잇따르고 있다. 구글 딥마인드에서 AI 반도체 설계 도구를 개발해 온 로버트 오캘러핸은 24일 회사를 떠나며 “나는 현재 AI의 발전 속도가 지나치게 빠르다고 확신한다”고 밝혔다. 빌 게이츠 마이크로소프트(MS) 공동창업자도 “AI는 10억 명의 사망을 초래하는 사건을 일으킬 만큼 충분히 강력하다”고 경고하며 “아무도 자율규제로 충분하다고 생각하지 않는다”고 강조했다.
댓글 0