서울에 용암 분출?…SNS 난리난 뉴스 영상, 알고보니 AI

사진=유튜브 채널 ‘딸깍디자이너’ 캡쳐

서울 시내에서 용암이 분출되고 있다는 내용의 뉴스 영상이 소셜미디어(SNS)에서 화제를 모았다. 이 영상은 인공지능(AI)을 활용해 만든 가짜 뉴스로, 누리꾼들의 충격과 우려를 낳았다.

최근 유튜브와 SNS 등 온라인에는 ‘서울 시내에 용암이 분출되고 있다’는 뉴스 속보 형식의 영상이 게시됐다.

영상에는 아나운서가 “현재 서울 시내에 용암이 분출하고 있다”는 속보를 전하며 현장 기자와 연결하는 장면이 담겼다. 화면 속 현장 기자 뒤로는 서울 도심에 시뻘건 용암이 분출되는 모습이 보였다.

그러나 기자는 “뒤에 보이는 용암은 진짜가 아닙니다. 그리고 저도 AI입니다”라고 말했다. 아나운서 역시 “엄마, 아빠 조심하세요. 우리는 AI입니다”라고 말했다.

이어 등장하는 학생, 사업가, 연예인 등도 “나는 핸드폰을 잃어버리지 않았다. 기프트 카드를 사주지 않아도 된다”, “이 주식으로 월 천만 원을 벌었다. 사실 그럴 리가 없다”라고 말하며 자신들이 AI임을 강조했다.

사진=유튜브 채널 ‘딸깍디자이너’ 캡쳐

영상을 접한 누리꾼들은 “자막 글씨체가 아니었으면 진짜 뉴스로 착각할 뻔했다”며 우려를 나타냈다.

해당 영상을 제작한 콘텐츠 크리에이터 ‘딸깍 디자이너’는 자신의 SNS를 통해 “이 영상을 AI에 취약한 가족, 친구, 지인들에게 공유해달라”며 “기술 발전의 부작용은 항상 취약계층부터 피해를 입는다. 이를 막기 위해 외국 영상에서 영감을 받아 한국 버전으로 제작했다”고 설명했다.

AI로 제작된 콘텐츠가 실제와 구분하기 어려운 수준에 이르자, 영상 등에 AI 사용 여부를 명시해야 한다는 목소리가 커지고 있는 상황이다.

내년 시행을 앞둔 ‘인공지능의 발전과 신뢰 기반 조성에 관한 기본법’(이하 ‘AI 기본법’)에 따르면, AI 시스템을 활용해 만들어진 가상의 음향, 이미지 또는 영상 등의 콘텐츠는 해당 콘텐츠가 AI 생성물임을 이용자가 명확하게 인식할 수 있도록 고지하거나 표시해야 한다.