이재명 “나도 계엄” 김문수 “개가 짖냐” 조작영상… 대선앞 퍼지는 딥페이크

[대선 D-20]
유튜브 등 SNS 유포에 유권자 혼란… 이준석 “황금폰 비번 달라” 영상도
확산 빠르고 해외 계정 단속 어려워… “유관 기관 공조해 신속 대응해야”

6·3 조기 대선이 다가오는 가운데 주요 후보들의 딥페이크(인공지능 합성 이미지) 영상이 온라인에 퍼지고 있다. 그중에는 이재명 더불어민주당 후보, 김문수 국민의힘 후보, 이준석 개혁신당 후보가 마치 욕설, 폭언, 읍소를 하는 것처럼 조작된 영상들도 있었다. 자칫 유권자의 판단을 흐릴 수 있어 대책이 시급하다는 지적이 나온다.

● 이재명 김문수 이준석 겨냥 합성 영상 퍼져

크게보기

13일 동아일보 취재팀이 유튜브, 틱톡, X(엑스·옛 트위터) 등 소셜네트워크서비스(SNS) 게시물을 살펴본 결과, 대선 후보의 음성이나 표정, 발언을 악의적으로 조작한 영상을 여러 개 발견할 수 있었다. 한 유튜브 영상에는 이재명 후보가 “나도 국회에서 나에 대해 반대하거나 하면 바로 계엄령을 선포하고 국회의원들을 체포할 것”이라고 말하는 모습이 담겼다. 그는 실제로 이런 말을 한 적이 없다. 인공지능(AI) 기술로 이미지를 합성한 가짜 영상을 만들어 올린 것이다. 이재명 후보가 박찬대 민주당 원내대표에게 마치 코를 붙잡힌 것처럼 보이는 조작 영상도 있었다.

크게보기

크게보기

김문수 후보의 모습을 합성한 딥페이크 영상들도 있었다. 한 영상에서는 권성동 국민의힘 원내대표가 “오늘부로 한덕수가 후보야. 너 꺼져”라고 말하자, 김 후보가 “뭔 개가 짖냐. 개가 여기 있네”라며 고함을 지르는 장면이 담겼다. 이 역시 사실이 아니라 악의적으로 합성된 가짜 영상이다. 또 다른 조작 영상에서는 김 후보가 인상을 쓰고 소리를 지르는 모습과 ‘당비 땡전 한 푼 안 낸 한덕수와 단일화해야 하는 게 억울하다고 떼쓰는 모습’이라는 자막과 내레이션이 달렸다. 이준석 후보를 겨냥한 한 딥페이크 영상에는 이 후보가 정치브로커 명태균 씨에게 이른바 ‘황금폰’ 비밀번호를 알려 달라며 읍소하는 모습이 담겼다. 이 역시 가짜였다.

● 유포 속도 빨라 단속 못 쫓아가

이 같은 가짜 합성 영상들은 유권자의 올바른 투표권 행사를 방해할 가능성이 있다. 지난해 개정된 공직선거법에 따르면 선거 90일 전부터 선거운동 관련 딥페이크 영상은 일절 금지된다. 선거운동에 해당하지 않더라도 후보자의 명예가 훼손됐다면 정보통신망법에 의해 처벌된다. 음란물에 합성한 경우 성폭력처벌법 위반으로 7년 이하 징역 또는 5000만 원 이하 벌금에 처해질 수 있다.

현재 선거관리위원회와 경찰 등은 전담 모니터링 팀을 구성해 단속을 벌이고 있다. 하지만 딥페이크 영상 확산이 너무 빨라 어려움을 겪고 있다. 경찰 관계자는 “영상을 단순 유포만 한 사람도 있고, 직접 제작해서 게시한 사람도 있을 수 있다. 양상이 다양해서 경우에 따라 수사가 어려워질 수 있다”고 설명했다. 선관위 관계자는 “네이버 등 국내 플랫폼은 이틀이면 삭제 조치가 이뤄지지만 엑스나 유튜브 등 해외 플랫폼은 2주 넘게 걸리는 경우도 있다”고 말했다.

● 전문가 “정부 기관 공동 대응 필요”

전문가들은 경찰, 선관위, 방송통신위원회 등 단속 주체가 여러 기관으로 나뉜 탓에 신속한 대응이 어렵다고 지적했다. 현행법상 선관위는 공직선거법 위반 소지가 있는 게시물에 대해서만 삭제를 요청할 수 있다. 그 외의 다른 경우엔 방송통신심의위원회가 삭제 조치를 해야 한다. 경찰은 수사만 할 뿐 별도의 삭제 조치는 안 한다. 정수환 숭실대 전자정보공학부 교수는 “딥페이크 영상물의 경우 초반에 삭제하지 못하면 순식간에 2차, 3차 유포가 발생한다”며 “유관 기관이 합심해서 공동대응센터 등을 마련해 원활히 소통하고 빠르게 삭제할 수 있도록 하는 것이 바람직하다”고 했다.