손흥민이 도박앱 홍보?…딥페이크 영상 수사 착수

손흥민 선수의 얼굴과 목소리를 합성한 딥페이크 영상. 하단의 다운로드를 클릭하면 불법 도박을 유도하는 피싱 사기 앱으로 연결된다. (출처=유튜브 갈무리)

축구선수 손흥민의 얼굴과 목소리를 정교하게 합성해 불법 도박 앱을 홍보하는 딥페이크 영상이 온라인에 확산돼 경찰이 수사에 나섰다.

해당 영상은 실제 인터뷰 장면의 표정과 입 모양을 AI에 학습시켜 만든 가짜로, 클릭 시 불법 도박·투자 사기 페이지로 연결된다.

13일 서울경찰청 사이버수사대는 강원랜드의 수사 의뢰를 받아 불법도박 앱을 운영하는 일당을 수사하고 있다고 밝혔다. 이들 일당은 온라인상에서 손흥민을 비롯한 유명인들을 딥페이크 기술을 활용해 합성한 불법도박 앱 홍보 영상을 게시했다.

■ “손흥민 선수 표정·목소리·입 모양까지 베꼈다”

불법도박 광고를 업로드한 SNS 페이지. 페이스북에는 같은 이름의 페이지가 여섯 개 가량 더 생성돼 있다. (출처=페이스북 캡처)

가짜 영상에서 손흥민은 “제가 왜 강원랜드 앱을 모두에게 추천하는지 알려주겠다”, “모든 당첨금은 단 5분 안에 은행 계좌로 입금된다”는 등의 홍보 멘트를 한다. 목소리뿐 아니라 표정과 입 모양까지 실제처럼 구현돼 일반인이 가짜임을 구분하기 어려운 수준이다.

■ CEO·투자 유튜버까지 표적…SNS 계정 활발 활동

피해자는 손흥민뿐만이 아니다. 최철규 강원랜드 부사장(대표이사·사장 직무대행)이나, 투자 채널을 운영하는 남석관 베스트인컴 대표 등을 사칭한 광고 영상도 존재한다.

SNS에 해당 광고 영상을 올린 계정들은 지금도 버젓이 활동하고있다. 광고 계정들은 강원랜드를 사칭하며 “한국에서 유일하게 합법적으로 운영되는 온라인 카지노”라는 허위 문구로 이용자를 유혹했고, 링크 클릭 시 불법도박 앱이나 투자 리딩방으로 연결됐다.

불법투자 광고를 클릭할 시 나오는 페이지. 안드로이드 OS의 앱 스토어인 ‘구글 플레이’와 비슷하게 꾸며놓았다.

실제 접속을 해보니, 구글 플레이의 다운로드 페이지와 동일하게 꾸며 놓은 페이지도 나왔다.

여기엔 최철규 부사장의 얼굴을 합성해 “입금액의 700% 보너스” 같은 허위 문구를 달아놓은 광고도 있었다. 페이지 하단에는 “바로 인출이 된다”거나 “큰 상금을 딸 수 있다”고 주장하는 리뷰도 나온다. 모두 실제와 비슷하게 꾸며진 가짜다.

강원랜드는 “우리도 피해자”라며 “온라인 카지노는 운영하지 않는다”고 강조했다. 또 불법도박 광고 및 사기 피해 확산을 막기 위해 적극 대응 중이라고 밝혔다.

■ ’구분 불가능’ 수준…전문가 ”탐지 기술 시급”

딥페이크 기술로 합성된 불법투자 광고 영상. 영상 내에서 손흥민 선수는 자신을 ‘투자의 귀재’라고 소개하며 불법주식 리딩방을 소개한다. (출처=온라인 커뮤니티 ‘에펨코리아’ 캡처)

딥페이크를 활용한 사기 수법은 날로 정교해지고 있다.

지난해 4월경에도 손흥민을 합성한 불법 투자 광고가 SNS에서 확산됐지만, 당시에는 입 모양과 목소리가 어긋나 가짜임을 쉽게 식별할 수 있었다. 그러나 최근 제작된 영상은 실제와 구분이 어려운 수준까지 발전했다.

함민정 고려대학교 정보문화연구소 전임연구원은 ‘딥페이크 기술과 투자 사기 광고’ 보고서에서 이러한 딥페이크 기술이 “실제와 거의 불가능한 오디오, 사진, 동영상을 생성”하고 있다며 “딥페이크 탐지 기술 역시 더 발전된 AI 알고리즘과 탐지 기술을 갖추기 위해 노력할 필요가 있다”고 강조했다.

한편, 한국형사·법무정책연구원에 따르면 딥페이크 관련 경찰 신고는 2021년 156건에서 지난해 약 6.2배 증가한 964건으로 집계됐다.