AI 범죄도 구독시대…월 9.99달러 상품 등장
딥페이크 80달러…25개 언어로 120명 동시 전화사기
‘도난된 인공지능(AI) 계정 10센트(약 140원), 딥페이크 영상 80달러….’
생성형 AI가 빠르게 발전하면서 다크웹과 텔레그램 등 지하 사이버범죄 시장에서 AI 범죄 도구가 일반 온라인 상품처럼 거래되고 있는 것으로 나타났다. 과거 전문 해커만 갖출 수 있었던 기술을 초보 범죄자도 돈만 내면 살 수 있게 되면서 AI가 사이버범죄의 ‘가격’과 ‘진입장벽’을 동시에 낮추고 있다는 우려가 나온다.
● 무료로 고객 모으고 고급기능 유료화
미 사이버보안업체 할시온 랜섬웨어연구센터가 6일(현지 시간) 공개한 ‘서비스형 지하 AI(Underground AI-as-a-Service)’ 보고서에 따르면 지하 사이버범죄 시장에서 AI 도구를 광고하는 게시물은 지난해 말 월 50건 미만에서 올 2월 1400건 이상으로 급증했다. 연구진이 지난해 10월 1일부터 올 5월 1일까지 텔레그램 채널 77곳, 다크웹 포럼 20곳, 전문 지하 시장 5곳에 올라온 약 4000개 게시물을 분석한 결과다.
특히 범죄용 AI 시장은 일반 정보기술(IT) 기업의 판매 방식을 그대로 모방하고 있었다. 조사된 게시물의 40%는 무료 AI 도구나 서비스를 내세워 이용자를 끌어들였다. 피싱 이메일이나 악성코드 제작 등을 지원하는 범죄용 AI ‘WormGPT’ 계열은 월 9.99∼49.99달러의 구독제까지 운영했다. 무료 서비스를 먼저 제공한 뒤 고급 기능에 돈을 받는 ‘프리미엄(freemium)’ 방식도 등장했다.
가격도 크게 낮아졌다. 도난당한 챗GPT 플러스 계정은 10센트에도 거래됐고, AI의 안전장치를 우회하는 ‘탈옥(jailbreak)’ 프롬프트는 32센트에 판매되는 사례도 발견됐다. 실제 작동하는 탈옥 서비스는 10∼15달러 수준에 거래됐다.
범죄 분야도 피싱을 넘어 신원 사기로 확대되고 있다. 가짜 신분증은 15달러, 음성 조작은 60달러, 딥페이크 영상은 80달러 등에 판매됐다. 가짜 신분증과 공과금 고지서, 은행 명세서, 실시간 딥페이크 영상 등을 결합해 금융기관의 고객신원확인(KYC)을 속일 수 있도록 한 패키지는 최대 6350달러에 거래됐다. 최대 25개 언어로 동시에 120명에게 전화를 걸 수 있는 AI 사기 콜센터 시스템도 발견됐다.
● “초보 범죄자도 위험한 해커로”…전문기술 문턱 낮춘 AI
AI는 악성코드 개발에 필요한 시간과 전문성도 크게 줄이고 있다. 보고서에 따르면 한 판매자는 AI 코딩 도구를 이용해 일주일도 안 돼 약 8만8000줄 규모의 실제 작동 가능한 악성코드 시스템을 제작했다. 과거 전문 개발팀이 수개월간 해야 했던 규모의 작업을 AI를 이용해 크게 단축한 것이다.
미 정치매체 액시오스는 이 같은 현상을 두고 AI가 과거 전문 영역이던 해킹 능력을 훨씬 싸고 쉽게 구매할 수 있게 만들면서 더 많은 범죄자를 위험한 해커로 바꿀 가능성이 있다고 평가했다. 2023년만 해도 해커들이 이용할 수 있는 AI 범죄 도구가 소수에 그쳤지만 3년 만에 구독 서비스와 온라인 상점까지 갖춘 본격적인 시장으로 성장했다는 것이다.
다만 AI가 공격 대상을 찾아 침투하고 악성코드를 제작·배포하는 전 과정을 인간의 개입 없이 수행하는 ‘완전자율 해킹 에이전트’가 거래되고 있다는 증거는 아직 발견되지 않았다.
미 연방수사국(FBI) 사이버 부문 부국장을 지낸 신시아 카이저 할시온 랜섬웨어연구센터장은 액시오스에 “모든 것을 알아서 처리하면서 놀라운 성공률까지 보이는 에이전트가 판매되고 있는 것은 아니다”라고 말했다. 현재 더 현실적인 위협은 AI가 새로운 범죄를 만들어내는 것보다 기존 피싱과 신원 사기, 악성코드 제작을 훨씬 싸고 빠르게, 더 큰 규모로 실행할 수 있게 만든다는 것이다.
댓글 0