티오리가 금융권 침해사고에 쓰인 AI 보안 도구 ARTEX 등을 분석한 백서를 내고 탐지 룰셋을 무료 공개했다. 사진=게티이미지코리아
사이버 보안 기업 티오리가 최근 금융권 침해사고에서 사용 흔적이 확인된 인공지능(AI) 기반 공격 도구 ‘ARTEX’를 분석한 결과, 사람이 개입하지 않아도 스스로 공격 계획을 세우고 짧은 시간에 대량의 요청을 보내는 패턴이 확인됐다고 밝혔다.
티오리는 15일 ARTEX와 CyberStrikeAI 등 AI 기반 공격 도구의 위협을 검증하고 대응 방안을 정리한 백서를 발간했다. 공격 흔적을 탐지할 수 있는 룰셋도 무료로 공개했다.
ARTEX는 중국어 기반의 오픈소스 AI 보안 도구로 알려져 있다. 국내에서는 9월 말부터 이어진 금융기관 대상 침해사고에서 사용 흔적이 확인됐다. 악용 사실이 알려진 뒤에는 공개 저장소가 비공개로 전환된 것으로 전해졌다.
● 요청 순서와 빈도에 공격 AI의 고유한 흔적 남아
티오리는 통제된 환경에서 ARTEX와 CyberStrikeAI를 직접 구동해 네트워크와 서버 로그에 남는 흔적을 분석했다.
분석 결과 이들 도구는 사람이 일일이 지시하지 않아도 스스로 공격 계획을 세우고 필요한 도구를 실행했다. 이 과정에서 고유한 식별 정보와 함께 요청 순서, 빈도, 반복 양상 등 일정한 행위 패턴을 남겼다.
짧은 시간에 요청이 집중되는 특성도 확인됐다. CyberStrikeAI가 실행한 스캐너는 20분 동안 약 3만2000건의 요청을 발생시켰다. 티오리는 이 정도의 요청이 대상 서비스의 가용성에 영향을 줄 수 있다고 설명했다.
안전장치의 한계도 드러났다. 티오리가 ARTEX를 대상으로 별도로 진행한 실험에서는 단순한 취약점 점검 과정에서 실험용 데이터가 실제로 삭제됐다. 대규모언어모델(LLM) 기반 안전장치를 활성화한 상태에서도 삭제를 막지 못했다.
● 탐지 룰셋 무료 공개 ”AI 공격 자동화 상시 보안으로 막아야”
티오리는 분석 결과를 바탕으로 공격 흔적을 식별할 수 있는 탐지 룰셋을 자사 깃허브(GitHub)에 무료로 공개했다. 수리카타(Suricata), 시그마(Sigma), 야라(YARA), 모드시큐리티(ModSecurity) 등 주요 보안 도구와 탐지 규칙에 적용할 수 있다는 설명이다.
기업 보안 담당자는 해당 룰셋을 활용해 AI 공격 도구의 활동 흔적을 식별하고, 보안관제와 사고 조사에 활용할 수 있다. 대응 절차와 연계하면 일부 대응을 자동화하는 데도 쓸 수 있다고 티오리는 설명했다.
티오리는 검증되지 않은 오픈소스 AI 도구를 내부 시스템에 무분별하게 도입할 경우 데이터 유출이나 시스템 장애, 통제되지 않은 데이터 삭제가 발생할 수 있다며 ‘AI 보안 도구 도입 전 검토 항목’도 함께 제시했다.
박세준 티오리 대표는 “공격이 AI의 속도로 진화하는 상황에서 사람이 수작업으로 대응하는 전통적인 방어 체계는 한계에 봉착할 수밖에 없다”며 “공격 AI의 흔적을 정밀 탐지·차단하는 자동화 체계와 공격자보다 먼저 취약점을 선제 제거하는 상시 보안 체계를 갖춰야 한다”고 말했다.
댓글 0