“AI로 옷 벗기는 앱까지”…호주, AI 성적 악용에 기업 겨눈다

“누드 이미지 제작·스토킹 등 악성도구 차단 의무화”

ⓒ News1

인공지능(AI) 기술이 성적 콘텐츠 생성 등에 악용되는 사례가 늘자 호주 정부가 대책 마련에 나섰다.

AFP통신에 따르면 호주 정부는 2일(현지시간) 성명을 통해 테크 대기업을 상대로 AI 생성 누드 이미지 제작이나 스토킹에 악용되는 온라인 도구 차단을 의무화할 것이라고 밝혔다.

정부는 “혐오스러운 기술”에 대응하기 위한 법안 마련을 위해 업계와 협력하겠다고 밝혔다. 다만 새 법안이 “합법적이고 사용자 동의를 얻은 AI 및 온라인 추적 서비스가 의도치 않은 영향을 받지 않도록 할 것”이라고 설명했다.

아니카 웰스 통신부 장관은 “사람들, 특히 우리 아이들을 학대하고 모욕하며 해치기 위한 기술과 앱은 용납될 수 없다”고 강조했다.

최근에는 사람의 옷을 벗기는 한 AI 기반 앱이 온라인에서 퍼지면서 아동이 피해를 입을 수 있다는 우려가 나왔다. 웰스 장관은 이 앱과 기타 스토킹 앱을 차단하기 위해 “모든 수단”을 동원할 것이며, 이를 차단할 책임은 기업에 있다고 말했다.

그는 “이번 조치가 학대적 기술 문제를 단번에 없애지는 못하겠으나, 기존 법률과 세계 최고 수준의 온라인 안전 개혁과 합친다면 호주인을 지키는 데 실질적 변화를 가져올 것”이라고 전망했다.

AI 도구의 확산은 전 세계 대학과 학교에서 동급생의 성적 이미지 제작 등 청소년에 영향을 끼치는 새로운 형태의 학대로 이어지고 있다. 아동 인권 보호 비정부기구(NGO)인 ‘세이브 더 칠드런’이 최근 실시한 조사에 따르면 스페인 청소년 5명 중 1명은 동의 없이 자신들의 딥페이크 나체 사진이 생성되는 일을 겪었다.

호주 정부는 아동을 대상으로 한 인터넷 유해 콘텐츠 차단에 적극적이다. 지난해 11월 호주 의회는 16세 미만 청소년의 소셜미디어 사용을 제한하고 이를 준수하지 않는 기업에 최대 4950만 호주달러(약 450억 원)의 벌금을 부과하는 법안을 통과시켰다. 이는 세계에서 가장 강력한 소셜미디어 규제 법안 중 하나로 평가된다.

(서울=뉴스1)