[단독]“AI 음란물, 실존인물 아니면 무죄” 판결 논란

법원 “피해자 실제여부 단정 어려워”
“규제공백 우려, 입법 보완을” 지적

크게보기

인공지능(AI)으로 만든 노출 사진은 피해자가 특정되지 않는 한 딥페이크 음란물 유포죄로 처벌할 수 없다는 법원 판결이 나왔다. 현행법이 피해자를 실존 인물로 한정하고 있어서 생긴 규제 공백이다. AI 음란물이 기승을 부리는 현실을 고려해 입법 보완이 필요하다는 지적이 나온다.

20일 법조계에 따르면 의정부지법 고양지원 형사8단독 이정훈 판사는 최근 성폭력처벌법상 허위영상물(딥페이크 음란물) 유포 혐의로 기소된 30대 남성 김모 씨에게 무죄를 선고했다. 김 씨는 지난해 11월 한 텔레그램 대화방에서 여성이 나체를 드러낸 AI 합성사진을 공유했다. 검찰은 “성적 욕망 또는 수치심을 유발할 수 있는 영상물”이라며 김 씨를 기소했다.

하지만 김 씨 측은 “사진 속 인물은 AI가 만들어낸 가상의 인물일 가능성이 있다”고 주장했다. 가상 인물을 대상으로는 성적 수치심 등을 유발할 수 없어 범죄가 성립하지 않는다는 주장이다. 법원은 이를 받아들여 무죄를 선고했다. 이 판사는 “사진의 원본이나 출처, 합성 방법 등을 확인할 자료가 없어 피해자가 실존한다고 단정하기 어렵다”고 밝혔다. 검찰이 항소하지 않아 김 씨는 무죄가 확정됐다.

하지만 AI 가상인물 음란물이 온라인에서 돈을 받고 팔리는 등 확산되고 있어 개선이 필요하다고 전문가들은 강조한다. 김민호 성균관대 법학전문대학원 교수는 “이대로는 청소년이 AI 딥페이크 음란물에 노출돼도 규제할 수 없다. 규정을 보완해야 한다”고 말했다.

‘성인 AI 음란물’ 수백만건 판쳐도, 실존인물 아니면 처벌 어려워

“실존인물 아니면 무죄” 판결 논란
성인 대상 ‘AI 합성물’ 규제 공백… 정보통신망법은 형량 낮아 효과 의문
美, 실존인물로 인식 여지땐 처벌… “사회적 해악 기준 법 재정비해야”

“(딥페이크 음란물의 피해자인) ‘사람’은 합성에 동의하거나 반대 의사를 가질 수 있는 실존 인물이어야 한다.” 인공지능(AI)으로 만든 여성의 나체 사진을 유포한 30대 남성 김모 씨에게 법원이 무죄를 선고하면서 내놓은 핵심 판단이다. 재판부가 이른바 ‘딥페이크 방지법’으로 불리는 조항의 적용 대상을 ‘의사 표현이 가능한 실존 인물’로 한정한 것이다. 이번 판결에 대해 성인 대상 AI 합성 음란물이 현행법으로는 처벌하기 어렵다는 규제 공백을 분명히 드러냈다는 평가가 나온다.

크게보기

● “성인 AI 음란물은 엄벌 사각지대”

재판부는 판결문에서 “사진의 원본이나 출처, 합성 방법 등을 확인할 자료가 없어 피해자가 실존한다고 단정하기 어렵다”고 밝혔다. 이어 “AI 발달로 실제 사람과 구별하기 어려운 가상 인물 이미지를 누구나 쉽게 획득할 수 있고, 합성·편집 기술의 고도화로 실제 촬영물과 인위적 합성물을 구별하기 어려운 것이 현실”이라고 덧붙였다. 결국 법원은 피해자가 실존하지 않을 수도 있다면 형사재판 원칙에 따라 보수적으로 무죄를 선고할 수밖에 없다고 본 것이다.

AI를 이용해 음란물을 제작·유포할 경우 적용될 수 있는 범죄는 총 3가지다. 그중 성폭력처벌법상 딥페이크 음란물 유포죄는 7년 이하 징역 또는 5000만 원 이하 벌금에 처할 수 있지만, 실존 인물이 아니면 처벌이 어렵다는 허점이 이번 판결로 드러났다. 청소년성보호법상 성착취물 제작죄는 실존 인물이 아니어도 처벌할 수 있지만 그 대상이 아동·청소년이어야 적용된다. 정보통신망법은 음란물 유포 자체를 금지하지만 형량이 최대 징역 1년에 불과해 실효성이 낮다는 지적이 많다.

결국 입법을 통해 공백을 메우지 않는 한 성인 대상 AI 합성물은 규제 사각지대 놓이거나 솜방망이 처벌에 그칠 수밖에 없다. 경찰 관계자는 “AI 음란물은 실존 인물을 대상으로 했더라도 당사자가 직접 고소·고발하지 않는 한 피해자를 특정하는 데 한계가 있다”고 말했다.

● 인스타에만 AI 음란물 수백만 건… 돈벌이까지

법적 공백은 소셜네트워크서비스(SNS)나 유튜브 등에서 AI를 이용한 음란물 영상을 쉽게 찾아볼 수 있는 현실과 맞물리며 우려를 키우고 있다. 20일 인스타그램에서 ‘AIGIRL’이라고 검색하자 수십 개의 계정과 약 200만 개의 게시물이 쏟아졌다. 상당수는 여성의 특정 신체 부위를 강조하거나 자극적인 노출로 수위가 높은, AI로 생성한 음란물이었다.

유튜브에는 AI를 이용해 엘리베이터에서 여성이 차례로 옷을 벗는 영상이 업로드되는가 하면 기차 안에서 남성이 여성 간호사의 몸을 만지는 AI 영상이 수십만 조회수를 기록하기도 했다. 챗GPT 등 주류 상용 AI 서비스는 자체 지침을 통해 음란물 제작을 금지하고 있다. 하지만 온라인에선 중소 AI 프로그램 등을 활용해 이를 우회하는 방법도 공유되고 있다.

AI 음란물로 돈벌이에 나선 사례도 있다. AI 이미지를 올리는 한 채널의 운영자는 미국 모금 후원 사이트를 통해 유료 구독자로부터 월 10∼50달러를 후원받으며 노골적으로 여성의 특정 신체 부위를 표현하는 등의 AI 이미지를 게시했다. 지난해 11월 법원은 이 운영자에게 정보통신망법 위반죄로 징역 6개월에 집행 유예 1년을 선고했다.

해외는 이미 대응에 나섰다. 미국 버지니아주는 딥페이크 음란물 피해자의 정의를 AI 등으로 만들어도 ‘실제 사람으로 인식될 수 있는 자’까지 확대했다. 캘리포니아주는 ‘실제 노출로 오인될 수 있는 이미지·영상’의 고의적 유포를 금지했다. 영국도 성적 만족을 목적으로 유포된 합성 이미지·영상을 규제 대상에 포함했다.

전문가들은 피해자의 실존 여부가 아니라 사회적 해악을 기준으로 법을 재정비해야 한다고 지적했다. 피해자가 특정되지 않아도 음란물 유포에 따른 부작용은 그대로 존재하므로 처벌 대상을 넓혀야 한다는 것이다. 허민숙 국회입법조사처 조사관은 “기술 발전이 만든 새로운 현실에 법이 뒤처져 있다”며 “AI 음란물이 가상 인물을 바탕으로 만들어졌다는 사실을 피의자가 입증하게끔 해야 한다”고 말했다.