[신문과 놀자!/디지털 세상과 정보]AI로 ‘딸깍’해 만든 글-영상, ‘디지털 지문’으로 구분

  • 동아일보

늑구 목격 사진-네팔 대홍수 영상 등 AI로 만든 가짜, 온라인 허위 유포
AI 콘텐츠 구분할 ‘워터마크’ 삽입… 한국-유럽 등 법적으로 표기 적용
놀라운 사진은 한번 더 생각해보고, 콘텐츠 출처 확인하는 습관 길러야

올해 4월 대전 동물원에서 늑대 ‘늑구’가 탈출한 뒤 40대 남성이 인공지능(AI)을 활용해 만든 가짜 늑구 사진. 이 사진 한 장으로 경찰과 소방은 초기 수색에 혼선을 빚었다. 대전경찰청 제공
올해 4월 대전 동물원에서 늑대 ‘늑구’가 탈출한 뒤 40대 남성이 인공지능(AI)을 활용해 만든 가짜 늑구 사진. 이 사진 한 장으로 경찰과 소방은 초기 수색에 혼선을 빚었다. 대전경찰청 제공
올해 4월 대전의 한 동물원에서 늑대 ‘늑구’가 우리를 빠져나갔습니다. 온 나라가 늑구의 행방을 궁금해하던 그때, ‘늑구가 오월드 사거리를 돌아다닌다’는 사진 한 장이 인터넷에 올라왔습니다. 사진을 본 대전시는 ‘늑대가 사거리 쪽으로 나갔다’는 안전 문자를 시민들에게 보냈고, 소방청 브리핑에도 이 사진이 쓰였습니다. 그런데 그 사진은 40대 남성이 인공지능(AI)으로 만든 가짜였습니다. 경찰은 폐쇄회로(CC)TV 영상과 사진을 대조하고 AI 프로그램 사용 기록까지 확인한 뒤에야 그를 붙잡았습니다.

지난달 26일 네팔에서 큰 홍수가 났을 때도 마찬가지였습니다. 급류가 다리를 무너뜨리는 영상이 유튜브와 페이스북에 ‘네팔 홍수 현장’이라며 퍼졌지만, 상당수가 AI로 만든 것이거나 2021년 일본 산사태 영상을 좌우로 뒤집어 붙인 것이었습니다. 이제 “사진이 있으니 진짜”라는 말은 통하지 않게 됐습니다.

● 만드는 기술보다 가려내는 기술

AI는 이제 말 한마디로 그림을 그리고 영상을 만듭니다. 지난달 구글은 4K 화질의 영상까지 만들어 내는 모델을 내놓았습니다. 진짜 카메라로 찍은 것과 구별되지 않는 수준입니다. 그래서 전 세계 기술자들의 고민이 바뀌었습니다. ‘얼마나 진짜 같은 것을 만들까’에서 ‘무엇이 AI가 만든 것인지 어떻게 알아볼까’로 말입니다. 그 답으로 나온 것이 ‘AI 워터마크(watermark)’입니다.

워터마크는 원래 종이를 빛에 비추면 나타나는 무늬를 뜻합니다. 지폐를 불빛에 비춰 보면 숨어 있던 그림들이 떠오르지요. 위조지폐를 가려내려고 넣어 둔 표시입니다. AI 워터마크도 같은 원리입니다. AI가 만든 그림, 영상, 글에 사람 눈에는 보이지 않는 ‘도장’을 찍어 두는 것입니다.

그림의 경우 화면을 이루는 수많은 점(픽셀)의 색을 아주 조금씩 바꿔 특정한 규칙을 심어 둡니다. 눈에는 원래 그림과 똑같아 보이지만, 검사 프로그램은 이 규칙을 읽어 내 ‘AI가 만든 그림’이라고 알려 줍니다. 구글의 ‘신스ID’가 대표적인데, 구글은 지난해 5월 기준 이 기술로 도장을 찍은 콘텐츠가 100억 개를 넘었다고 밝혔습니다.

글에도 도장을 찍을 수 있습니다. AI는 문장을 쓸 때 ‘다음에 올 낱말’을 여러 후보 가운데 고릅니다. 이때 아무 낱말이나 고르는 대신 비밀 열쇠에 따라 정해진 규칙대로 고르게 하면 읽는 사람은 눈치채지 못해도 열쇠를 가진 사람은 ‘이 글은 AI가 썼다’고 확인할 수 있습니다. AI ‘클로드’를 만든 앤스로픽은 지난달부터 전 세계 이용자에게 나가는 글에 이런 워터마크를 넣기 시작했습니다.

반대로 ‘진짜’에 증명서를 붙이는 방법도 있습니다. 소니, 니콘 같은 카메라 회사와 스마트폰 회사들은 사진을 찍는 순간 언제, 어떤 기기로 찍었고 그 뒤 어떻게 고쳐졌는지를 함께 기록하는 기술을 넣고 있습니다. 사진의 ‘출생증명서’인 셈입니다.

● 법이 먼저 움직였다

한국은 올해 7월 21일부터 ‘인공지능기본법’을 시행했습니다. 세계에서 처음 만들어진 AI 기본법입니다. 이 법에 따라 생성형 AI로 만든 결과물에는 표시해야 하고, 특히 실제와 구별하기 어려운 딥페이크 영상에는 눈에 보이는 워터마크를 반드시 넣어야 합니다. 유럽연합도 8월 2일부터 AI가 만든 콘텐츠에 기계가 읽을 수 있는 표시를 넣도록 하는 규정을 적용하기 시작했습니다. 앤스로픽이 글에 워터마크를 넣기 시작한 것도 이 규정 때문입니다. 기술 회사들이 앞다퉈 도장을 찍는 배경에는 이렇게 법이 있습니다.

그렇다면 이제 안심해도 될까요. 아직은 아닙니다. 워터마크는 사진을 잘라 내거나, 화면을 다시 찍거나, 이리저리 편집하면 지워지기도 합니다. 도장을 찍지 않는 AI 프로그램으로 만든 것도 많습니다. 글의 워터마크를 확인하는 도구는 아직 언론사나 연구기관 같은 곳에만 열려 있습니다.

무엇보다 늑구 사진과 네팔 영상이 보여 주듯, 가짜가 퍼지는 속도는 가려내는 속도보다 빠릅니다. 누군가 ‘이거 진짜야’라고 묻기 전에 이미 수만 명이 공유한 뒤입니다. 기술이 따라잡는 동안 마지막 문을 지키는 것은 결국 사진을 보는 우리 자신입니다. 그래서 여러분에게 세 가지 습관을 권합니다.

첫째, 놀라운 사진일수록 한 번 멈추세요. 늑대가 사거리에 나타났다거나 다리가 무너지는 장면처럼 마음을 흔드는 사진은 가짜일수록 더 자극적으로 만들어집니다. 깜짝 놀랐다면 그것이 바로 확인해 보라는 신호입니다. 둘째, 출처를 찾으세요. 누가 처음 올렸는지 신문사나 방송사, 공공기관도 같은 내용을 전하고 있는지 살펴보세요. 사진을 검색창에 넣어 언제 어디서 처음 나왔는지 거꾸로 찾아보는 방법도 있습니다. 셋째, 확신이 없으면 옮기지 마세요. 가짜를 만든 사람은 한 명이지만 그것을 퍼뜨린 사람은 수만 명입니다. ‘재미있어서’, ‘친구들도 알아야 할 것 같아서’ 누른 공유 버튼이, 늑대를 찾는 사람들을 엉뚱한 사거리로 보낼 수 있습니다.

● 가짜를 만드는 손, 가려내는 눈

경찰청이 지난해 발표한 딥페이크 범죄 특별단속 결과를 보면 붙잡힌 피의자 10명 중 6명(61.8%)이 10대였습니다. 가짜를 만드는 손이 점점 어려지고 있다는 뜻입니다. 뒤집어 말하면, 가짜를 가려내는 눈을 가장 먼저 길러야 할 사람도 바로 여러분입니다.

AI 워터마크는 여러분 편에 선 기술입니다. 그러나 도장은 도장일 뿐입니다. 그것을 보고 ‘잠깐, 이거 확인해 보자’고 말하는 일은 여전히 사람의 몫으로 남아 있습니다. 다음에 놀라운 사진이 여러분 손에 도착하면 공유 버튼을 누르기 전에 먼저 이렇게 물어보세요. ‘이거, 누가 찍었을까’ 그 한마디가 여러분과 친구들을 수많은 가짜로부터 지켜 줄 것입니다.

놓친 뉴스와 그 맥락까지, 종이신문으로 읽어보세요.

동아일보 구독 신청
#AI#워터마크#딥페이크#가짜뉴스#영상조작#미디어리터러시
© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지

트렌드뉴스

트렌드뉴스

  • 좋아요
    0개
  • 슬퍼요
    0개
  • 화나요
    0개

댓글 0

지금 뜨는 뉴스