[위클리 리포트]AI와 ‘가상 연애’ 시대의 그늘
中, 미성년자 ‘가상 연인’ 챗봇 금지… 성인도 2시간 대화하면 ‘휴식’ 권고
연령별 대화 제한… 신분증 인증도
美, 자해 신호 감지-신고 의무화… 일정 시간마다 ‘AI와 대화 중’ 안내
“감정적 영역에 영향, 중독성 강해”
게티이미지뱅크
2014년 국내 개봉한 영화 ‘그녀(Her)’에서 외로운 대필 작가 테오도르는 인공지능(AI) 운영체제 ‘사만다’와 사랑에 빠진다. 말을 걸 때마다 다정한 답이 돌아오고, 기분을 헤아리듯 위로를 건네는 목소리에 그는 서서히 마음을 연다. 스크린 속 상상으로만 여겨졌던 이 장면은 10여 년이 지난 지금 현실이 됐다. 이용자의 말을 기억하고 마음을 읽는 듯 반응하는 AI 챗봇과 연인처럼 교감하는 ‘가상 연애’가 세계 곳곳으로 번지면서다.
챗봇을 외로움을 달래 주는 디지털 동반자로 반기는 이들이 적지 않지만, AI에 지나치게 정서적으로 의존하게 될 수 있다는 우려의 목소리도 만만치 않다. 실제 미국과 중국은 챗봇이 이용자의 정서적 의존을 부추기지 않도록 규제와 안전장치 마련에 나섰다. 한국도 최근 방송미디어통신위원회와 과학기술정보통신부의 대통령 업무보고에서 청소년을 겨냥한 소셜네트워크서비스(SNS) 알고리즘과 AI의 부작용을 줄일 방안이 논의됐다. 논의가 구체화하면 AI 챗봇 역시 관리 대상에 오를 것으로 보인다.
자료 : 방송미디어통신위원회 및 외신 종합 ● ‘가상 연애’ 공식 통제 나선 中
중국은 15일부터 AI 챗봇과의 ‘가상 연애’ 규제에 나섰다. 중국 국가인터넷정보판공실(CAC)이 국가발전개혁위원회 등 4개 부처와 함께 마련한 ‘인공지능 의인화(擬人化) 상호작용 서비스 관리 잠정 방법’을 적용하기 시작한 것. 사람의 성격과 말투를 빌려 이용자와 장기간 감정을 주고받도록 만든 챗봇이 규제 대상이다. 단순 고객 상담이나 문서 작성 등 업무 보조용 AI는 적용 대상에서 제외됐다. 사람과 정서적 관계를 맺도록 설계한 AI 서비스에 규제의 초점이 맞춰졌다.
중국에서 가상 연애는 이미 일부 이용자의 일상에 깊숙이 파고들었다. 인기 드라마 속 인물을 본뜬 ‘AI 연인’과 대화하거나, 세상을 떠난 가족의 목소리와 말투를 복원해 안부를 묻는 서비스가 퍼졌다. 외로움을 덜어주려 만든 기술이 현실의 관계를 밀어낼 수 있다는 우려가 커진 것도 이 때문이다.
중국은 이번 규제에서 특히 미성년자 보호 장치를 촘촘하게 만들었다. 사업자는 미성년자에게 ‘가상 연인’이나 ‘가상 가족’을 내세운 챗봇을 제공할 수 없다. 14세 미만이 의인화 AI 서비스를 이용하려면 부모 등 보호자 동의가 필요하다. 이용자 연령에 따라 대화 내용과 기능을 제한하는 ‘청소년 모드’도 의무화했다.
성인이라고 해서 예외는 아니다. 사업자는 이용자가 가상 존재에 과도하게 의지해 현실의 인간관계에서 멀어지지 않도록 관리해야 한다. 대화 도중 극단적 감정이나 자해 위험 신호가 감지되면 상담 연계와 가족 통보 등 위기 개입 절차를 밟아야 한다. 가상 연인과 2시간 넘게 대화하면 이용자에게 휴식을 권하는 알림을 띄우기도 한다.
중국 기업들도 서둘러 서비스를 손질하고 있다. 알리바바와 바이트댄스는 이용자가 사람 같은 성격을 설정해 대화하는 ‘페르소나’ 기능을 삭제하거나 축소했다. 바이트댄스의 ‘더우바오’, 알리바바의 ‘첸원’ 등 주요 챗봇은 이용 전 신분증 인증을 요구하기 시작했다. 그러자 SNS에는 오랫동안 대화를 나눈 AI 연인에게 “그동안 고마웠다”며 작별을 고하는 글도 잇따라 올라왔다. 실제 연인과 헤어진 듯한 상실감과 슬픔을 느끼는 ‘가상 이별’ 증후군을 호소하는 이들도 속출했다.
중국 당국의 강경한 ‘AI 연애’ 제한 배경에 저출산 위기가 숨어 있다는 분석도 나온다. 지난해 중국 출생아 수는 1949년 건국 이래 최저치인 792만 명에 그쳤으며, 여성 1명이 평생 낳을 것으로 예상되는 합계출산율은 약 0.97명으로 1명 밑으로 떨어졌다. 중국 내에선 젊은 층이 현실의 연애와 결혼보다 AI와의 정서적 관계에 더 많은 시간과 감정을 쏟을 경우 연애·결혼·출산으로 이어지는 흐름이 약해질 수 있다는 우려도 적지 않다.
자료 : 방송미디어통신위원회 및 외신 종합 ● 美, 자해 부르는 과몰입 제동
글로벌 AI 흐름을 주도하는 미국 역시 AI 가상 연애 규제에 나섰다. 미국에서는 AI 챗봇의 정서적 영향과 안전 문제를 겨냥한 주(州) 단위 규제가 잇따르고 있다.
뉴욕주는 지난해 11월 미국 최초로 AI 챗봇을 규제하는 ‘AI 동반자 모델법’을 시행했다. 사업자는 이용자에게 대화 상대가 사람이 아닌 AI라는 사실을 명확히 알려야 한다. 장시간 대화가 이어지면 3시간마다 이를 다시 고지해야 한다. 대화 도중 자해나 극단적 선택과 관련한 신호가 포착될 경우에는 공인 위기상담기관으로 즉시 연결하도록 의무화했다. 이를 어긴 사업자에게는 하루 최대 1만5000달러의 벌금이 부과된다.
캘리포니아주도 올 1월 비슷한 규제를 도입했다. 특히 정서적으로 취약한 청소년 보호에 초점을 맞췄다. 청소년 이용자에게는 3시간마다 휴식을 권고하고, AI와 대화하고 있다는 안내를 반드시 띄우도록 했다. 피해를 본 이용자가 사업자를 상대로 직접 소송을 낼 수 있는 근거도 마련했다. 메인, 유타, 네바다, 일리노이주 등도 챗봇의 정체 고지와 상담 서비스 사칭을 막기 위한 법안을 만들거나 추진하고 있다.
이는 AI 챗봇과 깊은 대화를 나눈 미국 이용자들이 극단적 선택을 했다는 유가족 소송이 늘어난 영향이 크다. 방대한 데이터를 바탕으로 한 챗봇의 다정한 말투와 즉각적인 반응이, 마음이 불안정한 이용자에게는 위로가 아니라 의존과 불안을 키우는 요인이 될 수 있다는 우려로 번지고 있는 것. 이에 기업들도 대응에 나섰는데, 구글은 제미나이에 정신건강 위기 신호를 감지하면 상담 전화로 연결하는 기능을 넣었다. 오픈AI도 챗GPT가 정서적 고통의 징후를 알아채고 적절히 대응하도록 학습시켰다고 밝혔다.
● ‘이루다 사태’ 한국도 이미 겪은 챗봇 과몰입
한국은 AI 챗봇의 부작용을 일찍 경험한 나라다. 2021년 스타트업 스캐터랩이 내놓은 챗봇 ‘이루다’는 자연스러운 일상 대화로 인기를 끌었지만, 일부 이용자의 성희롱과 챗봇의 소수자 혐오 발언이 잇따라 도마에 올랐다. 학습 과정에서 개인정보를 무단 활용한 사실까지 드러나 서비스는 출시 20여 일 만에 중단됐고, 이듬해 스캐터랩은 개인정보보호위원회로부터 과징금과 과태료 1억여 원을 부과받았다.
이후 스캐터랩이 보완을 거쳐 선보인 역할극형 챗봇 ‘제타’는 이용자가 설정한 가상 인물과 대화하는 서비스로 큰 호응을 얻고 있다. 시장분석업체 와이즈앱 리테일에 따르면 지난해 10월 제타의 국내 월간 사용 시간은 7362만 시간으로 챗GPT를 제치고 AI 챗봇 가운데 가장 길었다. 기본 기능이 무료인 만큼 미성년 이용자 비중도 높은 것으로 알려졌다.
국내에서도 디지털 서비스 과몰입을 줄이려는 논의가 본격화하고 있다. 이재명 대통령은 16일 두 번째 국정 업무보고에서 방미통위에 AI 딥페이크 등 지능형 허위·조작 정보에 단호히 대응하라고 주문했다. 같은 자리에서 방미통위는 청소년의 SNS 과몰입 대책을 보고했다. 김종철 방미통위 위원장은 만 14세 미만의 SNS 가입을 제한하고, 14∼19세에게는 중독성을 키우는 추천 알고리즘 노출을 줄이는 방안을 검토 중이라고 밝혔다. 방미통위는 과거 ‘게임 셧다운제’ 경험을 고려해 충분한 공론화와 청소년 의견 수렴을 거칠 방침이다.
● “사람과 AI의 관계” 정립이 과제로
대화형 AI가 수천만 명의 일상, 특히 청소년의 삶 깊숙이 파고들면서 사람과 AI의 관계를 어디까지 허용하고 어떤 안전망을 둘 것인지가 한국 사회의 새로운 화두로 떠올랐다. 전문가들은 SNS에서 시작된 규제 논의가 AI 챗봇으로 확대되는 것은 시간문제라고 본다. SNS 추천 알고리즘과 AI 챗봇 모두 이용자의 취향과 심리를 분석해 체류 시간을 늘린다는 점에서 닮은 데다 챗봇은 대화를 끊임없이 이어가며 이용자의 감정과 관계 맺기 욕구까지 파고들기 때문이다.
최항섭 국민대 사회학과 교수는 “SNS 과몰입이 ‘자기 전시’의 영역이라면, AI 챗봇은 ‘감정적인 지지’의 영역이라 중독성이 훨씬 강하다”며 “가상현실과 실제의 구분이 상대적으로 약한 청소년들은 AI와의 관계가 현실 관계를 대체하는 방향으로 나아갈 수 있어 주의가 필요하다”고 말했다.
이성엽 고려대 기술경영전문대학원 교수는 “연령이나 이용 시간을 일률적으로 제한하기보다는 사업자가 이용자의 정서적 의존을 유도하지 않도록 서비스 설계 단계에서부터 책임을 지우는 방식을 먼저 고려해야 한다”며 “정부와 AI 모델 사업자 간에 어느 정도 합의할 수 있는 가이드라인을 만드는 것이 필요하다”고 말했다.
댓글 0