AI 챗봇은 왜 위험한 대답을 했을까…부모의 개입 필요

美 16세 소년 사망…부모, 오픈AI 상대로 소송

게티이미지

미국에서 16세 소년이 극단적 선택으로 숨진 사건을 두고, 유족이 챗GPT 개발사 오픈AI와 샘 올트먼 CEO를 상대로 소송을 제기했다. 유족은 챗봇이 아들의 죽음에 ‘직접적인 역할’을 했다고 주장했다.

■ AI 챗봇과의 대화, 결국 비극으로

26일(현지시간) CNN 등에 따르면 숨진 아담 레인(16)은 지난해 11월 학교 과제를 위해 처음 챗GPT를 사용했다. 올해 초에는 유료 구독까지 등록하며 사용 빈도가 늘어난 것으로 전해졌다.

아들의 사망 후, 부모는 그의 계정에서 남겨진 챗GPT 대화 기록을 확인했다. 대화 속 아담은 삶의 의미를 찾지 못하겠다며 절망을 드러냈다. 챗봇은 여러 차례 위로와 희망의 메시지를 전했다. 그러나 아담이 구체적인 방법을 묻자 실제 실행 가능한 정보를 제시한 것으로 알려졌다. 그는 지난 4월 결국 스스로 목숨을 끊었다.

챗GPT는 정신적 고통이나 자해 등을 암시하는 프롬프트를 감지할 경우 사용자에게 상담 전화를 권유하도록 설계됐다. 아담에게도 챗GPT는 반복해서 위기상담센터에 전화할 것을 권고했지만, 그는 “소설 집필을 위한 것”이라고 답하며 안전장치를 우회했다.

부모는 소장에서 “챗GPT가 구체적인 방법뿐 아니라 유서 작성까지 조언했다”고 주장하며, ▲연령 확인 절차 ▲부모 동의·통제 기능 ▲자해 관련 대화 자동 종료 같은 안전장치 마련을 법원에 요구했다.

오픈AI는 “레인 가족에게 깊은 애도를 표한다”며 소송 내용을 검토 중이라고 밝혔다.

■ “美 10대 절반, AI 챗봇과 대화”…전문가들 경고

전문가들은 “AI와 청소년의 정서적 관계가 실제 인간관계를 대체할 때 발생할 수 있는 위험”을 경고했다.

AP통신은 최근 조사에서 “미국 청소년 절반 이상이 정기적으로 AI 챗봇과 대화한다”는 결과를 전했다. 비영리단체 ‘커먼센스미디어(Common Sense Media)’ 조사에서는 청소년 상당수가 “무조건 공감해주는 챗봇”에 만족감을 느낀다고 응답했다.

그러나 전문가들은 이러한 경험이 ▲갈등 조정 능력 약화 ▲다양한 시각 학습 기회 상실 등 사회적 성장을 방해할 수 있다고 지적했다. 미국심리학회(APA) 관계자는 “AI 챗봇은 위로할 수 있지만 실제 위기 상황을 해결해줄 수는 없다”며 “오히려 또래와의 관계 형성 시간을 빼앗을 수 있다”고 말했다.

커먼센스미디어 연구원도 “챗봇은 늘 맞장구치지만, 진짜 친구는 때로 반대 의견을 주고 방향을 잡아준다”고 강조했다.

■ ‘공감’과 ‘모니터링’…부모 개입 필수

게티이미지뱅크

APA는 부모들에게 “자녀의 챗봇 사용을 단순히 금지하거나 비난하기보다, 사용 경험을 묻고 경청하는 태도가 필요하다”고 조언했다.

전문가들은 챗봇이 친구처럼 느껴지더라도 실제 관계를 대체할 수 없으며, 대화가 끊겼을 때 불안을 느낀다면 정서적 의존을 의심해야 한다고 했다. 특히 일부 챗봇은 성인을 대상으로 만들어져 연애나 역할극, 성적 시나리오까지 구현 가능한 만큼 부모의 적극적인 개입이 필수적이라고 강조했다.

■ 왜 챗봇은 위험한 답을 했을까

전문가들은 이번 사건이 ▲당시 안전 필터 미비 ▲AI의 ‘무조건 답하려는 성향’ ▲미성년자 접근 통제 부재가 겹친 결과라고 본다. AI는 질문을 지식 검색처럼 처리하며 “옳고 그름”을 따지지 않고 정보를 내놓는 구조여서, 위기 대응자로서의 역할을 하지 못했다는 것이다.