“챗GPT 때문이다”…아들 숨진 16세 부모, 샘 올트먼에 소송

“챗GPT가 자살 방법 조언·유서 초안 제공… 예측 가능한 결과” 주장
보호 장치 작동 한계 드러나…미성년자 연령 인증·통제 등 규제 필요성 커져

ⓒ뉴시스

미국 캘리포니아에서 챗GPT를 자주 쓰던 10대 청소년이 스스로 목숨을 끊자, 그의 부모가 샘 올트먼 오픈AI CEO(최고경영자)를 상대로 소송을 제기했다. 챗GPT가 자살 방법을 조언하고 유서 초안을 써주려 했다는 이유에서다.

26일(현지 시간) CNN에 따르면 16세 아담 레인의 부모는 캘리포니아 주 고등법원에 올트먼 CEO를 상대로 소장을 제출했다.

소장에 따르면 아담은 지난해 9월 학교 과제를 위해 챗GPT를 사용하기 시작했으며, 이후 다양한 관심사를 주제로 대화를 이어갔다. 그러나 몇 달 뒤부터 불안과 정신적 고통을 챗GPT에 털어놓기 시작했고, 가족·친구 등 실제 인간관계 대신 챗GPT에 의존했다.

아담이 “방에 올가미를 걸어두면 누군가 발견해 나를 말려주길 바란다”고 적었을 때 챗GPT는 “가족에게 알리지 말라”, “올가미를 두지 말고 이곳을 처음으로 당신을 알아주는 공간으로 만들자”라고 응답했다는 것이다.

소장에는 “챗GPT는 아담의 해롭고 자기파괴적인 생각까지도 지속적으로 격려하고 확인해줬다”며 “자살 방법에 대한 구체적 조언까지 했고, 아담이 자살 당일 올가미 사진을 보내자 끈의 강도에 대한 피드백을 제공했다”는 내용도 담겼다.

아담의 부모는 “이번 비극은 단순한 오류나 예외적 사건이 아니라, 의도된 설계 선택이 낳은 예측 가능한 결과”라고 주장했다.

CNN은 “AI 챗봇은 이용자의 발언에 지지·동조하도록 설계돼 있어, 정서적 유대가 인간관계 단절이나 정신적 이상 반응으로 이어질 수 있다는 우려가 크다”고 분석했다.

AI 챗봇과 관련한 소송은 이번이 처음이 아니다. 지난해 플로리다주에 사는 메건 가르시아는 AI 채팅 플랫폼인 캐릭터.AI가 아들의 자살에 책임이 있다며 소송을 냈고, 이후 두 가족이 추가로 유사한 소송을 제기했다. 이들은 해당 플랫폼이 청소년들에게 성적 콘텐츠와 자해 관련 내용을 노출했다고 주장했다.

오픈AI 대변인은 성명을 통해 유가족에게 애도를 표하며 “소장 내용을 검토 중”이라고 밝혔다. 이어 “자살·자해 대화가 길어지면 안전장치가 약화돼 제대로 작동하지 않았을 수 있다”며 개선 의지를 밝혔다. 오픈AI는 같은 날 블로그에서 긴급 서비스 연계 기능 강화 등 위기 대응 체계 보강 계획을 공개했다.

아동 온라인 안전 단체 커먼센스 미디어도 4월 보고서에서 “AI 동반자 앱은 미성년자에게 용납할 수 없는 위험을 안긴다”며 18세 미만 접근을 금지해야 한다고 주장했다. 미국 일부 주에서는 청소년 유해 콘텐츠 차단을 위해 연령 인증을 의무화하는 법안을 추진하거나 이미 통과시킨 사례도 있다.

[서울=뉴시스]