오픈AI, ‘자녀 보호’ 미성년 전용 챗GPT 이달 출시

18세 미만 확인되면 자동 안내
선정적-폭력적 콘텐츠 등 차단
부모-자녀 계정 연결 기능도 강화

크게보기

AP 뉴시스

오픈AI가 자녀 보호 기능이 포함된 18세 미만 전용 챗GPT를 이달 말 출시할 예정이라고 16일(현지 시간) 밝혔다.

오픈AI는 사용자가 미성년자인 것으로 확인되면 자동으로 연령에 맞는 챗GPT 환경으로 안내할 방침이다. 해당 환경에서는 선정적이거나 폭력적인 콘텐츠가 차단되고, 심각한 위기 상황에서는 법 집행 기관이 개입할 수 있다.

더불어 오픈AI는 사용자의 연령 예측 정확도를 높이는 시스템을 개발 중이라고 밝혔다. 연령 정보가 불확실할 경우 챗GPT는 기본적으로 18세 미만 사용자 경험으로 설정된다.

부모의 자녀 보호 기능도 강화한다. 부모는 자신의 챗GPT 계정을 자녀의 계정과 연결하고 자녀가 챗봇을 사용할 수 없는 ‘블랙아웃’ 시간도 설정할 수 있다. 또 자녀가 심각한 정신적 고통을 겪을 경우 알림을 받을 수 있다. 오픈AI는 대화 도중 청소년이 자살 충동을 드러낼 경우 부모에게 연락을 시도하고, 불가능할 경우 당국에 직접 신고한다는 방침이다.

오픈AI의 이 같은 조치는 최근 미국 연방거래위원회(FTC)가 오픈AI를 포함한 빅테크를 대상으로 AI 챗봇이 어린이와 청소년에게 미치는 잠재적 위험에 대한 조사를 시작한 이후에 나왔다. 앞서 FTC는 이들 기업이 “챗봇의 안전성을 평가하기 위해 어떤 조치를 취했는지 파악할 필요가 있다”며 자료 요청과 함께 조사를 개시했다.

샘 올트먼 오픈AI 최고경영자(CEO)는 이날 블로그에 “(18세 미만 전용 챗GPT는) 어려운 결정이지만, 전문가들과 논의한 결과 이것이 최선이라고 생각한다”며 “프라이버시, 자유, 안전은 상충할 수밖에 없는 가치로, 전문가들과 논의한 끝에 최선의 방안을 찾았다”고 설명했다.