부모계정 연결-얼굴인식… 빅테크, 안전 가드레일 높인다

자녀 보호-유명인 사칭 차단 등
이용자 권리 침해 줄잇자 조치

빅테크들이 자사 서비스와 관련해 ‘안전 가드레일’ 강화에 나섰다. 서비스 이용 과정에서 이용자의 권리나 안전이 침해되는 상황이 잇따르자 조치에 나선 것이다.

29일(현지 시간) 오픈AI는 자사 블로그를 통해 ‘자녀 보호 기능(부모 관리 기능)’을 출시한다고 밝혔다. 해당 기능은 부모가 청소년 자녀에게 계정 연결 초대장을 보내 자녀가 수락하면 이용할 수 있다. 부모와 청소년 계정이 연결되면 청소년 계정에는 추가적으로 콘텐츠 보호 기능이 자동 적용돼 연령에 맞는 환경이 유지된다.

특히 청소년 챗GPT 이용자가 고통을 겪는 징후가 발견되면 이메일과 문자메시지, 휴대전화 알림 등을 통해 부모에게 알려준다. 또 부모가 자녀의 음성 모드나 이미지 생성 기능 사용 여부를 결정할 수 있고, 특정 시간대의 챗GPT 사용을 차단할 수 있다.

다만 오픈AI는 “자녀 보호 기능은 10대 자녀를 온라인에서 안전하게 보호하는 방법 중 하나일 뿐”이라며 “가족 내에서 책임감 있는 인공지능(AI) 사용 관련 대화를 나누거나 규칙을 정하는 것이 가장 효과적일 것”이라고 밝혔다.

한편 메타는 페이스북 내에서 유명인을 사칭한 계정과 광고를 효과적으로 탐지하고 차단하기 위해 미국에 이어 한국과 영국, 유럽연합(EU)에 ‘얼굴 인식 기술’을 도입한다. 페이스북 내 사칭 광고는 메타의 자동화 시스템을 통해 먼저 탐지되는데, 광고 이미지가 의심스럽다고 판단되면 얼굴 인식 기술을 활용해 광고 속 얼굴과 실제 유명인의 페이스북 및 인스타그램 프로필 사진을 비교한다. 이후 사칭으로 판별되면 해당 광고를 즉시 차단한다. 이 과정에서 생성된 얼굴 데이터는 비교 직후 삭제된다.