[DBR]AI 의인화, 잘못하면 사용자 떠난다

동아일보

코멘트: 개

좋아요: 개

코멘트: 개

美성인 800명 대상 4회 실험
파트너 AI 실패 시 이탈 증가
서번트 AI 프레이밍 효과적

인공지능(AI)을 ‘친구나 파트너’처럼 의인화하는 마케팅이 늘어나는 가운데 의인화가 오히려 역효과를 낼 수도 있다는 연구 결과가 나왔다. 중국 닝보 노팅엄대와 프랑스 툴루즈대, 캐나다 몬트리올대·콘코디아대 공동 연구팀은 미국인 800여 명을 대상으로 온라인 실험 4건을 진행했다. 참가자들에게 AI를 ‘파트너’ 또는 ‘서번트(하인)’로 인식하도록 유도한 뒤 아파트 추천, 식당 예약 등 과업의 성공과 실패를 경험하게 했다. 이후 실패 결과에 대한 자기 귀인(내 탓 인식), AI와 상호작용할 자신감(자기효능감), 향후 재사용 의도를 측정했다.

연구 결과 AI를 파트너로 인식한 소비자는 서비스 실패에 대해 더 큰 자기 책임감을 느끼는 것으로 확인됐다. 이런 경향은 사용자 행동에도 직접적인 영향을 미쳤다. 특히 AI 재사용 의도가 파트너 조건에서 유의미하게 감소한 것으로 확인됐다. AI의 서비스가 실패한 상황에서는 파트너 관계가 오히려 장기적으로 사용자 이탈을 유도할 수 있다는 점이 검증된 셈이다.

사용자가 AI를 파트너로 인식할 때 이탈률이 높아지는 이유에 대해 연구진은 ‘자기효능감 저하’를 지목했다. 서비스 실패 이후 참가자의 자기효능감을 측정한 결과 서번트형 AI 조건에 비해 파트너형 AI 조건의 점수가 낮았다. 이는 AI를 잘 다루지 못한다는 자책감이 사용자의 기술적 자신감마저 흔들 수 있음을 보여준다. 또한 자기효능감 저하는 재사용 의도 감소에도 영향을 줬다. 즉, 사용자는 단순히 AI에 실망했을 뿐만 아니라 ‘나는 AI를 충분히 활용할 수 있는 사람이 아니다’라는 인식을 가졌고 행동을 축소했다.

연구는 적절한 전략을 쓴다면 이런 부정적 반응을 완화할 수 있다는 점도 밝혔다. 서비스 실패 직후 AI가 “저는 더 나은 서비스를 제공하기 위해 학습하고 있습니다”처럼 학습 가능성을 강조하는 메시지를 제공한 조건에서는 사용자의 자기효능감과 재사용 의도가 모두 유의미하게 상승했다. 이는 AI의 실패 이후 인간처럼 감정적인 사과가 아닌 기술적 개선 가능성에 초점을 맞춘 회복 메시지가 더 효과적일 수 있다는 시사점을 준다.

연구는 AI와의 관계 설정 방식이 사용자의 자기 인식과 행동에 깊이 관여한다는 사실을 보여준다. 특히 소비자가 AI를 파트너로 인식할 경우 실패의 책임을 자신에게 돌리고 기술을 다룰 자신감을 잃게 되며 결국 재사용을 회피하는 부정적 흐름이 확인됐다. 이는 AI 기술이 인간화할수록 생기는 심리적 부담과 그 복잡성에 대한 이해의 필요성을 보여준다.

또한 연구 결과는 서비스 실패 가능성이 높은 도입 초기나 불확실성이 큰 서비스 환경에서는 AI를 무조건 친근한 동료로 포지셔닝하는 것이 사용자에게 해가 될 수 있음을 경고한다. 연구 결과를 고려했을 때 기능 중심의 서번트형 관계 설정이 실패의 책임을 사용자 외부로 옮겨 심리적 충격을 줄일 수 있다.