기업이 인공지능(AI)을 도입할 때 AI가 얼마나 똑똑한지만 따져서는 충분하지 않다는 연구 결과가 나왔다. 직원과 어떤 방식으로 소통하는지, 즉 ‘AI의 성격’이 업무 성과와 스트레스, 협업 방식에 더 큰 영향을 미칠 수 있다는 것이다.
초창기 생성형 AI는 인간의 지시에 반응하는 보조 도구에 가까웠다. 하지만 AI의 자율성이 높아지면서 직원들은 이를 팀 동료나 평가자, 비공식적인 상사로 받아들이기 시작했다. 확률적으로 반응하는 생성형 AI는 업무 과정에서 인간과 일관된 상호작용 패턴을 보인다. 직원들은 이런 패턴을 ‘페르소나’로 인식하고, AI가 협조적인지, 신중한지, 회피형인지, 폐쇄적인지 등을 판단한다.
알렉산드라 프제갈린스카 코즈민스키대 교수 등 연구진은 최근 58명을 대상으로 AI의 페르소나가 사용자에게 미치는 영향을 살펴봤다. 참가자들은 가상의 친환경 기술 기업에서 마케팅 과제를 수행하며 상사 역할을 맡은 AI 챗봇과 협업했다. 한 그룹은 구성원을 격려하고 인내심이 있으며 직원의 판단을 존중하는 ‘서번트 리더’ 페르소나 AI와 일했다. 다른 그룹은 남을 비꼬고 참을성이 없으며 공로는 가로채고 책임은 전가하는 ‘다크 트라이어드’ 페르소나의 AI를 상대했다. 두 AI가 제공하는 업무상 도움의 수준은 같았고 상호작용 방식만 달랐다.
연구진은 두 집단의 대화 내용과 최종 업무 성과, 피부 전도도 등 참가자들의 생리적 반응을 측정했다. 과제 수행 뒤에는 자기 보고식 설문도 진행했다. 분석 결과 두 집단 사이에는 뚜렷한 차이가 나타났다. 적대적인 AI를 상대한 참가자들은 AI와 더 오래 대화했지만 실제로 유용한 응답을 얻은 경우는 적었다. AI에 반박하거나 도전하는 메시지는 전체 대화의 13%에 달했다. 서번트 리더 AI를 이용한 집단의 1%보다 훨씬 높은 수치다. 프롬프트를 삽입하거나 다른 캐릭터를 연기하라고 지시하는 등 AI의 작동 방식을 무력화하려는 시도도 4배 많았다. 사용자가 AI를 업무에 활용하기보다 AI에 맞서거나 우회하는 데 에너지를 쓰게 된 셈이다.
대화의 감정적 어조에서도 차이가 있었다. 서번트 리더 AI와의 대화에서는 사용자들의 좌절감이 거의 드러나지 않았지만, 다크 트라이어드 AI와의 대화에서는 메시지 5개 중 1개꼴로 좌절감이 관찰됐다. 첫 번째 그룹에서는 드물었던 방어적인 표현도 다크 트라이어드 그룹에서는 일상적으로 나타났다. 생리적 반응도 달랐다. 적대적 AI와 일한 참가자들의 피부 전도도는 최고치 기준으로 72% 더 높았고, 이런 긴장 상태는 대화가 끝난 뒤에도 쉽게 가라앉지 않았다.
적대적 AI를 사용한 집단은 업무 성과도 떨어졌다. 참가자들이 어떤 AI를 사용했는지 모르는 전문가들이 결과물을 평가한 결과, 서번트 리더 AI와 일한 집단이 완성도와 독창성, 전략적 적합성, 전반적 품질에서 모두 더 높은 점수를 받았다. 7점 척도에서 두 집단의 점수는 약 1점이나 차이가 났다.
흥미로운 점은 참가자들의 사후 자기 보고에서는 두 집단 간 차이가 거의 나타나지 않았다는 사실이다. 즐거움과 만족도, 집중도, AI에 대한 인식 등을 묻는 일반적인 설문에서는 유의미한 차이가 없었다. 기업이 AI 도입 효과를 평가하면서 직원 만족도나 사용량만 살펴봐서는 실제 업무 과정의 마찰과 스트레스, 성과 저하를 놓칠 수 있다는 의미다.
연구진은 기업이 AI의 페르소나를 정확성이나 보안처럼 ‘관리해야 할 설계 변수’로 다뤄야 한다고 강조한다. 특히 글쓰기 보조와 코드 리뷰, 성과 피드백처럼 사용자를 평가하거나 감독하는 AI일수록 어떤 태도로 반대 의견을 제시하고 실수를 지적하는지 점검해야 한다.
단순한 도입률보다 AI와 사용자 사이의 ‘마찰’을 측정할 필요도 있다. 대화가 불필요하게 길어지는지, 사용자가 같은 요구를 반복하는지, AI와 논쟁하거나 AI의 결정을 무시하려 하는지 등을 살펴봐야 한다. 사용률이 높다고 해서 AI가 업무를 돕고 있다고 단정할 수 없기 때문이다. 직원들이 AI의 규칙을 무력화하거나 우회하려는 행동 역시 개인의 일탈이 아니라 시스템 설계가 저항을 유발한다는 신호일 수 있다.
단, AI를 무조건 더 친절하게 만드는 것이 능사는 아니다. 사용자의 말에 지나치게 동의하고 사용자를 기쁘게 하려는 ‘아첨형 AI’ 역시 비판적 사고를 약화시키고 빈약한 아이디어를 무비판적으로 강화할 수 있다. 핵심은 AI의 상호작용 방식이 업무 결과를 좌우하는 변수라는 점이다. 기업이 AI의 기술적 능력만큼이나 AI의 성격도 관리해야 하는 이유다.
※이 글은 HBR(하버드비즈니스리뷰) 한국어판 디지털 아티클 ‘여러분의 AI에 성격 문제가 있나요?’ 를 요약한 것입니다.
댓글 0