오늘날 조직 내 혁신팀은 대부분 동일한 인공지능(AI) 모델과 유사한 프롬프트를 활용해 업무를 한다. 그러나 성과는 엇갈린다. 어떤 팀은 창의적인 아이디어를 쏟아내지만, 다른 팀은 마치 한 사람이 내놓은 듯 획일적이고 기억에 남지 않는 아이디어만 생산한다.
미국 하버드대, 펜실베이니아대 와튼스쿨, 노스웨스턴대, 컬럼비아대 소속 연구진은 최근 생성형 AI와 혁신에 관한 실증연구들을 종합적으로 검토했다. 왜 같은 AI 모델을 사용했는데도 혁신을 가로막는 병목 현상이 생기는지 살펴본 것이다. 그 결과 의도적이고 신중한 재설계 없이 생성형 AI가 단순하게 사용될 경우 혁신의 병목이 오히려 심해질 수 있는 것으로 나타났다. 원인은 기술 자체보다 이를 활용하는 인간에 있었다.
생성형 AI는 혁신의 각 단계마다 장애물을 키울 수 있다. 먼저 아이디어 구상 단계에서 별다른 설계 없이 거대언어모델(LLM)과 함께 브레인스토밍을 하면 두 가지 현상이 동시에 나타난다. 모델 자체가 통계적으로 전형적인 답변을 내놓고, 사람들은 그 전형적인 답변에 생각이 고착된다. 유사한 학습 데이터를 기반으로 하는 생성형 AI 모델을 쓰다 보면 서로 다른 기업의 팀들도 비슷한 아이디어에 도달하기 쉽다. 개인의 생산성은 높아지더라도 집단 전체의 아이디어 다양성은 낮아질 수 있다는 뜻이다. AI가 작성한 초안을 사람이 더 대담하고 독창적인 방향으로 수정하는 방법도 있다. 하지만 일단 AI가 처음 제시한 아이디어에 생각이 고착되면 “좀 더 폭넓게 생각하라”는 주문만으로는 벗어나기 어렵다.
둘째, 심사 단계에서 생성형 AI는 매끄럽게 정리된 아이디어를 선호하는 편향을 강화할 수 있다. 독창적인 아이디어는 위험이 크고 시장 진입도 어려워 보이기 때문에 심사위원회는 무의식적으로 안전하고 익숙한 제안에 더 높은 점수를 준다. AI가 만든 제안서는 구조적으로 유창하고 잘 구성돼 있다. 이런 유창성은 종종 높은 품질로 오인된다.
셋째, 소비자를 이해하는 단계에서 생성형 AI는 조사를 빠르게 해주지만 실제 소비자 답변의 진정성을 떨어뜨릴 수 있다. 가령 AI로 소비자 반응을 시뮬레이션하면 가격 변동의 의미를 잘못 해석하곤 한다. 같은 제품의 가격이 올랐을 뿐인데도 이를 품질이 더 좋은 프리미엄 제품이라는 단서로 받아들이는 것이다.
실제 사람들의 행동정보를 바탕으로 구축한 AI 페르소나인 ‘디지털 트윈’은 이런 문제를 완화하기도 한다. 다만 현재 디지털 트윈은 소비자 반응을 예측하는 데 핵심적인 요소인 ‘비합리적인 인간 행동’을 때때로 놓친다. 소비자는 이미 지출한 매몰비용에 집착하고 다른 제품으로 바꾸는 부담을 과대평가한다. 반면 디지털 트윈은 실제 사람보다 합리적인 선택을 훨씬 더 자주 하는 경향이 있다.
마지막으로 제품이 확산되고 시장의 반응을 학습하는 단계에서는 확증편향이 강화될 수 있다. 제품이 출시되면 어떤 팀도 감당하기 어려울 만큼 방대한 피드백이 쏟아진다. AI는 분석팀이 도저히 따라잡을 수 없는 규모와 속도로 모든 소음을 흡수하고 분류하며 요약한다. 하지만 새롭게 등장하는 사용 사례나 조용히 이탈하는 특정 고객층처럼 혁신에 중요한 신호는 오히려 묻힐 수 있다. AI가 빈도 높은 의견에 더 큰 비중을 두기 때문이다.
AI가 혁신에 도움이 될지, 방해가 될지는 AI의 정교함이 아니라 병목 현상 이면에 있는 메커니즘에 의해 결정된다. 실제 경험, 비합리적인 인간 행동, 조직의 자기 이익 등이 그 예다. 나아가 AI가 아이디어 구상과 심사, 소비자 시뮬레이션 업무를 맡으면 주니어 직원들은 실전 경험을 쌓을 기회를 얻지 못한다. 결국 AI 결과물의 오류를 알아채는 직관은 키우지 못한 채, AI가 생성한 결과물을 능숙하게 다루는 데만 익숙해질 수 있다.
이런 현상이 혁신 과정 전반에 누적되면 이른바 ‘자동화의 함정’에 빠진다. 모든 업무는 빨라지지만 현실과 맞닿은 부분은 아무것도 없게 되는 것이다. 따라서 혁신팀은 업무 과정의 어느 부분에서 현실과의 직접적인 접점이 필요한지를 신중하게 판단해야 한다. 새로운 제품을 먼저 써보는 선도 사용자와 깊이 교류하고, 현장 반응 등을 조사해야 한다. 중요한 의사결정을 직접 내리고 그 결과에 책임지는 사람도 필요하다.
※이 글은 HBR(하버드비즈니스리뷰) 한국어판 디지털 아티클 ‘AI가 해결하지 못하는 혁신의 문제들’을 요약한 것입니다.
댓글 0