간단 문의는 저렴한 AI모델이 처리
복잡한 업무만 고성능 모델에 맡겨
LG유플러스가 내년부터 기업의 인공지능(AI) 운영비를 줄이는 사업을 추진하기로 했다. 간단한 고객 문의는 저렴한 모델에, 복잡한 업무는 고성능 모델에 맡기는 방식이다.
LG유플러스는 이 같은 사업 계획과 사내 시험 결과를 15일 공개했다. 회사는 사내 개발자들의 AI 사용량이 3배 이상 늘자 기존 코딩 도구에 회사의 자체 AI를 연결해 코드를 짜도록 했다. 그 결과 통상 사용하는 AI 모델보다 코딩 비용이 약 90% 줄었다. 질문에 맞춰 모델을 골라 쓰는 별도 시험에선 일반 질문 처리 비용이 25% 이상 줄었다.
반도체를 작업 특성에 맞춰 조합하는 ‘칩 믹스’ 전략도 추진한다. 계산이 많은 질문 처리는 엔비디아 칩에, 데이터를 빠르게 읽어야 하는 답변 생성은 AMD 칩에 맡겨 비용을 낮추는 식이다. 국내 퓨리오사AI 반도체로 가벼운 모델을 구동하는 방안도 검증 중이다.
LG유플러스는 이 같은 비용 절감 기술을 바탕으로 내년부터 기업 대상 사업을 추진할 계획이다. 이상엽 LG유플러스 최고기술책임자(CTO)는 “기업 고객이 필요한 성능을 더 적은 비용으로 확보하도록 돕겠다”고 말했다.
전혜진 기자 sunrise@donga.com
© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지
댓글 0