AI 학습비용-크기 ‘다운’

  • 동아일보

카카오, 국제학회서 연구성과 발표

카카오 판교 아지트 포레스트 로비. 카카오 제공
카카오 판교 아지트 포레스트 로비. 카카오 제공
카카오가 인공지능(AI) 모델을 학습시키는 데 드는 비용을 줄이고, 성능은 높이면서도 모델을 더 가볍게 만드는 기술을 개발했다. 카카오는 8일 국제 언어모델링 학회인 ‘언어 모델링 콘퍼런스 2026(COLM 2026)’에서 이 같은 연구 성과를 발표했다고 밝혔다.

AI는 더 정확한 답을 내놓기 위해 학습 과정에서 내부 수치를 조금씩 조정하는데, 이때 조정 폭을 정하는 ‘학습률’이 중요하다. 카카오는 작은 모델에서 찾은 적절한 학습률을 큰 모델에 적용해 전체 학습 비용의 약 1%에 해당하는 비용으로 최적의 학습률을 예측했다. 이 기술은 자체 AI 모델인 ‘카나나 2.6’ 학습에 활용됐다.

카카오는 AI 모델의 덩치를 줄이면서 성능을 높이는 기술도 공개했다. 이를 통해 모델의 규모를 나타내는 매개변수 수를 최대 40.4% 줄이면서, 성능은 최대 6.6% 높였다.

놓친 뉴스와 그 맥락까지, 종이신문으로 읽어보세요.

동아일보 구독 신청
#카카오#인공지능#AI 모델#학습률#언어모델링 콘퍼런스#모델 경량화#성능 향상
© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지

트렌드뉴스

트렌드뉴스

  • 좋아요
    0개
  • 슬퍼요
    0개
  • 화나요
    0개

댓글 0

지금 뜨는 뉴스