벤처캐피털 더벤처스가 그래픽처리장치(GPU)와 신경망처리장치(NPU) 등 서로 다른 인공지능(AI) 반도체를 함께 활용해 AI 추론 비용을 낮추는 기술을 개발하는 애니브릿지에 투자했다. 애니브릿지는 GPU 중심의 기존 인프라와 비교해 추론 비용을 40~70% 절감하는 것을 목표로 하고 있다.
더벤처스(대표 김철우)는 AI 인프라 소프트웨어 스타트업 애니브릿지(대표 박종세)에 시드 투자를 완료했다고 22일 밝혔다. 투자 금액은 공개하지 않았다. 애니브릿지는 더벤처스의 추천을 받아 중소벤처기업부의 기술창업 지원 프로그램인 팁스(TIPS)에도 선정됐으며, 지난 21일 협약을 체결했다.
애니브릿지는 한국과학기술원(KAIST) 전산학부 박종세·권영진 교수가 공동 창업한 기업이다. AI 반도체 기업 삼바노바 공동창업자인 쿤레 올루코툰 미국 스탠퍼드대 교수가 자문에 참여하고 있으며, KAIST 출신 엔지니어들이 기술 개발을 주도하고 있다.
AI 추론은 학습을 마친 AI 모델이 이용자의 질문이나 요청에 답하는 과정이다. 생성형 AI 서비스의 이용량이 늘수록 추론에 필요한 반도체와 전력, 서버 운영 비용도 증가한다. 특히 대규모언어모델(LLM)을 상시 운영하는 기업에는 모델 개발 비용뿐 아니라 이용자 요청 한 건을 처리하는 데 드는 비용도 중요한 과제가 되고 있다.
애니브릿지(AnyBridge) 기술모식도. KAIST
애니브릿지는 GPU와 NPU, 지능형 메모리 반도체(PIM) 등 서로 다른 가속기를 통합적으로 활용하는 ‘멀티 가속기 런타임’ 소프트웨어를 개발하고 있다. AI 모델의 크기와 응답 속도, 비용 등을 고려해 작업에 적합한 반도체를 자동으로 배정하는 방식이다.
GPU는 다양한 연산을 처리할 수 있는 반면, NPU는 AI 연산에 특화된 반도체다. PIM은 메모리 내부에서 연산을 수행해 데이터 이동에 따른 부담을 줄이는 기술이다. 서로 다른 반도체의 특성을 활용하면 작업에 따라 비용과 전력 사용을 최적화할 여지가 있지만, 이를 하나의 서비스 환경에서 효율적으로 운영하려면 통합 소프트웨어가 필요하다.
애니브릿지는 이러한 기술을 통해 GPU만 사용하는 인프라보다 AI 추론 비용을 40~70% 낮추는 것을 목표로 한다. 오픈AI, 구글 제미나이, 앤트로픽 클로드의 응용프로그램 인터페이스(API)와 호환되도록 설계해 기업이 기존 개발 방식을 크게 바꾸지 않고 도입할 수 있도록 할 계획이다.
기술 기반은 박종세 대표 연구팀이 오픈소스로 공개한 LLM 서비스 시뮬레이터 ‘LLMServingSim’이다. 해당 연구는 2024년 국제 워크로드 특성화 학회(IISWC)에서 최우수 논문상을 받았으며, 후속 연구인 ‘LLMServingSim 2.0’도 올해 국제 시스템 성능 분석 학회(ISPASS 2026)에서 최우수 논문상을 수상했다.
애니브릿지는 카카오 AI 육성 프로젝트에서도 대상을 받았으며, 지난 9월에는 국내 AI 반도체 기업 퓨리오사AI·하이퍼엑셀과 NPU 기반 기업용 AI 에이전트 플랫폼 공동 개발을 위한 업무협약을 체결했다.
팁스 선정에 따라 애니브릿지는 향후 2년간 최대 8억 원의 연구개발(R&D) 자금을 지원받을 수 있다. 투자금과 정부 지원 자금은 AI 인프라 소프트웨어와 기업용 AI 에이전트 개발, 고객사 실증에 활용될 예정이다.
다만 목표로 제시한 비용 절감률이 실제 기업 환경에서도 구현되는지는 향후 실증을 통해 확인해야 한다. 반도체 구성과 AI 모델의 종류, 이용량 등에 따라 비용 절감 효과가 달라질 수 있기 때문이다.
더벤처스 김철우 대표는 “생성형 AI를 실제 서비스에 쓰는 기업이 늘면서 모델 성능 못지않게 운영 비용 부담도 커지고 있다”며 “애니브릿지는 GPU에 집중된 LLM 구동 환경을 다양한 AI 반도체로 확장할 수 있는 팀인 만큼 기업의 AI 도입 비용을 크게 낮출 것으로 기대한다”고 말했다.
박종세 애니브릿지 대표는 “GPU 외에도 다양한 AI 반도체가 나오고 있지만 기업이 이를 함께 활용할 수 있는 소프트웨어는 아직 초기 단계”라며 “2027년 정식 제품 출시를 시작으로 기업이 하드웨어 제약 없이 LLM 서비스에 집중할 수 있는 통합 운영 기준을 만들겠다”고 밝혔다.
애니브릿지는 올해 안에 고객사 2~3곳을 대상으로 시범 운영을 추진하고 카카오클라우드와 개념검증(PoC)을 진행할 계획이다. 이를 통해 클라우드 환경에서의 성능과 운영 안정성을 확인한 뒤 2027년 정식 제품을 출시한다는 목표다.
댓글 0