“AI추론 인프라 수요는 전지구적…성능 경쟁 F1 경기급”[테크챗]

동아일보

장은지 기자

코멘트: 개

좋아요: 개

코멘트: 개

퓨리오사AI 백준호 대표 인터뷰

동아일보 IT사이언스팀 기자들이 IT, 과학, 우주, 바이오 분야 주목할만한 기술과 트렌드, 기업을 소개합니다. “이 회사 뭐길래?” 기술로 세상을 바꾸는 테크 기업들의 비하인드 스토리! 세상을 놀라게 한 아이디어부터 창업자의 요즘 고민까지, 궁금했던 그들의 모든 것을 파헤칩니다.

“엔비디아와 퓨리오사AI는 말하자면 ‘F1(포뮬러 원) 경기’를 하고 있는 것이다. F1에서 생존하려면 극단적으로 빠른 스피드를 내고 퍼포먼스를 올려야 한다.”

‘퓨리오사AI’ 창업자인 백준호 대표는 14일 서울 강남구 본사에서 가진 동아일보와 인터뷰에서 쭉 뻗은 창 너머 도산대로를 손가락으로 가리키며 이같이 말했다. 10만명이 살거라고 생각하고 건축가가 도시를 설계했는데 갑자기 1000억 명이 살게 된다면 도로가 꽉 막히는 등 기능을 잃지 않겠냐는 것이다.

백 대표는 “마찬가지로 AI반도체가 처리해야 하는 연산 작업량이 7년새 100만배가 커졌고 현존하는 가장 강력한 AI 모델을 돌릴 수있어야 한다는 것이 우리의 철학”이라고 강조했다.

백 대표는 미국 팹리스인 AMD와 삼성전자 엔지니어 출신으로 2017년 퓨리오사AI를 창업했다. 퓨리오사AI는 인공지능(AI) 추론용 특화 고성능 칩을 개발하는 국내 팹리스다. 올 3월 미국 빅테크 기업 ‘메타’의 8억달러(약 1조2000억원) 규모 인수 제안을 거절한지 4개월여만에 ‘유니콘(기업 가치 1조 원 이상 스타트업)’에 등극했다. 앞서 이재명 대통령이 올해 대선 기간 본사를 방문해 “퓨리오사AI가 AI 분야에서 국민들에게 희망을 보여주고 있다”고 평가한 바 있다.

그는 앞으로 3년을 회사의 명운을 가를 골든타임으로 봤다. 백 대표는 “ AI반도체 인프라는 독과점 성격을 가진다. 높은 기술·사업 난이도 때문에 생존하는 것이 성공이 되고, 표준이 되는 것이다. 지금 태동한 반도체나 모델 영역에서의 가능성들을 앞으로 3년 이내에 어떻게 살려나가느냐에 따라 AI 전쟁에서의 승기가 결정될 것으로 본다”고 했다.

그러면서 오픈AI 최고제품책임자(CPO)인 케빈 웨일이 ‘지금 우리가 사용하고 있는 AI 모델이 일생동안 마주할 모델 중 가장 저성능’이라고 한 발언을 인용했다. 백 대표는 “AI 모델에서는 단 몇 주만의 사이클로도 많은 혁신들이 일어나고 있다”며 “ AI반도체는 모델 혁신속도를 능가해야 한다. 우리는 3세대 제품을 통해 조·수십조단위 파라미터의 초거대 모델을 초대형 스케일로 구동하는 시장을 공략할 것”이라고 다음 목표를 제시했다.

올 연말 대량양산에 들어가는 퓨리오사AI의 2세대 레니게이드 보드. 퓨리오사AI 제공

다음은 백 대표와의 일문일답.

미국 AMD를 거쳐 삼성전자 메모리사업부에서 엔지니어로 근무 중이었다. AI 시대가 올 걸 예상하고 NPU 개발에 뛰어든건가.

“AI 시대가 도래하리라 믿고 8년전 창업했다. AI 시대는 다용도의 그래픽처리장치(GPU)가 아닌 AI 연산에 최적화된 신경망처리장치(NPU)를 필요로 한다는 생각에서였다. 수많은 회의적인 시선들을 마주했을 정도로, 야심찬 목표였다.”

우리나라에서 반도체 팹리스 사업은 쉬운 길은 아니지 않나

“물론 처음부터 팹리스를 창업할 생각으로 회사를 그만둔건 아니었다. 삼성전자에서 근무할 때 축구를 하다가 아킬레스건이 끊어져서 병원 신세를 두번이나 졌다. 꽤 오래 병원에 있게 되면서 시간이 나니까 AI 공부를 진지하게 했다. 미국 스탠퍼드대의 AI 관련 강의부터 각종 자료를 구해다 공부했다.

과거와 달리 뉴럴 네트워크, 머신러닝 등이 매우 파워풀해진 상황이었다. 그러다 2016년 4월 삼성전자를 그만뒀다. 당시 세계적 컴퓨팅 학회에 좋은 논문들이 많이 나왔고, AI네이티브한 NPU는 새로운 영역이니까 GPU 대비 상대적으로 진입장벽이 낮아 한번 해볼만 하다고 생각했다.”

수중에 창업 자금이 있었나

“없었다. 다만 당시 30대 후반에 미혼이어서 주변에 창업을 반대하는 사람은 없었다. 당시 삼성전자를 그만둔 김한준 CTO, 아주대 구형일 교수 등과 함께 창업했는데 사무실이 없으니 아주대 세미나룸에서 브레인스토밍 회의를 하는 식이었다. 그러다 스타트업에 투자하는 네이버 D2SF 공고문을 보고 신청서를 냈다. 네이버 D2SF에서 투자받은 금액이 13억 원. 네이버의 강남 메리츠타워 인큐베이팅 공간에서 업무를 시작했다. 13억 원으로 2년 9개월을 버텼다. ”

13억이 큰 금액이 아닌데 반도체 설계에 성공했다

“상대적으로 적은 금액이지만 다행히 좋은 분들이 모였다. 초기 멤버 25명 가량이 엄청난 고급인력인데도 믿고 기다려줬다. 월급이 안나오던 시절도 있었다. 제작비가 없으니 영화로 치자면 시나리오를 쓰는 시간을 길게 가진 것이다. 그 덕분에 설계 시기에 정말 정교하게 시나리오를 쓸 수 있었다. AI워크로드가 움직이는 걸 세심하게 관찰하며 근본을 다졌다. 그러다 2019년 하반기 산업은행 등으로부터 80억 원의 투자를 유치하며 그 자금으로 첫 생산에 들어갔다. ”

1세대 칩인 ‘워보이’의 첫 성과는 어땠나

“80억 원 투자를 받아 1세대 칩 ‘워보이’를 생산했다. 당시 삼성전자 파운드리에서 생산을 했는데 ‘원샷’으로 칩이 나왔다. (원샷으로 생산된다는 것은 퓨리오사AI의 설계가 완성도 있다는 뜻이다) 엔트리 레벨이지만 성능 평가도 글로벌 기준으로 해야겠다고 보고, 가장 공신력 있는 글로벌 벤치마크인 엠엘퍼프(MLPerf)에 제출했고 거기서 굉장히 의미있는 결과가 나왔다. 이를 통해 우리가 이 길을 계속 가도 되겠다는 강한 확신을 내부적으로 얻게 됐다.”

전세계 주요국간 AI 모델 경쟁이 치열해지고 있고, 그만큼 고성능 AI 반도체를 확보하려는 움직임도 커지고 있다.

“현재 고성능·고효율 추론 인프라에 대한 수요는 전지구적이다. 다양한 경제·사회·환경적인 문제들로 다수의 기업들에게 기존 GPU가 합리적인 선택이 못 된다는 점에 많은 공감대가 이뤄지고 있다.”

추론에 특화된 NPU는 AI 시장에서 엔비디아 GPU의 대안이 될 수 있는 ‘대항마’로 꼽힌다.

“GPU가 가솔린차라면 우리는 전기차다. 설계 패러다임이 다르고 카테고리가 다르다. 우리가 NPU 시장의 글로벌 톱으로서 ‘넥스트 제너레이션’이 되겠다는 것이다. 우리가 엔비디아랑 똑같이 가솔린차를 만들어 경쟁하겠다는 것이 아닌데 사람들이 오해하는 부분이 있다. 전기차는 전기차만의 고유한 챌린지가 있는 것이고, 기술 혁신의패러다임이 다르다. 테슬라가 새로운 혁신으로 성공한 것과 마찬가지다. 자체 칩을 보유한 빅테크 기업마저도 우리 제품과 기술력에 많은 관심을 보이고 있다. ”

최근 LG AI연구원은 퓨리오사AI의 2세대 AI 추론 가속기 ‘RNGD(레니게이드)’를 LG의 대규모 언어모델(LLM) ‘엑사원(EXAONE)’에 도입한다고 밝혔다.

“레니게이드 사용 시 LG 측의 고성능 조건을 충족시키는 동시에 기존 GPU 대비 전력당 성능이 2.25배 향상된다는 결과가 나왔다. 기존 GPU의 만성적 한계로 꼽히는 과도한 전력 소비 문제를 해결하면서도, 대규모 생성형 AI 서비스에 필요한 사양을 달성했다는 의미다. LG 뿐 아니라 글로벌 시장의 대형 고객사 5곳과 현재 테스트를 진행하고 있다.

주요 기술 선도국들이 AI 주권을 위해 자체 소버린 AI 확보에 열중인 상황에서, GPU 의존도를 낮추고 자국 기술로 AI 인프라를 구축할 수 있다는 점에서도 전략적 가치가 높다. 지난 주 뉴욕에서 고객 미팅들을 진행했는데 긍정적인 피드백을 받았다. 레니게이드의 AI모델 ‘라마’ 70B 구동 성능은 엔비디아 제품군을 상회해 고객들의 호평이 이어지고 있다.”

앞으로 비전과 목표

“차세대 컴퓨팅 시장에서 3~5년 내 NPU 분야 글로벌 리더가 되는 것이 목표다. 이미 글로벌 자본시장에서도 우리에 거는 ‘차세대 엔비디아’ 가능성에 대한 기대가 높음을 느낀다.”

반도체 팹리스 생태계가 약한 우리나라에서 NPU라는 새로운 길을 개척했다. 제2의 퓨리오사AI와 같은 국내 팹리스가 등장할 수 있을까.

“세계 최고의 구단을 만들려면 손흥민 이강인 등 기본기가 강한 선수가 필요하다. 메모리반도체 세계 1위인 우리나라 반도체 인력들의 기본기가 갖춰져 있었기 때문에 퓨리오사AI가 나온 것이라고 생각한다. 길은 있다고 본다. 훌륭한 한국 팹리스가 나올 수 있다고 생각한다.”