생성형 인공지능(AI) 붐이 시작될 무렵, 가장 희소한 자원이 무엇인지는 분명해 보였다. 바로 최첨단 모델에 대한 접근권이었다. 기업들은 GPT-4, 클로드, 제미나이와 같은 모델의 라이선스를 확보하기 위해 서둘렀다. 그러다 또 다른 제약 요소가 떠올랐다. 그래픽처리장치(GPU), 클라우드 용량, 데이터센터 공간에 대한 접근권이었다. 이제는 이 모든 것의 밑바닥에서 새로운 제약 조건이 대두되고 있다. 바로 전력이다. 희소한 것은 AI 그 자체가 아니라 이를 생산하고 전달하는 데 필요한 에너지 집약적 인프라다.
AI는 소프트웨어처럼 보이기 때문에 이런 변화를 간과하기 쉽다. 하지만 AI의 경제 구조는 점점 더 산업적인 양상을 띠고 있다. 모델은 단순한 코드가 아니라 칩과 냉각 시스템, 부지, 전력 계약 등을 필요로 한다. 국제에너지기구(IEA)의 2026년 보고서에 따르면 전 세계 데이터센터의 전력 소비량은 2025년 약 485TWh(테라와트시)에서 2030년 약 950TWh로 증가할 전망이다. 이 기간 AI 중심 데이터센터의 전력 소비량은 3배로 늘어날 것으로 예상된다.
그러나 새로운 시대의 도래가 기존 기업이 전력 기업으로 변모해야 한다는 것을 뜻하지는 않는다. 은행이나 소매업체, 제조업체, 보험사, 제약사가 발전소를 매입한다고 해서 경쟁 우위를 확보할 가능성은 거의 없다. 현실적인 목표는 에너지 부족이 운영상의 긴급 상황으로 번지기 전에 에너지 접근성 측면에서 차별화된 경쟁력을 구축하는 것이다. 이를 위해 다음과 같은 조치가 필요하다.
첫째, 에너지 집약도를 가시화한다. 대부분의 기업은 클라우드 지출과 모델 정확도, AI 도입 현황을 추적한다. 하지만 “특정 AI 워크플로에 얼마나 많은 전력이 필요한가”라는 기본적인 질문에 답할 수 있는 기업은 극소수에 불과하다. 경영진은 워크플로당 에너지 비용, 전력 공급 제약이 있는 지역의 클라우드 노출 정도, 주요 배포 환경의 냉각 및 물 사용량 추정치 등을 담은 분기별 AI 에너지 대시보드를 만들어야 한다. 예컨대 구글 클라우드의 탄소 발자국 또는 마이크로소프트 애저의 탄소 최적화와 같은 도구를 사용하면 조직은 워크로드 단위의 에너지 사용량을 추적할 수 있다.
둘째, 공급을 확보하기 전에 수요를 줄인다. 많은 기업이 업무에 필요한 수준보다 더 크고 빠르며 에너지 소비량이 많은 모델에 과도한 양의 작업을 맡긴다. 그 결과 AI 비용을 과다 지출하고 있다. 고객 서비스 요약 보고서를 작성하는 데 항상 최첨단 모델이 필요한 것은 아니다. 컴플라이언스 검색이 반드시 즉시 실행될 필요도 없다. 경영진은 AI팀에 간단한 작업에는 더 작은 모델을 배정하고, 프롬프트를 압축하고, 유연한 워크로드를 비용이 더 저렴한 지역이나 시간대로 전환하도록 요구해야 한다.
셋째, 컴퓨팅이 실행되는 위치를 재설계한다. 클라우드를 어느 지역에 둘 것인지 선택할 때 예전에는 주로 지연 시간, 규정 준수, 공급업체 아키텍처에 초점을 맞췄다. 하지만 이제는 에너지 문제도 고려해야 한다. 예를 들어 스포티파이나 H&M 등 점점 더 많은 유럽 기업이 분석 및 학습 워크로드를 더 저렴하고 탄소 배출량이 적은 전력을 제공하는 북유럽 데이터센터 지역으로 이전하고 있다.
마지막으로 최고정보책임자(CIO), 최고재무책임자(CFO), 조달책임자, 지속가능성 또는 운영책임자가 공동으로 의장을 맡는 상설 ‘컴퓨팅 및 에너지 위원회’를 구성해야 한다. 일부 기업은 이미 이 방향으로 나아가고 있다. 세일즈포스는 지속가능성 지표를 AI 개발 프로세스에 반영했으며, 마이크로소프트(MS)는 기술, 재무, 조달, 지속가능성 관련 의사결정을 연계하는 클라우드 배출량 가시화 및 지속가능성 거버넌스 도구를 제공하고 있다. 이 위원회는 공식적인 거부권을 행사할 수 있어야 한다. 이 위원회가 모델 효율성, 워크로드 유연성, 클라우드 지역의 에너지 리스크, 계약 기간을 검토하기 전에는 어떤 주요 AI 도입도 승인돼서는 안 된다.
전력이 새로운 제약 요인으로 부상하면서 AI 전략을 구상하는 리더들은 에너지를 단순한 배경 요소로 취급하는 태도에서 벗어나야 한다. 컴퓨팅 자원을 측정하고 절감하며 계약을 맺고 전략적으로 배치하는 방법을 터득했다면 전력을 직접 소유할 필요까지는 없다. 그러나 여전히 전력을 확보할 수 있는 독자적인 방안을 마련해야 할 것이다. 앞으로의 경쟁에서는 AI 전략과 에너지 전략을 더 이상 분리할 수 없다는 점도 인식해야 한다.
※이 글은 HBR(하버드비즈니스리뷰) 한국어판 디지털 아티클 ‘AI 전략, 그 다음은 에너지 전략이다’ 를 요약한 것입니다.
댓글 0