이미지 확대보기
H100 GPU는 최대 700W의 전력을 소비한다. 1개당 평균 미국 가정용 전기 사용량의 약 10~15%에 해당하는 전력을 소비한다.
엔비디아 H100 GPU 전력 소비, 美 주요 도시 전력 소비량 능가
MS데이터센터 기술 거버넌스 및 전략 수석 전기 엔지니어인 폴 처녹은 GPU 수백만 개가 배포되는 2024년 말까지 엔비디아의 H100 GPU가 애리조나주 피닉스의 모든 가구보다 더 많은 전력을 소비할 수 있을 것으로 추정했다. AI 사용 증가로 보급이 확대될 경우 GPU의 총전력 소비 규모는 미국 주요 도시의 전력 소비량도 넘어설 것으로 보인다.
엔비디아는 데이터센터에서 H100 GPU가 사용되는 일반적인 평균 사용률을 추정해 연간 사용률 61%로 반영해 전기 사용량을 추정했다. 이 기준을 적용할 경우 H100 GPU는 연간 약 3740kWh 전기를 소비한다.
엔비디아는 2024년 말까지 350만 개의 H100 GPU를 판매할 것으로 예상하고 있다. 이를 토대로 계산하면 연간 1만 3091.82GWh의 전력 소비가 예상된다. 이는 조지아, 리투아니아, 과테말라와 같은 일부 국가 연간 전력 소비량 약 1만3092GWh와 맞먹는 수준이다.
이 정도의 전력 소비량은 다소 충격적으로 보이지만 문제는 향후 전력 사용 규모가 더 큰 AI 및 GPU가 나올 수 있다는 점이다. 엔비디아의 차세대용 데이터센터 블랙웰 기반 B100은 H100의 전력 소비량을 능가할 가능성이 크다.
전력 수급 차질 대안
AI 대중화를 위해선 이런 문제 해결이 급선무다. 이를 위해 GPU의 전력 효율성 개선을 위한 설계, 클러스터링, 시스템 설계, DDR5 사용 확대 등의 다양한 대안을 모색 중이다.
우선, GPU 설계 개선을 통해 전력 효율성을 높이는 것이 가장 근본적인 해결책이다. 이를 위해 새로운 공정 기술을 적용하거나, 트랜지스터의 크기를 줄이거나, 전력 관리 기술을 개선하는 등의 방법이 있다.
다음으로 여러 개 GPU를 하나의 시스템으로 구성하는 GPU 클러스터링을 확대해 단일 GPU의 전력 소비량을 줄이는 방법을 개발하는 것이다. 이는 각 GPU의 전력 소비량을 줄이고 성능도 향상할 수 있어 유용하다.
시스템 설계 개선도 해법 가운데 하나다. GPU 사용 시스템 설계를 개선해 GPU의 전력 소비량을 최소화할 수 있는 시스템 구성을 찾아야 한다.
저전력 DDR5 메모리도 대안이 될 수 있다. DDR5는 기존 DDR4보다 전력 소비량이 30% 낮다. 아직까지는 DDR5 메모리의 가격이 DDR4보다 비싸다는 단점이 있지만, 당장 2024년부터 AI 전용 데이터센터 확대 보급을 위해서는 DDR5 사용이 불가피하다.
DDR5 사용이 확대될 경우 주요 공급처인 삼성전자와 SK하이닉스가 시장 점유율에서 각각 1위와 2위를 차지하고 있어 매출과 이익 증대에 기여할 것으로 보인다. 이는 우리 수출과 경제 성장에 활력을 줄 수 있다.
박정한 글로벌이코노믹 기자 park@g-enews.com
