AI 데이터 센터 구축 투자가 급증하면서 이를 가동하는 데 필요한 안정적 전력 확보, 슈퍼컴퓨터에 탑재하는 부품 조달, 급증하는 통신 수요를 뒷받침하는 통신망 구축 등이 긴급한 과제로 부상하고 있다고 24일(현지시각) 월스트리트저널이 보도했다.
보도에 따르면, AI 붐의 현실화는 AI 소프트웨어의 발달 외에도 기반 시설 구축에 필요한 천문학적 투자 자금의 원활한 제공, 데이터센터 가동을 지원할 각종 인프라 구축을 얼마나 빨리 구축할 수 있을 지에 대한 시간 문제, 각종 부품 공급망의 원활한 제조와 조달, 지원 인프라의 상호 연결이 중요한 과제로 부상하고 있다.
우선, AI 데이터센터 문제다. AI 시스템은 엄청난 양의 데이터 처리를 수행하며, 이는 상당한 전력 소비를 야기한다. 예를 들어, AI 칩 약 10,000개로 구성된 데이터 센터는 약 15MW의 전력을 필요로 한다. 고성능 AI 모델의 등장은 데이터 센터의 전력 수요를 더 많이 요구할 것이다.
AI 데이터 센터는 딥 러닝, 머신러닝 등 AI 작업에 사용되는 전문 하드웨어, 특히 고성능 AI 칩(GPU, TPU)을 대량으로 사용하며, 이러한 칩은 엄청난 양의 계산을 수행하기 위해 많은 전력을 소비한다. AI 데이터 센터의 평균 전력 소비량은 일반 데이터센터 1000배에 달하는 페타와트(PW) 규모이며, 일부 대규모 시설은 수십 페타와트의 전력을 소비하기도 한다. 이런 전력을 안정적으로 공급할 수 있는 발전량을 가진 지역이나 국가는 많지 않다.
전 세계적으로 전력난을 겪고 있지만, 선진국은 물론 신흥국 모두 인프라에 대한 투자가 부족했기 때문에 새로운 전력 생산과 연결에는 많은 시간이 소요될 수밖에 없다.
또한, 데이터센터는 정보 처리량의 폭발적 증가에 따른 발열이 무서울 정도이다. 이를 잡으려면 맞춤형 냉각 시스템 구축이 반드시 필요하다. 발열은 서버, 네트워킹 장비, 스토리지 시스템 등 주요 장비의 오작동 및 손상을 유발할 수 있고, 데이터 손실, 서비스 중단, 심지어 화재 위험까지 초래할 수 있다. 또한, 과열된 CPU는 속도가 느려지고 오류 발생 가능성이 높아져 데이터 처리 속도가 느려지고 시스템 불안정성이 증가한다.
기존 냉각 시스템은 증가하는 발열량을 따라가지 못하기 때문에, 각 데이터 센터의 특성에 맞는 맞춤형 냉각 시스템 구축이 절대적으로 필요하지만, 긴 구축 시간이 문제다. 맞춤형 냉각 시스템 설계, 제작, 설치에 과거보다 최대 5배나 많은 시간이 소요된다는 것이 업계의 주장이고, 이는 데이터 센터의 증가하는 냉각 요구에 대한 신속한 대응을 어렵게 만들고 있다.
특히, 전 세계적인 공급망 문제로 인해 냉각 시스템에 필요한 부품 공급이 지연되고 있어, 냉각 시스템 구축 프로젝트의 지연과 비용 증가를 초래하고 있다.
정보 처리량의 폭발적인 증가로 인해 맞춤형 냉각 시스템의 구축이 꼭 필요하지만, 공급 부족으로 새로운 냉각 시스템이 출시하는데 6~8개월이 걸리고, 우수한 성능을 갖춘 냉각기를 구축하더라도 추가 전력을 공급받는 데 필요한 변압기 확보에도 최대 1년이 걸릴 정도라고 한다.
이 뿐 아니다. AI 데이터 센터 구축 비용은 규모, 복잡성, 사용 기술 등 여러 요소에 따라 달라지지만, 평균 수천억 원에서 수조 원에 달한다. 규모, 처리 능력, 저장 용량, 네트워킹 대역폭 등 규모가 클수록 비용이 증가한다.
특히, 그 위치가 어디냐에 따라 부동산 가격, 전력 공급 비용, 인건비 등이 추가 비용으로 나타날 수도 있으며, 해당 지역이나 국가의 데이터 보안 및 개인 정보 보호 관련 규제 준수 비용이 발생할 수 있다.
현재와 같은 고금리 기조에서 현금 보유가 많지 않을 경우, 금리는 초기의 투자 비용과 운영 비용에 부담을 키우고, 높은 투자비로 인해 투자 회수의 기간이 길어질 수 있어, 기업들은 투자 과정에 자금 조달 어려움을 겪을 수 있다. 당장 AI 데이터센터 초기 구축 과정에서는 수익이 나지 않아 투자 기업에 큰 부담이 될 수밖에 없다.
실제 AI 데이터 센터가 잡아먹은 전력량이 너무나 커서, 안정적이고 충분한 전력 확보와 기하급수적으로 늘어나는 데이터를 쉽게 연결할 수 있는 상대적으로 저렴한 부동산과 인프라 확보는 이 사업 성공의 핵심 관건이다. 건설업자들은 전 세계를 샅샅이 뒤지면서 후보지를 물색 중이다. 예를 들면, 새로운 데이터 센터는 엘살바도르 화산의 지열 에너지를 활용하여 전력을 공급하는 아이디어, 저렴하고 넓은 토지를 얻기가 용이하고 빠른 설치를 위해 서부 텍사스가 거론되며, 해상에 구축해 부동산 확보 및 냉각 문제를 동시에 해결하려는 아프리카 해상 데이터 센터 방안도 나오고 있다.
올해 초 데이터 센터 운영 기업인 ‘히드라 호스트’는 AI 데이터센터 가동에 필요한 적절한 공간을 찾기 위해 피닉스에서 휴스턴, 미주리주 캔자스시티, 뉴욕, 노스캐롤라이나로 이동했으며, 여전히 적합한 지역을 찾고 있다고 한다.
시장에서는 AI 산업의 초기 혁신 과정이 과거 여타 산업에서 보였던 유사한 과정을 밟고 있다고 말한다. 기반 인프라 부족, 신규 투자 등 벨류 체인의 안정적 구축까지는 일정한 초기비용이 필요하다는 것이다.
결국, 데이터센터 기업들은 전력 공급이 안정적이고, 부동산 가격이 상대적으로 저렴한 지역을 찾아 데이터센터를 구축하고, 부품 공급 업체와 협력해 부품 공급을 안정화하고, 데이터센터 구축에 필요한 시간을 단축하기 위해 노력할 것이다.
투자를 가속화하는 요인은 돌아올 편익에 대한 확실한 기대치이다. 최근 나타나는 AI 붐 실현을 위한 이런 병목과 불안을 해소할 수 있는 것은 미래에 대한 기대감을 충족할 수 있다는 확신이 될 것이다.
박정한 글로벌이코노믹 기자 park@g-enews.com