AWS, 엔비디아 AI칩 냉각 기술 개발…클라우드 경쟁 가속

[디지털투데이 AI리포터] 아마존웹서비스(AWS)가 엔비디아 차세대 인공지능(AI) 칩을 냉각하는 새로운 하드웨어를 개발했다.

엔비디아 GPU는 생성형 AI 붐을 주도하고 있지만, 막대한 에너지를 소모해 냉각이 필수적이다. 기존 데이터센터에 액체 냉각 시스템을 구축하는 데 시간이 걸리고, 상용 장비로는 충분한 냉각 효과를 얻기 어려웠다.

9일(현지시간) 경제매체 CNBC는 AWS가 자체 개발한 '인로우 히트 익스체인저'(In-Row Heat Exchanger, IRHX)를 통해 기존 및 신규 데이터센터에 쉽게 적용할 수 있는 냉각 솔루션을 완성했다고 전했다. 이전 세대 엔비디아 칩은 공조 시스템으로 충분했지만, 최신 AI 칩은 더 강력한 냉각이 필요하다.

AWS는 이를 기반으로 하는 P6e 컴퓨팅 인스턴스를 공개했으며, 이는 엔비디아의 GB200 NVL72 아키텍처와 결합해 대규모 AI 모델을 훈련하고 실행할 수 있도록 설계됐다. 마이크로소프트(MS)와 코어위브(CoreWeave)도 유사한 시스템을 도입했지만, AWS는 클라우드 인프라 시장에서 가장 큰 점유율을 차지하고 있다.

과거에도 AWS는 자체 칩과 스토리지 서버, 네트워킹 라우터를 설계하며 외부 공급망 의존도를 줄여왔다. 이러한 전략은 비용 절감과 운영 마진 확대에 기여하고 있으며, AWS는 2023년 1분기에 2014년 이후 가장 높은 영업이익률을 기록했다. MS도 유사한 행보를 보이며 AI 칩 냉각을 위한 '사이드킥'(Sidekicks) 시스템을 개발하고 있다.

AWS의 냉각 기술 개발은 AI 인프라의 필수 요소가 된 열 관리 문제를 해결하는 중요한 돌파구다. 클라우드 기업들이 AI 칩 최적화를 위해 자체 하드웨어를 개발하는 흐름이 가속화되며, 데이터센터 설계와 운영 방식이 근본적으로 변화하고 있다.