자동차-오라클, OCI에 AMD ‘MI355X’ GPU 도입… “하이퍼스케일러급 첫 사례”

AI 서비스를 위한 인프라에 AMD의 그래픽처리장치(GPU) 채택이 늘어가는 가운데 오라클이 ‘오라클 클라우드 인프라스트럭처(OCI)’ 서비스에 AMD의 ‘인스팅트(Instinct) MI355X’ GPU를 도입해 ‘제타스케일 슈퍼클러스터’ 를 선보이며 최신 GPU 도입을 공식화했다. 오라클의 이번 발표는 하이퍼스케일러로는 인스팅트 MI350 시리즈 GPU 도입을 공식 발표한 첫 사례로 꼽힌다.

AMD의 ‘인스팅트 MI350 시리즈’ GPU는 지난 12일(현지시각) 미국 캘리포니아주 새너제이에서 열린 ‘AMD 어드밴싱 AI 2025’ 행사에서 공식 발표됐다. 오라클은 OCI에 도입한 ‘MI355X’ GPU가 대규모 훈련 및 추론 워크로드에서 전 세대 대비 두 배 이상 향상된 비용 효율과 더 다양한 선택지를 제공할 수 있다고 소개했다.

AMD의 인스팅트 MI350 시리즈 GPU는 공랭 시스템 기반의 MI350X, 수량 시스템 기반의 MI355X로 구성된다. 이전 세대의 MI300X와 비교하면 새로운 MI355X는 FP4 데이터 형식 지원으로 이전 세대 대비 최대 4배까지 높은 AI 연산 성능과 최대 288GB의 HBM3E 메모리로 더 큰 규모의 모델을 다룰 수 있게 한다. 랙 단위에서는 수랭 설계를 기반으로 랙당 64개의 GPU를 집적해, 125킬로와트(kW) 소비전력으로 성능 밀도를 극대화한 점도 특징이다.

AMD의 인스팅트 MI355X GPU를 사용한 제타스케일 OCI 슈퍼클러스터는 최대 13만1072개의 MI355X GPU를 연결 가능한 고대역폭 초저지연 RDMA 클러스터 네트워크 아키텍처를 구현하는 점이 특징이다. 이러한 아키텍처에는 AMD의 최신 세대 에픽(EPYC) 프로세서와 인스팅트 GPU, 폴라라(Pollara) NIC(네트워크 인터페이스 카드) 등이 활용되고, 오픈소스 기반 소프트웨어 스택인 ROCm을 통해 특정 업체에 대한 종속성 없는 환경을 제공한다.

오라클은 이전 세대 모델인 ‘MI300X’를 OCI에 도입한 데 이어, ‘MI355X’는 AMD의 제품 발표와 함께 도입을 공식화한 모습이다. 마헤쉬 티아가라얀(Mahesh Thiagarajan) OCI 총괄 부사장은 "OCI가 제공하는 성능과 앞선 네트워킹, 유연성, 보안, 규모와 결합된 AMD 인스팅트 GPU는 AI 워크로드 및 새로운 에이전틱 애플리케이션에 대한 추론 및 훈련 요구사항을 충족하는 데 기여할 것이다”라고 말했다.

한편, 오라클 뿐만 아니라 주요 하이퍼스케일러나 AI 개발, 제공 업체들도 AMD GPU의 도입에 나서고 있는 모습이다. 마이크로소프트 또한 애저 서비스에 이전 세대 모델인 MI300X GPU를 기반으로 서비스를 제공한 바 있다.

AI 업계에서도 코히어(Cohere)나 메타(Meta), xAI 등이 AMD의 GPU를 개발에 활용하고 있으며, 10대 대형 AI 기업 중 7곳이 AMD의 GPU를 도입한 것으로 알려졌다. 특히 ‘AMD 어드밴싱 AI 2025’ 행사에서는 샘 올트먼(Sam Altman) 오픈AI CEO가 기조연설 무대에 등장해 최신 모델 개발에서 AMD와의 협력과 GPU 활용에 대해 소개한 바 있다.

권용만 기자

yongman.kwon@chosunbiz.com