AMD ‘MI300X’ AI 가속기, 오라클 클라우드 인프라에 채택
||2024.09.27
AMD는 오라클이 오라클 클라우드 인프라스트럭처(OCI)에서 ‘인스팅트(Instinct) MI300X’ 가속기와 ROCm 오픈 소프트웨어 환경을 통해 OCI 컴퓨트 슈퍼클러스터 인스턴스인 ‘BM.GPU.MI300X.8’을 제공한다고 27일 밝혔다.
AMD의 MI300X AI 가속기를 탑재한 OCI 슈퍼클러스터는 수천억 개의 파라미터로 구성 가능한 AI 모델에서 OCI의 다른 가속기와 동일한 초고속 네트워크 패브릭 기술을 활용, 단일 클러스터에서 최대 1만6384개의 GPU를 지원한다.
OCI 베어 메탈 인스턴스는 최고 수준의 메모리 용량 및 대역폭을 제공하고 높은 처리량을 필요로 하는 대규모 언어 모델(LLM) 추론 및 트레이닝을 포함한 까다로운 AI 워크로드 실행이 가능하도록 설계됐다.
OCI는 더 큰 배치 사이즈(Batch Size)에서도 지연 시간 최적화 사용 사례를 지원할 수 있는 AI 추론 및 트레이닝 능력, 싱글 노드에서 최대 규모의 LLM 모델에 적합한 성능을 제공하는 것에 초점을 맞추고 있다. AMD 인스팅트 MI300X는 이러한 OCI의 기준에 따른 광범위한 테스트를 거쳤다.
한편, 파이어워크 AI는 생성형 AI를 구축하고 배포할 수 있도록 설계된 빠른 속도의 플랫폼을 제공한다. 100개 이상의 모델을 보유한 파이어워크 AI는 AMD 인스팅트 MI300X이 탑재된 OCI의 성능과 이점을 활용하고 있다.
앤드류 디크만(Andrew Dieckmann) AMD 데이터 센터 GPU 비즈니스 기업 부사장 겸 총괄 매니저는 “AMD 인스팅트 MI300X 및 ROCm 오픈 소프트웨어는 OCI AI 워크로드와 같이 중요도가 높은 분야를 지원하며, 신뢰할 수 있는 솔루션으로서 성장을 이어가고 있다” 라고 설명하며, “이러한 솔루션이 성장하는 AI 집약적 시장으로 한층 확장됨에 따라, 성능과 효율성, 시스템 설계 유연성을 개선해 고객에게 혜택을 제공할 것이다” 라고 밝혔다.
권용만 기자 yongman.kwon@chosunbiz.com
