IBM, 생성형 AI 성능 개선하는 차세대 광학 기술 발표
||2024.12.10
IBM은 데이터센터에서 생성형 인공지능(AI)의 실행 방식을 개선할 수 있는 차세대 광학 기술을 발표했다고 10일 밝혔다.
이는 기존 전선 기반 단거리 통신을 보완하는 새로운 공동 패키지형 광학(CPO) 기술로, 데이터센터 내부 연결 속도를 대폭 향상시킬 수 있는 게 특징이다. IBM은 이 기술을 지원하는 폴리머 광학 도파관(PWG)을 설계하고 조립해 최초로 공개했다. IBM 연구진은 CPO 기술이 칩, 회로 기판, 서버 간 고대역폭 데이터를 전송하는 컴퓨팅 방식을 어떻게 변화시킬 수 있는지를 시연했다.
광섬유 기술은 장거리 데이터 전송에서 널리 사용되고 있지만, 데이터센터 내부 통신에서는 여전히 구리선을 주로 사용하고 있다. 구리선은 대규모 분산 학습 과정에서 그래픽처리장치(GPU) 가속기가 데이터를 기다리는 시간이 길어져 상당한 비용과 에너지가 낭비되는 문제를 일으킨다. 이에 IBM 연구진은 광학 기술을 데이터센터 내부로 도입해 이러한 문제를 해결할 방안을 제시했다.
IBM은 새롭게 발표한 논문에서 고속 광학 연결을 가능하게 하는 CPO 모듈의 시제품을 소개하며, 이를 통해 데이터센터 통신의 대역폭을 확대하고 GPU의 유휴 시간을 줄여 AI 처리 속도를 크게 향상시킬 수 있음을 밝혔다.
IBM은 이번 연구를 통해 중급 전기 배선 대비 전력 소비를 5배 이상 줄여 생성형 AI 확장 비용을 낮추고, 데이터센터 간 케이블 연결 길이를 기존 1미터에서 수백 미터로 확장할 수 있다고 설명했다. 또 CPO 기술은 거대 언어 모델(LLM) 학습 속도를 최대 5배까지 높일 수 있어 학습 시간을 3개월에서 3주로 단축할 수 있다. 또 AI 모델 학습 시 모델당 에너지 소비를 크게 줄여 데이터센터 에너지 효율을 극대화할 수 있다.
다리오 길 IBM 리서치 총책임자는 생성형 AI의 증가하는 에너지와 처리 능력 요구에 맞춰 데이터센터가 진화해야 한다며, CPO 기술이 데이터센터의 미래를 준비시킬 수 있는 핵심 기술임을 강조했다.
