GPU 수천개 연결하려면…답은 광섬유…AI 인프라 판 바뀐다

AI 데이터센터 확산으로 광섬유가 단순 배선 자재를 넘어 핵심 인프라로 부상하고 있다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 인공지능(AI) 데이터센터 확산으로 광섬유가 단순 배선 자재를 넘어 핵심 인프라로 부상하고 있다.

25일(현지시간) IT 매체 테크레이더에 따르면, AI 연산 환경에서는 수천 개의 그래픽처리장치(GPU)를 실시간으로 동기화해야 해 데이터센터 내부 광연결 구조가 성능과 확장성을 좌우하는 핵심 요소로 바뀌고 있다.

현재 데이터센터 업계는 기존 클라우드 중심 구조에서 AI 연산 중심 구조로 빠르게 전환되고 있다. 이 과정에서 가장 크게 달라진 부분은 데이터 흐름 방식이다. 기존 클라우드 환경에서는 웹호스팅과 데이터베이스, 파일 저장 같은 작업이 중앙처리장치(CPU) 기반으로 처리됐고, 데이터는 외부 이용자와 서버 사이를 오가는 '노스-사우스'(North-South) 트래픽 중심으로 움직였다. 이 구조에서는 외부 연결이 중요했지만, 내부 연결 수요는 상대적으로 제한적이었다.

반면 AI 데이터센터는 구조 자체가 다르다. GPU와 가속기 클러스터가 하나의 논리적 시스템처럼 동시에 움직이기 때문에 내부에서 대량의 데이터가 실시간으로 오간다.

AI 공장이 요구하는 것은 대규모 동서 병렬 아키텍처라고 전문가들은 설명했다. 수천 개 GPU가 같은 시점에 연산 상태를 맞춰야 하면서 데이터센터 내부의 '이스트-웨스트'(East-West) 트래픽이 급증하고 있다는 의미다.

이 변화는 물리 인프라 설계에도 영향을 미치고 있다. 기존 설비가 감당하도록 설계되지 않았던 관로와 트레이, 덕트에 대용량 연결을 수용해야 하는 상황이 됐기 때문이다. AI 데이터센터에서 물리 계층이 더 이상 단순 설비가 아니라 전략 자산으로 바뀌고 있다는 설명이다.

광섬유 수요가 급증하는 이유도 여기에 있다. AI 워크로드 환경에서는 GPU 간 연결 수가 노드 증가에 따라 제곱 수준으로 늘어나기 때문에, 동서 트래픽을 처리하려면 매우 높은 광섬유 밀도의 네트워크가 필요하다.

특히 내부 링크에서 오류나 패킷 손실이 발생하면 전체 학습 배치를 다시 시작해야 할 수 있어 비용 손실과 개발 지연 부담도 커진다. 이런 환경에서는 대역폭과 속도 요구를 충족할 수 있는 수단으로 광섬유가 사실상 필수라는 분석이다.

업계는 기존 250마이크론 광섬유에서 더 얇은 160마이크론 고밀도 설루션으로 빠르게 이동하고 있다. AI 데이터센터 운영사들이 인피니밴드(InfiniBand)나 고성능 이더넷 기반 네트워크 패브릭을 도입하면서 기존 CPU 중심 네트워크보다 훨씬 많은 고성능 광섬유가 필요해졌기 때문이다.

설계 단계부터 광섬유를 우선 고려하는 접근도 중요해지고 있다. 800G에서 1.6T로 네트워크 속도가 높아지는 상황에 대응하려면 처음부터 확장성을 전제로 설계해야 하기 때문이다.

선조립 광섬유 설루션은 설치 기간을 몇 주에서 며칠 수준으로 단축하고, 공장 조립과 사전 시험을 통해 현장 오류 가능성도 줄여준다. 배선 관리와 향후 업그레이드 측면에서도 효율성이 높다는 평가다.

결국 AI 데이터센터는 서버와 AI 연산 장비를 먼저 구축한 뒤 연결 방식을 맞추는 기존 구조에서 벗어나고 있다. 이제는 광연결 구조 자체가 데이터센터 구축 속도와 확장성, 운영 유연성을 결정하는 핵심 설계 요소로 자리 잡고 있다.