아이티센씨티에스, 고성능 AI 인프라 기반 ‘AI 이노베이션 데이터센터’ 개소

[디지털투데이 황치규 기자]아이티센씨티에스는 고성능 인공지능(AI) 인프라를 갖춘 ‘AI 이노베이션 데이터센터(AI Innovation DataCenter, 이하 AI 센터)’를 공식 개소했다고 16일 밝혔다.

AI 센터는 엔비디아(NVIDIA) 최신 H200 GPU와 시스코(Cisco) 400G 이상 고성능 네트워크 장비를 기반으로, 초고속·초저지연 AI 전용 인프라를 구현한 것이 핵심이라고 회사측은 강조했다.

회사 측에 따르면 아이티센씨티에스는 이번 AI 센터에 CPU를 거치지 않고 GPU 간 직접 메모리 접근을 가능하게 하는 RoCE(RDMA over Converged Ethernet) 기술을 도입했다. 이를 통해 AI 워크로드 수행 시 발생하는 네트워크 병목을 최소화하고, 대규모 분산 훈련과 실시간 추론 환경에서 최소 40% 이상 네트워크 성능 향상을 이뤄냈다.

GPU 간 통신 효율도 개선돼 AI 모델이 수백 테라바이트(TB) 규모 데이터셋을 지연 없이 처리할 수 있는 기반을 마련했다.

여기에 시스코 차세대 AI 네트워크 아키텍처인 넥서스 하이퍼패브릭(Nexus Hyperfabric)을 함께 적용해 GPU 클러스터와 스토리지, 컴퓨팅 노드 간 데이터 흐름을 최적화함으로써 AI 모델 학습 속도는 최대 60% 향상됐고, 데이터 전송 지연은 2μs 이하로 단축됐다고 회사 측은 전했다.

AI 센터는 데모 센터 형태로 운영되며, AI 기술 및 인프라를 실증하고 고객 맞춤형 아키텍처를 테스트하는 공간으로 활용된다. 아이티센씨티에스는 이를 통해 아이티센그룹 전반 AI 역량을 강화하고, 나아가 공공기관, 금융권, 제조업 등 데이터 처리 속도가 핵심인 산업군을 대상으로 고도화된 AI 인프라 서비스를 제공함으로써 대고객 서비스 품질 향상도 기대하고 있다.

아이티센씨티에스 관계자는 “시스코 넥서스 하이퍼패브릭 아키텍처는 RoCE 네트워크 기반 AI 인프라가 느리다는 고정관념을 깨뜨렸다”며 “진정한 AI 성능을 실현할 수 있는 인프라를 제공함으로써 고객에게 실질적인 가치를 전하겠다”고 말했다.