SKT, Arm·리벨리온과 AI 추론 서버 개발 협력…AI DC 경쟁력 강화

AI 추론 서버 솔루션 개발 협력 구조 인포그래픽. [사진: SK텔레콤]

[디지털투데이 이진호 기자] SK텔레콤이 그래픽처리장치(GPU)와 신경망처리장치(NPU)를 결합한 인공지능(AI) 추론 서버 솔루션 개발에 나선다.

SKT는 글로벌 반도체 설계 기업 Arm, AI 반도체 스타트업 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 10일 밝혔다.

3사는 Arm이 새롭게 출시한 'Arm AGI CPU'와 리벨리온이 올해 3분기 출시 예정인 '리벨카드'를 서버에 동시에 탑재해, AI 추론 성능을 높일 수 있는 솔루션을 공동개발한다. 해당 솔루션은 SKT의 AI 데이터센터(DC)에서 실증할 계획이다.

SKT는 이번 협력 배경으로 AI 산업 패러다임의 변화를 제시했다. AI 인프라의 핵심 과제가 '학습'을 위한 막대한 연산 능력보다 얼마나 빠르고 저렴하게 AI 서비스를 제공할 수 있느냐로 변하고 있다는 게 SKT의 설명이다.

AI 추론은 학습과 달리 상대적으로 가벼운 연산을 빠르고 반복적으로 처리하는 작업이다. GPU를 추론에 활용할 수는 있지만 과도한 전력을 소모하고 비용이 높다. 이에 업계에서는 추론에 특화한 NPU가 새로운 대안으로 부상하고 있다.

Arm AGI CPU는 Arm이 직접 생산에 나선 데이터센터용 프로세서다. AI 추론 서비스에 최적화했다. 리벨리온의 리벨카드도 대규모 AI 추론에 특화한 NPU다.

SKT는 두 칩을 한 서버 안에 탑재한다. 실제로 Arm과 리벨리온은 지난 3월 영국 현지에서 진행된 'Arm 에브리웨어' 행사에서 각 사 칩을 결합해 오픈 AI의 언어모델 기반 에이전틱 AI 서비스를 실시간으로 시연했다.

이에 SKT는 해당 솔루션이 적용된 서버를 자사 AI DC에 탑재해 성능과 안정성을 검증할 계획이다. 특히 SKT가 독자 개발한 AI 파운데이션 모델 에이닷엑스 케이원(A.X K1)을 운영하는 방안도 검토한다. SKT는 이를 통해 저전력·고효율 AI 추론 인프라를 확보하고, AI DC 사업 경쟁력을 높일 계획이다.

이재신 SKT AI 사업개발 담당은 "추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써, AI DC 경쟁력을 더욱 강화해 나가겠다"고 말했다.