SK하이닉스, AI 서버용 192GB 메모리 모듈 양산 개시

AI 서버용 메모리 모듈 SOCAMM2 192GB [사진: SK하이닉스]

[디지털투데이 석대건 기자] SK하이닉스가 차세대 AI 서버용 메모리 모듈 SOCAMM2 192GB 양산을 시작했다. 회사는 10나노급 6세대(1c) LPDDR5X 저전력 디램을 탑재한 이 제품의 본격 양산에 돌입했다고 20일 밝혔다.

SOCAMM2(Small Outline Compression Attached Memory Module2)는 스마트폰 등 모바일 기기에 쓰이던 저전력 메모리를 서버 환경에 맞게 변형한 모듈 규격이다. 압착식 커넥터 구조로 신호 무결성을 높이고 모듈 교체가 용이하다는 특성이 있다.

회사에 따르면 이번 제품은 기존 RDIMM(Registered Dual In-line Memory Module) 대비 대역폭이 2배 이상 높고 에너지 효율이 75% 이상 개선됐다. 1c 나노 공정 적용으로 고집적 디램 구현이 가능해진 덕분이다. RDIMM은 메모리 모듈 내에 레지스터 칩을 추가해 신호를 중계하는 서버·워크스테이션용 D램 모듈이다. SK하이닉스는 이 제품이 엔비디아의 차세대 플랫폼 베라 루빈(Vera Rubin)에 맞게 설계됐다고 밝혔다.

베라 루빈은 에이전틱 AI와 추론 처리에 특화된 엔비디아의 차세대 플랫폼이다. 멀티스텝 문제 해결과 대규모 장문 컨텍스트 워크플로우 처리를 목표로 설계됐으며, 메모리 이동과 통신 병목을 제거해 블랙웰 아키텍처 세대 대비 와트당 토큰 처리량을 높이는 구조다. SK하이닉스는 수천억 개의 파라미터를 갖춘 초거대 AI 모델의 학습·추론 과정에서 발생하는 메모리 병목 현상 해소에 이 제품이 기여할 것으로 기대하고 있다.

병목 현상은 GPU 연산 속도에 비해 메모리 데이터 공급이 지연될 때 시스템 전체 성능이 저하되는 현상을 말한다. 이에 회사는 "AI 시장이 학습에서 추론 중심으로 전환되면서 거대언어모델(LLM)을 저전력으로 구동할 수 있는 SOCAMM2가 차세대 메모리 설루션으로 주목받고 있다"며 "글로벌 CSP(Cloud Service Provider) 고객 수요에 맞춰 양산 체제를 조기에 안정화했다"고 전했다.

김주선 SK하이닉스 AI Infra 사장(CMO)은 "SOCAMM2 192GB 제품 공급으로 AI 메모리 성능의 새로운 기준을 세웠다"며 "글로벌 AI 고객과 긴밀한 협력을 바탕으로 고객이 가장 신뢰하는 AI 메모리 설루션 기업으로 자리매김하겠다"고 말했다.