소버린AI, 반도체 시장 ‘두 번째 호황’ 이끈다

이재명 대통령이 울산 AI 데이터센터 출범 행사에 마련된 전시관에서 반도체 칩을 들여다 보고 있다. [사진: 청와대]

[디지털투데이 석대건 기자] 하이퍼스케일러 중심이던 AI 반도체 수요에 이른바 '소버린 AI'라는 국가·공공 부문이 두 번째 시장으로 열리면서, 덩달아 요구되는 칩의 성격 자체가 달라지고 있다. AI 반도체 수요가 GPU 일변도에서 CPU·메모리를 포함한 풀스택으로 확장되는 국면이다.

이 수요 배경에 소버린AI가 주요 요인으로 등장했다. 국가 또는 조직이 자국의 법·규제 안에서 AI를 독립적으로 통제하는 역량을 뜻한다. 일례로 유럽연합(EU)의 AI법, 미국 클라우드법(CLOUD Act)의 역외 적용 등 각국 규제가 미국 하이퍼스케일러 의존을 구조적 리스크로 만들면서, 국가별 자체 AI 인프라 구축이 가속되고 있다. 엔비디아 젠슨 황 CEO가 지난 3월 GPU 기술 컨퍼런스(GTC)에서 "국가가 직접 데이터센터를 소유해야 한다"고 주장한 것도 같은 맥락이다.

특히 에이전틱AI 확산으로 변화 속도가 빨라지고 있다. 토큰 생성은 가속기(GPU) 영역이지만, 에이전트가 에이전트를 생성하며 24시간 작동하는 환경에서 토큰의 스케줄링·오케스트레이션·서비스 관리는 모두 중앙처리장치(CPU)가 담당한다. 르네 하스 Arm 최고경영자(CEO)는 AGI용 CPU 제품 발표에서 "에이전틱AI 환경에서 CPU 수요가 4배 늘어날 것이며, 이는 보수적 추정"이라고 밝혔다. 이 수요를 국가 단위로 증폭시키는 것이 소버린AI가 있다.

시장 규모도 수치로 확인된다. 교보증권에 따르면 엔비디아의 회계연도 2026년(FY2026) 소버린AI 매출은 전년비 3배 이상 성장한 300억달러를 넘었다. 글로벌 시장조사기관 가트너는 AI 클라우드 시장이 2030년 2670억달러에 달하고, 이 중 소버린 특화 네오클라우드가 20%를 차지할 것으로 전망했다. 독자적인 AI 스택을 구축하려는 국가는 국내총생산(GDP)의 최소 1%를 인프라에 투자해야 한다는 분석도 나온다.

반도체 산업 측면에서 이러한 수요처 성장이 이전과는 다르다는 점이다. 소버린 환경은 전력·냉각·공간 제약이 크다. 초대형 클라우드와 달리 절대 성능보다 전력효율이, 단일 가속기보다 CPU-메모리 시스템 통합이 우선순위로 올라온다.

업계에서도 "몇 조원짜리 클라우드급 시스템이 꼭 필요한 게 아니라 필요 규모에 맞춘 인프라"라는 인식이 확산되고 있으며, 거대언어모델(LLM) 이후 비전언어모델(VLM) 등 모델이 다변화되면서 기지국·중계국 등 네트워크 엣지에서 적정 규모 모델을 운영하는 흐름도 가세하고 있다.

이재명 대통령이 이재명 대통령이 지난달 열린 한-싱가포르 AI 커넥트 서밋 애프터 행사에서 AI 반도체 웨이퍼에 사인하고 있다. [사진: 청와대]

◆GPU 너머, CPU·메모리·패키징으로 번지는 맞춤 수요

엔비디아가 GPU뿐 아니라 자체 개발한 커스텀 CPU 베라 루빈에 힘을 쏟는 이유도 여기에 있다. Arm도 자체 설계 서버 CPU인 AGI CPU를 공개하며 이 시장에 정면으로 뛰어들었다. 동일 전력 대비 성능 2배를 내세우며 x86 대체를 공략한다. 모하메드 Arm 사장은 "고객사들이 현재 솔루션으로는 부족하다며 직접 도움을 요청해왔다"고 배경을 설명했다. 전력·냉각 제약이 큰 소버린 환경에 최적화된 설계라는 점에서, 소버린AI 확산이 Arm의 서버 칩 시장 진입을 가속하는 구조다.

국내에서도 소버린AI 인프라 투자가 칩 수요로 이어지는 구조가 형성되고 있다. 교보증권에 따르면 한국은 9.9조원의 AI 예산을 편성하고, 1차 사업에서 1조4000억원을 투입해 GPU 1만3,000장을 확보했다. NHN클라우드·네이버클라우드·카카오가 사업자로 선정됐으며, NHN클라우드는 민간활용분 외부 공급으로 5년간 약 3000억원의 매출을 전망한다. 2차 사업은 약 2조805억원 규모로 블랙웰~베라루빈급 최신 GPU 추가 조달과 상시 GPUaaS 체계 구축이 목적이다. GPU 조달에 수반되는 서버 CPU·메모리·패키징까지 풀스택 수요가 동반 확대될 전망이다.

가트너가 2030년까지 유럽·중동 기업 75% 이상이 워크로드를 자국 내 솔루션으로 이전할 것으로 전망한 만큼, 이 흐름은 일시적 정책 수요가 아니라 구조적 전환이다. 칩 업계 입장에서는 고객 다변화와 제품 포트폴리오 확장이 동시에 열리는 기회로 볼 수 있다.

소버린AI 수요가 하이퍼스케일러급 볼륨으로 성장할수록, AI 반도체 시장은 GPU 단일 축에서 CPU·메모리·패키징을 아우르는 다축 구조로 전환된다. 다양해지는 만큼 소버린AI 성격에 따라 특징도 달라진다. 업계 관계자는 "결국 칩과 시스템의 통합이 중요해진다"고 말했다.