AI 실험은 이제 끝…빅테크 ‘운영 인프라’ 전쟁 돌입

GPU 수급과 데이터 주권, 규제 대응이 핵심 변수로 떠오르며 쿠버네티스와 주권 클라우드의 역할이 커지고 있다. [사진: Reve AI]

[디지털투데이 AI리포터] 인공지능(AI) 도입이 실험 단계를 지나면서 이제 업계의 관심은 실전 인프라 구축으로 옮겨가고 있다.

19일(현지시간) 실리콘앵글에 따르면, 기업들은 대규모언어모델(LLM) 도입을 넘어, 이를 얼마나 안전하고 경제적으로 대규모 운영할 수 있을지에 주목하고 있다. 클라우드 네이티브 생태계에서도 모델 성능 자체보다 운영 효율과 안정성, 거버넌스가 핵심 의제로 떠오르는 분위기다.

AI를 실제 서비스에 적용하는 과정에서는 인프라 전반의 병목도 뚜렷해지고 있다. 특히 그래픽처리장치(GPU) 수급과 데이터 주권 문제가 주요 변수로 부상했다. 이와 함께 오픈소스 컨테이너 오케스트레이션 플랫폼 쿠버네티스(Kubernetes)가 상태 기반 워크로드와 자율형 에이전트까지 안정적으로 지원할 수 있는지에 대한 재검토도 이뤄지고 있다.

업계에서는 세계 최대 규모의 클라우드 네이티브 오픈소스 행사인 '쿠베콘+클라우드네이티브콘 EU'(KubeCon + CloudNativeCon EU)를 앞두고, 쿠버네티스가 단순한 컨테이너 관리 도구를 넘어 지능형 애플리케이션의 구축·확장·거버넌스를 책임지는 핵심 인프라로 자리 잡고 있다고 보고 있다.

AI 실험에서 실전 운영으로 넘어가는 과정에서 가장 큰 변수로는 규제가 꼽힌다. 유럽연합(EU) AI 법안이 2026년 8월 2일부터 본격 시행되면서, 단순한 데이터 거주성만으로는 관할권 리스크를 막기 어렵다는 인식도 확산되고 있다. 인터내셔널데이터코퍼레이션(IDC)에 따르면 북미 기업의 62%가 주권 클라우드 설루션을 이미 도입했거나 도입을 추진 중인 것으로 나타났다. 이는 하이브리드 클라우드 전략 강화로도 이어지고 있다.

IBM과 아마존웹서비스(AWS) 등 주요 기업들도 AI 인프라 경쟁에 속도를 내고 있다. IBM은 생성형 AI 사업 확대와 함께 레드햇 오픈시프트(OpenShift)를 앞세워 하이브리드 클라우드 사업을 키우고 있다. AWS 역시 'AI 팩토리'를 통해 주권 국가와 방위 기관, 대기업을 겨냥한 클라우드 인프라 시장 공략에 나섰다.

AI가 실험을 넘어 인프라의 핵심으로 자리 잡으면서 클라우드 네이티브 생태계도 빠르게 재편되고 있다. 이번 쿠베콘 EU에서는 플랫폼 엔지니어링과 AI 워크로드 통합, 자동화 도구 확장이 주요 화두로 떠오를 전망이다.