[데스크칼럼] AI 거품론의 오해와 젠슨 황

최근 IT 업계에서는 ‘인공지능(AI) 거품론’이 자주 언급되고 있다. 그래픽처리장치(GPU) 수요 증가세 둔화, 일부 AI 기업의 주가 조정, 기대만큼 빠르지 않은 수익화가 겹치면서다. 그러나 이 현상을 단순한 열풍의 종료로 해석한다면 중요한 변화를 놓치게 된다. 지금 AI 시장에서 벌어지고 있는 일은 냉각이 아니라 이동이기 때문이다. 그 방향을 가장 분명하게 보여주는 인물이 바로 엔비디아의 젠슨 황이다.

AI 경쟁의 초반 국면은 단순했다. 더 큰 모델, 더 많은 파라미터, 더 높은 성능이 곧 경쟁력이었다. 하지만 대규모 언어모델이 빠르게 상향 평준화되면서 차별점은 모델 그 자체가 아니라 어떻게 운영하느냐의 문제로 이동했다. AI는 더 이상 기술 데모가 아니라 지속적으로 비용과 성과를 관리해야 하는 산업 시스템이 되고 있다.

젠슨 황이 최근 강조하는 ‘AI 팩토리’나 ‘추론 비용’이라는 표현은 AI를 바라보는 시선이 달라졌다는 신호다. AI는 한 번 만들고 끝나는 소프트웨어가 아니라, 질문이 들어올 때마다 결과를 만들어내는 생산 시스템이 되고 있다. 그래서 AI 경쟁의 초점도 모델 성능이 아니라, AI를 얼마나 싸고 안정적으로, 크게 운영할 수 있느냐로 옮겨가고 있다.

이 과정에서 엔비디아의 전략은 분명하다. 엔비디아는 모델을 만들지 않고, 서비스를 운영하지 않는다. 대신 쿠다(CUDA)를 중심으로 한 개발 환경과 대규모 연산에 최적화된 시스템 아키텍처를 통해 AI가 돌아갈 기본 환경을 먼저 깔아놓는다. 무엇을 만들지는 고객과 파트너의 몫으로 남겨두되, 그 환경 안에서 가장 빠르게 움직일 수 있도록 한다.

이 지점에서 그록(Groq)의 사례는 젠슨 황의 다음 행보를 이해하는 데 힌트를 준다. 구글 출신 엔지니어들이 설립한 그록은 초저지연 추론에 특화된 가속기로 주목받는 업체다. 그록은 GPU를 대체하려는 회사가 아니라, 특정 추론 작업을 빠르게 처리하는 데 집중한다. 이 사례는 젠슨 황이 모든 걸 직접 하려 하기보다, 다양한 시도가 공존할 수 있는 환경을 먼저 만들고 있다는 점을 보여준다. 직접 모든 것을 갖추기보다, 판을 깔고 그 위에서 다음 세대 AI 인프라가 움직이게 하는 전략이다.

‘GPU 시대는 끝났다’는 단편적인 지적이라는 얘기다. 특정 작업에서는 특화 칩이 더 효율적일 수 있지만, AI 워크로드는 여전히 빠르게 변하고 예측이 어렵다. 범용성과 유연성, 개발 생태계를 함께 고려하면 GPU 중심 구조는 여전히 표준의 자리를 유지하고 있다. 경쟁의 본질은 하드웨어의 우열이 아니라 AI를 운영하는 표준 경로를 누가 정의하느냐의 문제로 이동했다.

AI가 산업으로 이동하면서 의사결정의 주체도 달라지고 있다. 과거에는 연구개발 조직이 AI 도입을 주도했다면 이제는 운영과 비용을 책임지는 조직이 중심에 서기 시작했다. AI는 더 이상 실험이 아니라 시스템의 일부가 되고 있다.

앞으로의 AI는 화려한 데모와 챗봇은 줄어들고 제조 공정과 물류, 금융, IT 운영 같은 산업 내부로 흡수된다. 이 단계에서 AI는 혁신 기술이 아니라 비용 구조와 생산성을 바꾸는 보이지 않는 인프라가 된다.

기술로서의 AI는 더 이상 흥분을 주지 않을지 모른다. 그러나 산업으로서의 AI는 이제 막 본게임에 들어섰다. 젠슨 황이 하고 있는 일은 AI의 열기를 키우는 것이 아니라, AI가 자리 잡을 구조를 바꾸는 일이다. 직접 모든 것을 쥐기보다, 판을 만들고 그 위에서 시장이 움직이게 하는 방식이다. 이러한 전략을 지켜보며, 우리도 2026년을 맞아 AI와 산업 변화의 빈칸을 어떻게 채워갈지 고민할 필요가 있다.

이윤정 솔루션부장
ityoon@chosunbiz.com