엔비디아 버블 논쟁 너머, 진짜 성장은 AX에 있다 [기고]

인프라의 끝에서, 새로운 전환을 준비하며

2000년대 중반, IT 업계 개발자들의 필독서였던 '사랑하지 않으면 떠나라(My Job Went to India)'라는 책이 있다. 닷컴 버블 이후 네트워크 인프라가 완성되자, 물리적 거리의 장벽이 사라지며 미국의 개발 업무는 물론 고객 서비스 콜센터까지 값싼 인도로 넘어가버린(Offshoring) 현실을 다룬 책이다. 당시 소프트웨어 엔지니어링 분야에서는 '오프쇼어링 관리'가 거스를 수 없는 흐름이자 핵심 화두였다. 미국, 인도, 한국 등의 시차를 연결해, 이른바 '24시간 개발 체제'가 등장한 것도 바로 이 시기다. 이렇듯 인프라의 완성은 언제나 일하는 방식의 거대한 전환을 불러온다.

최근 엔비디아의 주가는 2년 새 10배 폭등했다고 한다. 챗GPT 이후 오픈AI, 구글, 메타 등 빅테크는 물론, 각국의 소버린 AI(Sovereign AI)까지 가세하며 파운데이션 모델 개발 경쟁이 정점에 달한 결과다.

하지만 이제 대중의 시선은 놀라움보다 의구심에 머물러 있다. "이제 그래픽처리장치(GPU) 살 사람은 다 산 것 아닌가?"라는 질문이다. 폭발적이었던 학습(Training) 수요가 지나갔으니 성장이 멈출 것이라는 우려다. 물론 지난 2년 간의 광기 어린 성장률은 둔화될 수 있다. 하지만 이것을 '끝'으로 보는 건 착시일 수 있다고 생각한다. 이제 GPU는 '학습'을 넘어, 실제 서비스를 돌리는 '인지·추론(Inference)'과 산업 현장에 맞는 '도메인 특화 모델'을 위한 필수 인프라로 그 쓰임새가 넓어지고 있기 때문이다.

무엇보다 우리가 놓치고 있는 중요한 역사의 교훈이 있다. 우리가 흔히 '인터넷 버블'을 회상할 때, 당시 네트워크를 깔았던 장비 업체의 이름을 먼저 떠올리지는 않는다. 대중의 기억 속에 남은 버블은 그 인프라 위에서 꽃피웠던 '인터넷 응용 서비스(닷컴) 기업'들의 흥망성쇠다.

역사는 반복된다. 지금의 엔비디아 열풍은 훗날 '인프라 구축기'로 기억될 가능성이 크다. 정작 우리가 경계해야 할, 혹은 기대를 걸어야 할 '진짜 버블'과 '성장'은 아직 시작되지 않았다고 본다. 그것은 과거 네트워크가 '거리의 비용'을 없앴듯, 현재의 인프라가 '지능의 비용(Cost of Intelligence)'을 획기적으로 낮추고 그 위에서 '산업 AI 전환(AX)'이 본격화될 때 비로소 거대한 파도처럼 밀려올 것이다. 그때가 되면 우리의 일자리는 인도가 아니라, 서버 속의 'AI 에이전트'와 경쟁하거나 협력하는 형태로 재편될 것으로 보인다.

엔비디아의 독주, 그리고 기술 확산의 패턴: 기반 구축기에서 산업 적용기로

지금의 혼란을 꿰뚫어 보기 위해 경제학자 칼로타 페레즈(Carlota Perez)가 제시한 '기술 혁명기의 성장과 확산 패턴'이라는 프레임을 빌려올 필요가 있다. 그녀는 전기, PC, 인터넷 등 과거의 거대한 기술 혁명들을 분석하며, 이들이 시장에 뿌리내리는 과정에는 공통된 '두 번의 계절'이 있음을 발견했다.

첫 번째 계절은 미래의 이익을 좇는 '금융 자본'이 인프라를 준비하는 '기반 구축기(Installation)'다. 두 번째는 실제 산업 현장의 '생산 자본'이 기술을 생산 현장에 적용해 운영하는 '산업 적용기(Deployment)’다. 그리고 이 두 계절 사이에는 기술 확산이 기하급수적으로 폭발하는 S-커브(S-Curve)의 중간 지점, 즉 '터닝 포인트(Turning Point)'가 존재한다.

챗GPT 등장 이후 엔비디아의 폭발적인 성장은 전형적인 ‘기반 구축기'의 풍경이다. 이 시기는 마치 고속도로를 닦는 공사판과 같다. 지난 2년, 전 세계 빅테크들은 앞다퉈 도로를 깔기 위해 막대한 자금을 GPU 확보와 이를 가동할 전력망 구축에 쏟아부었다. 엔비디아가 시가총액 1위에 등극하며 세계에서 가장 비싼 기업이 된 것은, 2000년 닷컴 버블 당시 네트워크 장비 회사인 시스코(Cisco)가 시총 1위에 올랐던 역사와 판박이다.

하지만 고속도로 공사가 영원할 수는 없다. 도로가 다 깔리면 아스팔트 회사의 매출은 줄어들고, 그 위를 달리는 자동차 회사들의 시간이 온다. 즉, 성장과 확산의 주도권이 기반 구축에서 산업 적용으로 넘어가는 것이다.

스마트 머니는 이미 이 흐름을 읽고 움직이기 시작한 듯하다. 최근 엔비디아의 실적 발표를 전후해, 월가의 주요 투자자들 사이에서 엔비디아 비중을 줄이고 알파벳(Alphabet)과 같은 기업으로 자금을 이동시키는 사례가 나타나고 있다. 알파벳은 단순한 검색 회사가 아니다. 전 세계 모바일의 표준인 안드로이드 운영체제(OS), 기업 데이터를 담는 클라우드, 그리고 최신 모델 '제미나이 3(Gemini 3)'까지 보유하고 있다. 즉, 깔려진 고속도로 위에서 AI를 서비스 전반에 녹여내 실제 돈을 벌 수 있는, 가장 저평가된 '자동차 회사'이기 때문이다. 결국 지금은 성장이 멈춘 것이 아니라, '인프라(도로)'에서 '서비스(자동차)'로, 성장의 축이 교체되고 있는 시점이라 해석된다.

인터넷의 승자가 보여주는 미래: 챗봇을 넘어 'AX'의 시대로

그렇다면 인프라가 깔린 이후, 과연 어떤 기업이 2단계 성장의 주인공이 될 것인가? 우리는 인터넷 혁명의 생존자들에게서 그 해답을 찾을 수 있다. 닷컴 버블 당시 수많은 기업이 명멸했지만, 결국 살아남아 시대를 평정한 것은 구글과 아마존이었다.

이들의 성공 비밀은 단순한 웹페이지에 있지 않았다. 인터넷이 웹 애플리케이션 서버(WAS), 즉 웹 화면을 기업의 거대한 데이터베이스나 결제 시스템과 연결해 주는 기술을 만났을 때, 비로소 아마존은 '쇼핑'을, 구글은 '검색'이라는 가치를 만들어냈다. 즉, 기술을 '고객의 가치'로 연결한 기업만이 살아남았다.

이러한 가치 실현의 중요성은 과거 SK하이닉스에서 데이터사이언스 조직을 이끌며 가장 깊이 고민했던 화두이기도 하다. 당시 임원으로 부임하며, 스스로에게 "왜 지금이어야만 하는가?"라는 질문을 던진 적이 있다.

딥러닝 기술의 발전과 GPU 등 하드웨어의 진보는 당연한 전제 조건이었다. 하지만 확신을 가졌던 결정적 이유는 따로 있었다. 바로 아마존의 추천 알고리즘이 증명했듯, 이제 기술이 실험실을 넘어 실제 비즈니스의 이익과 고객 가치로 실현되는 시점이 왔다고 판단했기 때문이다.

그래서 당시 조직 목표를 단순히 '좋은 알고리즘'을 만드는 것에만 두지 않았다. 그 알고리즘을 실제 공장 현장에 배포하고, 24시간 중단 없이 돌아가게 만드는 '운영 역량'을 최우선으로 강조했다. 결국 기술은 연구실이 아니라, 현장에서 살아 숨 쉬며 지속적으로 가치를 만들어낼 때 비로소 완성되기 때문이다.

지금의 AI 혁명도 정확히 같은 지점을 지나고 있다. 현재의 챗GPT는 인터넷 초기의 '브라우저'나 다름없다. 신기하지만, 그 자체로는 산업이 아니다. 이제 AI는 '에이전틱 AI(Agentic AI)' 기술을 통해 산업 현장과 결합해야 한다. 에이전트 AI는 단순히 말을 잘하는 챗봇이 아니다. 기업의 전사적 자원관리(ERP)에 접속해 자재를 발주하고, 공장 설비를 제어하는 '행위자'다.

칼로타 페레즈는 기술 혁명의 완성은 발명가(Inventor)가 아니라, 기술을 산업 현장에 적용할 수 있는 '배포(Deployment)'와 '생산(Production)' 능력을 갖춘 기업이 평정한다고 했다. 결국 다가올 미래의 승자는 명확해 보인다. 단순히 거대 언어 모델(LLM)을 만드는 기업이 아니라, 현장에서 고민했듯 에이전트 기술을 배포하고 운영해 '실질적 가치(AX)'를 만들어내는 기업이다. 그들이 21세기의 새로운 구글과 아마존이 될 가능성이 높다.

생존의 조건: '시장을 선택'하고 '엔지니어링'하라

앞서 언급한 책 '사랑하지 않으면 떠나라'로 돌아가 보자. 저자가 전하고 싶었던 진짜 메시지는 "일자리가 인도로 가는 것을 막아라"가 아니었다. 오히려 "열정을 가지고, 단순 코딩 능력을 넘어 특정 시장(Market)의 대체 불가능한 전문가가 되라"는 것이었다.

책의 첫 번째 챕터가 '시장을 선택하라(Choose Your Market)'였던 것은 결코 우연이 아니다. AI 시대의 생존법도 이와 다르지 않다. AI 기술이 '어디에' 필요한지를 치열하게 고민하고, 그 도메인의 진정한 전문가가 되어 비즈니스 가치를 만들어내는 사람만이 에이전트와 공존할 수 있다.

시장의 흐름도 이를 방증한다. 엔비디아의 GPU 수요는 끝난 것이 아니라, 거대 모델의 '학습'에서 실질적인 서비스의 '추론(Inference)' 및 '도메인 특화 튜닝'으로 확산되고 있다. 우리는 인프라 버블의 붕괴를 걱정할 것이 아니라, 인프라가 완성된 그 너머의 세상을 준비해야 한다.

이 거대한 2단계 산업 적용기(Deployment)에서 최종 승자가 되기 위해, 스타트업과 기업이 갖춰야 할 역량은 명확하다. 실험실의 기술을 현장에 안정적으로 생산(Production)하고, 오류 없이 배포(Deployment)하며, 전사적으로 스케일아웃(Scale-out) 할 수 있는 탄탄한 엔지니어링 역량이다. 특히 다가올 에이전트 AI 시대에는 자율형 자동화 에이전트를 관리·운영하고, 그 적용 범위를 넓혀가는 능력이 기업의 핵심 경쟁력이 될 것이다.

투자자와 리더들 또한 인프라 다음의 시대, 즉 '산업 AI 시대'를 준비해야 한다. 이제 질문은 "누가 칩을 많이 샀나"가 되어서는 안 된다. "누가 이 값싸진 지능을 활용해 기존 산업을 혁신하고 있는가?"를 살펴야 한다.

진짜 변화는 뉴스 헤드라인의 주가 등락이 아니라, 조용히 바뀌고 있는 산업 현장에 있다. 2단계 확산은 이미 시작됐다. 깔려진 인프라 위에서 기술이 아닌 '가치'를 만드는 자가 승리한다.

※ 외부필자의 원고는 IT조선의 편집방향과 일치하지 않을 수 있습니다.

박찬진 서울 AI 허브 센터장은 서울대학교 산학협력센터 교수로, AI 스타트업 생태계 조성과 글로벌 협력 프로그램을 주도하고 있다. SK하이닉스에서 데이터사이언스 조직을 이끌며 반도체 제조 AI·DT 혁신을 추진했고, LG전자에서는 webOS TV 아키텍트로 스마트 TV 아키텍처 혁신과 제품 출시를 주도했다. AI 기반 제조·자율비행·마케팅·금융 분석 등 다양한 프로젝트 경험을 바탕으로 기술·산업·생태계를 연결하는 AI 전문가로 활동하고 있다.