美 은행 캐피털원, AI 비용 급증에 AWS 대안 모색

[디지털투데이 황치규 기자]미국 캐피털원이 생성형 AI 도입으로 AWS 비용이 급증하자 대안을 찾고 있다고 19일(현지시간) 비즈니스인사이더가 19일(현지시간) 보도했다. 비즈니스 인사이더는 엔비디아 한 직원이 쓴 문건을 인용해 이같이 전했다.

캐피털원은 AI 인프라 비용이 통제 불능 수준에 이를 것을 우려하며 AWS를 대체할 방안을 모색 중이다. 엔비디아와 논의에서 AI 팩토리와 네오클라우드 도입이 거론됐다.

AI 팩토리는 기업이 자체 데이터센터를 구축해 AI 모델을 운영하는 방식으로, 금융사들은 이를 통해 사기 탐지, 고객 지원, 알고리즘 트레이딩 등에 활용할 수 있다. 네오클라우드는 엔비디아 하드웨어 기반 신생 클라우드 업체들을 의미하며 AI 워크로드에 최적화돼 있다.

캐피털원 사례는 생성형 AI 도입이 기업 클라우드 비용을 급등시키고 있음을 보여준다고 비즈니스 인사이더는 전했다.

캐피털원과 클라우드와 인연은 2014년 아마존웹서비스(AWS)와 협력을 맺는 것으로 시작됐다.

다른 금융 회사들은 클라우드 확대 전략을 천천히 추진하거나 일부 기존 IT인프라를 유지하는 하이브리드 방식을 선호하고 있지만 캐피털원은 완전히 클라우드로 넘어가는 것이 유리하다는 입장을 보여왔다.

이를 통해 미국 은행들 중에선 처음으로 100% 퍼블릭 클라우드 환경에서 IT인프라를 운영하기 시작했다.