사용 제한 없이 전사 도입했다가 날벼락…클로드 AI 한달 비용 7500억원 낸 기업

이번 사례는 기업용 AI 도입에서 성능 못지않게 관리 체계가 중요하다는 점을 드러냈다 [사진: 셔터스톡]

[디지털투데이 홍진주 기자] 생성형 인공지능(AI)을 전사적으로 도입한 한 기업이 불과 한 달 만에 5억달러(약 7540억원)에 달하는 사용료를 청구받은 사례가 알려지면서 기업들의 AI 비용 관리 문제가 다시 주목받고 있다.

지난달 29일(현지시간) 블록체인 매체 비인크립토에 따르면, 익명을 요구한 한 기업은 앤트로픽의 AI 모델 '클로드'(Claude)를 전 직원에게 개방한 뒤 예상치 못한 비용 폭증을 경험했다. 해당 기업은 사용자별 이용 한도나 예산 상한을 설정하지 않은 상태에서 서비스를 운영한 것으로 전해졌다.

문제는 생성형 AI의 사용량 기반 과금 구조와 전사적 확산이 결합하면서 발생했다. 조직 구성원들이 제한 없이 AI를 활용하기 시작하자 토큰 사용량이 급증했고, 이에 따라 비용도 기하급수적으로 늘어났다.

특히 복잡한 업무를 수행하는 고사용자 그룹에서 비용 증가가 두드러졌다. 에이전트형 워크플로우를 구축하거나 대규모 코드 생성 작업을 수행하는 엔지니어들은 1인당 월 수백달러에서 수천달러 수준의 비용을 발생시킬 수 있는 것으로 알려졌다. 여기에 자율적으로 반복 작업을 수행하는 AI 에이전트를 24시간 운영할 경우 비용은 더욱 빠르게 증가한다.

생성형 AI 업계에서는 최근 에이전트형 AI와 확장 사고(Extended Thinking) 기능이 새로운 생산성 도구로 주목받고 있지만, 동시에 막대한 토큰 소비를 유발하는 원인으로도 지목된다. 일반적인 질의응답과 달리 여러 단계를 반복적으로 수행하기 때문에 동일한 작업에서도 훨씬 많은 연산 자원이 필요하기 때문이다.

이번 사례가 더욱 주목받는 이유는 비슷한 고민을 하는 기업이 늘고 있기 때문이다. 보도에 따르면, 마이크로소프트는 엔지니어 1인당 월 AI 비용이 500~2000달러 수준까지 상승하자 내부 클로드 코드 라이선스를 축소한 것으로 알려졌다. 차량공유 기업 우버 역시 2026년 AI 예산을 4월 이전에 대부분 소진한 것으로 전해졌다. 앤드루 맥도널드 우버 최고운영책임자(COO)는 현재 기업들의 AI 활용 패턴과 사업 우선순위를 고려할 때 비용 대비 효과를 정당화하는 일이 점점 어려워지고 있다고 평가했다.

아마존도 유사한 문제를 겪었다. 회사는 한때 내부 AI 활용 순위표를 운영했지만 직원들이 생산성과 무관한 단순 프롬프트를 반복 입력하며 순위 경쟁에 나서자 결국 해당 프로그램을 중단했다. 사용량은 증가했지만 실질적인 업무 성과로 이어지지 않았고, 결과적으로 인프라 비용만 늘어났다는 판단에서다.

업계에서는 많은 기업들이 생성형 AI를 기존 SaaS(서비스형 소프트웨어)처럼 정액제 서비스로 인식한 것이 문제라고 지적한다. 실제로는 모델 종류와 프롬프트 길이, 에이전트 기능 사용 여부 등에 따라 비용이 크게 달라지는 구조지만 이를 과소평가했다는 것이다.

앤트로픽은 관리자 대시보드와 사용자별 사용 한도, 컴플라이언스 관리 기능 등 기업용 통제 도구를 제공하고 있다. 그러나 이러한 기능은 기업이 직접 설정해야 하며, 이번 사례에서는 사실상 적용되지 않았던 것으로 알려졌다.

이에 따라 기업들의 관심도 AI 도입 확대에서 비용 통제로 이동하는 분위기다. 주요 기업들은 사용자별 지출 한도 설정, 역할 기반 접근 권한 관리, 실시간 비용 모니터링 시스템 구축, 단순 업무에 저비용 모델 우선 적용 등의 정책을 도입하고 있다.

클로드는 연간 100만달러 이상을 지출하는 기업 고객을 수백 곳 확보하며 빠르게 성장하고 있다. 그러나 이번 사례는 생성형 AI가 생산성 향상 도구가 될 수 있는 동시에, 적절한 거버넌스가 없다면 기업 예산을 위협하는 새로운 리스크가 될 수 있음을 보여주는 사례로 평가된다.