AI 구축은 했는데 정착은 실패… ‘AI 에이전트 관리’ 시장 뜬다

인공지능(AI)을 도입했지만 실제 업무에 정착시키지 못하는 기업이 늘어나고 있다. 글로벌 IT 시장조사업체인 IDC에 따르면 전 세계 2000대 기업 중 에이전틱 AI 운영 준비를 완료한 곳은 17%에 불과하다. 가트너는 2027년까지 에이전틱 AI 프로젝트의 40% 이상이 예상치 못한 비용과 확장 복잡성, 리스크로 인해 취소될 수 있다고 경고했다.

2일 업계에 따르면 AI 에이전트가 늘어날수록 관리의 사각지대도 커진다는 문제가 제기된다. 부서별로 제각각 도입한 AI 에이전트들이 파편화되면서 보안 취약점이 되고, 시스템 간 연동도 어려워진다. 이를 해결하기 위해 AI 에이전트들을 중앙에서 통합 관리하는 '오케스트레이션' 플랫폼이 새로운 시장으로 떠오르고 있다.

글로벌 빅테크, 에이전트 관리 시장 선점 경쟁

마이크로소프트(MS)는 지난해 11월 '에이전트 365'를 발표했다. 자사뿐 아니라 파트너사, 오픈소스 플랫폼에서 만들어진 AI 에이전트까지 통합 관리할 수 있는 컨트롤 플랫폼이다. 에이전트 등록부터 접근제어, 모니터링, 보안까지 한 곳에서 처리한다. MS 디펜더, 엔트라 등 기존 보안 솔루션과도 연동된다.

세일즈포스도 지난달 AI 에이전트와 도구들을 통합 관리할 수 있는 플랫폼 '뮬소프트 에이전트 패브릭'을 출시했다. AWS, MS, 구글클라우드 등 멀티클라우드 환경에 흩어진 AI 에이전트를 자동으로 찾아내 등록하고, 기업 전체의 에이전트 운영 현황을 한눈에 보여준다. 어떤 플랫폼에서 만들었든 상관없이 중앙에서 관리할 수 있다는 게 강점이다.

서비스나우는 'AI 컨트롤 타워'로 에이전트 거버넌스 시장을 공략 중이다. 자연어만으로 에이전트를 만들 수 있는 노코드 스튜디오와 여러 에이전트를 연결해 복잡한 업무를 처리하는 오케스트레이터를 제공한다. 이를 통해 기업들은 중앙에서 AI 모델이 워크플로우 전반에서 어떻게 활용되고 기업 데이터 및 시스템과 연동되는지 통제하고 감시할 수 있다.

국내 기업들도 경쟁 본격화

국내에서도 관련 움직임이 활발하다. LG CNS는 지난해 8월 에이전틱 AI 풀스택 플랫폼 '에이전틱웍스'를 출시했다. 에이전트 구축부터 운영까지 전 과정을 지원하는 6개 모듈로 구성됐다. 특히 '허브' 모듈이 MCP(모델콘텍스트프로토콜)와 A2A(에이전트투에이전트) 표준을 지원해 기업 내부 시스템과 여러 에이전트 간 연결을 쉽게 해준다.

아이티센클로잇은 지난달 27일 '에이전트고 2026'을 선보이며 시장에 도전장을 냈다. 이 플랫폼의 특징은 폐쇄망까지 지원한다는 점이다. 보안이 엄격한 금융권이나 공공기관도 쓸 수 있도록 설계했다. 특정 클라우드나 거대언어모델(LLM) 벤더에 종속되지 않는 개방형 구조를 내세웠다. 김우성 대표는 "단순 에이전트 빌더를 넘어 보안과 거버넌스, 멀티에이전트 오케스트레이션까지 아우르는 엔터프라이즈급 플랫폼"이라고 말했다.

시장 반응도 긍정적이다. 조상철 아이티센클로잇 부사장은 "출시 이후 문의가 계속 늘고 있다"며 "AI 에이전트 프로젝트를 운영 중인 대기업에서 주로 연락이 온다"고 전했다. 에이전트 간 우선순위 조정 방식 같은 기술적 질문도 많다고 한다. 그는 "요청이 오면 기업을 직접 방문해 현장 설명회를 진행하고 있다"며 "다음 주에도 은행권과 공공기관 6곳에서 설명회를 진행한다"고 덧붙였다.

AI 검색 스타트업 라이너도 이 흐름에 합류했다. 지난달 28일 출시한 '라이너 스콜라'는 4억6000만건의 학술 데이터베이스를 기반으로 연구자를 돕는 서비스다. 여러 에이전트가 스스로 역할을 나누고 협업해 최적의 결과물을 내놓는 '셀프 오케스트레이션' 방식을 적용했다.

"2026년 승패는 실행 전략에 달려"

시장 전망은 밝다. 딜로이트에 따르면 자율 AI 에이전트 시장은 2026년 85억달러(약 12조4347억원), 2030년에는 350억달러(약 51조2015억원) 규모로 성장할 전망이다. 기업들이 오케스트레이션을 제대로 구현하면 450억달러(약 65조8305억원)까지 커질 수 있다는 분석도 나온다.

다만 한국 기업들의 기대치는 이보다 더 높다는 지적이 나온다. 이에 AI 에이전트의 활용도를 높이는 'AI 오케스트레이션'에 대한 수요 확대도 예상된다. 유아이패스에 따르면 국내 주요 경영진은 AI 투자 후 12~18개월 내 3~4배 투자수익률(ROI)를 기대한다. 막연한 기대만으로는 투자를 이끌어내기 어렵고, 측정 가능한 성과가 필수라는 의미다.

형원준 유아이패스 코리아 지사장은 "한국에서 에이전틱 AI로의 패러다임 전환이 빠르게 가속화되고 있다"며 "2026년 AI 경쟁은 신뢰할 수 있는 거버넌스 체계 안에서 사람과 업무, 기술을 함께 운영할 수 있는 실행 전략을 갖춰야 할 것"이라고 말했다.

홍주연 기자
jyhong@chosunbiz.com