AI 에이전트 도입 본격화에… 구축·관리·검증 솔루션 경쟁 본격화
||2026.06.01
인공지능(AI) 에이전트를 업무에 결합하려는 기업들의 움직임이 국내외에서 빨라지고 있다. AI 에이전트는 질문에 답하는 챗봇과 다르다. 데이터를 읽고, 업무 흐름을 판단하며, 사내 시스템과 연결돼 실제 작업을 수행하는 AI 소프트웨어 봇(bot)이다. 사람이 반복적으로 처리하던 업무 일부를 AI가 직접 실행할 수 있다는 점에서 영업·마케팅·고객 응대·백오피스 등 다양한 업무 영역의 성과 개선 수단으로 주목받고 있다.
글로벌 고객관계관리(CRM) 솔루션 기업 세일즈포스는 최근 사람과 AI 에이전트가 함께 일하는 기업 운영 모델인 ‘에이전틱 엔터프라이즈(Agentic Enterprise)’ 비전을 제시했다. 세일즈포스는 CRM, 데이터 분석, 협업 도구를 하나의 플랫폼으로 연결하고, 업무별 AI 에이전트를 구축·운영하는 자사 플랫폼 ‘에이전트포스(Agentforce)’를 붙여 영업·마케팅·서비스·IT·백오피스 업무 자동화를 지원하는 전략을 내세운다.
박세진 세일즈포스 코리아 대표는 “AI 에이전트 시대의 진짜 경쟁력은 기술 도입 그 자체가 아니라, 신뢰할 수 있는 데이터와 업무 맥락을 바탕으로 실질적인 비즈니스 성과를 창출할 수 있는가에 달려있다”고 말했다.
실제 상당수 기업 경영진들이 비즈니스 성과 창출을 위해 AI 에이전트 도입을 서두르고 있다. 데이터이쿠가 글로벌 시장조사기관 해리스 폴과 전 세계 CEO 900명을 대상으로 조사한 ‘2026년 글로벌 AI 실태 보고서: CEO 에디션’에 따르면, 전 세계 CEO의 83%는 2026년까지 AI 에이전트를 실제 업무 환경에 도입할 계획이라고 답했다.
다만 전문가들은 성과 개선을 이유로 AI 에이전트를 무작정 도입·확대하기만 해서는 향후 큰 문제에 맞닥뜨리게 될 것이라고 지적한다. 데이터 접근 범위, 시스템 호출 권한, 실행 결과 검증 체계가 함께 마련돼야 한다는 것이다. 데이터이쿠 조사에 따르면 대규모 AI 에이전트 도입에 대한 신뢰도는 1년 전 41%에서 31%로 낮아졌다. 도입 필요성은 커졌지만 운영·검증·거버넌스 부담이 함께 늘어났기 때문이라는 분석이다. 이에 따라 AI 에이전트를 어떻게 구축하고 연결·관리·검증할지가 기업들의 새 과제로 떠오르고 있다.
AI 에이전트를 도입해 실제 업무 성과를 창출하고자 하는 것은 해외뿐 아니라 국내 기업들도 마찬가지다. 이미 곳곳에서 현업 부서 주도의 도입 실험이 이어지고 있다. 가비아와 일성아이에스는 비개발자 임직원이 직접 업무용 AI 에이전트를 설계·운영하는 ‘1인 1 AI 에이전트 도입’ 개념검증(PoC)을 완료했다고 5월 28일 밝혔다. 의학·인사·IT·재무·영업기획 등 5개 부서가 참여해 부서별 실무 과제를 정하고, 업무용 AI 에이전트를 만드는 방식으로 시범 도입이 진행됐다.
이런 가운데 임직원 수 이상으로 늘어나는 AI 에이전트를 효과적으로 구축·관리하고 검증하기 위한 솔루션이 국내외에서 잇따라 등장하고 있다. 콘텐츠 전송 네트워크(CDN)와 보안·개발자 플랫폼을 제공하는 인터넷 인프라 기업 클라우드플레어는 최근 앤트로픽과 협력해 ‘클로드 관리형 에이전트를 위한 클라우드플레어 환경’을 선보였다. 기업이 클로드 기반 AI 에이전트를 업무에 쓰려면 모델 성능만으로는 부족하다. 에이전트가 코드를 실행하고 내부 데이터와 시스템에 접근하는 과정에서 외부 노출을 막고, 어떤 작업을 했는지 기록으로 남겨야 한다. 클라우드플레어는 이를 위해 자사 개발자 플랫폼 ‘워커스(Workers)’를 기반으로 클로드 AI 에이전트의 샌드박스 실행 환경과 프라이빗 연결 보호, 감사 추적, 세션 기록 기능을 제공한다.
국내에서는 시스템 통합(SI) 전문기업인 아이티센클로잇이 클라우드를 넘어 AI 기술력까지 빠르게 내재화해 올해 1분기 ‘에이전트고 2026(AgentGo 2026)’을 선보였다. 기업 안에 흩어진 AI 에이전트를 하나로 모아 관리하는 멀티 에이전트 관리 플랫폼이다. 데이터 주권 보호와 거버넌스를 보장하면서도 복잡한 업무 프로세스를 자동화할 수 있으며, 온프레미스와 클라우드 환경을 모두 지원한다.
문서 전문기업인 한컴도 AI 에이전트의 관리·통제를 미래 먹거리로 낙점하고, ‘소버린 에이전틱 운영체제(Sovereign Agentic OS)’ 기업으로의 전환을 선언했다. 소버린 에이전틱 OS는 조직 내부 데이터, 외부 AI 모델, 기존 업무 시스템, 권한 체계를 하나의 안전한 환경에서 연결·통제하는 통합 AI 에이전트 운영체제를 말한다. 한컴은 공공·금융·국방·헬스케어처럼 데이터 주권과 보안 통제가 필요한 분야를 주요 시장으로 공략할 예정이다.
생성형 AI 전문기업 제논(GenON)은 여러 AI 서비스를 하나의 화면에서 쓰는 에이전트 포털을 선보였다. 베타 서비스가 공개된 제논의 ‘제나(GenA)’는 챗봇, 슬라이드 제작, 번역, 이미지 생성, 금융 특화 에이전트 등을 하나의 인터페이스에 모은 서비스다. 사용자가 여러 AI 서비스를 오가며 작업하던 방식을 줄이고, 단일 환경에서 업무를 이어갈 수 있도록 설계했다.
NHN엔터프라이즈는 AI 에이전트 제작·실행을 통합 관리할 수 있는 플랫폼을 준비 중이다. NHN클라우드가 최근 발표한 AI 풀스택 브랜드 ‘팩토리X(FactoryX)’의 서비스 계층을 담당하는 ‘프로젝트X(Project X)’를 통해서다. 하반기 출시 예정으로 소개된 프로젝트X는 비개발자가 자연어를 기반으로 기업 업무 환경에 맞는 AI 에이전트를 설계할 수 있도록 돕는 솔루션이다. 사내 시스템과 데이터를 연동해 업무 자동화를 구현할 수 있도록 지원한다.
업무를 수행하는 AI 에이전트가 정말 제대로 동작하는지를 검증하고자 하는 수요에 대응하는 솔루션도 등장했다. 에이아이웍스(AIWORKX)가 선보인 AI 에이전트 신뢰성 평가 솔루션 ‘에이전트리거(AgentRigor)’다. 에이전트리거는 AI 응답 내용만 보는 방식에서 나아가, 특정 서비스 안에서 AI가 올바르게 행동했는지를 평가한다. 산업별 시나리오와 서비스 맥락을 반영해 에이전트의 대응 방식과 리스크를 점검한다.
소프트웨어 업계는 AI 에이전트를 기업 업무에 적용하려면 구축 단계부터 통제와 검증 방식을 함께 설계해야 한다고 본다. 에이전트가 데이터에 접근하고 업무 시스템을 호출하는 만큼 권한, 로그, 결과 검증 체계가 함께 마련돼야 한다는 설명이다. 이 때문에 여러 기업들이 데이터·모델·업무 시스템을 묶는 에이전틱 OS부터 에이전트를 연결·통제하는 관리 플랫폼, 신뢰성 검증 솔루션 등을 내놓으며 기업용 AI 에이전트 도입 기반을 만들고 있다.
업계 한 관계자는 “AI 에이전트가 현업 부서를 넘어 개인 단위로 늘어나면 개별 관리 방식만으로는 한계가 생긴다”며 “AI 에이전트의 개발과 실행부터 관리할 수 있는 에이전틱 OS부터 권한·로그·활동 내역을 한 곳에서 보고 통제할 수 있는 관리 플랫폼, 신뢰성 검증 솔루션 등까지 각종 소프트웨어에 대한 수요가 늘어날 것”이라고 말했다.
정종길 기자
jk2@chosunbiz.com
