기업 내 수많은 AI에이전트 어떻게 관리할까?...AWS·구글 클라우드 다른 접근 눈길

[디지털투데이 황치규 기자]기업들이 AI 에이전트를 실전에 투입하면서 수많은 에이전트를 어떻게 관리힐지가 이슈로 부상한 가운데, 아마존웹서비스(AWS)와 구글이 다른 카드를 들고 나와 주목된다.

벤처비트 최근 보도에 따르면 구글은 시스템 레이어에서 에이전트를 관리하는데 초점을 둔 반면 AWS는 실행 레이어에서 에이전트가 할 일, 쓸 모델, 호출할 도구를 미리 정의해두면 시스템이 그 틀 안에서 에이전트를 실행하는 하네스 방식으로 접근한다.

AWS 접근 방식에서 핵심은 속도다. 개발자가 에이전트 역할, 모델, 툴을 정의하면 베드록 에이전트코어가 나머지를 알아서 처리한다. 에이전트를 처음부터 직접 만들 필요 없이 설정만 하면 바로 돌아간다. 실험하고 빠르게 배포하는 데 최적화된 방식이라고 벤처비트는 전했다.

앞서 AWS는 아마존 베드록 에이전트코어 플랫폼을 업데이트하고 '매니지드 에이전트 하네스(managed agent harness)' 기능을 추가했다. 기존에는 AI 에이전트를 실제 운영 환경에 배포하려면 컴퓨팅 자원, 인증 프로토콜, 영구 저장소, 코드 실행 샌드박스 같은 인프라를 개발자가 직접 설정하는 데 며칠이 걸렸다. 관리형 에이전트 하네스는 이같은 과정을 단순 설정 파일 작성으로 대체해 몇분 만에 완료할 수 있도록 지원한다.

구글의 경우 제미나이 엔터프라이즈를 통해 여러 에이전트를 한 곳에서 관리하는 중앙화된 제어 환경을 제공하는데 주력하고 있다. 누가 어떤 에이전트를 쓸 수 있는지, 어떤 규칙을 따라야 하는지, 에이전트가 지금 무엇을 하고 있는지를 중앙에서 감독할 수 있도록 지원한다. 쿠버네티스가 서버 수백 대를 한 곳에서 관리하는 것과 같은 방식이다.

에이전트가 기업 내에서 몇개 안되고, 간단한 기능만 제공했을 때는 관리는 큰 문제가 아니었다.
하지만 에이전트가 며칠씩 혼자 돌아가며 이메일을 보내고 데이터를 수정하고 결제를 처리하는 수준이 되면 얘기가 달라진다.

장기간 돌아가는 에이전트는 시간이 지나면서 오래된 정보를 기반으로 판단하거나 서로 충돌하는 결과를 받아 혼란에 빠지는, 이른바 상태 드리프트 현상이 벌어질 수 있다. 이렇게 되면 AI 신뢰 수준은 떨어질 수 밖에 없다. 빠르게 만드는 것만큼 제대로 통제하는 것도 중요햐진 이유다.