벡타라, AI 에이전트 계획 오류 방지하는 ‘툴 밸리데이터’ 공개

[디지털투데이 황치규 기자] 벡타라(Vectara)가 AI 에이전트가 잘못된 계획을 세워 치명적 실수를 저지르는 문제를 해결하도록 지원하는 에이전트인 툴 밸리데이터( Tool Validator)를 내놨다고 실리콘앵글이 11일(현지시간) 보도했다.

벡타라가 공개한 '툴 밸리데이터'는 AI 에이전트가 작업을 수행할 때 잘못된 툴을 선택하지 않도록 모니터링한다.

AI 에이전트는 작업을 수행하기 전 일련의 계획을 세운다. 하지만 초기 단계에서 오류가 발생하면 이후 모든 작업이 잘못된 방향으로 진행되며, 이는 종종 심각한 결과를 초래한다. 벡타라 툴밸리데이터는 AI 에이전트가 툴을 선택할 때 이를 검토하고, 불필요하거나 잘못된 툴 사용을 차단하는 동시에 필요한 툴을 추천해 정확성을 높인다는게 회사측 설명이다.

구글이 출시한 AI 플랫폼 '안티그래비티'(Antigravity)는 최근 개발자 디스크를 삭제하는 실수를했다. AI 에이전트가 캐시를 삭제하는 대신 디스크 삭제 명령을 실행한 것이다. 벡타라는 툴 밸리데이터가 이 같은 사고를 방지할 수 있었을 것이라고 주장한다. 툴 밸리데이터는 웹 브라우저, 데이터베이스, 파일 시스템 등 불필요한 툴 접근을 차단해 에이전트가 잘못된 작업을 수행하는 것을 막는다고 강조했다.