[Tech Insight]AI에이전트, 데모는 놀라운데 실전에선 왜 실패하는가

[디지털투데이 황치규 기자]대부분 생성형 AI 에이전트는 데모에선 놀라운 모습을 보여주지만, 실제 환경에서는 자주 제 역할을 못하는 것이 적응력 부족 때문이라는 지적이 나왔다.

UIUC(University of Illinois Urbana-Champaign), 스탠퍼드, 하버드대 등의 연구진은 최근 논문에서 에이전트 실수에 대해 '지능 부족'이 아니라 '적응력 부재'에 있다고 지적했다.

연구는 기존 AI 시스템이 ‘계획 실행’에는 능하지만, 상황이 변해도 기존 계획을 고수하며 오류를 반복한다고 분석했다.

연구진은 이른바 '에이전틱 AI(agentic AI)' 핵심 문제를 "실행과 적응의 구분"으로 설명했다. 실행은 정해진 계획을 따르는 것이고, 적응은 계획이 틀렸음을 인지하고 즉시 행동을 바꾸는 것이다.

대부분 에이전트들은 적응에 실패하며, 실제 환경에서 유연성 부족이 성능 저하로 이어진다.

연구는 적응을 단순한 파인튜닝(fine-tuning)과도 구별했다. 성공적인 에이전트는 결과를 실시간으로 모니터링하고, 실패 패턴을 감지하며, 작업이 진행 중인 상태에서도 전략을 바꾸는 능력을 갖추고 있었다. 이는 모델을 재학습시키는 것이 아니라, 상황을 '인식하고 반응하는' 능력이다.

도구 사용 방식이 경직돼 있다는점도 치명적인 실패 요인으로 지목됐다. 특정 도구에만 의존하는 에이전트는 도구가 예상대로 작동하지 않을 경우 그대로 멈춰버린다. 반면, 도구를 재평가하거나 필요시 포기할 수 있는 유연한 에이전트는 훨씬 더 강력한 성능을 보였다.

연구는 복잡한 추론보다 ‘기억’이 더 중요하다고 강조했다. 장황한 추론 체계보다 과거 실패와 성공에서 얻은 간단하고 구조화된 교훈을 저장한 에이전트가 더 나은 성과를 냈다. 이는 "생각을 깊이 하는 것보다, 과거에 무엇이 효과적이었는지를 기억하는 것이 더 중요하다"는 통찰을 제공한다.

연구진은 결론에서 "에이전트형 AI를 확장하는 길은 더 큰 모델이나 더 복잡한 프롬프트가 아니다"라고 강조했다. 진정한 전진은 현실이 예상과 다를 때 이를 감지하고, 실행 방식을 바꿀 수 있는 시스템을 만드는 데서 시작된다는 것이었다.