“기업 AI 에이전트 도입, 전사적 전략부터 세워야”
||2025.02.10
인공지능(AI)이 새로운 변곡점을 맞이하고 있다. 2022년 11월 챗GPT의 등장으로 촉발된 생성형 AI의 혁신이 이제 ‘AI 에이전트’ 시대로 진화하면서 기업의 운영 방식과 비즈니스 프로세스에 근본적인 변화가 예고되고 있다.
특히 AI 에이전트는 단순히 인간의 명령을 수행하는 도구가 아닌 자율적으로 계획을 수립하고 실행하며 다른 AI들과 협업하는 진정한 ‘디지털 동료’로 부상하고 있다.
딜로이트 컨설팅 코리아의 정창모 수석위원은 AI 에이전트가 가져올 혁신적 변화와 기업들의 대응 전략에 대해 심도 있는 통찰을 제시했다.
그는 “마이크로소프트, 구글, 아마존 등 글로벌 테크 기업들이 AI 에이전트를 차세대 핵심 기술로 주목하고 있다. 이는 단순한 기술 혁신을 넘어 기업의 조직 문화와 업무 방식 전반에 걸친 혁신적 변화를 가져올 것”이라고 전망했다. 정창모 수석위원과의 대화를 일문일답으로 정리한다.
― AI 에이전트의 개념과 핵심 특징은 무엇인가.
“AI 에이전트의 본질을 이해하려면 세 가지 핵심 키워드를 알아야 한다. 각각의 전문성이 있는 비서, 팀워크 기반의 협업, 전문가들의 협동이 그것이다. AI 에이전트는 특수부대처럼 상급자의 세세한 지시 없이도 각자 주어진 임무를 완수하는 자율적인 운영 방식을 가지고 있다.
단계적 추론과 자율적 의사결정 능력, 다양한 도구를 직접 활용할 수 있는 실행력, 그리고 여러 AI가 팀을 이루어 협업하는 형태가 주요 특징이다. 특히 최근에는 클로드와 같은 AI가 그래픽처리장치(GPU)를 직접 사용해 모델을 실행하는 등 우리의 예상보다 훨씬 빠른 속도로 자율성과 도구 활용 능력이 발전하고 있다.
더 나아가 AI 에이전트는 단순한 작업 수행을 넘어 창의적인 문제 해결도 가능하다. 예를 들어 최근에는 AI가 체스 게임에서 승리하기 위해 자발적으로 시스템을 해킹하는 등 우리가 전혀 예상하지 못한 방식으로 목표를 달성하는 사례도 나타나고 있다. 이는 AI 에이전트가 단순 실행자가 아닌 진정한 의미의 문제 해결자로 진화하고 있음을 보여준다.”
― AI 에이전트가 실제 업무에서는 어떻게 활용될 수 있나.
“여행 계획을 예로 들어보자. 사용자가 ‘여름 휴가를 가고 싶은데 어디가 좋을까’라고 물으면 AI 에이전트는 은행 API를 통해 예산을 확인하고 캘린더를 검토해 가능한 날짜를 파악한 후 관련 정보를 검색해 레스토랑과 호텔 예약까지 자동으로 처리한다. 사용자는 단순히 여행을 가겠다는 결정만 하면 되고 나머지 모든 과정은 AI 에이전트가 처리하게 된다.
기업 환경에서는 더욱 복잡한 업무도 가능하다. 예를 들어 제안서 작성 프로세스를 보자. 플래닝 에이전트가 전체적인 계획을 수립하면 지식베이스 에이전트는 기존 DB와 관련 자료들을 검색해 필요한 정보를 수집한다. 리포트 작성 에이전트는 이를 바탕으로 실제 제안서를 작성하고 리뷰 에이전트는 평가 지표를 기반으로 품질을 검토한다.
더 나아가 코딩 분야에서는 이미 상당한 수준의 자동화가 이뤄지고 있다. 메타 CEO 마크 저커버그는 올해 안에 AI가 메타의 중급 개발자 수준의 코딩 능력을 보여줄 것이라고 예측했다. 세일즈포스는 2025년부터는 소프트웨어 엔지니어 채용을 하지 않겠다고 선언했다. 이는 AI 에이전트가 단순 작업을 넘어 전문적인 영역까지 진출하고 있음을 보여준다.”
― AI 에이전트 도입을 위한 기업의 준비 사항과 도전 과제는.
“AI 에이전트 도입을 위해서는 크게 세 가지 측면의 준비가 필요하다. 첫째는 전략적 측면이다. 과거에는 개별 문제 해결에만 초점을 맞추었다면 이제는 기업 전체 차원에서 AI를 어떻게 활용할 것인지에 대한 명확한 전략이 필요하다. 단순히 비용 절감이나 효율성 향상을 넘어 AI 에이전트를 통해 어떤 새로운 가치를 창출할 것인지 고민해야 한다.
둘째는 기술적 측면이다. 특히 데이터 관리와 처리를 위한 인프라와 인적 역량 확보가 매우 중요하다. 데이터 엔지니어링은 과거에는 다소 주목받지 못했지만 AI 에이전트 시대에서는 핵심 경쟁력이 된다. 왜냐하면 기업이나 개인의 고유한 데이터는 외부에서 대체할 수 없는 핵심 자산이기 때문이다.
셋째는 조직 문화와 거버넌스 측면이다. AI 에이전트는 때로는 우리가 예상하지 못한 방식으로 문제를 해결할 수 있다. 따라서 적절한 통제와 관리 체계가 필요하다. 동시에 조직 구성원들이 AI 에이전트와 효과적으로 협업할 수 있는 문화를 만들어가는 것도 중요하다. AI를 위협이 아닌 동반자로 인식하고 함께 성장할 수 있는 마인드셋이 필요하다.”
― AI 에이전트 도입을 위한 단계적 접근 방법은.
“AI 에이전트의 미래를 장밋빛으로 설명했지만 어떻게 보면 돈이 드는 것이기 때문에 전체적으로 모든 프로세스를 AI 에이전트로 가져가기는 좀 어려울 수 있다. 기업이 AI 에이전트를 도입할 때는 전체적인 프로세스를 한번에 전환하려 하기보다 단계적 접근이 필요하다.
우선 다양한 케이스나 포트폴리오를 만드는 데서 시작해서 이를 통해 어떤 가치를 얻을 것인가에 대한 개념을 구축해 놓는 게 필요하다.
그다음으로는 데이터 인프라 구축이다. AI 에이전트가 접근하고 활용할 수 있는 데이터베이스를 체계적으로 구축해야 한다. 이는 단순히 데이터를 모으는 것이 아니라 데이터의 품질 관리, 보안, 접근 권한 설정 등을 포함하는 종합적인 작업이다. 특히 기업의 핵심 정보가 포함된 데이터의 경우, 더욱 철저한 관리 체계가 필요하다.”
― IT 부서와 조직 구조의 변화는 어떻게 예상되나.
“AI 에이전트 시대에는 IT 부서의 역할이 근본적으로 변화할 것이다. 앞으로 IT 부서는 마치 HR(인적자원) 부서처럼 운영될 것이다. HR 부서가 직원들을 적재적소에 배치하고 협업을 관리하듯 IT 부서는 AI 에이전트들을 배치하고 협업을 조율하며 필요한 도구를 제공하고 재학습을 진행하는 역할을 하게 된다.
주목할 점은 AI 에이전트들 간의 협업 관리다. 현재 우리가 보는 AI는 각각 독립적으로 작동하는 경우가 많다. 하지만 앞으로는 여러 AI 에이전트가 하나의 팀처럼 움직이면서 복잡한 업무를 처리하게 될 것이다. 이때 IT 부서는 이러한 AI 팀을 효과적으로 구성하고 관리하는 역할을 맡게 된다.”
― 개인과 기업은 AI 에이전트 시대에 어떻게 대비해야 하나.
"AI 에이전트 시대에 대한 준비는 개인과 기업 모두에게 시급한 과제다. 먼저 개인의 경우, AI 에이전트를 실제로 체험하고 활용하는 것부터 시작해야 한다. 예를 들어 노션이나 옵시디언 같은 개인 데이터 관리 도구와 챗GPT를 연동해 업무를 자동화하는 실험을 해볼 수 있다. 유튜브에도 이런 자동화 방법을 소개하는 콘텐츠가 많이 있는데 이런 것들을 참고해서 직접 실습해보는 것이 좋다.
기업의 경우는 더욱 포괄적인 준비가 필요하다. 가장 먼저 해야 할 일은 전사적인 AI 전환 전략을 수립하는 것이다. 어떤 업무부터 AI 에이전트를 도입할 것인지, 어떤 방식으로 도입할 것인지, 필요한 인프라는 무엇인지 등을 체계적으로 계획해야 한다. 특히 보안, 데이터 관리, 직원 교육 등 세부적인 실행 계획까지 포함되어야 한다.
인간이 지능을 스스로의 경쟁력이라고 생각하면 힘든 시간을 보내게 될 것이다. 이미 많은 영역에서 AI는 인간의 능력을 뛰어넘고 있다. 중요한 것은 이를 위협으로 보지 않고, 어떻게 AI와 협력해 새로운 가치를 창출할 것인가를 고민하는 것이다. AI 에이전트는 결국 우리의 동반자가 될 것이며 이를 얼마나 잘 활용하느냐가 미래의 경쟁력을 좌우하게 될 것이다.”
조상록 기자
jsrok@chosunbiz.com
