[Case Story]AI 도입, 모델 선택보다 거버넌스 설계가 먼저다
||2026.04.02
[디지털투데이 황치규 기자]"개념 검증(PoC) 단계까지는 잘 된다. 문제는 그 다음이다. 실제 운영 단계에 들어서면 많은 기업들에서 AI 프로젝트가 멈춘다."
이와 관련해 아모레퍼시픽에서 AI 프로젝트를 담당하는 황태진 시스템 아키텍트는 많은 기업들에서 AI가 파일럿 수준을 넘어서지 못하는 것과 관련해 3가지를 이유로 짚었다.
그는 메가존클라우드가 2일 글로벌 파트너들과 개최한 컨퍼런스 'ICON2026' 기조연설에서 기술 변화 속도, 현실과 기대 간 간극, 기업 데이터를 AI에 적용하는 과정에서 불어지는 문제들이 기업내 AI 확산을 가로막고 있다고 강조했다.
'기술 변화 속도와 관련해 황태진 아키텍트는 "챗GPT가 세상에 나온 지 얼마 되지 않아 제미나이가 등장했고, 이제는 클로드가 시장을 흔들고 있다"면서 "지금 투자하는 게 맞는지, 계속 바뀌는데 지금 결정을 내려도 되는지 고민이 생길 수 밖에 없다"고 말했다.
기대와 현실 사이 간극은 집에서는 됐던게 왜 회사에서는 안 되느냐는 의문으로 요약된다. 그는 "유튜브와 바이브코딩 덕분에 개인이 AI를 쓰는 것이 쉬워졌다. 하지만 기업 현장은 다르다. 그러다 보니 집에서는 되는데 왜 회사에서는 안 되냐?는 질문이 현업 담당자들로부터 쏟아진다. AI 담당자 입장에선 답하기 어려운 상황"이라고 말했다.
데이터 활용, 비용도 걸림돌이다. 황태진 아키텍트는 "내부 데이터가 외부로 유출되거나 AI 모델 학습에 쓰이지 않는지 불안할 수 밖에 없고 에이전트에 어디까지 권한을 줘야 하는지 기준도 모호하다"고 말했다. 또 "질문 구조에 따라 토큰 소비량이 크게 달라지는데, 이를 관리하지 못하면 비용이 기하급수적으로 늘어난다. 투자 대비 효과를 증명해야 하는 상황에서 비용 관리가 되지 않으면 운영 단계로 넘어가기 어렵다"고 말했다.
아모레퍼시픽이 이같은 문제를 극복하고 AI를 실전에 투입하기 위해 꺼낸 카드는 모델 선택보다 AI 거버넌스를 먼저 설계하는 것이었다. 황태진 아키텍트는 "탄탄한 설계 위에서 AI 고도화도 가능하다"면서 "보안, 접근 권한, 비용에 초점을 맞춰 AI거번넌스를 설계했고 이를 기반으로 3가지 AI에이전트를 실제 운영하고 있다"고 전했다.
아모레퍼시픽이 사용 중인 AI에이전트는 데이터 추출 에이전트, 인큐(InQ) 에이전트, 글로벌 네트워크 에이전트 3가지다.
데이터 추출 에이전트는 현업 담담자가 자연어로 필요한 데이터를 요청하면 AI에이전트가 바로 답을 주는 구조다. 예전에는 현업 담당자가 운영팀에 필요한 데이터를 요청해야 했는데, 지금은 직접, 그리고 바로 찾을 수 있다. 구축이 쉬운 건 아니었다. 특히 시맨틱 레이어를 적용하는 과정이 만만치 않았다.
황태진 아키텍트는 "시맨틱 레이어가 없다 보니 정확도가 70%를 넘지 못했다. 질문 범위 보다는 정확도를 높이는데 초점을 맞췃고 현재 16가지 시맨틱 레이어를 적용해 해당 질문 유형에 대해 100% 정확도를 확보했다"고 말했다.
인큐 에이전트는 검색 증강 생성(RAG) 기반으로 내부 매뉴얼을 학습시켜, 운영팀이 처리하던 일반 문의 업무를 맡기는 것이 골자. 황태진 아키텍트는 "50%를 에이전트가 대신 처리하면서 운영팀 부담이 그만큼 줄었다"고 말했다.
아모레퍼시픽은 한국 본사에서 글로벌 법인 네트워크를 운영한다. 시차 탓에 미국이나 유럽 법인들로부터 들어오는 요청에 즉각 대응하기 어려웠는데, 글로벌 네트워크 에이전트가 지라로 들어오는 문의를 받아 학습된 내용 기반으로 답변하거나, 이기종 시스템을 직접 제어해 비밀번호 초기화 같은 단순 조치를 직접 수행하는 환경을 구축했다는게 황태진 아키텍트 설명이다. 그는 "3가지 에이전트들 모두 거버넌스 설계를 먼저 마치고 개발했다"고 강조했다.
황태진 아키텍트는 기업들이 에이전트를 도입하기 전 몇 가지 질문들에 답을 먼저 해볼 필요가 있다고도 조언했다. 에이전트를 단순 도구로 볼 것인지, 하나의 시스템으로 볼 것인지. 권한을 에이전트에 줄 것인지, 데이터에 것인지, 아니면 둘 다 통제할 것인지, 비용을 서비스 단위로 볼 것인지, 사용자 단위로 볼 것인지 등을 예로 들었다.
황태진 아키텍트는 "아모레퍼시픽은 에이전트를 시스템으로 보고, 권한과 데이터 모두를 통제하며, 서비스와 사용자 단위 모두에서 비용을 들여다보는 방식을 선택했다"면서 "엔터프라이즈AI 도입에서 가장 핵심은 기술이 아니다. 지속 가능하게 운영할 수 있는 구조를 만드는 것이고, 그 구조는 AI 거버넌스가 제대로 있을 때 가능하다"고 말했다.
