"알고리즘이 그랬어요" 감사에선 안 통한다…재무 AI, 설계 원칙은?

재무를 위한 AI 모델 설계, 어떻게 해야 할까 [사진: Reve AI]

[디지털투데이 이윤서 기자] 기업 재무 업무에 인공지능(AI)을 도입할 때는 보편화된 AI를 그대로 얹기보다, 감사와 규제 검증을 견딜 수 있는 '설명가능한 설계'를 먼저 갖춰야 한다는 지적이 나왔다.

생성형 AI 도구는 본질적으로 '확률적'이라는 특성을 갖고 있다. 그러나 재무 데이터는 표준과 통제, 책임성이 전제된 '사실성'이 필요하다. 챗봇이 시를 지어 환각을 일으키는 것은 대수롭지 않을 수 있지만, 재무 리스크 프로파일을 잘못 만들어내면 수탁자 책임(신인의무) 차원의 문제가 될 수 있다. 이사회 회의나 고강도 감사 상황에서 "알고리즘이 그렇게 말했다"는 설명은 받아들여지지 않는다.

이에 31일(현지시간) IT매체 테크레이더는 최고투자책임자(CIO)·최고기술책임자(CTO)가 재무 인텔리전스를 구축하려면 투명성, 결정론, 설명가능성을 전제로 아키텍처를 설계해야 한다고 짚었다.

먼저 엔터프라이즈급 재무 AI는 결과만 내놓는 블랙박스가 아니라, 결론의 근거를 거래 단위까지 추적할 수 있어야 한다. 이상 징후나 위험 신호, 예외를 탐지할 경우에는 어떤 거래와 기여 변수, 적용 로직이 해당 판단으로 이어졌는지가 투명한 감사 추적으로 연결돼야 하며, 이렇게 생성된 정보는 전문가에게 전달돼 인간의 판단이 최종적으로 적용될 필요가 있다. 이러한 '사람-기계 연결'이 있어야 AI는 전문가를 대체하는 것이 아니라 역량을 보강하는 방향으로 작동할 수 있다.

데이터 처리 방식도 바꿔야 한다. 과거 금융 리스크 관리는 전체 거래 중 일부(종종 1% 미만)를 표본으로 점검해 확대하는 방식에 의존했지만, 데이터가 풍부한 기업 환경에서는 이런 접근이 부주의에 가깝다. 즉, 총계정원장 반영 이전 단계에서 모든 거래를 100% 처리할 수 있는 체계를 목표로 제시해야 한다.

이를 위해 전사적자원관리(ERP), 고객관계관리(CRM), 레거시 데이터베이스로 분절된 사일로를 해소하고, 통제된 단일 데이터 소스를 구축해야 한다. 아울러 머신러닝을 통해 메타데이터를 실시간으로 정리·태깅함으로써 AI 에이전트의 불필요한 데이터 해석 부담을 줄이고, 사후 보고에서 상시·실시간 거래 검증 체계로 전환해야 한다는 주문도 제시됐다.

도입 효과로는 'EBITDA(상각전영업이익) 누수' 제거가 가장 먼저 꼽힌다. 중복 청구서, 가격 불일치, 계약 미준수 같은 반복적 오류가 조용히 이익을 잠식한다는 설명이다. 가트너는 누수와 비효율로 매년 EBITDA의 3~8%가 사라진다고 추정했다. 테크레이더 자체 조사에서도 최고재무책임자(CFO)의 90% 이상이 해당 추정치에 동의했고, 60%는 이를 막는 데 AI가 필수라고 답했다. 오류를 발생 지점에서 자동 탐지하면 돈이 지출되기 전에 손실을 막을 수 있고, IT 운영을 비용센터에서 가치 창출 엔진으로 바꾸는 데 도움이 된다.

다만 접근은 전면 교체가 아니라 단계적 파일럿이 바람직하다. 부서 전체를 한 번에 바꾸기보다 월말 대사나 매입채무처럼 반복적이고 데이터 집약적인 병목에서 시험 운영을 시작하는 것이 중요하다. 동시에 AI 결과에 대한 책임 주체를 정하고, 데이터 품질·보안·설명가능성 기준을 첫날부터 세워야 한다. 공급업체가 모델이 결론에 이르는 과정을 설명하지 못한다면 엔터프라이즈 준비가 안 된 것으로 봐야 한다.

마지막으로, AI 도입 경쟁에서 중요한 것은 '속도'가 아니라 '신뢰할 수 있는 기반'이다. 재무 영역에서는 신뢰=부가 기능이 아니라 제품 그 자체이며, 무결성 없는 속도는 잘못된 방향으로의 가속일 수 있다.