“눈을 믿지 마세요” AI 이용한 가짜 영수증 제출 급증
||2025.10.27
최근 인공지능(AI)을 이용한 가짜 경비 영수증 제출 사례가 급증하면서 기업들이 몸살을 앓고 있다.
26일 파이낸셜타임스(FT)는 오픈 AI와 구글 등 주요 AI 기업들이 최근 신규 이미지 생성 모델을 출시하면서 기업 내부에 제출되는 AI 생성 영수증이 급격히 늘었다고 보도했다.
소프트웨어 업체 앱젠(AppZen)은 지난 9월 제출된 허위 문서 중 약 14%가 AI로 만든 가짜 영수증이었다고 밝혔다. 이는 지난 2024년 0%였던 데서 급증한 것이다. 핀테크 기업 랩프(Ramp) 역시 자사의 신형 소프트웨어가 90일간 100만달러(약 14억3380만원) 이상의 허위 청구서를 탐지한 것으로 나타났다.
경비 관리 플랫폼 미디어스(Medius)가 미국과 영국 재무 담당자들을 대상으로 실시한 조사 결과에 따르면 응답자 중 30%가량이 오픈 AI의 GPT-4o 출시 이후 위조 영수증이 증가했다고 응답했다.
크리스 주노(Chris Juneau) SAP 글로벌 경비 플랫폼 컨커(Concur) 제품 마케팅 총괄 부사장은 “이 영수증들은 너무 정교해서 우리는 고객에게 ‘눈을 믿지 말라’고 조언한다”며 “오픈 AI가 지난 3월 GPT-4o의 향상된 이미지 생성 모델을 출시한 후 AI 생성 영수증의 수가 급증했다”고 말했다.
이에 오픈 AI 측은 “정책이 위반될 경우 조치를 취하며, 자사 이미지에는 챗 GPT에서 생성되었다는 메타데이터가 포함되어 있다”고 설명했다.
과거 위조문서를 만들기 위해서는 사진 편집 기술이나 유료 편집 시스템이 필요했다. 하지만 최근에는 무료로 접근 가능한 이미지 생성 소프트웨어가 잇따라 출시돼 직원들이 단 몇 초 만에 간단한 텍스트 명령으로 영수증 조작이 가능해졌다는 게 FT의 설명이다.
실제로 경비 관리 플랫폼들이 제공한 자료를 보면, 실제 종이의 주름, 현실적인 메뉴 항목, 서명 등이 포함된 정교한 가짜 영수증이 발견된 사례도 있었다.
가짜 영수증 제출 사례가 급증하면서 기업들은 가짜 영수증을 식별해야 하는 상황에 놓였다. AI 소프트웨어는 이미지의 메타데이터를 분석해 AI 플랫폼에서 생성된 것인지 확인하지만, 사용자가 사진을 다시 찍거나 화면 캡쳐 시에는 정보가 쉽게 제거될 수 있다.
세바스티앙 마르숑(Sebastien Marchon) 경비 관리 플랫폼 리두(Rydoo) CEO는 “이건 미래의 위협이 아니라 이미 현실”이라며 “지금은 비준수 영수증 중 소수만 AI 생성이지만, 이 수치는 점점 더 늘어날 것”이라고 말했다.
SAP가 지난 7월 발표한 조사 결과 최고재무책임자(CFO)의 약 70%가 자사 직원들이 AI를 이용해 출장비나 영수증 위조를 시도했다고 믿고 있다고 답했으며, 실제로 SAP에서도 약 10%가 위조 영수증 제출을 시도한 것으로 조사됐다.
메이슨 윌더(Mason Wilder) 공인부정조사협회 연구국장은 “AI가 생성한 허위 영수증은 기업에 매우 심각한 문제를 초래하고 있다”며 “이제는 사진 편집 프로그램을 쓰던 시절처럼 기술적 능력이나 전문성이 필요하지 않나 누구나 조작이 가능하다”고 지적했다.
허인학 기자
ih.heo@chosunbiz.com
