자동차-챗GPT 이미지 생성기, 가짜 영수증 생성했다…"진짜같네"

[디지털투데이 AI리포터] 오픈AI 챗GPT의 새로운 이미지 생성기가 가짜 영수증을 만드는 데 악용되고 있다고 지난달 31일(현지시간) IT매체 테크크런치가 전했다.

엑스(트위터) 사용자인 디디(@deedydas)는 GPT-4o로 만든 미국 샌프란시스코 스테이크하우스의 가짜 영수증 사진을 게시했다.

디디뿐만 아니라 다른 사용자도 음식이나 음료 얼룩을 넣어 더욱 실제처럼 보이게 하는 등 비슷한 결과를 복제할 수 있었다. 프랑스의 한 링크드인 사용자가 현지 레스토랑 체인의 구겨진 영수증을 GPT-4o로 구현한 것은 상당히 현실감 있는 모습이다.

다만 몇 가지 치명적인 결함이 있었는데, 합계에서 마침표 대신 쉼표를 사용하고 있고 수학적 계산이 맞지 않는다는 점이다. 이는 AI가 여전히 기본적인 수학에 어려움을 겪고 있음을 드러낸다.

그러나 사진 편집 소프트웨어나 더 정확한 프롬프트를 사용하면 몇 가지 숫자를 빠르게 수정하는 것은 어렵지 않을 것이라고 매체는 지적했다. 가짜 영수증 생성이 매우 쉬워지면 사기가 발생할 가능성이 커질 것으로 우려된다.

You can use 4o to generate fake receipts.

There are too many real world verification flows that rely on “real images” as proof. That era is over. pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) March 29, 2025