자동차-전직 기상캐스터, 딥페이크 영상 피해…AI 악용 심각

딥페이크 범죄로 인한 피해가 증가하고 있는 추세다. [사진: Bing Image Creator]

[디지털투데이 AI리포터] 미국 내쉬빌의 전직 기상캐스터 브리 스미스(Bree Smith)가 인공지능(AI)으로 생성된 음란 딥페이크 영상의 희생자가 되며 큰 충격을 주고 있다고 2일(현지시간) 영국 데일리메일이 알렸다.

AI 기술로 생성된 딥페이크 영상은 브리 스미스의 얼굴을 합성해 인위적인 장면을 연출했으며, AI로 생성된 목소리까지 더해졌다. 브리 스미스는 CBS 뉴스와의 인터뷰에서 "대부분의 밤을 울며 지낸다. 제 아이들이 이런 영상을 보지 않길 바란다"며 충격을 호소했다.

뉴스채널 5(NewsChannel 5)의 기상캐스터로 브리 스미스가 활동할 당시, 한 시청자로부터 "당신을 사칭하는 가짜 영상이 있다"는 이메일을 받고 브리 스미스는 충격에 빠졌다. 브리 스미스는 스스로 가짜 계정을 추적하고 이를 기록하는 작업에 나섰으며, 이후 그는 자신을 도용한 수십 개의 가짜 계정을 발견했다.

이 사건은 AI 기술이 악용될 경우 얼마나 큰 영향을 미칠 수 있는지를 여실히 보여 준다. 미국 연방수사국(FBI)에 따르면 지난해 5만명 이상의 미국인이 AI 기반 사기에 당했으며, 특히 10대들과 유명인, 공인들이 주요 타깃이 되고 있다.

최근 테네시주 의회는 브리 스미스의 증언을 바탕으로 '딥페이크 이미지 방지법(HB 1299/SB 1346 법안)'을 통과시켰다. 이 법은 동의 없이 생성된 음란 딥페이크 영상에 대해 민사 및 형사 처벌을 가능하도록 하는 법이다.