딥페이크 방어 무력화하나…캐나다 대학, AI 워터마크 제거 툴 공개

인공지능(AI)을 활용해 가짜 콘텐츠를 생성하는 사람이 생겨나고 있다. [사진: Reve AI]

[디지털투데이 AI리포터] 캐나다 워털루 대학 연구진이 인공지능(AI) 생성 콘텐츠의 워터마크를 제거하는 툴 '언메이커'(UnMarker)를 개발했다.

23일(현지시간) 블룸버그에 따르면 이는 AI 기업들이 딥페이크 방어 수단으로 채택한 워터마크 기술이 무력화될 수 있음을 시사하는 연구 결과다.

워터마크는 AI가 생성한 콘텐츠에 삽입되는 숨겨진 패턴으로, 이를 통해 인위적으로 생성된 이미지를 감지할 수 있다. 하지만 연구진은 언메이커가 워터마크 알고리즘이나 내부 파라미터에 대한 사전 지식 없이도 이를 제거할 수 있다고 밝혔다. 테스트 결과, 여러 AI 모델에서 50% 이상의 성공률을 기록했다.

이 같은 연구는 워터마크 기술에 대한 회의론을 확산시킬 전망이다. AI 기업들은 지난해 백악관 행사에서 생성 콘텐츠 식별을 위한 워터마크 도입을 약속했으며, 유럽연합(EU)과 캐나다도 관련 규제를 추진 중이다.

하지만 워털루대 연구진은 워터마크가 실질적인 방어 수단이 되지 못할 가능성이 높다고 경고했다. 연구를 이끈 안드레 카시스 박사과정 연구원은 "AI 기업들이 워터마크에 의존하는 것은 위험한 전략"이라며 "딥페이크 위협을 막기 위해 새로운 접근법을 모색해야 한다"고 강조했다. 워터마크 기술이 빠르게 발전하지 않는다면, 생성형 AI 콘텐츠 식별이 더욱 어려워질 것이라는 우려다.