AI 이미지 출처 추적 무력화? 워터마크 제거 도구 공개

AI 생성 이미지에 포함된 워터마크를 지울 수 있는 도구가 공개됐다. [사진: 리무브 AI 워터마크 ]

[디지털투데이 AI리포터] 인공지능(AI) 생성 이미지에 포함된 가시·비가시 워터마크와 메타데이터를 제거할 수 있는 오픈소스 도구가 공개됐다.

지난달 31일(현지시간) 온라인 매체 기가진에 따르면, 리무브 AI 워터마크(Remove-AI-Watermarks)는 AI 생성 이미지에 삽입되는 다양한 식별 정보를 분석하거나 삭제할 수 있는 무료 오픈소스 도구다. 최근 AI 이미지 생성 서비스들이 콘텐츠 출처 확인과 허위정보 대응을 위해 다양한 식별 정보를 삽입하고 있는 가운데, 해당 도구는 이를 처리할 수 있는 기능을 제공한다.

AI 이미지 생성 서비스들은 일반적으로 세 가지 형태의 식별 정보를 사용한다. 구글 제미니의 스파클 로고나 더우바오의 생성 문구처럼 이미지에 직접 표시되는 가시 워터마크가 있으며, 신스ID·스테이블 시그니처·트리링과 같이 색상이나 밝기 데이터에 삽입되는 비가시 워터마크도 존재한다. 이와 함께 EXIF, C2PA, XMP DigitalSourceType 등 메타데이터 형태의 정보도 활용된다.

리무브 AI 워터마크는 이러한 식별 정보를 대상으로 워터마크 분석, 메타데이터 확인 및 삭제, 특정 위치의 가시 워터마크 제거, 디렉터리 단위 일괄 처리 등의 기능을 지원한다. 실제 예시에서는 제미니가 생성한 이미지에 적용해 스파클 로고를 제거한 뒤 다시 분석한 결과, AI 생성 여부를 판별할 수 없는 상태로 표시됐다.

해당 도구는 윈도 환경에서 도커 데스크탑(Docker Desktop)과 파이썬을 이용해 설치할 수 있으며, pipx를 통해 배포된다. 사용자는 명령어 옵션에 따라 가시·비가시 워터마크와 메타데이터를 개별적으로 제거하거나 한 번에 처리할 수 있다.

다만 이 도구를 둘러싼 논란도 이어지고 있다. 해커뉴스에서는 디지털 추적에 대한 우려를 이유로 도구를 긍정적으로 평가하는 의견이 나온 반면, AI 생성 이미지를 실제 사진처럼 위장하는 데 악용될 수 있다는 우려도 제기됐다. 개발자는 저장소 문서를 통해 합법적인 사용만을 목적으로 한다고 밝히고 있으며, AI 생성 표시를 제거해 인간이 만든 콘텐츠로 속이는 행위는 법률 위반 소지가 있다고 경고했다.