자동차-핀터레스트, AI 생성 콘텐츠 감지 기능 도입

[디지털투데이 황치규 기자]핀터레스트가 피드에 표시되는 이미지 핀(Pin)이 AI로 생성되거나 수정된 경우 'AI 수정'(AI modified)이라는 라벨(Label) 자동 추가된다고 엔가젯이1일(현지시간) 보도했다.

핀터레스트는 블로그를 통해 몇 개월간 이 기능을 테스트해왔고 이미지 메타데이터를 분석해 AI 생성 여부를 감지하는 시스템을 구축했다고 밝혔다.

메타데이터가 없는 경우에도 AI 생성 콘텐츠를 탐지할 수 있는 자동 감지기를 개발 중이다. 하지만 AI 생성 콘텐츠를 정확히 식별하는 것은 여전히 도전적인 과제인 만큼, 오류가 있을 경우 크리에이터가 이의를 제기할 수 있도록 했다고 엔가젯은 전했다.

메타(Meta)에서도 유사한 문제가 발생한 바 있다. 페이스북과 인스타그램에서 AI 라벨이 잘못 적용되면서 사진작가들이 항의했고, 메타는 이를 수정했다.

핀터레스트 역시 AI로 수정된 이미지가 자동으로 AI 생성 콘텐츠로 분류되는 문제를 해결해야 할 것이라고 엔가젯은 전했다.