"AI 딥페이크 잡는다" 유튜브, 정치인·언론인 얼굴 추적 기능 확대

유튜브가 정치인과 언론인을 대상으로 AI 딥페이크 탐지 기능을 확대한다. [사진: 셔터스톡]

유튜브가 정치인과 언론인을 대상으로 인공지능(AI) 딥페이크 탐지 기능을 확대한다.

10일(현지시간) IT 매체 더 버지에 따르면 유튜브는 정치인과 언론인도 자신의 AI 생성 딥페이크를 추적할 수 있도록 '유사 탐지'(likeness detection) 기능을 확대한다고 밝혔다. 이 기능은 이미 수백만 명의 유튜브 콘텐츠 제작자에게 제공되고 있으며, 10일부터 파일럿 프로그램을 통해 정치인과 언론인, 정부 관계자에게도 적용된다. 다만 도널드 트럼프 대통령이 대상에 포함됐는지는 공개하지 않았다.

유사 탐지는 유튜브의 '콘텐츠 아이디'와 유사한 방식으로 작동하지만, 저작권 대신 얼굴을 인식해 콘텐츠를 탐지한다. 탐지된 영상은 유튜브의 개인정보 보호 정책에 따라 삭제 요청이 가능하며, 패러디나 풍자 목적의 콘텐츠는 유지될 가능성이 크다. 레슬리 밀러(Leslie Miller) 유튜브 정부·공공정책 담당 부사장은 "유튜브는 표현의 자유를 보호하며, 패러디와 정치적 비판 역시 이에 포함된다"라고 밝혔다.

프로그램 참여자는 자신의 영상과 신분증을 제출해야 하며, 제공된 데이터는 탐지 기능에만 사용된다. 또한 언제든 삭제를 요청할 수 있다. 암자드 하니프(Amjad Hanif) 유튜브 창작자 제품 부문 부사장은 "현재 삭제 요청 사례는 매우 적으며, 많은 경우 단순 탐지만으로도 충분하다"라고 설명했다.

다만 정치인의 경우 반응이 달라질 가능성도 제기된다. 유튜브는 향후 AI 생성 딥페이크 콘텐츠의 수익화 허용 여부도 검토하고 있는 것으로 전해졌다.

유튜브는 AI 딥페이크가 유명인뿐 아니라 일반 사용자에게도 위협이 될 수 있다는 점을 인식하고 있지만, 당장은 기능 적용 대상을 유명인과 정치인 중심으로 제한할 계획이다. 일반 이용자는 별도의 신고 절차를 통해 AI 딥페이크 영상 삭제를 요청할 수 있다.

유튜브는 AI 생성 콘텐츠 확산에 대응하기 위해 저품질 AI 콘텐츠 단속을 강화하는 한편, 창작자에게 AI 기반 영상 제작 및 최적화 도구도 제공하고 있다. AI 콘텐츠가 플랫폼의 핵심 요소로 자리 잡는 가운데, 딥페이크 문제에 대한 유튜브의 대응이 얼마나 효과를 거둘지 주목된다.