딥페이크 성범죄 사태에 분주해진 플랫폼
||2024.09.03
인공지능(AI)을 악용한 딥페이크 성범죄가 기승을 부리는 가운데 주요 플랫폼 기업들이 신고 시스템을 강화하는 등 대응책 마련에 나섰다. 하지만 업계는 이들 기업의 자체 대응만으로는 범죄 근절에 한계가 있다고 입을 모은다.
2일 업계에 따르면 네이버와 카카오는 딥페이크 성범죄 영상물이나 이미지를 신고할 수 있는 신고 채널을 개설했다. 또 '딥페이크 성범죄 영상물 신고' 페이지는 방송통신심의위원회와 연계했다.
양사는 또 딥페이크와 연관된 검색어를 청소년 보호 검색어로 지정하고 모니터링 전담 부서를 운영하고 있다. 네이버는 AI 기반 실시간 음란물 필터링 기술로 운영정책 위반 게시물을 감지하고 차단 조치한다. 카카오는 지난달 카카오톡에 '페이크 시그널' 기능을 도입해 사칭을 통한 사기 등에 선제 대응하도록 경고 메시지를 전달하도록 조치했다.
구글과 메타는 자체적으로 정책을 마련하고 대응하고 있다. 구글은 이용자 신고와 자동화된 시스템을 활용해 불법적인 딥페이크 콘텐츠를 추적·식별하고 있다. 지난해 AI로 생성한 이미지, 오디오에 눈에 띄지 않은 비가시성 워터마크를 삽입하는 '신스ID' 기술도 도입해 운영 중이다. 5월부터는 이를 텍스트와 동영상에도 확대 적용했다.
페이스북과 인스타그램을 운영하는 메타는 AI 딥페이크 조작물의 확산을 막기 위해, 커뮤니티 정책을 위반하는 조작된 미디어를 삭제 조치한다. 또 허위 콘텐츠이거나 AI를 사용한 콘텐츠에는 라벨링도 붙이도록 했다.
업계는 이 같은 자율규제만으로는 AI 딥페이크 피해 확산을 막기 어렵다고 지적한다. 피해신고만으로는 가해자 처벌에 한계가 있는데다가 적발을 하더라도 현행법으로 처벌이 어렵기 때문이다.
업계 한 관계자는 "현행법으로는 딥페이크를 활용한 허위 이미지나 영상물을 제작했을 때 처벌할 수 있는 근거가 없다"며 "플랫폼에 신고를 하더라도 범죄 예방 효과가 크지 않다"고 지적했다. 그는 이어 "딥페이크 제작물을 악용하겠다는 불순한 의도를 피해자가 입증하지 못하면 가해자는 무혐의가 된다"며 "정부차원에서의 적극적인 조치가 필요하다"고 강조했다.
실제 정부는 지난달 30일 국무조정실 주재로 '딥페이크 성범죄 대응 범정부 대책 회의'를 열고 딥페이크 등 허위 영상물 소지, 구입, 시청 행위 처벌하는 규정을 신설키로 했다. 또 관련 처벌 기준을 높이는 법안을 논의하기로 했다.
문제는 시기다. 아직까지 논의만 이뤄졌다. 실제 대책은 10월 쯤 나올 것으로 예상된다. 결국 실질적인 처벌은 대책 마련 이후 한참 뒤에야 이뤄진다.
정혜련 경찰대 교수는 "해외에서는 딥페이크 성범죄와 관련한 처벌 규정을 만들려는 움직임이 일고 있다"며 "우리나라만 독보적으로 특별한 법을 만들 것으로 보이진 않고, 해외와 비슷한 수준의 통일된 어떤 처벌 기준이 마련될 가능성이 높다"고 말했다.
이선율 기자 melody@chosunbiz.com
