"딥페이크 성범죄 차등규제로 접근해야"
||2024.09.20
"딥페이크 음란물 근절을 위해 AI를 규제하겠다는 일반화된 논리로 접근해선 안됩니다. 영역마다 필요성이 다른 만큼 차등화된 규제가 필요합니다."
최경진 인공지능 빅데이터 정책연구센터장(가천대 법대 교수)은 19일 서울 여의도 국회에서 열린 '딥페이크 허위영상물 성범죄에 대한 종합적 대안 모색을 위한 정책토론회'에서 이 같이 말했다. 딥페이크란 인공지능 기술을 이용해 사진이나 영상을 조작하는 일, 또는 그 결과물인 가짜 이미지나 동영상을 이르는 말이다.
이날 토론회에서는 정치권과 학계, 경찰·법조계, 기업 등을 대표하는 주요 관계자가 모여 최근 확산된 딥페이크 성범죄 문제를 해결하기 위한 대응방안을 논의했다.
최경진 센터장은 딥페이크 대응의 어려움을 설파했다. 딥페이크와 실제를 구분하기 어렵고 유해한 딥페이크가 인터넷을 통해 빠른 속도로 확산된다는 점에서 대응이 매우 어렵다는 설명이다.
그는 "딥페이크라는 의미와 규제 목적, 범위 설정을 명확하게 하고 접근해야 규제 실효성이 있다"고 강조했다.
이에 최 센터장은 딥페이크 규제를 5단계로 나눠 처벌해야 한다고 봤다. AI 생성 콘텐츠, 딥페이크와 같은 초상권 및 개인정보 침해로 1단계, 딥페이크 가짜뉴스는 사회질서 교란으로 2단계 제재를 구분해서 할 것을 제안했다.
또 3단계는 딥페이크 피싱, 4단계는 딥페이크 가짜뉴스를 통해 선거에까지 활용하는 사례, 5단계는 암호화된 메신저로 딥페이크 음란물을 유포하는 행위로 구분했다. 그는 특히 5단계의 경우 성범죄, 인격훼손 사례로 간주되기 때문에 처벌 수위를 최대치로 상향한 제재가 필요하다고 봤다.
최 교수는 "딥페이크 관련 범죄자들은 기존 AI 서비스나 시스템을 활용하는데 이를 확인하려면 추적 감시를 해야한다"며 "추적감시는 워터마킹으로 확인할 수 있는데 이를 임의로 제거하거나 변경, 우회하는 방법으로 무력화하는 제재를 하는 방안이 좀더 실효성있는 접근이 될 것 같다"고 말했다.
딥페이크 허위 영상물 공급을 막기 위해 그동안 아동·청소년 대상으로 한정된 '위장수사'의 범위를 성인까지 확대하는 규제 개선이 필요하다는 지적도 나왔다. 현행 '청소년성보호법'상 위장수사는 아동·청소년 대상 디지털 성범죄를 수사대상으로 한다. 텔레그램 등과 같은 수사에 협죄하지 않는 보안메신저를 이용하는 범죄에서는 위장수사가 피의자 적발에 효과적인데 현행법만으로는 수사에 제약이 많은 실정이다.
임윤상 경찰청 사이버성폭력수사계장은 "그간 위장수사 제도는 (피의자 검거에) 긍정적인 성과를 내왔으나 그 대상 범죄가 아동·청소년 대상 디지털 성범죄로 한정된다는 한계가 있다"며 "성인 대상으로 위장수사를 가능하게 확대하는 것은 반드시 필요하고 신속한 신분 비공개수사 착수가 가능하도록 사후승인제도 도입도 필요하다"라고 말했다.
장응혁 계명대 경찰행정학과 교수는 "위장수사는 절차법적인 문제로 해당 범죄의 종류와 성질, 유인자의 지위와 역할, 유인경위와 방법 등을 종합적으로 판단하도록 하고 있다"라며 "미국의 경우 경미한 범죄행위는 어쩔수 없는 경우 (위장수사를) 허용하지만 중대한 범죄행위는 금지하고 있다. 영국의 경우 최근 어느정도 범죄행위를 허용하도록 제도를 개정했다. 이런 점을 고려해 국내에서도 위법성이 높은 행위는 최대한 제한하는 방향에서 이뤄져야한다"라고 강조했다.
김세희 서울중앙지검 형사3부 검사는 "위장수사는 범죄자들에게 '내가 접근한 그 사람이 혹시 수사관은 아닐까'하는 심리적 허들로 작용한다는 점에서는 장점이 있다"며 "위장수사로 공범에 접근해 사법협조를 받아내는 방식의 조합도 가능하다"고 제안했다.
김영규 한국인터넷기업협회 정책실장은 "그간 플랫폼들도 딥페이크 문제에 대처하기 위해 자체적인 라벨링, 워터마크 삽입, 신고기능 강화, 투명성 결과 보고서 발간 등 다양한 기술들을 도입해 대응해왔다"라며 "그런데도 딥페이크 범죄 기술은 빠르게 진화하고 있어 한계가 존재한다. 플랫폼별 정부와 유관단체와 함께 보다 적극적인 개선방안 논의가 필요하며 인공지능 리터러시 교육 등도 해나가며 보다 예방책을 강화할 필요가 있다"고 말했다.
이선율 기자 melody@chosunbiz.com
