[디지털투데이 AI리포터] 미국 펜실베이니아주의 한 사립학교가 인공지능(AI)을 악용한 딥페이크 불법 성적 합성물로 발칵 뒤집혔다고 19일(현지시간) IT 매체 아스테크니카가 지역 매체 랭커스터 온라인(Lancaster Online)을 바탕으로 전했다.

보도에 따르면 펜실베이니아주 고등학교인 랭커스터 컨트리 데이 스쿨(Lancaster Country Day School) 재학생이 50여명의 여학생에 대한 딥페이크 불법 성적 합성물을 만들었다.

매체는 학교 교장이 지난해 11월 처음으로 이 문제를 인지한 것으로 보고 있다. 당시 학교 재학생이 주 검찰청에서 운영하는 학교 포털을 통해 익명으로 딥페이크에 대해 신고했다. 하지만 교장은 조치를 취하지 않았고, 올해 중반에 불법 합성물을 제작한 학생이 체포될 때까지 더 많은 피해 학생이 발생했다.

뒤늦게 사실을 알게 된 학부모들은 교장을 비롯한 학교 고위 관계자들이 사임하지 않으면 소송을 제기하겠다고 협박했다. 이로 인해 교장과 학교 이사회 회장이 자리에서 물러났다.

한편 미국에서는 아동 학대로부터 아동을 보호하는 기존 법률이 AI의 피해로부터 아동을 보호하기에 충분한지 여부를 검토하고 있다. 일부 의원들은 온라인에서 이 같은 특정 종류의 유해 콘텐츠가 확산되는 것을 막기 위한 법안을 추진하고 있다.

제안된 법안에 따르면, 딥페이크 성인물을 개인의 동의 없이 공유하는 자에 대해  최대 15만달러(약 2억910만원)의 벌금형에 처할 수 있으며, 제작물을 공유해 폭력을 조장하거나 정부 기관의 절차에 영향을 미치는 경우 최대 10년의 징역형에 처할 수 있다.

• 이더리움 강세장 언제 올까…로드맵 이행 여부 달려
• 美 암호화폐 거래소 제미니, 프랑스 공식 진출
• 삼쩜삼 리더십 개편...백주석 신임 대표 선임
• 보스, 하이엔드 오디오 '맥킨토시' 인수…"럭셔리 시장 겨냥"
• SKT, 신한카드와 AI 기반 사이버금융 범죄 예방 서비스 선보인다