"AI 가짜뉴스 사이트 10배 폭증...70년대 심의 규제론 못 막아"

[디지털투데이 손슬기 기자] 생성형 AI 콘텐츠가 급증하며 미디어 심의 체계에도 변화가 필요하단 지적이다.

11일 여의도 국회에서 디지털미래연구소와 한민수 더불어민주당 의원이 개최한 '미디어·콘텐츠 산업 체질 개선을 위한 제도개선 포럼'에서 김희경 공공미디어연구소 수석연구위원은 "대부분의 뉴스 데이터와 정보 콘텐츠의 품질이 보장되지 않는 문제가 실질적으로 발생하고 있다"며 "AI 시대에는 속도·규모·기술 측면에서 전통적 심의 체계가 작동하지 않는다"고 지적했다.

국제학술지 프론티어스(Frontiers)에 따르면 AI가 생성한 가짜뉴스 사이트는 2023년 대비 2024년 10배 증가해 1200개 이상 등장했으며, 딥페이크 영상은 2019~2023년 550% 폭증했다. 북미 지역 딥페이크 사기 시도는 2137% 급증했고, 전체 웹 트래픽의 50%가 봇(30~37% 악성)에 의해 발생했다. 또 가짜 뉴스는 진실보다 6배 빠르게 확산되며, 팩트체크 지연시간이 15분으로 단축됐지만 거짓 서사 확립엔 충분하다는 게 연구진 분석이다.

◆방송법·정통망법·영비법...AI 콘텐츠 못 막는 3원 체계

현행 심의 체계는 방송법(방송미디어통신심의위원회 사후심의), 정보통신망법(온라인 불법정보 시정요구), 영상물등급위원회법(영화·비디오 사전 등급분류)로 나뉜다.

지상파방송에는 엄격한 사전·사후 심의가 적용되지만, OTT는 2023년 자체등급분류 제도를 도입했음에도 실질적 제재 사례가 전무하다. 김 연구위원은 "정보통신망법상 이론적으로는 방미심위가 음란·폭력·청소년 유해정보를 삭제·차단할 수 있지만, 실시간 인터넷방송의 음란·도박 사이트 접속 차단에만 집중할 뿐 OTT 콘텐츠에 대한 실제 제재는 사실상 부재하다"고 지적했다.

현행 규제 안에서 AI 콘텐츠 심의 한계는 명확하다는 지적이다. 먼저 콘텐츠 심의 시간이 생성 시간을 따라가지 못한다. 기존 제도가 규제하는 전통 콘텐츠는 제작에 수일~수주가 걸리지만 AI는 몇 초 만에 생성된다. 1명의 운영자가 수천개 봇 계정으로 수백만건 게시물을 생산할 수 있다는 설명이다.

탐지와 책임 소재도 어려운 문제다. 유럽의회조사처(EPRS)에 따르면 AI 생성 선거 허위정보는 50% 이상이 진짜 저널리즘과 구별 불가능하며, 딥페이크 사건 발생 시 AI 모델 개발자·도구 제공자·사용자·플랫폼·재공유자 등 다층적 책임 구조로 규제 집행점이 불명확한 것으로 나타났다.

비용 구조도 역전됐다. 딥페이크 생성은 많아 봐야 수백 달러지만 탐지에는 수백만 달러가 든다는 것이다. 2017년 딥페이크 첫 등장 후 2024년 실시간 비디오 생성까지 기술이 급속히 발전했지만 입법은 5~7년 뒤처져 있다.

11일 여의도 국회에서 열린 '미디어·콘텐츠 산업 체질 개선을 위한 제도개선 포럼'. 더불어민주당 최민희·한민수·황정아 의원을 비롯 김희경 공공미디어연구소 수석연구위원, 강신규 한국방송광고진흥공사 책임연구위원 등 발제자와 토론자들이 참석했다. [사진: 디지털투데이]

◆"대형 자율규제, 중소 공동규제...패러다임 전환 시급"

해외 주요국은 AI 콘텐츠 규제를 정립하고 있다.

미국은 지난해 46개 주가 AI 생성 미디어 법안을 제정했고, 올해 1월 비동의 딥페이크 피해자에게 최대 25만달러 소송권을 부여하는 '티파이언스법(DEFIANCE Act)'이 상원을 통과했다. 유럽연합(EU)는 2024년 8월 AI법을 발효하며 생성형 AI는 혁신, 딥페이크는 규제한다. 싱가포르는 법적 처벌보다 검증 툴(AI Verify)을 도입해 자율성을 지지한다.

인도는 AI 가짜 콘텐츠 개별 규제법을 만들고 검열 기구인 '팩트체크 센터'를 운영하고 있다.

김 연구위원은 심의 제도 개선 방향으로 ▲편향성 감사 및 데이터셋 의무화 ▲유연한 규제 메커니즘(법령 아닌 규정으로 신속 대응) ▲C2PA 같은 국제 표준 기술 도입 ▲미디어 리터러시 교육 ▲사업자별 차등 자율규제를 제시했다.

그는 "대형 업체는 투명성 보고서 중심 자율규제로, 중소 플랫폼은 민간 심의협회의 승인형 공동규제로 가야 한다"며 "단일법이냐 분산법이냐보다 얼마나 빨리 대응할 수 있는가가 핵심"이라고 강조했다.

다만 "정보통신망법 개정으로 정부 검열 주체 역할이 확대되면 표현의 자유 긴장도가 상승할 우려가 있다"며 "누가 무슨 기준으로 '허위'를 판단하는가, '풍자'와 '패러디'의 범주 논란이 여전하다"고 지적했다. 또 그는 "1970~80년대 만들어진 매체별 칸막이 규제로는 몇 초 만에 생성되고 6배 빠르게 확산되는 AI 허위정보를 막을 수 없다"며 "기술 개발·자율규제 확대·사업자별 차등 적용·리터러시 교육을 결합한 패러다임 전환이 시급하다"고 강조했다.