네이버 ‘클린봇’ 고도화… 참사·인명사고 악플 신속 감지
||2025.01.24
네이버는 1분기 내 인명사고 탐지 인공지능(AI)기술을 ‘클린봇 옵저버’에 적용할 예정이라고 24일 밝혔다.
‘클린봇’은 2019년 업계 최초로 만들어진 AI 기반 악플 탐지 시스템이다. 문장 맥락을 파악해 욕설, 저속한 표현뿐 아니라 선정적, 폭력적, 비하적 표현도 스스로 탐지해 필터링하는 게 특징이다.
네이버는 클린봇을 기반으로 2023년 7월 클린봇 옵저버 베타 서비스를 시작했다. 클린봇 옵저버는 악플 작성 시도 비율을 계산해 감지대상 기사를 자동으로 선별하고 해당 기사를 언론사에 알린다. 언론사들은 이전보다 빠르게 댓글제공 중단 필요성을 확인하고 즉각 중단을 결정할 수 있따.
그동안 클린봇 옵저버는 자살 보도를 탐지해 댓글, 추천 스티커 기능을 제외해왔지만 고도화 작업을 통해 대형 참사를 포함한 인명사고 보도의 악플 감지와 알림 기능을 강화한다.
최근 여객기 참사 보도 당시 약 30개의 언론사가 댓글 제공 중단 기능을 이용했지만 추가 대응 필요성에 따라 인명사고 탐지 AI 기술을 클린봇 옵저버에 탑재하기로 했다.
아울러 네이버는 언론 협회·단체와 함께 상반기 중 ‘자살 예방 보도 준칙’과 같은 참사 보도 권고 기준과 악플 예방 문구를 마련해 해당 보도 시 문구를 삽입하도록 협의할 방침이다. 관련 문구가 포함된 기사라면 ‘자살 보도’와 마찬가지로 언론사에 댓글 자동 중단 여부를 설정할 수 있는 기능을 제공할 것으로 예상된다.
이 외에도 네이버 뉴스는 첨예한 사회적 갈등이나 의견 대립이 발생한 것으로 감지된 기사에 대응도 검토한다. 댓글 내 공감, 비공감이 모두 일정 기준 이상 빠르게 올라가면 언론사에 알림을 보내 댓글 정렬 방식을 최신순, 답글순, 과거순 등으로 전환하도록 유도하는 식이다.
