네이버, ‘AI 클린봇 3.0’ 업그레이드…생명 경시·혐오 댓글 집중 차단

[디지털투데이 이호정 기자] 네이버가 생명 경시, 2차 가해 표현 탐지를 강화한 악성 댓글 탐지 시스템 'AI 클린봇 3.0' 업그레이드를 완료했다고 29일 밝혔다.

이번 업그레이드로 자살, 사망, 신체 훼손 등 생명 경시를 조장하는 댓글, 사건, 사고 피해자, 유족을 향한 조롱, 비하, 혐오성 댓글을 집중 차단한다. 뉴스 댓글 내용뿐만 아니라 기사 제목, 본문을 종합해 맥락에 따라 악의적 의도를 탐지하도록 고도화했다.

지난 2019년 도입된 AI 클린봇은 2020년 문장 맥락 기반 탐지로 기준을 확대했다. 이어 2023년 한국인터넷자율정책기구(KISO) 혐오표현 자율정책 가이드라인을 반영하는 등 성적 불쾌감 유발, 혐오, 비하, 차별 표현, 우회 악플 탐지 범위를 지속적으로 넓혀왔다.

현재 네이버는 올해 정치, 선거 섹션 본문 하단 댓글 미제공, 악성 댓글 일정 기준 초과 시 해당 기사 댓글 서비스 자동 비활성화 등 정책을 운영 중이다.

김수향 네이버 리더는 "욕설, 비속어는 물론 새롭게 생긴 혐오, 비하, 차별 표현을 탐지하기 위해 클린봇 성능을 지속 강화하고 있다"며 "생명 경시 조장, 피해자, 유족 조롱, 혐오 집중 차단을 비롯해 다양한 의견을 청취하며 성능을 고도화할 예정"이라고 말했다.