욕설하면 예쁜 말로 바뀐다? 로블록스 AI 채팅 필터링 기능 공개

[디지털투데이 AI리포터] 로블록스가 인공지능(AI)을 활용해 부적절한 채팅 메시지를 실시간으로 정중한 표현으로 수정해 주는 새로운 기능을 도입했다.

5일(현지시간) IT매체 더버지에 따르면, 로블록스는 기존에 금지어를 # 기호로 가리던 방식에서 나아가 사용자의 본래 의도는 유지하되 예의 바른 언어로 문장을 재구성하는 실시간 채팅 수정 기능을 출시했다.

구체적인 작동 방식을 살펴보면, 사용자가 비속어를 섞어 서두르라는 메시지를 보낼 경우 AI가 이를 감지해 비속어를 삭제하고 정중한 문구로 변경한 뒤 채팅창에 노출하는 형태다.

이러한 수정 작업이 이뤄지면 채팅창 내 모든 이용자에게 해당 텍스트가 건전한 대화 환경을 유지하기 위해 재구성되었다는 알림이 즉각 전달된다. 이는 단순히 금지어를 기호로 대체하거나 메시지 전송 자체를 차단하는 마인크래프트 등 기존 게임들의 필터링 시스템보다 한층 능동적이고 고도화된 조치로 평가받는다.

다만 해당 기능은 현재 로블록스 내 체험 환경에서의 채팅에만 한정적으로 적용되며, 연령 인증을 완료하고 유사한 연령대에 속한 이용자들 사이의 대화에서만 작동한다. 로블록스는 지난달부터 플랫폼 내 채팅 기능을 사용하기 위해 연령 확인 절차를 거치도록 의무화했으며, 이에 따라 9~12세나 13~15세 등 비슷한 연령대끼리만 소통이 가능하도록 관리하고 있다.

결과적으로 로블록스는 이번 AI 채팅 재구성 기능을 통해 플랫폼 내 소통의 질을 높이고, 이용자들이 보다 안전하고 서로를 존중하는 환경에서 게임을 즐길 수 있도록 적극 지원할 방침이다.