[디지털투데이 AI리포터] 대안형 소셜미디어(SNS)로 불리는 블루스카이의 사용자 수가 급증함에 따라 유해 콘텐츠 보고 건수가 늘어나고 있다는 소식이다.

20일(현지시간) IT매체 엔가젯에 따르면 지난해 블루스카이의 사용자 수는 약 2300만 명 증가해 총 260만 명에 이르렀다. 같은 기간 사용자 보고 건수는 2023년 대비 17배 증가해 648만 건에 달했다.

이러한 보고의 대다수는 괴롭힘, 트롤링, 스팸, 잘못된 정보 및 사칭 등과 연관이 있었다. 특히, 사칭 계정 문제는 블루스카이의 인기가 급증하면서 부각되었고, 회사는 지난해 11월 사칭 정책을 더 공격적으로 업데이트한 바 있다.

블루스카이는 내부 관리팀 인력을 기존 수준 대비 4배로 확장해 현재 약 100명에 이르렀으며, 채용이 계속 진행 중인 것으로 알려졌다. 일부 관리자는 아동 안전을 위한 전담 요원과 같은 특정 정책 분야에 전문성을 갖추고 있는 것으로 나타났다. 

또한 불법 및 긴급 문제와 원치 않는 성적 콘텐츠에 대한 보고도 많았다. '기타'로 분류된 보고는 72만6000건이었다. 블루스카이는 지난해 총 238건 중 146건의 법 집행, 정부, 법률 회사의 요청에 응했다. 블루스카이 관리자는 2024년 한 해 동안 6만6308개의 계정을 삭제했으며, 자동 시스템은 3만5842개의 스팸 및 봇 프로필을 삭제했다. 

블루스카이는 올해 보고 및 항소 처리 방식을 변경해 사용자 소통을 간소화할 계획이다. 사용자에게 보고한 콘텐츠에 대한 조치 업데이트를 제공하고, 앱 내에서 직접 항소할 수 있도록 한다는 방침이다.

블루스카이는 "당사는 사용자 보고를 보완하기 위한 강력한 사전 탐지 시스템에 투자하고 있으며, 유해 콘텐츠를 신속하게 식별하고 해결하기 위해 여러 탐지 방법의 필요성을 인지하고 있다"라고 밝혔다. 

• 기업 내 AI 도입, 에너지 효율 관리 여전히 미흡
• 오픈AI, 美 정부와 비공개 회의 예정…'박사급 AI 에이전트' 논의
• 작년 12월 외화예금 29억달러↑…기업 예비용 달러 확보 등 영향
• 대만, AI칩 기술 위상 강화...中과 격차 더 벌려
• 스마트폰 디자인 어떻게 나오나…형태·재료·무게 고려