인스타그램, 청소년 위험 검색 감지…부모 경고 기능 도입

인스타그램이 청소년 정신건강 보호를 위해 부모에게 경고하는 기능을 도입했다. [사진: 메타]

[디지털투데이 AI리포터] 인스타그램이 청소년이 극단적 선택과 관련된 단어 검색을 반복할 경우 부모에게 경고하는 기능을 도입했다.

26일(현지시간) 메타는 해당 기능을 발표하며 이 기능은 부모가 자녀의 위험 신호를 조기에 감지하고, 적절한 지원을 제공할 수 있도록 돕기 위한 조치라고 설명했다. 또한 "짧은 시간 내 몇 차례 검색이 이뤄질 때 알림을 보내도록 설정했다"라며 "실제 위험이 없더라도 예방 차원에서 조치를 취하는 것이 적절하다고 판단했다"라고 덧붙였다. 현재 청소년이 관련 용어를 검색하면 결과가 차단되며, 관련 콘텐츠도 노출되지 않는다.

이번 기능 도입은 인스타그램과 같은 소셜미디어(SNS)가 청소년 정신건강에 미치는 부정적 영향과 관련한 법정 공방 속에서 이루어졌다. 전문가들은 이를 SNS 업계의 '담배 소송'과 같은 전환점으로 보고 있다.

인스타그램 경고 기능은 미국, 영국, 호주, 캐나다에서 우선 적용되며, 부모는 이메일, 문자, 왓츠앱(WhatsApp) 또는 인스타그램 내 알림을 통해 자녀의 검색 행태를 확인할 수 있다. 부모와 청소년 모두 인스타그램의 부모 감독 도구에 등록해야 기능이 활성화된다.

메타는 향후 인공지능(AI) 기반 경고 시스템도 도입할 계획이다. AI가 청소년의 위험 대화를 감지하면 부모에게 경고하는 방식이다. 이는 오픈AI, 메타 등 여러 테크 기업들의 AI 챗봇이 정신건강 관련 부적절한 대화를 유도한다는 우려 속에서 나온 조치다. 현재 메타는 자체 AI 챗봇을 운영 중이며, 연내 새로운 AI 모델 ‘아보카도’(Avocado)를 출시할 예정이다.

한편, 마크 저커버그 메타 최고경영자(CEO)는 최근 LA 법원에서 인스타그램 중독 소송과 관련해 "연령 확인은 애플리케이션은 개발사보다 애플과 구글 같은 모바일 운영체제 기업이 더 효과적으로 수행할 수 있다"라는 입장을 밝혔다. 미국 연방거래위원회(FTC)도 아동 온라인 개인정보 보호 규칙(COPPA) 개정을 검토 중이며, 최근 연령 확인 기술 개발을 위한 정책을 발표했다.