오픈AI·구글·메타를 비롯한 글로벌 빅테크 플랫폼의 청소년 보호 조치가 유명무실하다는 지적이 이어지고 있다. SNS와 AI챗봇이 청소년의 이용을 제한하거나 이용 콘텐츠 범위를 한정하는 식의 조치를 우회하는 게 쉬워서다. 빅테크가 청소년의 플랫폼 이용으로 발생하는 문제의 법적책임을 부모에게 전가하려는 시도라는 비판이 제기된다.

8일 BBC, 워싱턴포스트 등 외신에 의하면 인스타그램, 챗GPT 등 빅테크 플랫폼이 청소년을 유해 콘텐츠로부터 보호하기 위해 내놓은 청소년 보호 기능이 정작 유해 콘텐츠를 차단하지 못하는 것으로 나타났다.

BBC는 아동 안전단체와 연구자들이 조사한 결과 인스타그램의 청소년 보호도구 47개 중 30개가 효과가 없거나 존재하지 않는 것으로 확인됐다고 보도했다. 청소년에게 노출되어서는 안 되는 자살·자해 등 유해 콘텐츠가 보여서다. 메타는 BBC에 해당 연구 결과는 보호도구의 작동 방식과 수백만명의 부모·청소년이 보호도구를 사용하는 방식을 잘못 설명하고 있다고 반박했다.

인스타그램, 틱톡, 챗GPT 등 글로벌 빅테크 플랫폼이 청소년 보호조치를 하는 이유는 최근 자살·자해 등의 콘텐츠를 청소년이 시청하면서 실제 사건이 발생하고 있어서다. 오픈AI는 8월 미국 캘리포니아의 한 부부로부터 소송을 당했다. 챗GPT가 그들의 16세 아들 아담 레인이 스스로 목숨을 끊도록 부추겼다는 이유다. 챗GPT에 청소년 보호 기능이 생긴 계기다.

챗GPT도 인스타그램과 마찬가지로 보호조치가 유명무실한 모양새다. 챗GPT의 보호조치는 챗GPT 10대 전용 계정(Teen accounts)다. 10대 전용 계정을 이용하면 부모가 자녀의 챗GPT 사용 시간을 제한하거나 특정 시간 접속을 차단할 수 있다. 특정 주제 노출을 제한하는 것도 가능하다. 우회 방법이 너무 간단하다는 점은 문제다. 워싱턴포스트는 챗GPT 10대 전용 계정을 로그아웃하고 새 계정으로 로그인하면 해당 조치를 우회할 수 있다고 밝혔다.

문제는 이러다 사고가 발생할 경우 부모가 제대로 통제하지 못해 일이 벌어졌다는 식으로 기업이 책임을 부모에게 전가할 수 있다는 것이다. 빅테크가 유해 콘텐츠를 차단하지 못하는 보호도구나 로그아웃으로 우회되는 보호조치로 법적 책임을 회피하려 한다는 비판이 나온 배경이다. 

워싱턴포스트는 “오픈AI가 SNS 기업들이 실패했던 책임을 부모에게 떠넘기는 전략을 따라가는 모양새다”라며 “AI 기업은 아이들에게 AI가 성적 메시지를 보내거나, 섭식장애나 자해를 부추기는 제품을 만들지 않도록 할 책임이 있다”고 지적했다.

변인호 기자
jubar@chosunbiz.com

• 챗GPT로 택시 부르고 배달도 OK… AI 에이전트 성큼
• [부음] 김 알버트(한국MSD 대표이사)씨 부친상
• 이해민 의원 “과기정통부, 지난해 보안 강화 과제 최고등급 포장”
• 아시아 무대 빛낸 한국 여성 CEO는 누구
• 퀄컴, 이탈리아 아두이노 인수