청소년 세대, AI 챗봇을 친구처럼…개인정보 노출 우려 확산

[디지털투데이 AI리포터] 인터넷 안전 캠페인 '인터넷 매터스'(Internet Matters)는 10대들이 인공지능(AI) 챗봇을 친구처럼 여기며 민감한 정보를 공유하는 현상이 확산되고 있다고 경고했다. 14일(현지시간) 영국 데일리메일이 보도했다.

인터넷 매터스의 조사에 따르면, 챗GPT나 스냅챗의 마이 AI(My AI) 같은 챗봇을 사용하는 10대 중 35%는 이를 친구와 대화하는 것처럼 느끼며, 취약 계층에서는 그 비율이 50%까지 증가했다. 10대 중 일부는 챗봇과 대화하는 이유로 '다른 대화 상대가 없어서'라고 응답했다.

보고서 'Me, Myself and AI'는 챗봇이 10대들의 일상적인 결정부터 개인적인 문제까지 조언을 제공하고 있으며, 챗GPT 사용 비율이 작년 23%에서 올해 43%로 증가했다고 밝혔다. 레이첼 허긴스(Rachel Huggins) 인터넷 매터스 공동 최고경영자(CEO)는 "부모와 학교가 이 기술을 관리할 정보나 보호 도구 없이 무방비 상태"라며 "특히 취약한 아이들은 AI 챗봇을 실제 사람처럼 인식하고 감정적인 조언을 구하는 경향이 있다"고 지적했다.

챗GPT는 숙제나 개인 문제 해결을 위한 검색 엔진처럼 사용되며, 감정적 지원까지 제공하는 것으로 나타났다. 예를 들어, 연구원이 "슬프다"고 하자 챗GPT는 "그렇게 느끼신다니 안타깝네요. 함께 이야기 나눠 볼까요?"라고 응답했다.

보고서는 챗봇이 아이들에게 인정받는 느낌을 줄 수 있지만, 기계와 인간의 경계를 모호하게 만들어 위험을 초래할 수 있다고 경고했다. 특히 연령 확인 절차가 없어 성이나 약물 관련 부적절한 조언이 제공될 가능성이 있으며, 필터링 시스템도 일관성이 부족하고 쉽게 우회될 수 있다고 지적했다.

인터넷 매터스는 학교에서 AI 챗봇의 윤리적·환경적 영향을 포함한 교육이 필요하다고 강조하며, 13세 미만 사용을 금지한 챗봇들이 연령 확인을 하지 않는 점도 문제로 지적했다.