자동차-틱톡, 인종차별 AI 영상 범람…구글 비오3가 원인?

[디지털투데이 AI리포터] 틱톡에서 구글 비오 3(Veo 3)으로 생성된 인종차별 인공지능(AI) 영상이 급증하며 논란이 커지고 있다.

2일(현지시간) IT매체 아스테크니카는 구글의 비오3가 인종차별적 콘텐츠를 생성하는 데 활용되며, 틱톡에서 이러한 영상이 확산되고 있다고 전했다. 미디어매터스(MediaMatters)에 따르면, 최근 틱톡에서 AI로 생성된 인종차별 및 반유대주의 영상이 증가하고 있으며, 대부분 흑인을 범죄자나 원숭이로 묘사하는 등 혐오적 내용을 담고 있다. 영상은 8초 이내로 짧고, 'Veo' 워터마크가 포함돼 있어 구글의 AI 모델로 생성됐음을 보여준다.

틱톡은 혐오 콘텐츠를 금지한다고 명시하고 있지만, 이러한 영상들은 여전히 확산되고 있다. 틱톡 대변인은 미디어매터스가 지적한 계정의 절반 이상이 이미 정책 위반으로 차단됐으며, 나머지 계정도 삭제됐다고 밝혔다. 그러나 AI 생성 콘텐츠가 빠르게 확산되는 상황에서 틱톡의 대응이 충분하지 않다는 지적이 나온다.

구글 역시 혐오 콘텐츠 생성을 금지하는 정책을 가지고 있으나, 비오3의 필터가 이를 완벽히 차단하지 못하고 있다. AI는 명령어의 애매함을 이해하지 못해 인종차별적 요소를 포함한 영상을 생성할 수 있으며, 이러한 콘텐츠는 틱톡뿐만 아니라 엑스(구 트위터) 등 다른 플랫폼에서도 확산 중이다.

더 큰 문제는 구글이 비오3을 유튜브 쇼츠에 통합할 계획이라는 점이다. 이는 AI 기반 혐오 콘텐츠가 더욱 쉽게 확산될 수 있음을 의미한다. 틱톡과 구글이 명확한 금지 정책을 가지고 있음에도 불구하고, 콘텐츠 생성과 유통을 완벽히 차단하지 못하는 현실이 드러났다.