자동차-中 샌드 AI, 정치적으로 민감한 이미지 차단 의혹…정치 검열 강화

중국 영상 생성 AI 모델 마기-1이 정치적으로 민감한 이미지를 차단하고 있다. [사진: 샌드AI]

[디지털투데이 AI리포터] 중국 인공지능(AI) 스타트업 샌드 AI(Sand AI)가 개발한 영상 생성 AI 모델이 정치적으로 민감한 이미지를 차단하는 것으로 나타났다.

22일(현지시간) IT매체 테크크런치에 따르면 샌드 AI가 최근 발표한 마기-1(Magi-1) 모델은 시진핑, 천안문, 대만 국기, 홍콩 해방 지지 상징 등의 이미지 업로드를 막는 것으로 알려졌다. 파일명을 변경해도 차단 결과는 동일했는데, 이는 이미지 수준에서 필터링이 이뤄지고 있음을 의미한다.

중국 AI 기업들이 정치적 검열을 반영하는 것은 새로운 현상이 아니다. 상하이에 본사를 둔 미니맥스(MiniMax)의 생성형 미디어 플랫폼 하이루오 AI(Hailuo AI)도 시진핑 이미지 업로드를 차단하고 있다. 이는 지난 2023년 중국 정부가 도입한 법률과 관련이 있는 것으로, 해당 법은 국가 통합과 사회 조화를 해치는 콘텐츠 생성을 금지하고 있다. 이에 따라 AI 스타트업들은 프롬프트 수준에서 필터링하거나 모델을 미세 조정하는 방법을 사용하고 있다.

한편 샌드 AI는 마기-1을 공개할 당시, 해당 모델이 물리적 정확성을 높인 고품질 영상을 생성할 수 있다고 주장했다. 하지만 모델 자체는 240억 개의 매개변수를 필요로 해 일반 소비자 하드웨어로는 실행이 불가능한 것으로 전해졌다. 이를 실행하려면 4~8개의 엔비디아 GPU H100이 필요하다고 한다.