머스크의 AI 그록, 동의 없는 딥페이크 이미지 시간당 수천장 생성

일론 머스크 xAI CEO의 AI 서비스 ‘그록’이 X(전 트위터)에서 시간당 수천장의 나체 이미지를 생성한 것으로 나타났다.

7일 블룸버그에 의하면 그록은 선정적이거나 나체에 가까운 이미지를 시간당 6700개 생성한 것으로 집계됐다. 이는 소셜 미디어 및 딥페이크 연구원 제네비브 오(Genevieve Oh)가 그록 계정이 X에 게시한 이미지를 24시간 분석한 결과다.

그록의 이런 이미지 생성이 문제가 되는 이유는 그록이 미성년자를 포함한 실제 인물을 기반으로 한 이미지 생성도 막지 않기 때문이다. 플랫폼 내 생성형 AI 서비스가 성착취물을 생성하도록 방조하고 있다는 것이다. 그록은 유럽연합(EU), 영국, 말레이시아 , 프랑스, 인도 당국으로부터 미성년자 포함 본인 동의 없는 딥페이크 이미지를 게시한다는 비판을 받고 있다.

브랜디 논넥(Brandie Nonnecke) 미국 책임혁신연구소(Americans for Responsible Innovation) 정책 총괄은 블룸버그에 “앤트로픽, 오픈AI, 구글 등 다른 생성형 AI 기업들은 애초에 이런 콘텐츠가 생성되지 않도록 막기 위해 성실하게 대응하고 있다”며 “xAI는 사실상 제한 없는 환경이다(free-for-all)”라고 말했다.

X는 이에 관한 입장을 내지 않았다. 일론 머스크 CEO가 자신의 X를 통해 “처음부터 AI의 콘텐츠 생성을 제한하지 않을 것이다”라며 “그록을 이용해 불법 콘텐츠를 제작하면 불법 콘텐츠를 직접 업로드하는 이용자와 같은 수위로 제재하겠다”고 밝힌 것이 전부다.

변인호 기자
jubar@chosunbiz.com