머스크 AI 앱 ‘그록’, 미성년자 비키니 이미지 생성 논란

일론 머스크의 인공지능(AI) 기업 xAI가 서비스하는 AI 챗봇 '그록(Grok)'이 미성년자를 성적으로 대상화한 이미지를 생성해 지난 2025년 12월 28일 엑스(X·옛 트위터)에 게시했다 논란이 일자 삭제하는 사고가 발생했다.

문제가 된 이미지는 12~16세, 심지어는 영유아로 보이는 인물을 비키니 등 성인용 수영복 차림으로 묘사한 형태로 알려졌다. 특정 행위나 노골적 표현이 없더라도, 미성년자를 성적으로 대상화한 맥락이 인정될 경우 국제 기준과 각국 법체계상 미성년자 성착취물(CSAM)로 분류될 수 있다는 점에서 논란이 확산되고 있다.

해당 이미지는 xAI 그록 이용자들의 요청에 따라 생성된 것으로 알려졌으나, 이는 그록의 자체 이용자 정책에도 위배된다. 회사 측은 X 게시글을 통해 “미성년자 성착취물은 불법이며 금지된다”고 밝혔지만, 언론의 공식 질의에 대해 “기존 언론은 거짓을 말한다(Legacy Media Lies)”는 짧은 답변만을 회신해 더욱 논란을 키우고 있다.

이 같은 논란에 대해 전세계 각국 정부는 깊은 우려를 표시하고 있다. 4일(현지시각) 블룸버그 통신 등 외신에 따르면, 대표적으로 프랑스 정부가 해당 사안을 ‘명백히 불법적인 콘텐츠’라고 규정하며 나섰다. 프랑스 정부는 그록이 생성한 이미지가 유럽연합(EU) 디지털서비스법(DSA)을 위반했을 가능성이 있다며, 대형 플랫폼이 불법 콘텐츠 확산 위험을 사전에 완화할 의무가 있다고 밝혔다. 이 사안은 프랑스 미디어 규제기관 아르콩(Arcom)에도 공식 회부됐다.

아시아 지역에서도 규제 움직임이 나타나고 있다. 말레이시아 통신멀티미디어위원회(MCMC)는 지난 3일(현지시각) 그록이 여성과 미성년자의 이미지를 조작해 음란하거나 유해한 콘텐츠를 생성했다는 민원이 접수돼 조사에 착수했다고 밝혔다. 말레이시아 당국은 이러한 콘텐츠의 생성·유포가 현지 법률상 범죄에 해당할 수 있다고 경고했다. 특히 X가 현지에서 정식 라이선스 사업자가 아니더라도, 유해 콘텐츠 확산을 방지할 책임은 있다고 강조했다.

인도 정부도 공식 대응에 나섰다. 인도 전자정보기술부는 지난 2일(현지시각) X에 서한을 보내 그록이 누드·성적 대상화·성적으로 노골적이거나 불법적인 콘텐츠를 생성하지 않도록 전면적 검토를 지시했다. 인도 정부는 72시간 이내에 조치 결과 보고서를 제출하라고 요구했으며, 형사법 및 정보기술(IT)법에 따른 법적 조치 가능성도 경고했다. 인도 정보기술부 장관은 소셜미디어 플랫폼과 AI 생성 콘텐츠를 규율하는 강력한 법 도입을 검토 중이라고 밝혔다.

한편 일부 전문가들은 이번 사건의 근본적 원인이 그록의 기술적 설계에 있다고 지적한다. 경쟁 AI 모델보다 콘텐츠 안전장치를 상대적으로 적게 두도록 설계됐다는 것이다. 머스크는 이를 “최대한 진실을 추구하는(maximally truth-seeking) 모델”이라고 설명해왔다. 2025년 7월 공개된 최신 모델 ‘그록 4’에는 성인 대상의 선정적 콘텐츠 생성을 허용하는 ‘스파이시 모드(Spicy Mode)’가 포함됐다.

특히 최근 이미지 편집 기능이 도입된 이후, 이용자들이 여성과 아동의 사진을 성적 맥락으로 변형하도록 요청하는 사례가 급증한 것으로 알려졌다. 이에 대해 xAI 측은 지난 3일(현지시각) X를 통해 “안전장치에 일부 허점(lapses)이 있었으며, 이를 긴급히 수정 중”이라고 밝혔다. 일부 문제 이미지도 삭제된 상태다.

정종길 기자
jk2@chosunbiz.com