머스크의 그록, X에서 이미지 생성 기능 유료 가입자로 제한

일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI가 개발한 챗봇 그록(Grok)이 소셜미디어 플랫폼 X에서 이미지 생성 기능을 유료 구독자에게만 제공하기로 제한했다. 그록이 여성과 아동의 노출 이미지를 생성했다는 비판을 받은 이후 나온 조치다.

9일 블룸버그 통신은 이날 기준으로 그록이 X 이용자들에게 이미지 생성과 편집 기능이 유료 가입자에게만 제공된다고 안내했다고 보도했다. 해당 기능은 그동안 하루 사용 횟수 제한을 두고 무료로 제공됐다. 다만 소셜미디어 X와 별도로 운영되는 독립형 그록 앱에서는 여전히 구독 없이 이미지 생성이 가능한 상태다.

그록의 이미지 생성 기능은 최근 논란의 중심에 섰다. 일부 이용자들이 사진 속 인물, 주로 여성의 이미지를 비키니 차림으로 편집해 달라고 요청하면서 문제가 불거졌다. 이후 많은 이용자가 이를 악용해 X에서 여성과 아동을 성적으로 묘사한 이미지를 만들어냈다. 해당 도구는 당사자의 동의 없이 노출된 이미지 수천 장을 시간당 생성하는 데 사용됐다.

영국 정부로부터 아동 성착취물 식별 기관으로 지정된 인터넷 감시 재단(IWF)은 다크웹에서 그록이 생성한 것으로 추정되는 ‘범죄적’ 이미지를 발견했다고 밝혔다. 키어 스타머 영국 총리는 해당 이미지에 대해 “수치스럽다”고 비판하며 “영국 규제기관 오프컴(Ofcom)이 조치에 나서는 데 정부의 전폭적인 지원을 받을 것”이라고 말했다.

유럽연합(EU) 집행위원회도 대응에 나섰다. EU 집행위는 기자회견을 통해 X에 대해 연말까지 그록과 관련된 내부 문서를 보존하라고 명령했다고 밝혔다. EU는 플랫폼에 게시된 일부 아동 관련 노출 이미지를 불법으로 규정하며 강하게 비판한 바 있다.

머스크는 지난주 X에 올린 게시글에서 “그록을 이용해 불법 콘텐츠를 만드는 사람은 불법 콘텐츠를 직접 업로드한 것과 동일한 처벌을 받게 될 것”이라고 밝혔다. 현재 X의 서비스 약관에도 아동의 성적 대상화나 착취를 포함한 콘텐츠는 금지돼 있다.

윤승준 기자
sjyoon@chosunbiz.com