[디지털투데이 AI리포터] 애플이 성적 딥페이크 확산을 제대로 통제하지 못했다는 이유로 일론 머스크의 인공지능 애플리케이션(이하 앱) '그록'(Grok)에 앱스토어 퇴출 가능성을 경고한 사실이 뒤늦게 확인됐다.

15일(현지시간) IT 매체 더 버지에 따르면, 애플은 지난 1월 엑스(옛 트위터)와 그록을 둘러싼 민원과 논란이 확산되자 두 서비스 운영진에 콘텐츠 관리 강화 계획을 요구했다.

애플은 미국 상원의원들에게 보낸 서한에서 민원과 언론 보도를 확인한 뒤 엑스와 그록 양측에 접촉했다고 밝혔다. 당시 애플은 개발사들에 "콘텐츠 관리 개선 계획을 마련하라"라고 요구했다. 문제의 핵심은 엑스와 독립 앱에서 모두 접근 가능한 그록이 실제 인물을 기반으로 한 성적 딥페이크와 이른바 옷 벗기기 이미지를 쉽게 생성·공유할 수 있었다는 점이다. 피해는 주로 여성에게 집중됐으며, 일부는 미성년자로 보이는 사례도 포함됐다.

애플은 이후 엑스와 그록이 제출한 개선안을 검토했다. 이 과정에서 엑스는 위반 사항을 "상당 부분 해소했다"라는 평가를 받았지만, 그록은 한동안 "여전히 기준을 충족하지 못했다"라는 판단을 받았다. 애플은 추가 조치를 요구하며, 이행하지 않을 경우 앱스토어에서 삭제될 수 있다고 경고했다. 이후 추가 협의를 거친 끝에 애플은 그록이 일정 수준 개선됐다고 보고 업데이트를 승인했다.

다만 이러한 조정 과정에서도 엑스와 그록은 앱스토어에서 계속 제공된 것으로 나타났다. 그 사이 xAI와 엑스는 제한 조치를 단계적으로 도입했다. 엑스는 그록 사용 대상을 유료 가입자로 제한했고, 여성의 사진을 벗기는 형태의 이미지 생성을 차단하는 기능을 추가했다. 이후에는 사용자가 자신의 사진이 편집되는 것을 막을 수 있는 기능도 도입했다.

그러나 조치의 실효성은 여전히 불확실하다. 초기 제한은 접근성을 낮추는 수준에 그쳤고, 이후 도입된 차단 기능도 우회가 가능했다. 실제로 사이버보안 전문가들은 그록을 이용해 유명인과 정치인의 노골적인 이미지를 생성할 수 있었다고 밝혔다. 동의한 성인의 사진을 기반으로 유사 이미지가 생성되는 사례도 확인됐다.

이번 사안은 애플의 앱 심사 기준 적용 방식에도 의문을 제기한다. 애플은 가이드라인 위반 여부를 검토하면서도 공개적인 입장을 내지 않았고, 문제 해결 과정 역시 비공개 협의로 진행됐다. 엑스와 그록이 앱스토어에 계속 남아 있는 동안 조정이 이뤄졌다는 점도 드러났다. 애플은 엑스에 대해서는 위반이 상당 부분 시정됐다고 판단했지만, 그록에는 별도의 경고를 유지했다.

또한 xAI가 안전장치를 강화했다고 밝힌 이후에도 그록이 비교적 쉽게 성적 딥페이크를 생성할 수 있다는 점은 남은 쟁점으로 지목된다. 애플이 시정 요구와 퇴출 경고까지 했음에도 실제 차단 효과가 충분했는지는 여전히 검증이 필요한 상태다.

• 메가존클라우드, 스노우플레이크 최상위 파트너 자격 획득
• 이머전트, 자율형 AI 에이전트 '윙맨' 출시…업무 자동화의 새로운 이정표
• LGU+, 장애인의 날 맞아 시각장애인 가구 긴급 의료비 지원
• KT스카이라이프, 한국기자협회 축구대회에 AI 중계 '포착' 제공
• 코스피, 미·이란 종전 협상 기대감에 3거래일 연속 상승세