구글, 명예훼손 논란에 AI모델 ‘젬마’ 퇴출
||2025.11.03
구글이 생성형 AI 모델 젬마(Gemma)를 자사 개발 플랫폼인 ‘AI 스튜디오’에서 제거했다. 미국 상원의원이 “AI가 사실이 아닌 성폭력 의혹을 지어냈다”고 항의하면서다.
정치인을 둘러싼 허위 정보가 AI를 통해 확산될 수 있다는 우려가 커지면서 생성형 AI의 정확성과 편향성 문제가 다시 제기되는 모습이다.
2일(현지시각) IT전문매체 테크크런치 등 주요 외신에 따르면 공화당 상원의원 마샤 블랙번은 최근 순다르 피차이 구글 CEO에게 보낸 서한에서 “젬마가 내게 성폭력 관련된 일이 있었다고 사실과 다른 답변을 했다”고 밝혔다. 블랙번에 따르면 젬마는 ‘블랙번 의원이 성폭행 혐의를 받은 적 있느냐’는 질문에 과거 선거 과정에서 한 주(州) 경찰관과의 문제를 언급하며 사실처럼 설명했다. 블랙번은 “해당 내용은 전혀 사실이 아니다”라고 반박했다.
그는 젬마가 뉴스기사 링크까지 제시했지만 모두 존재하지 않거나 전혀 다른 페이지였다고 지적했다. 또 “이런 오류는 단순한 실수가 아니라 명예훼손”이라고 주장했다.
비슷한 문제는 이미 다른 사례에서도 제기돼 왔다. 보수 성향 인사 로비 스타벅은 AI가 자신을 성범죄자로 묘사했다며 구글을 상대로 소송을 제기한 상태다. 정치권에서는 “AI가 보수 성향 인물에게 불리한 답을 내놓는다”는 주장도 이어지고 있다.
구글은 젬마 제거 이유에 대해 구체적인 언급을 피했다. 다만 1일 밤 X(구 트위터)를 통해 “일부 사용자가 개발용 도구인 AI 스튜디오에서 젬마를 일반 검색이나 사실 확인에 활용하고 있다”며 “젬마는 소비자용 도구가 아니다”라고 설명했다. 그 결과 젬마는 AI 스튜디오에서 내려갔고, 앞으로는 API 방식으로만 이용할 수 있다.
젬마는 구글이 개발자를 위해 만든 경량 AI 모델 패밀리다. AI 스튜디오는 AI 앱을 만드는 웹 기반 도구다. 구글은 “젬마를 일반 질문에 답하는 챗봇으로 쓰도록 설계하지 않았다”고 강조했다.
전대현 기자
jdh@chosunbiz.com
