자동차-구글 제미나이, 부정확 정보 제공 우려…개발 지침 변경 탓

[디지털투데이 AI리포터] 구글의 생성형 AI 제미나이가 민감한 주제에 대한 부정확한 정보를 유출할 가능성이 있다는 우려가 제기됐다.

19일 IT매체 테크크런치에 따르면 이는 구글이 제미나이 개발 계약자들에게 전달한 새로운 내부 지침 때문이다.

일본 히타치가 소유한 아웃소싱 회사인 글로벌로직(GlobalLogic)과 협력하는 계약자는 정기적으로 '진실성' 같은 요소에 따라 AI가 생성한 응답을 평가하라는 요청을 구글로부터 받는다.

최근까지 이러한 게약자들은 특정 프롬프트를 건너뛸 수 있었다. 따라서 프롬프트가 자신의 전문 분야를 크게 벗어난 경우 해당 프롬프트에 대한 다양한 AI 작성 응답을 평가하지 않도록 선택할 수 있었다. 예를 들어, 과학적 지식이 없는 계약자는 심장학에 대한 프롬프트를 건너뛸 수 있다.

그러나 지난주 구글은 글로벌로직에 계약자가 자신의 전문 지식 여부와 관계없이 이러한 메시지를 건너뛸 수 없도록 하는 지침을 내렸다. 이로 인해 제미나이의 특정 주제에 대한 정확성에 대한 직접적인 우려가 제기됐는데, 계약자들은 종종 자신들이 전혀 알지 못하는 희귀 질병과 같은 문제에 대한 매우 기술적인 AI 대응을 평가하는 업무를 맡기 때문이다.

새로운 지침에 따르면 계약자는 이제 2가지 경우에만 프롬프트를 건너뛸 수 있다. 전체 프롬프트나 응답과 같이 정보가 완전히 누락된 경우 또는 평가를 위해 특별한 동의 양식이 필요한 유해한 콘텐츠가 포함된 경우다.