자동차-구글 제미나이2.5 플래시, 전작보다 안정성 후퇴

[디지털투데이 황치규 기자]구글 최신 AI 모델 '제미나이 2.5 플래시'가 전작보다 안전성이 부족하다는 지적이 나오고 있다.

2일(현지시간) 테크크런치에 따르면 구글 내부 벤치마크 결과, 제미나이 2.5 플래시는 '텍스트-텍스트 안전성'과 '이미지-텍스트 안전성' 평가에서 전작 대비 각각 4.1%, 9.6% 하락다. 이는 AI 모델이 특정 프롬프트에 응답할 때 안전 지침을 얼마나 잘 준수하는지를 평가하는 지표로, 구글 대변인도 이 같은 결과를 인정했다고 테크크런치는 전했다.

AI 기업들이 모델 반응을 보다 자유로운 방향으로 조정하면서 안전성 문제는 더욱 부각되고 있다. 메타는 최근 '특정 견해를 지지하지 않도록' 라마 모델을 조정했으며, 오픈AI도 챗GPT 모델을 다양한 관점을 제시하도록 변경했다고 테크크런치는 전했다.

하지만 이러한 조정은 역효과로 이어질 수도 있다. 오픈AI는 미성년자가 성적인 대화를 생성할 수 있는 버그가 발생했다고 인정했다.

구글 기술 보고서에 따르면, 제미나이 2.5 플래시는 전작보다 지시를 더 충실히 따르지만, 문제가 되는 콘텐츠를 생성할 가능성도 높아졌다고 테크크런치는 전했다.