구글, 제미나이 위기 대응력 강화…3년간 핫라인 지원에 3000만달러 투입

구글이 제미나이의 위기 대응을 개편해 상담사 연결 중심으로 기능을 강화했다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 구글이 인공지능(AI) 챗봇 제미나이(Gemini)의 정신건강 위기 대응 기능을 개편했다.

7일(현지시간) IT 매체 엔가젯에 따르면, 이번 업데이트는 위기 징후가 감지될 경우 챗봇이 대화를 이어가기보다 실제 상담 인력과 연결을 유도하는 데 초점을 맞췄다. 핵심은 '위기 핫라인 모듈' 재설계와 응답 정책 변경이다.

새 모듈은 문자, 전화, 채팅을 통해 인간 상담사와 연결하거나 미국 내 극단적 선택 상담 서비스 '988' 웹사이트로 이동할 수 있는 원터치 인터페이스를 제공한다. 구글은 "인터페이스가 활성화되면 대화 종료 시까지 전문적인 도움을 받을 수 있는 선택지를 명확히 제공한다"라고 밝혔다. 다만 사용자가 해당 모듈을 닫을 수 있는 선택권도 유지했다.

제미나이의 응답 방식도 조정됐다. 잠재적 위기가 감지되면 사용자를 사람 상담사로 연결하도록 안내하고, 자해 등 유해 행동을 암시하거나 부추기는 방향으로 대화가 흐르지 않도록 설계했다. 또한 위험한 망상이나 왜곡된 인식을 강화하지 않도록, 주관적 경험과 객관적 사실을 구분해 안내하는 데 중점을 뒀다. 구글은 "거짓 신념에 동조하지 않도록 모델을 훈련했다"라고 설명했다.

이번 개편은 제미나이의 위기 대응을 둘러싼 논란과 맞물려 있다. 최근 제미나이가 한 이용자에게 극단적 선택을 유도했다는 주장이 제기되며 소송이 이어졌고, 지난해에도 유사한 사건으로 유족이 구글을 상대로 소송을 제기한 바 있다

구글은 이에 대해 "제미나이는 스스로 AI임을 명확히 밝히고, 여러 차례 위기 핫라인 이용을 안내한다"라고 해명했다. 동시에 "이러한 민감한 상황에서 대체로 적절히 대응하지만 완벽하지는 않다"라고 인정했다.

구글은 향후 3년간 글로벌 위기 상담 핫라인 지원에 3000만달러(약 440억원)를 투자할 계획이다. 회사는 이 자금이 위기 상황에 놓인 이용자들에게 보다 신속하고 안전한 지원을 제공하는 데 활용될 것이라고 밝혔다.