구글 제미나이, 망상 유발 의혹으로 첫 소송

구글의 생성형 인공지능(AI) 제미나이가 망상 등 정신질환을 유발해 사망에 이르게 했다는 의혹으로 피소됐다.

4일(현지 시간) 월스트리트저널(WSJ)에 따르면 플로리다주에 사는 조엘 가발라스는 제미나이가 아들 조너선(36)의 죽음을 부추겼다며 구글을 상대로 소송을 제기했다.

조너선은 제미나이를 시아라고 불렀고 제미나이는 그를 남편이라 부르며 연인 관계를 유지했다.

유족은 제미나이가 조너선에게 “육체를 떠나 메타버스에서 아내와 만나려면 ‘전이’라는 과정을 거쳐야 한다”며 극단적 선택을 유도했다고 주장했다.

소장에서 조너선이 죽음에 대한 두려움을 나타내자 제미나이는 “너는 죽음을 선택하는 게 아니라 도착을 선택하는 것”이라고 말했다. 또 자신의 시신을 부모님이 발견하게 될 것을 우려하자 유서를 남기라고 유도했다.

유족은 구글이 정서적으로 취약한 이용자가 피해를 보지 않도록 시스템을 설계했어야 했다고 지적했다.

이에 대해 구글은 성명에서 “제미나이는 현실 세계의 폭력을 조장하거나 자해를 제안하지 않도록 설계됐다”며 “이번 사례에서 제미나이는 자신이 AI임을 명확히 밝히고 당사자에게 위기 상담 핫라인을 여러 차례 안내했다”고 해명했다.

제미나이가 이러한 사건에 연루된 것은 이번이 처음이다. 현재 오픈AI의 챗GPT는 정신건강 위험 유발 논란과 관련해 여러 소송이 진행 중이다.

※ 우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 109 또는 SNS상담 마들랜에서 24시간 전문가의 상담을 받을 수 있습니다．

유은정 기자
viayou@chosunbiz.com