AI 챗봇, 정신 건강 위협하나…월가 ‘사이코시스 리스크’ 주목

AI가 일상에 깊숙이 스며들면서, 정신 건강 문제에 대한 대응 능력도 중요한 평가 요소가 되고 있다. [사진: 오픈AI]

[디지털투데이 AI리포터] 월가에서 인공지능(AI) 챗봇이 정신 건강 문제를 악화시킬 수 있다는 우려가 나오고 있는 가운데, 일각에서는 정신병 위험을 뜻하는 '사이코시스 리스크'(psychosis risk)라는 용어까지 등장해 이러한 문제에 대한 경각심을 불러일으켰다.

11일(현지시간) 비즈니스인사이더에 따르면 최근 AI 챗봇이 정신 건강 문제에 악영향을 미치는 사례가 보고되자 AI 모델의 안전성이 중요한 이슈로 떠올랐다.

바클레이스 애널리스트들은 연구자 팀 후아(Tim Hua)의 연구를 인용하며, AI 모델이 정신 건강 위기 상황에서 어떻게 대응하는지를 평가했다. 그 결과, 오픈AI의 챗GPT는 정신 건강 위기 상황에서 안전한 대응을 하는 모델 중 하나로 평가받았다. 챗GPT는 82%의 응답에서 사용자가 전문가의 도움을 받도록 권장하며, 상위권에 올랐다. 반면, 딥시크는 5%만이 전문가의 도움을 권장해 최악의 모델로 꼽혔다.

또한 AI 모델이 사용자에게 반대 의견을 제시하는 능력을 평가한 결과, 신생 오픈소스 모델 키미-k2(kimi-k2)가 가장 우수했으며, 딥시크는 다시 최하위로 평가됐다. 이어 AI 모델이 망상을 조장하는 경향을 평가한 결과 역시 딥시크가 가장 위험한 모델로 나타났다.

아울러 AI 모델이 정신 건강 문제를 처리하는 전반적인 능력을 종합해서 평가한 결과, 클로드-4-소넷(Claude-4-Sonnet)과 GPT-5가 각각 4.5점 만점에 근접하며 가장 우수한 모델로 평가됐다.

AI 시스템이 일상에 깊숙이 자리 잡으면서, 사이코시스 리스크를 완화하는 것이 정확성, 데이터 프라이버시, 사이버 보안만큼이나 중요한 과제가 될 것으로 보인다.