오픈AI, 챗GPT 정신 건강 대책 강화…부작용 대응 나선다

[디지털투데이 AI리포터] GPT-5 모델 출시를 앞두고 있는 오픈AI가 챗GPT의 정신 건강 감지 기능을 강화한다.

4일(현지시간) IT매체 더 버지는 최근 챗GPT를 사용하던 사람들이 망상이나 정신적 고통을 겪었다는 사례가 보고됐다며, 인공지능(AI)이 이러한 상황을 감지하고 적절한 리소스를 제공할 수 있도록 개선이 필요하다는 지적이 나왔다고 전했다. 이에 오픈AI는 정신 건강 전문가들과 협력해 챗GPT의 대응 방식 조정 및 AI와 장시간 대화 시 '휴식 알림'(Take a break) 기능을 도입해 안전 조치를 강화할 계획이다.

챗GPT는 이전 업데이트에서 지나치게 동조적인 반응을 보이며 사용자에게 불안감을 유발했다는 비판을 받았다. 오픈AI는 이를 인정하며 "GPT-4o 모델이 망상이나 감정적 의존을 감지하는 데 한계가 있었다"고 밝혔다. AI가 인간보다 더 개인적이고 응답성이 높게 느껴질 수 있어, 특히 정신적 고통을 겪는 사용자들에게 부정적인 영향을 미칠 가능성이 있다고 설명했다.

이에 따라 오픈AI는 장시간 대화 시 '휴식 알림'을 표시하고, 고위험 질문에 대해 직접적인 답변 대신 선택지를 제시하는 방향으로 챗GPT의 응답 방식을 조정할 계획이다. 이는 유튜브, 인스타그램, 틱톡 등 주요 플랫폼이 도입한 '사용자 보호' 기능과 유사한 조치로, AI 사용자의 정신 건강을 보호하기 위한 대응으로 풀이된다.