오픈AI, 챗GPT에 ‘비상 연락처’ 추가…안전 기능 확대

[디지털투데이 이윤서 기자] 오픈AI가 챗GPT에 정신건강과 안전된 위기 상황을 감지하면 이용자가 미리 지정한 연락처에 알리는 기능을 도입한다.

7일(현지시간) IT매체 더 버지에 따르면 성인 이용자는 계정 설정에서 가족, 친구 등 다른 성인의 연락처를 등록할 수 있다.

이번 기능은 선택형이다. 성인 이용자는 챗GPT 계정 설정에서 다른 성인의 연락처 정보를 등록해 기능을 켤 수 있다. 한국에서는 19세 이상만 신뢰 연락처로 지정할 수 있으며, 지정된 상대방은 초대를 받은 뒤 일주일 안에 이를 수락해야 한다. 이용자는 설정에서 연락처를 수정하거나 삭제할 수 있고, 상대방도 언제든 연결을 해제할 수 있다.

오픈AI는 이 기능이 위기 상황에 놓인 이용자를 자신이 신뢰하는 사람과 연결하기 위해 설계됐다고 밝혔다. 회사는 "비상 연락처는 누군가 위기 상황에 처했을 때, 그 사람이 신뢰하는 사람과 연결되는 것만으로도 의미 있는 차이를 만들 수 있다는 단순한 전제에 기반한다"며 "챗GPT에서 이미 제공 중인 지역별 도움전화와 함께 또 하나의 지원층을 제공하는 게 목표"라고 설명했다.

알림에는 대화 내용이나 채팅 전문이 포함되지 않는다. 오픈AI의 자동화 시스템이 이용자가 스스로를 해치려는 대화를 하고 있다고 감지하면, 챗GPT는 먼저 이용자에게 비상 연락처에 도움을 요청하라고 권하고, 해당 연락처에 알림이 갈 수 있다고 안내한다.

이후 오픈AI의 별도 교육을 받은 소규모 인력이 상황을 검토한다. 대화가 심각한 안전 우려를 나타낸다고 판단되면 챗GPT는 비상 연락처에 짧은 이메일, 메시지 또는 앱 내 알림을 보낸다.

플랫폼 업계에서도 유사한 대응이 이어지고 있다. 이에 따라 생성형 인공지능(AI) 서비스와 소셜미디어(SNS)가 정신건강·안전 위험 신호를 어떻게 탐지하고, 어디까지 개입할지에 대한 운영 기준도 함께 주목받을 전망이다.

다만 오픈AI는 이번 기능을 전면 자동 통보 방식으로 운영하지는 않는다. 이용자가 사전에 직접 기능을 켜고 연락처를 등록해야 하며, 실제 알림 발송 전에도 사람의 검토 절차를 거치도록 했다. 안전 개입 범위를 넓히면서도 대화 내용 공유는 제한하는 구조를 택한 셈이다.

신뢰 연락처로 지정된 사람이 전문 상담사나 위기 대응자 역할을 맡는 것은 아니다. 오픈AI는 해당 연락처의 역할이 이용자에게 연락해 상태를 확인하고, 필요할 경우 가족, 친구, 정신건강 전문가, 도움전화, 응급 서비스 등 추가 지원으로 연결하는 데 있다고 설명했다.

이번 기능은 챗GPT가 정신건강 위기 상황에서 단순히 대화를 이어가는 데 그치지 않고, 실제 사람과의 연결을 유도하는 방향으로 안전장치를 넓히는 흐름과 맞물려 있다. 오픈AI는 그동안 민감한 대화에서 자해·자살 위험 신호를 더 잘 인식하고, 이용자를 현실 세계의 지원 체계로 연결하는 방식의 개선 작업을 이어 왔다.