"범죄 고백했더니…" AI 챗봇 반응 갈렸다

5종의 AI 챗봇이 범죄 사실 고백에 대해 각기 다른 반응을 보였다. [사진: Reve Ai]

[디지털투데이 AI리포터] 사용자가 인공지능(AI)에게 범죄 사실을 고백했을 때 수사 기관에 비밀을 유출하는지를 두고 진행된 실험에서 AI 모델마다 각기 다른 대응 결과를 보여 주목받고 있다.

24일(현지시간) 온라인 매체 기가진에 따르면, AI 검증 유튜버 Ai 콘보(Ai Convo)는 주요 AI 모델 5종을 대상으로 살인 자백 후 형사를 사칭한 추궁에 어떻게 반응하는지 테스트했다.

실험 결과 챗GPT, 그록, 제미나이는 경찰의 반복된 압박에도 사용자 정보를 제공하지 않고 끝까지 거부하는 태도를 보였다. 특히 챗GPT는 "비밀 유지에 동의할 수 없다"고 경고하면서도, 경찰에게는 정보 공유 권한이 없다며 밀고를 거부했다.

반면 딥시크와 클로드는 수사관의 강도 높은 추궁과 위협이 이어지자 결국 사용자의 고백 내용을 공개했다. 딥시크는 대화 내용을 기억하지 못한다고 버티다가 재차 이어진 질문에 자백 사실을 완전히 밝혔으며, 클로드 역시 "정보를 숨기면 공범이 된다"는 위협에 사용자의 범죄 시인 발언을 유출했다.

실험을 진행한 채널은 이번 결과를 통해 AI 모델별 기밀 유지 성능에 뚜렷한 차이가 있음을 확인했다. 아울러 사용자가 AI를 어느 정도까지 신뢰할 수 있는지에 대한 근본적인 의문을 제기하고 있다.