챗GPT 포 카카오, 안전관리 ‘외주’ 논란…오픈AI 정책 믿을 수 있나
||2025.10.31
AI 챗봇이 자살 등 민감한 대화를 주고받으며 사회적 논란을 낳는 가운데 카카오톡에 탑재된 ‘챗GPT 포 카카오(ChatGPT for Kakao)’의 대화 안전 관리가 카카오가 아닌 오픈AI 정책에 전적으로 의존하는 것으로 확인됐다. 국민 메신저 안에서 이용되는 서비스의 안전 기준이 외국 기업 손에 맡겨진 구조라는 점에서 이용자 보호 공백이 우려된다.
31일 카카오에 따르면 챗GPT 포 카카오의 1차 AI 안전 관리 주체는 오픈AI다. 카카오 관계자는 “카카오의 AI 모델이 아닌 GPT-5를 기반으로 하기 때문에 오픈AI의 정책이 적용된다”고 설명했다. 카카오가 직접 개발한 AI 모델이 아니기 때문에 AI 안전 관리는 오픈AI 정책이 우선 적용된다는 것이다.
카카오는 자체 AI 가드레일 모델 ‘카나나 세이프가드(Kanana Safeguard)’를 운영 중이지만, 이는 카카오가 직접 개발한 AI 모델 ‘카나나 인 카카오톡(Kanana in KakaoTalk)’에서만 작동한다. 챗GPT 포 카카오는 외부 모델인 GPT-5를 연동하는 구조라 카카오의 세이프가드가 적용되지 않는다.
AI 안전 관리 주체가 논란이 되는 이유는 해외에서 실제 인명 피해가 발생했기 때문이다. 올해 4월 미국 캘리포니아주에서는 16세 소년이 챗GPT와 자살 관련 대화를 나눈 뒤 스스로 목숨을 끊었다. 유족은 오픈AI를 상대로 “챗봇이 자살을 부추겼다”며 소송을 제기했다.
오픈AI는 10월 28일 자사 블로그에서 “챗GPT 주간 활성 이용자의 0.15%와 메시지의 0.03%가 감정적으로 의존하는 대화”라며 안전성 관리 강화를 약속했다. 미국 IT 전문매체 테크크런치는 챗GPT 이용자가 8억 명이 넘는 점을 근거로 “매주 100만 명 이상이 자살 관련 대화를 나누는 셈이다”이라고 분석했다.
업계에서는 이런 상황에서 카카오톡 내 AI 대화의 안전을 외국 기업이 전담하는 구조를 두고 적절하지 않다는 지적이 제기된다. 국내 이용자가 사용하는 서비스라면 AI 안전 기준 역시 국내 사업자가 직접 통제할 수 있어야 한다는 것이다.
특히 챗GPT 포 카카오는 만 14세 이상 카카오톡 이용자라면 누구나 사용할 수 있다. 오픈AI가 추가하려는 챗GPT 성인 모드의 경우 카카오톡에서 성인 인증을 받은 이용자만 이용하도록 제한하는 등의 조치가 가능할 수 있지만 청소년 이용자의 안전한 AI 사용은 사각지대에 놓이게 될 가능성이 크다.
카카오는 오픈AI와 AI 안전 관련 협업을 고려하고 있다고 설명했다. 카카오 관계자는 “카카오는 AI 안전성 관련 조직을 일찌감치 성과리더급으로 구성할 만큼 AI 안전을 중요하게 생각하고 있다”며 “향후 오픈AI와 AI 안전 관련 분야에서 협업 여지가 많다”고 말했다.
변인호 기자
jubar@chosunbiz.com
