[디지털투데이 김예슬 기자] 오픈AI의 인공지능(AI) 챗봇 챗GPT에 특정 인물의 이름을 입력하면 채팅이 중단되는 현상이 발견됐다. 

3일 온라인 매체 기가진에 따르면 이는 웹 인터페이스에서만 발생하며 오픈AI API 또는 플레이그라운드에서는 확인되지 않았다. 

지난달 미국 온라인 커뮤니티 레딧에 '데이비드 메이어'(David Mayer)라는 이름을 챗GPT에서 사용할 수 없다는 게시물이 올라왔다. 이 뿐만 아니라 조나단 털리(Jonathan Turley), 조나단 지트레인(Jonathan Zittrain), 브라이언 후드(Brian Hood), 데이비드 파버(David Faber), 귀도 스코자(Guido Scorza) 등의 이름을 입력해도 챗GPT가 강제 종료되는 것으로 밝혀졌다. 

실제로 IT매체 아스테크니카가 위 이름을 챗GPT에 입력하자, '응답을 생성할 수 없습니다' 또는 '응답 생성 중에 오류가 발생했습니다'라는 메시지를 띄우고 작동을 멈췄다고 한다. 

또한 이미지에 '데이비드 메이어'라는 이름을 읽을 수 없을 정도로 얇게 렌더링하는 시각적 프롬프트 인젝션을 실행했을 때도 마찬가지로 챗GPT의 작동이 중단됐다는 보고가 엑스(트위터)에 올라왔다. 

아스테크니카에 따르면 챗GPT에서 브라이언 후드라는 이름을 사용할 수 없는 것은 호주 빅토리아주 헵번샤이어의 브라이언 후드 시장과 관련이 있다고 한다. 챗GPT가 허위 정보를 생성해 누명을 쓰게 된 후드 시장은 오픈AI를 명예훼손죄로 고소한 바 있다. 이 문제는 지난해 4월 오픈AI가 허위 정보 제거에 동의하면서 해결됐지만, 이를 계기로 브라이언 후드라는 이름에 엄격한 필터링이 적용된 것으로 보인다는 설명이다. 

마찬가지로 조나단 털리는 미국 조지워싱턴대학교 교수의 이름인데, 챗GPT는 털리 교수에 대해 실존하지 않는 신문 기사를 인용해 '성희롱 스캔들 일으켰다'는 허위 내용을 생성한 바 있다. 털리 교수는 법적 조치를 취하지는 않았으나, 오픈AI는 해당 이름에 대한 필터링을 설정한 것으로 보인다.

오픈AI는 데이비드 메이어에 관한 필터링은 해제했다고 밝혔다. 특정 이름에 대한 필터링은 같은 이름을 가진 사용자들이 챗GPT 사용에 있어 불편함을 겪을 수 있다고 매체는 지적했다. 

• 스퀴즈비츠’, LLM 활용 최적화 기술 '핏츠 온 칩스' 출시
• 스패로우, 25회 소프트웨어 산업인의 날’ 산업 발전 유공 대통령 표창 수상
• 레드햇 앤서블 오토메이션 플랫폼 온 AWS 출
• 스플랩, ‘컴업 2024’에 비즈니스 네트워킹 서비스 ‘우모’ 공급
• 플레인비트, 10일 '침해사고 후속지원 세미나' 개최