자동차-챗GPT가 내 이름 부른다?…일부 사용자들 "소름 끼쳐"

[디지털투데이 AI리포터] 오픈AI의 챗GPT가 최근 사용자 이름을 무단으로 호명하는 현상이 발견돼 논란이 일고 있다.

지난 18일(현지시간) IT매체 테크크런치에 따르면 최근 일부 챗GPT 사용자들 사이에서는 챗GPT에게 자신의 이름을 알려준 적인 없는데도 불구하고 사용자의 이름을 언급한다는 주장이 나오고 있다.

이에 대한 사용자들의 반응은 다양하다. 소프트웨어 개발자이자 인공지능(AI) 기술 애호가인 사이먼 윌리슨은 이 기능을 "소름 끼치고 불필요하다"라고 평가했으며, 또 다른 개발자인 닉 도보스 역시 "싫다"라고 말했다. 또한 "마치 선생님이 계속 내 이름을 부르는 것 같다"라며 챗GPT의 이름 호명에 불쾌감을 드러낸 사용자도 있었다.

매체는 "이 기능이 언제부터 적용됐는지는 명확하지 않으며, 챗GPT가 이전 대화를 활용해 응답을 개인화하는 메모리(기억) 기능과 관련이 있을 가능성도 있다"라고 분석했다. 그러나 몇몇 사용자는 메모리 기능과 관련된 설정을 비활성화했음에도 불구하고 챗GPT가 이름을 언급한다고 주장하고 있다.

업계 전문가들은 이번 문제에 대해 "AI가 이름을 남용할 경우 가식적이고 침해적으로 느껴질 수 있다"라고 경고한다. 두바이 정신과 클리닉 발렌스는 "이름 사용은 관계 형성에 강력하지만, 과도하면 가짜로 느껴진다"라고 설명했다. AI가 인간적 감성을 모방하려다 오히려 불편감을 유발하는 역효과를 낳고 있다는 지적이다.

앞서 샘 알트먼 오픈AI 최고경영자(CEO)는 지난주 AI가 사용자를 더 깊이 이해하는 방향으로 진화할 것이라고 밝힌 바 있으나, 이번 논란은 AI의 개인화 전략이 예상치 못한 반발에 부딪힐 수 있음을 보여준다고 매체는 전했다.

Does anyone LIKE the thing where o3 uses your name in its chain of thought, as opposed to finding it creepy and unnecessary? pic.twitter.com/lYRby6BK6J
— Simon Willison (@simonw) April 17, 2025