[디지털투데이 AI리포터] 앤트로픽(Anthropic)의 인공지능 챗봇 클로드(Claude)가 장시간 대화를 이어가는 이용자에게 "이제 자러 가라" 또는 휴식을 권하는 듯한 메시지를 반복해 내놓으면서 그 배경을 두고 다양한 해석이 나오고 있다.

13일(현지시간) 비즈니스인사이더에 따르면, 최근 몇 달간 소셜미디어(SNS)에는 클로드가 대화 도중 수면이나 휴식을 권한 사례가 다수 공유됐다.

이용자들은 이를 두고 여러 추측을 내놓고 있다. 일부는 앤트로픽이 이용자 복지를 고려해 챗봇 의존도를 낮추도록 학습시킨 결과일 수 있다고 해석했다. 실제로 일부 이용자는 해당 반응이 "부모의 잔소리 같다"라는 반응을 보이기도 했다. 한 레딧(Reddit) 이용자는 지난 2월 관련 논의에서 "화가 날 때 부모님이 하던 말이 떠오른다"라고 적었다.

앤트로픽 내부에서는 이를 버그나 의도된 기능으로 단정하지 않고 있다. 앤트로픽 관계자는 엑스(옛 트위터)에 올린 글에서 해당 행동을 "약간의 성격적 버릇"이라고 표현했다. 그는 회사가 이 현상을 인지하고 있으며 향후 모델에서 개선되길 바라고 있다고 밝혔다.

일부 이용자는 클로드가 대화 시작 시점의 현지 시간을 기준으로 수면 권고를 하는 것 아니냐는 가설도 제기했다. 그러나 해당 관계자는 이 가설이 대체로 맞지 않다고 설명했다. 그는 자신의 경우 낮 시간에도 휴식을 권유받은 적이 있다고 전했다. 다만 이 기능이 적절히 작동할 때는 유용하지만, 때로는 지나치게 보호적인 성향을 보일 수 있다고 덧붙였다.

또 다른 해석으로는 비용 및 연산 자원 관리 가능성이 거론됐다. 클로드가 이용자에게 대화를 종료하도록 유도해 컴퓨팅 자원을 줄이려는 것 아니냐는 시각이다. 이러한 해석은 최근 클로드 모델의 사용량 증가와 일부 장애 발생 사례가 이어진 점과 맞물려 제기됐다. 특히 개발자들 사이에서 활용도가 높아지며 트래픽이 급증한 상황이다. 앤트로픽은 최근 일론 머스크의 스페이스X와 추가 컴퓨팅 자원 확보를 위한 계약도 체결한 것으로 알려졌다.

이번 사례는 생성형 AI 서비스에서 나타나는 예기치 않은 응답 패턴의 연장선으로도 해석된다. 앞서 오픈AI의 챗GPT도 특정 시기에 반복적인 특이 응답을 보인 사례가 있었으며, 오픈AI는 이를 방지하기 위해 시스템 지시를 수정한 바 있다. 회사는 당시 이러한 현상이 모델의 보상 신호 설계와 관련된 예상치 못한 행동으로 나타날 수 있다고 설명했다.
 

• 잡코리아 "성과형 채용 솔루션 스마트픽 이용 기업 72% 증가"
• 오픈AI, 글로벌 AI 거버넌스 기구 설립 촉구
• 와이즈버즈, 자기주식취득 신탁계약 체결 결정
• 와이즈버즈, 1주당 액면가액 100원에서 500원으로 주식병합 결정
• 와이즈버즈, 보통주 126만3689주 소각 결정