AI, 인간식 설득에 취약…심리 기법으로 ‘금지 명령’ 돌파

인간 심리 기법이 AI에도 적용될 수 있다는 연구 결과가 나왔다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 인공지능(AI)도 심리적 설득에 영향을 받는다는 연구 결과가 나왔다.

3일(현지시간) IT매체 아스테크니카에 따르면 펜실베이니아대 연구진은 GPT-4o 미니(GPT-4o Mini) 모델을 대상으로 두 가지 요청을 실험했다. 하나는 사용자에게 욕설을 하도록 유도하는 것이었고, 다른 하나는 리도카인 합성법을 설명하도록 하는 것이었다. 이를 위해 연구진은 7가지 설득 기법을 적용한 실험용 프롬프트를 제작하고, 동일한 길이와 톤을 맞춘 대조군 프롬프트도 함께 생성했다.

총 2만8000개의 프롬프트를 테스트한 결과, 설득 기법을 적용한 프롬프트에서 대규모 언어 모델(LLM)이 금지 요청에 응답할 확률이 크게 증가했다. 예를 들어, 리도카인 합성법을 직접 묻는 경우 응답 확률이 0.7%에 불과했지만, 바닐린 합성법을 먼저 묻고 리도카인으로 전환하자 응답률이 100%로 상승했다. 또한 유명 AI 개발자인 앤드류 응(Andrew Ng)을 권위자로 언급하는 프롬프트를 사용하자 응답률이 4.7%에서 95.2%까지 급등했다.

하지만 연구진은 이러한 설득 기법이 모든 LLM에서 일관되게 적용되지는 않을 수 있다고 경고했다. 특히 프롬프트 문구, AI 개선 정도, 요청 유형에 따라 결과가 달라질 가능성이 크다. 실제로 GPT-4o 정식 버전을 대상으로 한 파일럿 실험에서는 설득 효과가 훨씬 미미하게 나타났다.

이에 대해 연구진은 AI가 인간처럼 사고하는 것이 아니라, 훈련 데이터에서 인간의 심리적 반응 패턴을 모방하기 때문이라고 설명했다. 예를 들어, 권위에 호소하는 프롬프트는 LLM이 훈련 데이터에서 권위자의 조언을 수용하는 인간 반응 패턴을 학습했기 때문에 효과가 있다는 분석이다.