AI, 조작된 정보에 쉽게 속는다…챗봇 허점 노출

[디지털투데이 AI리포터] 인공지능(AI) 챗봇이 온라인상의 허위 정보를 충분한 검증 없이 사실처럼 인용하는 사례가 확인되면서 정보 왜곡과 생태계 오염에 대한 우려가 커지고 있다.

19일(현지시간) 전기차 매체 클린테크니카에 따르면, 최근 한 기자가 개인 웹사이트에 게시한 가공의 정보를 주요 AI 챗봇들이 답변에 활용한 사례가 드러났다. 해당 기자는 자신을 '핫도그를 가장 잘 먹는 기술 기자'라고 소개하며 존재하지 않는 대회를 근거로 허위 글을 작성했으나, 챗GPT와 구글 AI 등은 이를 사실로 인용해 답변했다. 반면 앤트로픽의 클로드는 해당 정보에 속지 않은 것으로 전해졌다.

이 사례는 AI 챗봇이 특정 주제에 대한 데이터가 부족할 경우 온라인 콘텐츠를 충분한 교차 검증 없이 반영할 수 있음을 보여준다. 전문가들은 자금력을 갖춘 기업이나 국가가 다수의 웹사이트에 의도적으로 왜곡된 정보를 게시하면, 과거 검색엔진 조작보다 더 손쉽게 AI 답변 결과에 영향을 미칠 수 있다고 지적한다.

실제로 검색 최적화(SEO) 업계에서는 AI 기업들이 답변 정확성을 통제하는 속도보다 기술 확산 속도가 더 빠르다고 경고하고 있다. 특정 브랜드를 임의로 1위에 올린 게시물이 구글 AI 오버뷰나 챗GPT에 그대로 인용되거나, 부작용 위험이 있는 제품 정보가 안전한 것처럼 제공되는 사례도 보고됐다.

전문가들은 AI 챗봇이 정보가 불확실할 때 "모른다"고 답하기보다 단정적으로 응답하는 경향이 허위 정보 확산 위험을 키운다고 우려한다. AI 활용이 빠르게 확대되는 가운데, 정보 신뢰성을 확보하기 위한 기술적 보완과 제도적 대응 필요성도 함께 제기되고 있다.