“챗GPT 너무 믿지 마세요”…뉴스 내용 왜곡 빈번
||2024.12.03
오픈AI의 검색 챗봇 ‘챗GPT 서치’가 뉴스 매체의 보도 내용을 왜곡하거나 잘못된 출처를 제공하는 사례가 빈번한 것으로 나타났다.
콜롬비아대학교 디지털 저널리즘 연구소(Tow Center for Digital Journalism, 이하 투센터)가 최근 발표한 보고서에 따르면 20개 매체에서 200개의 인용문을 선택해 챗GPT에 출처를 식별하도록 요청한 결과 많은 경우 잘못된 출처를 제공하거나 허구의 정보를 섞어 제시한 것으로 확인됐다.
특히 오픈AI의 크롤러 접근이 차단된 뉴욕타임스(NYT)와 같은 매체의 콘텐츠에서는 정확한 출처를 제공하지 못하고 허위로 내용을 조작하는 사례가 다수 발견됐다. 리뷰 대상의 3분의 1 이상이 이러한 오류를 포함한 것으로 조사됐다.
오픈AI와 콘텐츠 라이선스 계약을 맺은 파트너 매체들조차 피해를 입고 있다. 챗GPT는 파트너 매체의 기사조차 잘못된 출처를 제시하거나 정확하지 않은 정보를 포함한 답변을 제공했다. 이는 오픈AI의 크롤러 접근이 허용된 매체에서도 예외가 아니었다. 이러한 오류는 오픈AI가 자사의 검색 기능을 ‘빠르고 적시에 정확한 정보를 제공하며 관련 링크를 포함한 도구’로 홍보한 것과 상반된다.
더 큰 문제는 챗GPT가 크롤러 접근이 차단된 콘텐츠에 대해 표절 문제를 일으킨다는 점이다. 예를 들어 뉴욕타임스의 기사를 표절한 아르메니아 콘텐츠 사이트 ‘DNyuz’의 내용을 그대로 인용한 사례가 발견됐다. 또한 동일한 질문을 반복했을 때 챗GPT가 번번이 상반된 답변을 제공하는 등의 일관성 문제도 드러났다.
오픈AI는 투센터의 리뷰 방식이 ‘비정상적’이라고 비판하며 “우리는 2억5000만 명의 챗GPT 사용자에게 신뢰할 수 있는 콘텐츠를 제공하기 위해 출처 명시, 요약, 링크 제공 등 다양한 노력을 하고 있다”고 해명했다.
조상록 기자 jsrok@chosunbiz.com
