[디지털투데이 AI리포터] 주요 인공지능(AI) 챗봇이 뉴스 기사 요약 시 사실을 왜곡하거나 정확하지 않은 정보를 전달하는 등의 오류를 범하고 있다고 11일(현지시간) IT매체 더 버지가 전했다.

BBC는 오픈AI 챗GPT, 구글 제미나이, 마이크로소프트 코파일럿, 퍼플렉시티를 대상으로 뉴스 요약 평가를 진행한 결과, AI가 생성한 결과물의 절반 이상이 '중대한 문제'를 포함하고 있었다고 밝혔다.

BBC는 조사의 일환으로 이들 AI 챗봇에게 약 100개의 BBC 뉴스 기사를 요약하도록 요청했다. 그 결과, 51%의 응답에서 주요 문제가 발견됐고, 19%는 잘못된 진술, 숫자 및 날씨 등이 포함되어 있는 것으로 나타났다. 또한 13%의 인용문은 원본과 다르거나 인용된 기사에 존재하지 않는 내용이었다.

특히 제미나이는 전자담배 관련 기사를 요약할 때 영국 국가보건의료서비스(NHS)가 금연을 원하는 흡연자들에게 전자담배를 시작하지 말 것을 권장한다고 전했는데, 실제로 NHS는 금연을 위해 전자담배를 권장하고 있어, 이는 사실과 달랐다.

또한 챗GPT는 2024년 12월 이스마일 하니예를 하마스 지도부의 일원으로 언급했지만, 그는 이미 2024년 7월에 암살된 상태였다.

지난해 BBC는 애플의 AI 기반 뉴스 요약이 자사의 헤드라인 중 하나를 부정확하게 재작성한 사실을 지적한 바 있다. 데보라 터니스 BBC 뉴스 및 시사 부문 최고경영자(CEO)는 "우리는 어려운 시기에 살고 있으며, AI가 왜곡한 헤드라인이 실질적인 세계적 피해를 초래하기까지 얼마나 오래 걸릴까"라며, 기술 회사들이 부정확성 문제를 해결할 것을 촉구했다. 그는 "지금은 뉴스 산업, 기술 회사, 그리고 정부도 큰 역할을 해야 할 때"라고 강조했다.

• LG, 데이터 컴플라이언스 에이전트 공개..."기술 신뢰 높인다"
• 얀 르쿤 "EU, AI 모델 오픈소스 유지해야"
• 'K-콘텐츠·미디어' 자펀드 운용사 모집…4000억 규모 조성
• 스콥정보통신, 로그프레소와 통합보안 솔루션 공동 개발 협력
• 애플, 계정 간 구매 항목 이전 기능 출시