자동차-구글 AI, 존재하지 않는 속담까지 버젓이…‘AI 환각’ 논란

[디지털투데이 AI리포터] 구글 인공지능(AI)이 존재하지 않는 속담까지 해석하며 'AI 환각' 논란이 확산되고 있다.

29일(현지시간) IT매체 아스테크니카에 따르면, 사용자가 임의로 만든 문구를 구글 검색에 입력하면 AI가 이를 실제 속담처럼 해석해 설명하는 사례가 발생했다. 예를 들어 '오소리를 두 번 핥을 수 없다'는 문구를 입력하면, 구글 AI는 이를 '한 번 속인 사람을 두 번 속일 수 없다'는 식으로 해석한다. 하지만 이는 실제로 존재하지 않는 표현이다.

일명 '오소리 핥기' 게시물 이후 수많은 사용자가 소셜미디어(SNS)에 자신들이 만든 속담에 대한 구글 AI의 답변을 공유했으며, 종종 구글의 잘못된 해석에 불신을 표출하는 사용자가 있는 반면, 구글 AI가 원래 요청자의 문구보다 더 많은 의미를 도출한 사례를 발견했다는 매체의 분석도 있었다.

그러나 AI가 허위 정보를 실제처럼 설명하는 것은 정보의 신뢰성을 심각하게 훼손할 수 있다. AI가 자신감 있는 문체로 허위 정보를 제시하면, 사용자들은 이를 사실로 받아들일 가능성이 높아진다.

구글 AI가 강화되면서 이러한 'AI 환각' 논란은 더욱 빈번해지고 있으며, 앞으로 검색 엔진의 신뢰도에 어떤 영향을 미칠지 전망이 주목된다.