믿을 수 없는 AI 요약…틱톡, 오작동 논란에 텍스트 요약 기술 제한

[디지털투데이 AI리포터] 틱톡이 영상 내용을 요약해주는 인공지능(AI) 자막 기능에서 심각한 정보 왜곡과 환각 현상이 잇따라 발생하자 해당 기술의 적용 범위를 대폭 축소하기로 결정했다.

11일(현지시간) IT 매체 테크레이더에 따르면, 틱톡은 소수 사용자를 대상으로 테스트 중이던 AI 기반 영상 텍스트 요약 기능을 영상 내 제품 식별 용도로만 제한할 방침이다.

이는 AI가 영상 콘텐츠를 실제와 완전히 다르게 묘사하는 오류가 반복된 데 따른 조치다. 실제 테스트 과정에서 유명인이 대화하는 영상을 블루베리 모음으로 설명하거나 강아지 훈련 영상을 정교한 종이접기 예술로 표기하는 등 본문과 동떨어진 결과물이 다수 발견되었다.

사용자들은 이러한 AI 요약 기능이 영상의 실제 캡션을 가릴 뿐만 아니라 전혀 상관없는 정보를 제공한다며 강한 불만을 제기해 왔다. 온라인상에는 켄터키 더비 경마 영상을 서예 작품으로 묘사하거나 요리 영상 속 프라이팬을 튀어 오르는 공으로 인식하는 등 황당한 오작동 사례가 공유되었다. 이미지와 영상 콘텐츠 인식은 일반적으로 AI가 비교적 정확하게 수행하는 영역으로 알려져 있으나, 틱톡의 사례는 실제 적용 단계에서 여전히 기술적 한계가 명확함을 보여주었다.

이번 사태는 다양한 앱과 기기에 AI 기술이 빠르게 도입되고 있음에도 불구하고 고질적인 환각 현상과 오류가 여전히 해결해야 할 과제로 남아있음을 시사한다. 전문가들은 AI가 요약한 정보가 법률 문서나 단순 영상 자막 등 분야를 막론하고 신뢰성에 문제를 일으킬 수 있다고 경고했다.

틱톡은 기술적 완성도가 확보될 때까지 전체 내용을 설명하는 방식 대신 상업적 제품 인식 등 구체적인 특정 작업에만 AI 기술을 활용하며 신중한 행보를 보일 것으로 전망된다.

super glad tiktok added this new ai overview feature. not sure how i’d survive the app without it. pic.twitter.com/Y5P31nridi
— kaylie (@krosehh) May 3, 2026