자동차-생성형 AI, 잘못된 URL 추천…피싱 위험 경고

생성형 AI가 잘못된 URL을 추천하는 사례가 발생했다 [사진: Reve AI]

[디지털투데이 AI리포터] 생성형 인공지능(AI)이 잘못된 URL을 추천하며 사용자를 피싱 공격과 악성코드 위험에 노출시키고 있다고 3일(현지시간) IT매체 테크레이더가 알렸다.

넷크래프트(Netcraft) 보고서에 따르면, GPT-4.1을 포함한 AI가 생성한 로그인 링크 중 34%가 요청한 브랜드와 무관하며, 29%는 등록되지 않은 도메인, 5%는 관련 없는 합법적 사이트로 연결됐다. 결국 66%만이 올바른 도메인을 추천한 것으로 나타났다.

보고서는 특히 덜 알려진 브랜드일수록 AI 학습 데이터에 포함되지 않아 잘못된 URL 생성 가능성이 높아진다고 경고했다. 실제로 퍼플렉시티 AI(Perplexity AI)가 가짜 웰스파고(Wells Fargo) 사이트를 추천한 사례도 확인됐다. 공격자들은 이제 전통적인 검색엔진최적화(SEO) 대신 AI 최적화를 통해 피싱 사이트를 만들고 있으며, 암호화폐 사용자를 겨냥한 1만7000개의 피싱 페이지가 이미 생성됐다.

넷크래프트는 AI가 생성한 URL을 개발자가 코드에 직접 사용한 사례도 발견했다며, 사용자들에게 AI가 추천한 웹주소를 클릭하기 전 반드시 직접 확인할 것을 당부했다.