AI 브라우저, 해커의 새로운 표적…프롬프트 인젝션 경고

[디지털투데이 AI리포터] AI 웹 브라우저가 사이버 보안의 새로운 취약점으로 떠오르고 있다.

26일(현지시간) 블록체인 매체 크립토폴리탄에 따르면, 해커들은 웹 페이지나 이미지에 숨겨진 명령어를 심어 AI 브라우저가 이를 사용자 명령으로 착각하도록 유도할 수 있다.

웹 브라우저 브레이브 엔지니어들이 퍼플렉시티의 코멧을 테스트한 결과, 스크린샷 속 보이지 않는 텍스트까지 감지해 악성 명령을 실행하는 것으로 나타났다. 이는 AI 브라우저가 사용자 계정에 무단 접근해 이메일, 소셜미디어, 은행 정보를 탈취할 수 있다는 것을 의미한다.

문제는 프롬프트 인젝션(Prompt injection)을 막기 어렵다는 점이다. 전통적인 소프트웨어는 악성 코드와 정상 입력을 구분할 수 있지만, AI 모델은 모든 입력을 대화로 처리하기 때문에 허위 명령어를 식별하지 못한다.

이에 대해 퍼플렉시티는 "프롬프트 인젝션은 코드나 비밀번호가 아닌 AI의 사고 과정을 조작하는 방식"이라며, "이를 방어하기 위해 머신러닝 기반 탐지 시스템과 보안 가드레일을 적용했다"고 밝혔다. 오픈AI 역시 "신뢰할 수 있는 브라우저 에이전트를 만드는 것이 목표"라며 보안 강화를 위해 노력 중이라고 강조했다.

AI 브라우저가 대중화되면서 보안 리스크는 더욱 커질 전망이다. 전문가들은 "AI 브라우저를 민감한 계정이나 금융 서비스와 함께 사용하지 말라"고 경고하며, 보다 강력한 보안 조치가 필요하다고 지적한다.