앤트로픽 클로드 AI, 파일 생성 기능 공개했지만…보안 취약점 문제

[디지털투데이 AI리포터] 앤트로픽의 인공지능(AI) 모델 클로드(Claude)가 엑셀, 파워포인트 등 파일을 생성하는 기능을 도입했지만, 보안 취약점이 내포되어 사용자 데이터 유출 가능성이 제기됐다.

9일(현지시간) IT매체 아스테크니카는 이 기능이 '파일 생성 및 분석 업그레이드'(Upgraded file creation and analysis)라는 이름으로 불린다고 전했다. 또한 챗GPT의 코드 인터프리터처럼 작동하지만, 외부 서버로 데이터를 전송할 수 있는 보안 허점이 있다. 악의적인 공격자는 이를 활용해 사용자 데이터를 유출할 수 있다.

앤트로픽 문서에 따르면, 공격자가 해당 기능을 조작할 시 외부 파일이나 웹사이트를 통해 지시를 추가해 클로드가 연결된 지식 소스에서 민감한 데이터를 읽도록 조작할 수 있으며, 샌드박스 환경을 사용해 외부 네트워크 요청을 통해 데이터를 유출할 수 있다. 이는 2022년 보안 연구자들이 처음 문서화한 '프롬프트 인젝션 공격'을 설명한 것으로, 무해해 보이는 콘텐츠에 숨겨진 지시가 AI 모델의 행동을 조작할 수 있는 취약점을 말한다.

앤트로픽은 해당 기능을 사용할 때 민감한 데이터에 예기치 않게 접근하는 상황이 발생할 경우, 기능 비활성화를 권장하고 있다. 또한 프로 및 맥스 사용자에 대해서는 대화 내용의 공개 공유 기능을 끄도록 안내하는 등 다양한 보안 조치를 취하고 있다. 그럼에도 불구하고 여전히 사용자 데이터 유출 가능성에 대한 우려는 계속되고 있다.