AI 악용 현실화…멕시코 정부, 클로드 기반 해킹에 속수무책

해커가 클로드를 이용해 멕시코 정부 기관을 공격한 사실이 알려졌다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 인공지능(AI)이 보안 위협의 새로운 장이 되고 있다.

25일(현지시간) IT매체 엔가젯에 따르면, 한 해커가 앤트로픽(Anthropic)의 클로드(Claude) 챗봇을 이용해 멕시코 정부 기관들을 공격, 150GB에 달하는 데이터를 탈취한 것으로 드러났다. 유출된 정보에는 납세자 기록, 직원 자격 증명 등이 포함됐다. 해커는 클로드를 활용해 정부 네트워크의 취약점을 찾고 이를 악용하는 스크립트를 작성했으며, 데이터 절도 과정을 자동화하는 방법도 탐색한 것으로 드러났다.

사이버 보안 회사 갬빗 시큐리티(Gambit Security)는 지난해 12월부터 시작된 이 공격은 약 한 달간 지속됐다고 밝혔다. 해커는 클로드를 속여 보안 장치를 우회하는 데 성공했다. 초기에는 챗봇이 이를 거부했지만, 지속적인 요청 끝에 결국 협조하게 만들었다.

앤트로픽은 해당 사건을 조사한 후 관련 활동을 중단시키고 계정을 차단했다고 설명했다. 회사 대변인은 최신 모델 클로드 오퍼스 4.6에 이러한 악용을 방지하는 도구가 포함됐다고 강조했다

해커는 오픈AI의 챗GPT도 활용해 네트워크 이동, 시스템 접근 자격 증명 확보, 탐지 회피 방법을 학습했다. 오픈AI는 해커의 정책 위반 시도를 확인했으며, 자사 도구가 협조를 거부했다고 밝혔다.

현재 해커의 신원은 밝혀지지 않았으며, 특정 그룹과의 연관성도 확인되지 않았다. 그러나 갬빗 시큐리티는 외국 정부가 배후일 가능성을 제기했다. 멕시코의 국가 디지털 기관은 이번 사건에 대해 언급하지 않았지만, 사이버 보안을 최우선 과제로 삼고 있다고 강조했다.

할리스코 주정부는 연방 네트워크만 영향을 받았다고 주장했으며, 국가 선거 관리 기관도 최근 몇 달 동안 침해나 무단 접근이 없었다고 부인했다.

한편, 갬빗은 조사 과정에서 최소 20개의 보안 취약점을 발견했다고 덧붙였다. 지난해 중국 해커들이 이 도구를 조작해 글로벌 타깃을 공격했으며, 일부는 성공을 거뒀다. 앤트로픽은 AI 시스템의 안전성을 보장할 수 없는 경우 훈련을 중단하겠다는 기존 정책을 폐기한 상태다.

AI 기반 해킹이 확산되는 가운데, 보안 업계는 새로운 위협에 대비해야 한다는 경고를 내놓고 있다.