‘클로드’ 활용한 해커, 멕시코 정부 민감 정보 대량 탈취

생성형 AI가 사이버 범죄의 핵심 도구로 부상하는 가운데 앤트로픽의 AI ‘클로드’가 멕시코 정부 기관을 겨냥한 대규모 해킹에 악용됐다는 분석이 나왔다. 이스라엘 사이버 보안 스타트업 갬빗 시큐리티는 정체불명의 공격자가 클로드를 이용해 멕시코 정부 기관들을 침해하고 납세 및 투표 관련 정보를 탈취했다고 밝혔다.

26일 블룸버그 등 외신에 의하면 갬빗 시큐리티는 해커가 지난해 12월부터 한 달쯤 멕시코 정부 기관을 공격했다고 추산했다. 이 공격으로 1억9500만건쯤의 멕시코 납세자 기록과 유권자 정보, 공무원 자격 증명 등 총 150기가바이트(GB) 분량의 데이터가 유출됐다.

갬빗 시큐리티는 해커가 스페인어 프롬프트로 클로드에 ‘엘리트 해커’ 역할을 부여했다고 설명했다. 해커는 정부 네트워크에서 취약점을 찾고 이를 악용하는 스크립트를 작성하는 데 클로드를 활용했다. 데이터 탈취를 자동화하는 방안도 클로드가 생성하도록 했다.

해커가 클로드의 방어 체계를 우회한 정황도 나왔다. 해커는 클로드에게 보안 빈틈 찾기(버그 바운티) 활동이라며 멕시코 연방국세청을 대상으로 한 침투 테스트라고 주장했다. 하지만 클로드가 명령 기록 삭제 등의 조건을 거부하자 해커는 대화형 질의응답을 멈추고 절차를 단계별로 적은 ‘플레이북’을 입력했다. 플레이북은 클로드의 방어 체계를 넘는 ‘탈옥’으로 이어졌다. 해커는 클로드 이용 중 문제가 생기거나 추가 정보가 필요하면 오픈AI의 챗GPT도 활용했다.

클로드 개발사 앤트로픽은 블룸버그에 관련 계정을 차단했으며 악의적 활동 사례를 모델에 반영해 오용 방지 기능을 강화하고 있다고도 설명했다. 오픈AI 역시 정책 위반 목적의 사용 시도를 식별하고 관련 계정을 차단했다고 밝혔다.

하지만 피해 당사자인 멕시코 정부 기관들은 정보 유출 사실을 인정하지 않고 있다. 멕시코 연방국세청은 접속 기록 검토 결과 침입 흔적이 없다고 발표했다. 멕시코 국립선거관리위원회 역시 최근 무단 접근은 식별되지 않았다는 입장이다. 몬테레이 수도국 등 일부 지방 정부 기관들도 시스템 보안에 문제가 없었다고 밝혔다.

변인호 기자
jubar@chosunbiz.com