"AI에이전트 해커가 온다...사이버 보안 역사에 전환점"

[디지털투데이 황치규 기자]앤트로픽이 최근 유출된 블로그 초안에서 새로 개발 중인 AI 모델 클로드 '미토스'(Mythos) 등이 기존과 비교할 수 없는 속도로 보안 취약점을 찾아 공격할 수 있다는 점을 경고했다.

앤트로픽은 "미토스는 방어자들이 대응하는 속도를 훨씬 앞지르는 방식으로 취약점을 악용하는 모델들의 물결을 예고한다"고 밝혔다.

앤트로픽은 일부 기관들이 미토스를 사전 테스트해 자체 시스템을 강화할 수 있도록 하고 있으며, 대규모 사이버 공격 가능성을 정부 관계자들에게도 비공개로 경고하고 있다고 악시오스는 전했다.

카토 네트웍스 슐로모 크레이머 창업자 겸 CEO는 "에이전트 공격자들이 온다"며 "이는 사이버보안 역사에서 전환점"이라고 말했다.

AI 에이전트 하나가 인간 해커 수백명보다 빠르고 지속적으로 취약점을 찾아 악용할 수 있다는게 그의 설명이다. 그는 "미토스 뒤에는 차세대 오픈AI 모델, 차세대 구글 제미나이(Google Gemini)가 있고, 몇 달 뒤에는 중국 오픈소스 모델들이 따라온다"고 덧붙였다.

보안 기업 아마딘(Armadin) 최고공격보안책임자 에반 페냐는 "AI는 취약점 발견 즉시 악용을 가능하게 한다"면서도 "AI 모델은 조직에서 가장 가치 있는 정보가 무엇인지 파악하는 맥락 이해에서 인간 해커보다 부족하다"고 말했다.

AWS 보안 연구팀에 따르면 AI 기반 사이버 공격 사례도 잇따르고 있다. 지난 1월 러시아어를 사용하는 한 사이버 범죄자가 AI 도구 여러 개를 활용해 55개국 이상에서 인기 방화벽 소프트웨어를 실행하는 기기 600개 이상을 해킹했다.

이 해커는 앤트로픽 클로드와 중국 AI 스타트업 딥시크 모델을 활용했다. 블룸버그통신에 따르면 2월에는 또 다른 해커가 클로드를 이용해 멕시코 정부 기관들을 연쇄 공격해 세금·유권자 정보를 탈취했다.

미국 정부에 공격형 사이버 역량을 판매하는 기업 트웬티(Twenty)의 조 린 공동 창업자 겸 CEO는 "기계가 실행을 맡더라도 인간이 항상 결과에 책임을 져야 한다"며 인간이 결정과 결과를 통제하는 무기 체계 구축이 필요하다고 강조했다.