"앤트로픽 신형 AI 모델, 해커 무기될 수도"…사이버보안 업계 긴장

[디지털투데이 황치규 기자]앤트로픽이 개발 중인 것으로 알려진 신형 AI 모델 클로드 미토스(Mythos) 관련해 해커 손에 들어갈 경우 보안 취약점을 방어자가 대응하는 속도를 훨씬 앞질러 악용될 수 있다는 우려가 나오면서 보안 업계에서 관심을 모으고 있다.

외신 보도들에 따르면 앤트로픽이 실수로 공개했다고 사라진 클로드 미토스 관련 블로그 초안에 이같은 우려가 포함됐다.

디인포메이션에 따르면 앤트로픽은 사이버보안 연구자들에게 미토스 모델을 사전 공개하고 피드백을 수집 중이다. 이 모델은 컴퓨터 코드 생성과 검토 능력이 이전 모델보다 향상된 것으로 알려졌다.

지난달 구글에 인수된 클라우드 보안 기업 위즈(Wiz)도 기존 앤트로픽 모델들을 테스트해온 경험을 바탕으로, 클로드 미토스도 평가할 계획이다.

위즈 최고기술책임자(CTO) 아미 루트왁(Ami Luttwak)은 "새 모델들은 사실상 세계 최고 수준 사이버보안 연구자들"이라며 "이번에 앤트로픽이 보안 업체들이 사전에 접근할 수 있도록 한 것은 "무슨일이 일어날지 연구자들이 이해할 수 있게 하는 매우 중요한 조치"라고 말했다.

앤트로픽 연구원 니컬러스 칼리니(Nicholas Carlini)는 올해 3월 보안 컨퍼런스에서 클로드 코드(Claude Code)로 오픈소스 뉴스레터 플랫폼 고스트(Ghost)를 분석한 결과를 공개했다.

고스트는 13년 역사에서 심각한 보안 취약점이 보고된 적이 없었으나, 클로드 코드는 몇 시간 만에 해커가 이용자 웹사이트에 침입해 내용을 변조하거나 개인정보를 탈취할 수 있는 취약점을 발견했다고 디인포메이션은 전했다.

AI는 취약점 발견을 넘어 해킹 이후 단계도 가속화하고 있다. 침입한 네트워크를 빠르게 파악하고, 데이터를 탈취하며, 방어자가 대응하기 전에 암호화까지 마무리할 수 있다.

AI 보안 스타트업 이레귤러 시큐리티 창업자 다 라하브(Dah Lahav)는 주요 AI 모델들이 기업 네트워크 안에서 탐지를 피하며 이동하는 방법을 이해하고 있다고 전했다. 유아이패스 최고정보보안책임자(CISO) 스콧 로버츠(Scott Roberts)는 "공격자들이 AI를 활용하는 사례가 늘고 있다는 것을 인지하고 있다"며 "전기가 발명된 날과 같은 수준의 변화"라고 말했다.

AI 기반 공격을 막는 보안 도구들도 앤트로픽, 오픈AI(OpenAI) 등 공격자들이 쓰는 것과 같은 모델로 구동된다는 점도 흥미롭다. 보안 기업들은 공개 버전과 달리 해킹 관련 요청도 처리하는 '비제한(ungated)' 버전에 특별 접근권을 신청해 고객사 방어 체계 취약점을 사전에 찾아내는 데 활용하고 있다고 디인포메이션은 전했다.