[Tech Insight]미토스와 보안 담론에서 빠진 것들, 그리고 앤트로픽이 할일

[디지털투데이 황치규 기자]앤트로픽이 소프트웨어 취약점을 찾고 악용하는 능력이 너무 뛰어나다는 이유로 신형 AI 모델 클로드 미토스를 50개 가량 조직들에만 제한적으로 먼저 공개했다. 프로젝트 글래스윙이다.

앤트로픽에 따르면 미토스는 모든 주요 운영체제와 브라우저에서 수천 개 취약점을 발견했고 여기에는 27년 된 오픈BSD 버그, 16년 된 FFmpeg 결함도 포함됐다. 나아가 미토스는 파이어폭스에서 찾은 취약점으로 181번에 달하는 공격코드까지 생성했다. 2개 밖에 못만든 앤트로픽 기존 주력 모델과 비교하면 놀라운 수치다.

이에 대해 세계적인 암호학자이자 보안 전문가인 브루스 슈나이어(Bruce Schneier)는 최근 자신의 웹사이트에 쓴 글에서 "보안 연구자들이 오랫동안 요구해온 책임감 있는 공개 방식에 가깝지만 앤트로픽 결정을 평가할 정보가 너무 적다"고 지적했다. 공개된 것은 인상적인 성공 사례들이지만 미토스가 얼마나 자주 틀렸는지는 알 수 없다는 이유에서였다.

그는 "앤트로픽에 따르면 외부 보안 전문가들(security contractors)이 미토스가 매긴 취약점 심각도에 89% 동의했다. 인상적이지만 불완전하다. 유사 모델을 연구한 독립 연구자들은 실제 버그를 잘 잡는 AI일수록 이미 수정된 정상 코드에서도 취약점이 있는 것처럼 그럴듯한 오답을 내놓는다는 것을 발견했다. 미토스가 얼마나 자주 틀렸는지를 모르면 89%라는 숫자만으로는 판단할 수 없다"고 말했다.

슈나이어에 따르면 이건 중요한 의미가 있다. 그는 "수백 개 취약점을 정밀하게 찾아 악용하는 모델은 판도를 바꾸지만 수천 개 오탐을 쏟아내는 모델은 여전히 숙련된 인간이 필요하다. 미토스가 틀린 비율을 모르면 앤트로픽이 공개한 사례들이 전체를 대표하는지, 잘된 것만 골라낸 것인지 알 수 없다"고 말했다.

미토스 같은 LLM은 학습된 데이터와 비슷한 입력이 주어지면 잘 작동한다. 소프트웨어로 치면 미토스는 인터넷에 소스가 공개돼 있는 오픈소스 프로젝트, 주요 브라우저, 리눅스 커널, 인기 웹 프레임워크들을 많이 학습했다.

초기 접근권을 이런 소프트웨어 주요 공급사들에 집중한 것은 공격자보다 먼저 패치할 수 있도록 한다는 점에서 합리적이다. 하지만 학습에 많이 활용된 데이터 밖에 있는 소프트웨어 영역으로 넘어가면 얘기가 달라진다.

슈나이어는 "산업 제어 시스템, 의료기기 펌웨어, 맞춤형 금융 인프라, 지역 은행 소프트웨어, 구형 임베디드 시스템에서는 미토스가 취약점을 찾기 어렵다. 이 분야 전문 지식을 가진 공격자라면 미토스기 제공하는 고급 추론 능력을 무기 삼아 앤트로픽 엔지니어들이 전문성을 갖고 있지 않은 시스템을 공략할 수 있다. 위험은 미토스가 그 분야에서 실패하는 것이 아니다. 전문성을 가진 공격자 손에서 성공하는 것이다"고 말했다.

이에 슈나이어는 의료기기 보안 전문 심장학자, 제어 시스템 엔지니어, 덜 알려진 언어와 생태계 연구자들에게 접근권을 확대해야 이같은 비대칭을 줄일 수 있다고 강조한다. 그는 "아무리 잘 골라도 50개 기업이 전체 연구 커뮤니티에 걸쳐 분산돼 있는 전문성을 대체할 수 없다"면서 "앤트로픽은 민간 기업이다. 인력, 예산, 전문성 한계로 어떤 핵심 인프라를 먼저 방어할지 일방적으로 결정하고 있고, 놓치는 것이 생길 것이다. 놓친 것이 병원이나 전력망 소프트웨어라면 그 비용은 아무 발언권도 없었던 사람들이 치른다"고 말했다.

AI 모델로 인한 보안 리스크는 미토스에만 해당되는 문제는 아니다. 슈나이어는 "오픈AI도 GPT-5.3-코덱스가 너무 위험해 일반에 공개하지 않겠다고 했꼬 보안 업체 아일(Aisle)은 보다 작고 저렴한 오픈소스 AI 모델로 앤트로픽이 공개한 사례 상당수를 재현했다"고 말했다.

결국 규제가 필요하지만 규제란게 제대로 만들려면 오랜 시간과 논의가 필요하다. 그런 만큼, 지금은 앤트로픽 같은 회사들이 보다 광범위한 커뮤니티와 보다 많은 정보를 공유해야 한다는게 슈나이어 생각이다.

그는 "미토스 같은 강력한 모델을 널리 공개하자는 것이 아니다. 집단적으로 정보에 입각한 결정을 내릴 수 있도록 가능한 한 많은 데이터와 정보를 공유해야 한다. 또 독립 감사를 위한 국제 공조 체계, 집계 성능 지표 의무 공개, 학술 및 시민사회 연구자들이 접근할 수 있도록 지원해야 한다"고 말했다.