"오픈소스 모델 여러 개 조합하면 미토스급 취약점 탐지 가능"

[디지털투데이 황치규 기자]AI 보안 스타트업 런시빌 최고경영자 아리 허버트-보스(Ari Herbert-Voss)는 오픈소스 모델들을 조합하면 앤트로픽 미토스와 맞먹는 취약점 탐지 성능을 낼 수 있다고 주장했다고 더레지스터가 24일(현지시간) 보도했다.

아리 허버트-보스는 싱가포르에서 열린 블랙햇 아시아(Black Hat Asia) 컨퍼런스에서 진행한 발표에서 이같이 밝혔다.

허버트-보스는 미토스가 쉽게 찾을 수 있는 버그부터 복잡한 취약점까지 탐지에 뛰어나다고 평가했다. 이와 관련해 '초선형 스케일링(supralinear scaling)' 덕분이라고 설명했다.

연구자들은 LLM 역량이 선형으로 향상될 것이라 가정했지만 실제로는 데이터·컴퓨팅·시간을 두 배 투입하면 역량이 네 배 향상되는 현상이 나타나고 있다는 것이다. 하지만 미토스는 비용이 높고 공개될 가능성이 낮아 많은 조직들에게는 오픈소스 대안이 필수란게 그의 입장이다.

그는 오픈소스 모델 여러 개를 동시에 실행하는 '스캐폴딩(scaffolding)' 방식으로 미토스에 준하는 성능을 낼 수 있다고 강조했다. 서로 다른 모델들이 서로 다른 결함을 잡아내기 때문에 단일 모델이 가진 빈틈을 보완하는 효과도 있다고 덧붙였다.

허버트-보스는 오픈소스 모델들을 조율하고 AI가 생성하는 버그 보고서를 평가하는 인간 전문가들이 여전히 필요하다는 점도 분명히했다. AI 버그 탐지는 소프트웨어에 무작위 데이터를 주입해 버그를 찾는 퍼징(fuzzing) 기법과 마찬가지로 경보를 과다 생성하는 문제가 있어 인간 판단이 여전히 중요하다고 설명했다.

그는 "보안 전문가들이 앞으로도 할 일이 넘쳐날 것"이라고 전망하며 GPU와 데이터센터 비용을 확보해야하는 경제적인 요인이 보안 팀들로 하여금 AI 도입을 촉진하고 방어 역량 강화로 이어질 것"이라고 말했다.