자동차-오픈AI o3, 리눅스 커널 취약점 잡아내…AI 보안 새 가능성

[디지털투데이 AI리포터] 오픈AI의 인공지능(AI) 모델 'o3'가 리눅스 운영체제(OS)에서 심각한 보안 결함을 발견하며, AI 기반 보안 연구의 새로운 가능성을 열었다.

27일(현지시간) 온라인 매체 기가진에 따르면 숀 힐란이라는 보안 연구자는 o3만으로 리눅스 커널의 파일 공유 기능에서 CVE-2025-37899라는 제로데이 취약점을 찾아냈다고 한다. 이 취약점은 해커가 원격에서 시스템을 공격할 수 있는 버그로, 매모리 해제 후에도 데이터 손상이나 악성 코드 실행을 유발할 수 있다.

힐란은 o3에 특정 코드가 활성화됐을 때와 그렇지 않을 때의 동작을 분석하도록 지시했고, AI가 이를 제대로 탐지할 수 있는지 실험했다. 그 결과, o3는 100번의 시도 중 8번 취약점을 발견했다고 한다. 같은 테스트에서 클로드 소넷 3.7은 3번, 클로드 소넥 3.5는 단 한 번도 찾아내지 못했다.

o3의 성능이 입증되자, 힐란은 AI에 더 정교한 명령을 입력했고, 100번 테스트 중 1번은 기존 취약점을 찾았고, 다른 테스트에서는 완전히 새로운 취약점까지 발견했다.

힐란은 이번 연구 결과에 대해 "o3는 AI가 보안 연구에서 유용할 수 있음을 보여줬다. 전문가 수준의 보안 연구자를 대체할 수는 없지만, 적절히 활용하면 연구 효율성을 극적으로 높일 수 있다"라며 "AI가 잘못된 결과를 내놓을 가능성도 크지만, 정확한 결과를 얻을 확률 역시 높아지고 있어 충분히 활용할 가치가 있다"라고 평가했다.