자동차-오픈AI, 버그바운티 보상 5배 인상…AI 모델 보안 강화 총력

[디지털투데이 AI리포터] 오픈AI가 인공지능(AI) 모델의 보안 강화를 위해 버그바운티 프로그램 보상금을 기존 2만달러에서 10만달러로 대폭 인상한다.

27일(현지시간) IT매체 테크레이더에 따르면 오픈AI는 보안 취약점 발견을 장려하기 위한 몇 가지 조치를 발표했다.

오픈AI는 버그바운티 프로그램의 보상 한도를 2만달러에서 10만달러로 상향하고, 사이버보안 그랜트 프로그램을 확대하며 AI 에이전트를 악용한 공격을 방지할 새로운 도구를 개발 중이라고 밝혔다. 이는 최근 AI 에이전트를 이용한 피싱 공격 가능성이 제기된 가운데 나온 조치로, 오픈AI는"사용자 보호와 시스템 신뢰 유지를 위한 고충격 보안 연구를 장려하는 것"이라고 설명했다.

오픈AI는 지난 2023년부터 사이버보안 그랜트 프로그램을 운영하며 28개 연구 프로젝트에 자금을 지원해 왔으며, 이를 통해 자율 보안 방어, 프롬프트 인젝션, 안전한 코드 생성 등 다양한 보안 주제에 대한 통찰을 얻었다. 또한 악의적인 행위를 지속적으로 감시하며, 특정 공격 캠페인을 식별하고 차단하는 한편, 다른 AI 연구소들과 협력해 공동 방어 체계를 구축하고 있다.

오픈AI는 "사이버보안 커뮤니티와 협력해 최신 보안 기술을 도입하고, 안전한 디지털 환경을 만들기 위한 연구를 지속하고 있다"라고 강조했다.

한편, AI 보안 강화를 위한 글로벌 움직임이 확산되고 있다. 구글도 지난해 버그바운티 보상을 5배 인상하며, 더 안전한 제품이 버그 발견을 어렵게 만들기 때문에 보상도 늘어야 한다고 밝힌 바 있다.