[시큐리티핫이슈] 유력 AI 업체 보안 확장 2라운드...파장은?

[디지털투데이 황치규 기자] 보안으로 확장하려는 유력 AI 모델 개발 업체들 행보에 가속도가 붙었다.

거대언어모델(LLM) 시장을 주도하는 오픈AI, 앤트로픽이 모두 최근들어 보안 역량 강화에 속도를 내면서 보안 시장 및 업계 판세에 어떤 변화를 가져올지 주목된다.

2월 말 앤트로픽은 AI 코딩 툴인 클로드코드가 작성한 코드를 스캔해 취약점을 찾아내고 패치를 제안하는 클로드 코드 시큐리티를 선보였고 최근에는 AI가 생성한 코드에 대한 검토를 자동화하는 '코드 리뷰' 기능을 선보였다. 코드 리뷰 기능은 클로드 코드(Claude Code) 플랫폼에 통합되며, 대규모 코드베이스 오류와 보안 취약점을 사전에 차단할 수 있도록 지원한다.

ㆍ앤트로픽, AI 생성 코드 리뷰 툴 출시…클로드 코드 강화

앤트로픽 팀은 최신 AI 모델 클로드 오푸스 4.6을 활용해 웹브라우저 파이어폭스 버그를 20분 만에 발견하는 성과도 거뒀다. 모질라에 따르면, 클로드는 1월 2주간 진행한 테스트에서 파이어폭스 고위험 버그를 통상 전 세계에 걸쳐 2개월간 신고되는 것보다 많이 찾아냈다. 앤트로픽이 2주간 발견한 버그는 총 100개 이상이며, 이 가운데 14개가 고위험 등급으로 분류됐다.

ㆍ앤트로픽 클로드, 20분 만에 파이어폭스 버그 발견

오픈AI도 보안에 투입하는 실탄을 점점 늘리고 있다. 오픈AI는 6일 AI 기반 애플리케이션 보안 에이전트 '코덱스 시큐리티(Codex Security)'를 공개했다. 회사 측에 따르면 코덱스 시큐리티는 코드 저장소에서 취약점을 찾고, 검증하고, 수정안까지 제시한다. 오픈AI는 AI 보안을 주특기로 하는 스타트업 프롬푸트푸도 인수한다고 발표했다. 프롬프트푸는 2024년 설립돼 LLM을 보호하는 기술을 개발해왔다. 오픈AI는 이번 인수를 통해 AI 에이전트 플랫폼 '오픈AI 프론티어'에 프롬프트푸 기술을 통합할 계획이다.

ㆍ앤트로픽 이어 오픈AI도 보안 대공세...코덱스 시큐리티 공개
ㆍ오픈AI, AI 보안 스타트업 프롬프트푸 인수...AI에이전트 보안에 투입

그외 AI를 둘러싼 국내외 기업들 행보를 정리했다.

LG유플러스는 포티넷은 스페인 바르셀로나에서 열린 MWC26에서 보안 서비스 경쟁력 강화를 위한 업무협약(MOU)을 체결했다. 양사는 클라우드 환경에 최적화한 SASE(Secure Access Service Edge) 등 새로운 서비스 협업을 본격화한다.

ㆍLGU+, 포티넷과 차세대 보안 서비스 개발 협력

엣지 디바이스 보안 전문기업 시큐리티플랫폼은 NDAA 준수 비중국산 드론체계로 글로벌 방산 공급망을 지원하는 기업 더피치와 양자내성암호(Post-Quantum Cryptography, 이하 PQC)가 적용된 보안강화형 드론을 공동 개발한다. 통합 접근제어 및 계정관리(IAM) 전문 기업 넷앤드가 쿠버네티스 접근제어 솔루션 ‘HIWARE for K8S’를 선보였다. 파수는 미국 샌프란시스코에서 개최되는 사이버보안 전시회 ‘RSAC 2026 컨퍼런스(이하 RSAC)’에 참가, AI 기반 데이터 보안 제품을 비롯해 프라이빗(구축형) LLM, AI-레디 데이터 관리, AX 컨설팅 등을 선보인다. 통합 보안 전문기업 로그프레소는 북한 IT 노동자들이 가짜 신분으로 해외 원격 IT 직무에 취업하는 행태를 분석한 ‘북한 IT 인력 위장 취업 OSINT 분석’ 보고서를 발행했다.

ㆍ시큐리티플랫폼-더피치, 양자내성암호(PQC) 적용 보안강화형 드론 공동 개발
ㆍ넷앤드, 쿠버네티스 접근제어 솔루션 공개...클라우드 보안 라인업 강화
ㆍ파수, 프라이빗 LLM ‘Ellm’으로 글로벌 시장 본격 노크
ㆍ로그프레소, 북한 IT 인력 위장 취업 실태 분석 보고서 발표

위협 기반 제3자 위험 관리(Threat-Informed Third-Party Risk Management, TPRM) 업체 시큐리티스코어카는 한국 지사를 설립했다.

ㆍTPRM 보안 ‘시큐리티스코어카드, 한국 지사 설립...우청하 지사장 선임

AI 사이버 보안 스타트업 카이사이버(Kai Cyber Inc.)가 1억2500만달러 규모 투자를 유치한데 이어 AI 에이전트 기반 보안 플랫폼도 선보였다. 구글에 맨디언트를 54억달러에 매각한 케빈 맨디아가 새로운 AI 기반 사이버 보안 스타트업 ‘아르마딘’을 설립하고 투자를 유치했다. 사이버보안 스타트업 사이레이크는 시드 투자로 4500만달러를 유치했다. 사이레이크는 기업 자체 인프라 내에서 작동하는 보안 플랫폼을 제공한다

ㆍ카이, 1억2500만달러 투자 유치...에이전트 기반 AI 보안 플랫폼 개발
ㆍ케빈 맨디아의 아마딘, 1억9000만달러 투자 유치...자율 보안 에이전트 개발 도전
ㆍ사이레이크, 4500만달러 투자 유치...온프레미스 AI 기반 보안 플랫폼 승부

개인정보위와 과기정통부는 ‘정보보호 및 개인정보보호 인증제 실효성 강화방안’을 준비 중이다. 인증 의무대상 확대 및 인증기준 강화, ▲예비심사 신설과 기술심사‧현장실증형 심사 적용 등 심사방식 개편, ▲유출사고 방지를 위한 인증 사후관리 강화, ▲심사기관 감독 강화 및 심사원 전문성 제고를 통한 심사 품질 향상 등의 방안을 검토 중이다.

ㆍ정보보호·개인정보보호 인증제 실효성 강화 어떻게?

AI를 활용한 해킹도 점점 고도화되고 있다. 레드팀 보안 스타트업 코드월 연구진이 자사 AI 에이전트로 맥킨지 내부 AI 플랫폼을 2시간 만에 해킹하고, 챗봇 전체에 대한 읽기·쓰기 권한을 확보했다고 한다.

ㆍ보안 스타트업, AI로 맥킨지 AI 해킹…"완전 자율, 사람 개입 없었다"

AI 에이전트가 오픈소스 프로젝트 유지관리자들에게 대량으로 보안 결함 신고를 쏟아내면서 담당자들 부담이 가중되고 있다는 얘기도 들린다. 신고 대부분은 구체적 근거가 없고, 후속 질문에 답하지 못하는 수준이어서 유지관리자들 고충이 커지고 있다는 후문이다. AI 에이전트가 확산되면서 보안 업체들이 AI를 악용하는 사례들을 탐지하고 대응하기가 점점 어려워졌다는 얘기도 있다. 딥페이크 탐지 기업 핀드롭 최고경영자 비제이 발라수브라마니얀은 "에이전트에게 접근 권한을 줄지 말지라는 이분법적 판단은 끝났다"며 "에이전트들이 인간이나 기관을 대신해 신원을 주장하거나, 완전히 독자적으로 행동하기 때문에 이제는 스펙트럼 위에서 판단해야 한다"고 말했다.

ㆍAI 활용 보안 결함 신고 쇄도...'오픈소스 관리자들은 괴롭다'
ㆍAI 에이전트 확산...악성 봇 판별 보안 업계 요충지로