[시큐리티핫이슈] LLM, 핵심 보안 인프라로...양자 내성 암호판 꿈틀

[디지털투데이 황치규 기자] 기업 보안을 지원하는 기술 스택에서 거대언어모델(LLM) 기반 AI가 갖는 중량걈이 점점 커지는 모양새다. LLM 개발사들은 사이버 보안용으로 모델을 활용하도록 지원하는 행보를 강화하고 있고 LLM을 주력 제품군에 투입하는 보안 업체들도 늘고 있다.

오픈AI는 강화된 사이버보안 역량을 갖춘 GPT-5.4-사이버(GPT-5.4-Cyber)를 신원 검증을 거친 사용자들에게 단계적으로 확대 제공하는 계획을 공개했다. 오픈AI는 모델이 할 수 있는 것을 제한하는 방식에서 가장 민감한 기능에 접근하는 사람을 검증하는 방식으로 사이버 위험 대응 전략을 전환했다. 오픈AI 행보는 약 40개 조직들에만 미토스 프리뷰(Mythos Preview) 접근을 허용한 앤트로픽과는 대조적이다. 앤트로픽은 아직 공식 출시하지 않은 미토스 모델에 대해 보안 취약점을 찾고 악용하는 능력이 너무 뛰어나 광범위하게 공개하는 건 위험하다는 입장이다.

ㆍ오픈AI, 사이버 보안 특화 모델 'GPT-5.4-사이버' 확장 본격화

해커들이 AI를 기반으로 IT시스템에서 빈틈을 빠르게 찾아낸 뒤 공격을 감행할 수 있게 된 가운데, 보안 업체들도 AI를 투입해 시스템 내 빈틈을 찾고 방어망을 구축하는데 속도를 내는 모습이다. 글로벌 보안 업체 트렌드마이크로 엔터프라이즈 사이버 보안 사업 부문인 트렌드AI는 앤트로픽(Anthropic)과 전략적 제휴를 맺었다. 이번 협력을 통해 트렌드AI는 자사 플랫폼 전반에 클로드(Claude) 모델을 내재화해 에이전틱 워크플로우, 자동화, AI 네이티브 보안 운영을 강화하고, AI 시스템 및 인프라의 취약점을 식별하는 위협 연구를 추진한다. 시스코는 이스라엘 AI에이전트 보안 스타트업 아스트릭스 시큐리티(Astrix Security) 인수를 위한 협상을 진행 중이라는 소식이다.

ㆍAI '창' vs AI '방패'...사이버 보안 전쟁 승자는?
ㆍ트렌드AI, 앤트로픽과 제휴...보안 제품군에 클로드 모델 내재화
ㆍ시스코, AI 에이전트 보안 스타트업 아스트릭스 인수 추진

국내 보안 업체 에이엠씨랩은 공격자들이 AI를 활용할 수 있는 환경에선 해커가 이미 침투해 있다는 가정 아래 확산을 막는데 초점을 맞추는 제로트러스트 보안 전략, 특히 마이크로세그멘테이션이 지속 가능한 보안에 키워드가 될 것이라고 강조했다.

ㆍ[디투피플]"AI 시대, 제로트러스트 보안 더 중요...횡적 이동 봉쇄해야 피해 막는다"

정부 차원에서도 AI 고도화에 따른 해킹 확산에 대비하는 모습이다. 과학기술정보통신부는 엔트로픽 및 오픈AI가 자사 최신 인공지능(AI) 모델을 사이버보안에 활용하는 프로젝트를 출범한 것과 관련해 관련 업계와 긴급 현안공유회의를 개최했다. 국가인공지능전략위원회도 '클로드 미토스' 관련 보안 위협과 금융권 설치형 보안 소프트웨어 제도 개선 방안 등을 논의했다.

ㆍ'미토스' 쇼크 대응책 마련…정부, 보안기업 긴급 간담회
ㆍ앤트로픽 '미토스' 위협에…정부, 통신3사·플랫폼 현안점검회의
ㆍAI전략위, '클로드 미토스 대응' 보안특위 가동

양자 컴퓨팅이 기존 암호 체계를 무력화시킬 수 있는 시나리오에 사전 대응할 수 있도록 지원하는 양자 내성 암호(PQC, Post-Quantum Cryptography)에 대한 대한 업계 행보도 구체화되고 있다.

글로벌 기업 시스코는 조만간 PQC 기술을 내놓고, 이후 양자 네트워킹 기술도 공개할 계획이다. 디지털 인증서 관리 기업 섹티고(Sectigo)가 기업들이 기존 인증서 운영 환경에서 PQC SSL/TLS 인증서들을 발급하고 관리할 수 있는 프라이빗 PQC(Private PQC) 기능을 출시했다.

ㆍ"AI發 확률 컴퓨팅 시대, 인터넷 인프라 빅뱅 온다"
ㆍ섹티고, 기존 워크플로서 PQC 인증 테스트 지원 '프라이빗 PQC' 출시

그외 AI를 둘러싼 국내외 기업들 행보를 정리했다.

프라이빗테크놀로지는 IT 인프라 및 정보보호 컨설팅 전문 기업 티앤디소프트와 정보보호 사업 협력을 위한 업무협약(MOU)을 체결했다. 양사는 N2SF와 제로트러스트 도입이 본격화되는 공공 시장에서 공동 사업 기회를 확대하기 위해 컨설팅과 솔루션을 아우르는 전방위 협력을 추진할 계획이다.

ㆍ프라이빗테크놀로지-티앤디소프트, N2SF·제로트러스트 사업 협력

에스투더블유(S2W) 양종헌 오펜시브부문장은 최근 세미나에서 △입력 조작(Input Manipulation) △무결성 침해(Integrity Compromise) △에이전트 연계(Agent Interaction) △합성 신원(Synthetic Identity) 등 AI 특화 공격 방식과 실사례 분석을 통해 도출한 시사점 등을 소개하며, “기존 보안이 시스템 결함(System Bug)을 막는 것이었다면 AI 보안의 핵심은 ‘인지적 논리(Cognitive Logic)’ 허점을 방어하는 데 있다”고 말했다.

ㆍS2W 양종헌 부문장 "AI 시대 보안, 차단 중심에서 취약점 지속 관리로 바꿔야"

AI 기반 사이버 보안 스타트업 아르테미스(Artemis)가 7000만달러 규모 투자를 유치했다. 아르테미스 제품은 로그인, 클라우드 활동, 앱 등 기업 전반 모든 활동을 지속적으로 감시하며 정상 패턴을 학습한다. 이상 징후가 감지되면 단편적인 경보들 대신 무슨 일이 일어나고 있는지 명확한 상황 설명을 제공하고 해킹된 계정 잠금 같은 조치를 자동으로 실행한다. 애플리케이션 보안 상태 관리 기업 아피로(Apiiro)가 AI 기반 소프트웨어 개발 워크플로에 보안을 직접 내장하는 커맨드라인 인터페이스(CLI) 아피로 CLI(Apiiro CLI)를 출시했다.

ㆍ아르테미스, 7000만달러 유치...AI 기반 사이버 공격 자동 탐지·대응
ㆍ아피로, AI 코딩 에이전트에 보안 기능 내장하는 CLI 공개

클라우드플레어가 멀티클라우드 환경을 단일 보안 네트워크로 통합하는 프라이빗 네트워킹 서비스 클라우드플레어 메시(Cloudflare Mesh)를 출시했다. 클라우드플레어 메시는 서버, 데이터베이스, 개발 툴 환경 같은 내부 리소스들을 회사 방화벽 포트를 열지 않고도 서버, 데이터베이스, 개발 툴 환경 같은 내부 시스템들을 외부와 안전하게 연결하도록 지원한다.

ㆍ클라우드플레어, AI 에이전트 전용 보안 네트워크 메시 공개…VPN 한계 넘는다