라나이, 엣지 기반 AI 옵저버빌리티 에이전트 공개...섀도우AI 차단

[디지털투데이 황치규 기자]AI 모니터링 스타트업 라나이(Lanai)가 기업 내 무단 AI 사용을 차단하는 AI 옵저버빌리티 에이전트를 출시했다.

실리콘앵글에 따르면 이 시스템은 중앙 클라우드가 아닌 기업 기기에서 직접 동작하는 탐지 모델을 활용해, 직원들이 승인되지 않은 AI 챗봇과 서비스를 사용하는 것을 감시한다.

라나이는 섀도우(shadow) AI가 기업 보안에 심각한 위협이 되고 있다고 지적한다.

보안업체 레이어X(LayerX)에 따르면, 기업들이 쓰는 AI 중 89%가 IT 보안팀 감시를 벗어나 있다. 직원들이 개인 챗GPT 계정을 활용하거나, 소프트웨어 엔지니어들이 승인되지 않은 코딩 에이전트를 사용하는 사례가 늘고 있다. 세일즈포스, 어도비, 마이크로소프트365 같은 플랫폼들이 제공하는 AI 기능에 민감한 정보를 입력하는 경우도 많다.

라나이 에이전트는 직원 기기에 경량 모델을 설치해 섀도우 AI 활동을 감지하고, 민감한 정보가 외부로 유출되지 않도록 보호한다. 이 시스템은 기존 데이터 관리 툴과 통합되며, 정적 리스트 없이도 동적으로 AI 사용을 감지할 수 있다. 기업들은 이를 통해 유용한 AI 도구는 승인하고, 불필요한 서비스는 차단함으로써 데이터를 보호할 수 있다고 회사측은 설명했다.

라나이 공동창업자 스티브 헤로드는 "우리는 AI 옵저버빌리티를 네트워크에서 엣지로 옮기고 있다"며 "기존 시스템이 네트워크 트래픽만 본다면, 우리는 실제 프롬프트와 응답을 분석해 위험 요소를 제거한다"고 강조했다.