과기정통부, ‘AI 보안 안내서’ 발표…113개 요구사항 제시

[디지털투데이 이진호 기자] 과학기술정보통신부와 한국인터넷진흥원(KISA)은 기업과 국민이 참조할 수 있는 'AI 보안 안내서'를 마련했다고 10일 밝혔다.

이제까지 AI 지침, 가이드라인 등은 주로 AI 생성물이나 추론 과정과 관련한 내용이 많았다. 주로 신뢰성이나 윤리적 활용 관점에 집중해 보안 관점에서의 상세 가이드 또는 기준이 필요했다.

과기정통부는 산·학·연 전문가들과 국내·외 AI 보안 정책 관련 사례를 분석하고 관계기관·업계 의견 수렴을 거쳐 이번 안내서를 마련했다.

안내서는 AI 모델·시스템에 대해 보안 3대 요소인 기밀성·무결성·가용성을 기반으로 개발자, 서비스 제공자 대상 AI 생애주기 전 단계 보안 요구사항과 이용자 AI 보안 수칙 등 총 113개 항목으로 구성했다.

모델 개발 단계에서 AI 모델 위험 관리, 데이터 암호화, 실시간 모니터링 등 AI 보안 내재화(Secure by Coding)를 실현하기 위한 보안 요구사항을 제시했다.

서비스 제공 단계에서는 서비스 이상 행위 탐지, API·인터페이스 보안, 백업시스템 구축 등 서비스 복원력 관점에서의 보안 요구사항을 제시했다. 중요 정보 입력금지, AI 악용 금지 등 이용자를 위한 구체적인 보안 수칙도 제시했다.

안내서는 국제 기준 및 가이드라인 등을 참고했다. AI 보안 요구사항을 글로벌 수준으로 정립해 국내 모델뿐만 아니라 해외 모델에도 적용할 수 있도록 범용성과 글로벌 규범 간 호환성을 확보했다.

임정규 과기정통부 정보보호네트워크정책관은 "이번 안내서는 고도화되는 사이버 위협 속에서 인AI를 안전하게 개발·활용할 수 있도록 하는 중요한 이정표가 될 것이라며 "새로운 보안 위협을 모니터링하여 반영하는 등 보안 안내서를 지속 업데이트 해나갈 예정"이라고 말했다.