AWS, AI 출력 수학적 확실성 검증...자동 추론 검사 서비스 공개

[디지털투데이 황치규 기자]아마존웹서비스(Amazon Web Services, 이하 AWS)는 아마존 베드록 가드레일(Amazon Bedrock Guardrails) 내 자동 추론 검사(Automated Reasoning checks) 서비스를 정식 출시한다고 8일 밝혔다.

AWS는 환각 현상과 모호성을 최소화하기 위해 모델이 생성한 응답 정확성을 최대 99%까지 수학적으로 검증할 수 있는AI 응답 검증 방식을 도입했다.

회사 측에 따르면 자동 추론 검사는 대용량 문서 지원: 최대 8만 토큰, 약 100페이지 분량의 문서를 한 번에 처리할 수 있어 방대한 정책 문서도 효과적으로 다룰 수 있다. 정책 검증 자동화 및 반복 실행: 사용자가 생성한 검증 테스트를 저장하고 반복 실행할 수 있어 시간이 지나도 정책 유지 및 점검이 용이하다.

통계적 샘플링이나 인간의 검토에 의존하는 기존 접근법과 달리, 자동 추론 검사는 형식 검증(formal verification) 기법을 활용한다. 이는 10여 년간 AWS 클라우드 인프라를 보호해 온 것과 동일한 수학적 방법으로, 정의된 비즈니스 규칙과 도메인 지식에 따라 AI 출력 결과가 적합한지 검증한다는게 회사 측 설명이다.