NIA, ‘LLM 안전성 및 신뢰성 평가 데이터 구축’ 시동

[디지털투데이 이진호 기자] 한국지능정보사회진흥원(NIA)과 과학기술정보통신부는 'LLM 안전성 및 신뢰성 평가 데이터셋 구축' 사업 착수보고회를 지난 7일 NIA 서울사무소에서 개최했다고 8일 밝혔다.

해당 사업은 NIA와 과기정통부가 추진 중인 '독자 AI 파운데이션 모델 프로젝트'를 통해 구축되는 AI 모델 안전성과 신뢰성 평가 기반을 마련하는 사업이다. AI 모델 위험 요소에 대한 체계적이고 정량적인 검증 체계를 구축하는데 중점을 둔다.

NIA는 AI 모델 성능 평가를 넘어 안전성과 신뢰성까지 아우르는 종합적인 AI 평가 체계를 구축할 방침이다. 특히 이번 과제에서는 사이버 보안, AI 자율성, 사실 기반 정확성, 사회적 가치 편향 등 AI 안전성과 신뢰성 핵심 항목을 아우르는 2만건 이상의 한국어 특화 벤치마크 데이터셋을 구축할 계획이다.

이날 착수보고회에는 주무부처인 과기정통부를 비롯해 NIA와 데이터 구축을 수행하는 AI안전연구소 관계자가 참석했다.

황종성 NIA 원장은 "AI 안전성 평가는 선택이 아닌 필수가 된 시대"라며 "NIA가 그동안 AI 허브를 통해 축적한 1300여종의 AI 학습데이터와 평가 체계 전문성을 통해 세계 최고 수준의 AI 안전성 검증 체계를 구축하겠다"고 말했다.