한국어 AI 가드레일 기업 튜닙, 스케일업 팁스 R&D 사업 선정

[디지털투데이 황치규 기자]인공지능(AI) 기술 스타트업 튜닙은 중소벤처기업부가 주관하는 민간투자주도형 기술창업 지원 프로그램 ‘스케일업 팁스(SCALE-UP TIPS)’에 선정됐다고 11일 밝혔다. 이번 사업에는 DSC인베스트먼트가 운영사로 참여했다.

튜닙은 한국어 특화 대규모 언어모델, 음성·형태소 분석 기술 등을 기반으로 AI 챗봇과 AI 윤리 가드레일 솔루션을 개발하고 있다. 생성형 AI 유해 발언, 개인정보 노출, 프롬프트 공격 등을 사전에 탐지·차단하는 ‘AI 윤리 가드레일’ 기술 고도화에 초점을 맞추고 있다.

튜닙은 이번 스케일업 팁스 과제를 통해 ‘AI 에이전트 안전성 확보를 위한 한국어 특화 멀티모달 가드레일 시스템’을 개발한다. 텍스트뿐 아니라 음성·이미지·영상까지 포함한 환경에서 ▲민감 주제·혐오표현·개인정보 탐지, ▲프롬프트 공격·목표 이탈 방지, ▲규제·정책 기준에 맞춘 응답 제어를 통합적으로 수행하는 기술 확보가 목표다.

온프레미스(On-Premise), 클라우드, 모바일 등 다양한 환경에서 적용 가능한 경량 모델 최적화 기술과 API·SDK 형태 개발자 도구를 제공해 금융·공공·교육·커머스 등 다수 산업에서 AI 에이전트 보안을 도입할 수 있도록 지원할 예정이다.

박규병 튜닙 대표는 “AI 에이전트 시대에는 서비스 성능만큼이나 안전성과 신뢰성을 보장하는 가드레일 기술이 산업 경쟁력을 좌우하게 된다”며 “스케일업 팁스 R&D를 통해 한국어 특화 멀티모달 가드레일 기술을 한 단계 더 끌어올리고, 글로벌 파트너들과 함께 세계 시장에서 통용되는 AI 안전 기준을 제시하겠다”고 말했다.
튜닙은 이번 과제를 통해 개발한 기술을 국내외 기업 대상 B2B 솔루션·컨설팅 형태로 제공하는 한편, 일부 모델·데이터셋은 오픈소스로 공개해 연구자·개발자 커뮤니티와 협력도 강화할 예정이다.