공공 내 AI 활용, 기관별로 ‘제각각’… 보안 우려도 커져

공무원 10명 중 7명이 인공지능(AI)을 사용하고 있지만, 정작 공공기관의 AI 공식 도입률은 40%에도 못 미친다. 개인 활용이 제도보다 앞서 나간 가운데, 통합 가이드라인과 보안 관리 체계 부재가 공공 AI 활용의 새로운 과제로 떠오르고 있다.

공공기관 AI 도입률 38.4%…예산·인력 따라 격차 뚜렷

13일 업계에 따르면 현재 각 지방자치단체와 공공기관이 어떤 AI 서비스를 어떤 방식으로 활용하고 있는지를 종합적으로 정리한 공식 통계는 마련돼 있지 않다. 기관 차원의 구축형 AI부터 개방형 AI 서비스, 단위 활용까지 다양한 방식이 혼재돼 있지만 이를 총괄하는 관리 체계 마련이 필요한 상황이다.

기획재정부와 공공기관운영위원회가 지난해 7월 전체 공공기관을 대상으로 실시한 조사에 따르면, 343개 공공기관 가운데 132곳이 AI를 도입했거나 구축을 진행 중인 것으로 나타났다. 기관 기준 도입률은 절반에도 미치지 못했다. 기관 유형별로는 공기업의 AI 활용 비율이 74.2%, 준정부기관 73.3%로 비교적 높았지만 기타 공공기관은 25.8%에 그쳤다. 예산과 전담 인력 확보 여부에 따라 기관 간 AI 도입 격차가 나타나고 있는 것으로 파악됐다.

공공에 구축형 AI 서비스를 제공하고 있는 한 기업 관계자는 "AI 기술을 보유한 기업 대부분이 공공 시장 진출을 목표하고 있지만 기관마다 요구 사항과 예산 규모가 달라 도입되는 AI 서비스와 방식도 구축형과 개방형 등 제각각"이라고 말했다. 또 다른 AI 기업 관계자는 "공공 진출을 위한 별도의 AI 서비스 가이드라인은 없고 대부분 나라장터 등에 게시되는 입찰 공고 조건에 맞춰 개별적으로 대응하고 있다"고 전했다.

공식 도입이 더딘 사이, 현장에서는 개인 차원의 AI 활용도 확산되고 있다. 한 지자체 전산직 공무원은 "기관 차원에 AI 서비스 구매가 이뤄지지 않아 AI를 활용하고 싶은 개인은 사비로 구매해서 활용하고 있다"고 말했다. 공공 AI 활용이 개인 역량과 자율에 맡겨진 구조라는 지적이 나오는 이유다.

이 같은 현장 분위기는 국회 조사에서도 확인된다. 지난해 10월 국회 행정안전위원회 소속 위성곤 의원이 공개한 '공공분야 AI 활용 현황' 설문조사 결과에 따르면 전국 행정기관 종사자 1만4208명 가운데 68.9%가 생성형 AI를 활용한 경험이 있다고 답했다. 공무원들이 사용한 AI 도구로는 챗GPT, 클로드, 코파일럿, 제미나이, 하이퍼클로바X 등이 포함됐다. 기관 차원의 공식 도입은 제한적인 반면, 개인 활용은 이미 업무 전반으로 확산된 셈이다.

AI 활용을 뒷받침할 교육과 제도도 충분하지 않은 것으로 나타났다. 프롬프트 작성법 등 실무 교육을 연 4회 이상 이수한 공무원은 1.3%, 교육을 받은 적이 없다는 응답이 59.4%에 달했다. 개인정보 보호·보안 가이드라인 관련 교육 경험도 39.6%에 그쳤다.

AI 사용 환경도 보안 취약성이 우려되는 개방망 의존도가 높았다. AI를 사용하는 공무원 1만2738명 중 54.5%가 인터넷망에서 AI를 활용한다고 답했고, 인터넷망과 업무망을 병행한다는 응답(12.9%)까지 포함하면 외부망 사용 비율은 절반을 넘는다.

개방형 AI 서비스 보안 취약성 지적

상황이 이렇다보니 보안 위험에 대한 지적도 나온다. 실제 일부 AI 기업은 시도교육청, 정부부처, 지자체 등에 개방형으로 생성형AI 서비스를 제공하면서 오픈AI의 API를 기반으로 서비스를 운영하고 있다. 이 경우 사용자 대화와 첨부파일은 해당 서비스 서버에 저장되지 않고 오픈AI 서버에서 처리된다.

이와 관련해 보안기업 S2W 박근태 최고기술책임자(CTO)는 "해당 방식은 서비스 제공사의 고객 데이터 접근을 막기 위한 기술적 장치로 이해된다"면서도 "내부 자체 AI를 활용할 때보다 보안적으로 취약한 구조가 되는 것은 불가피하다"고 지적했다.

박 CTO는 "데이터에 대한 제어권이 외부로 넘어가면 보안 문제 통제도 외부 기업에 의존하게 된다"며 "특히 국가 핵심 기술, 방산, 금융, 의료 등 민감 데이터의 해외 저장은 법적 문제가 될 수 있어 사전 대비가 필요하다"고 말했다.

전문가들은 공공 AI 활용이 개인 역량과 자율에만 의존한 채 확산될 경우, 보안 사고 발생 시 책임 소재와 대응 체계가 불명확해질 수 있다고 우려한다. 위성곤 의원은 "폐쇄망 기반의 전용 행정 AI 환경을 조성해 보안을 강화하고, 실무형 교육과 제도적 지원을 병행해야 한다"고 말했다.

홍주연 기자
jyhong@chosunbiz.com