AI 기본법 시행 1년 앞...‘고영향 AI·모델 학습량’ 기준 필요
||2025.01.21
![AI기술 발전 속도가 너무 빠르다는 지적이다 [사진: 셔터스톡]](https://www.digitaltoday.co.kr/news/photo/202501/550394_514562_2251.jpg)
[디지털투데이 이진호 기자] 'AI 기본법' 시행이 1년 앞으로 다가왔다. 관련 업계는 법 제정에 환영하면서도 고영향 AI 범위와 학습 연산량 등 쟁점을 둘러싼 세밀한 하위 법령 마련이 중요하다고 강조하고 있다.
지난해 12월 국회를 통과한 AI 기본법은 국무회의 의결을 거쳐 내년 1월 시행된다. 체계적인 AI산업 육성과 위험 관리가 법 제정 취지다. 최근 하위법령 정비단을 꾸린 과기정통부는 TF를 함께 운영하며 시행령과 가이드라인을 마련하기로 했다.
AI 기본법은 AI 사업자가 고영향 AI를 제공할 경우 사전 검·인증을 받도록 권고하고 사용자가 관련 제품 또는 서비스 이용 시 미리 고지할 것을 명시하고 있다. 고지 의무를 지키지 않거나 정부 시정명령을 따르지 않을 경우 3000만원 이하의 과태료를 내야 한다.
업계에서는 가이드라인 내용에 촉각을 곤두세우고 있다. 가이드라인에 담길 고영향 AI 범위에 따라 규제 대상이 될 수 있어서다.
한 AI 기업 관계자는 "AI 모델을 만드는 기업들 모두 (규제) 영향권에 들었다고 보고 있다"며 "조속히 가이드라인 초안이 나와야 우리 기술의 고영향 여부를 확인할 수 있을 것"이라고 말했다.
이 관계자는 특히 AI 기본법 32조를 쟁점으로 제시했다. AI 기본법 32조는 AI 모델 학습에 사용된 누적 연산량이 대통령령으로 정하는 기준 이상인 시스템을 운영하는 AI 사업자들은 안전성 확보를 위해 위험 식별, 평가 및 완화, 모니터링 및 대응 체계를 구축하라고 명시했다.
법 32조가 말하는 누적 연산량이 얼마일지가 관건이라는 게 이 관계자의 말이다. 그는 "계속해서 데이터(학습 연산량)는 쌓일 수 밖에 없는데 어떤 기준을 두더라도 결국 도달하기 마련"이라며 "규모가 작은 스타트업 같은 곳은 대응 체계와 모니터링 시스템 구축에 애를 먹을 수 있다"고 말했다.
다른 기업 관계자는 반대로 "안전성이 확보되지 않더라도 연산량이 적은 경량화 AI 모델은 대상에서 빠지는 것이냐"며 "시행령을 세밀하게 설계해 정확한 기준을 제시해야 한다"고 말했다.
35조도 마찬가지다. 제35조에 따르면 AI 사업자는 고영향 AI를 이용한 제품이나 서비스를 제공하는 경우 사전에 사람 기본권에 미치는 영향을 평가하기 위해 노력해야 한다. 또한 국가기관 등이 고영향 AI를 이용한 제품·서비스를 이용하는 경우에는 영향평가를 실시한 제품· 서비스를 우선적으로 고려하라고 명시했다.
영향평가를 거쳐야 정부 사업을 수주할 수 있는 구조이기 때문에 이 영향평가 방식과 절차가 관건이라는 게 업계 의견이다. 또한 고영향 AI 범주에 속하게 되면 규제를 받는 기업으로 인식되는 것도 부담이다.
한 업계 관계자는 "고영항AI 판정을 받으면 추후 투자 유치나 향후 사업 확장에 걸림돌이 될 수 있다"고 말했다.
현재 과기정통부는 200페이지 안팎 분량으로 가이드라인 초안을 마련하고 있다. 하위법령 정비단 10여명은 3개 워킹그룹에 3~4명씩 배치돼 가이드라인 TF 활동을 이끈다.
가이드라인 TF는 ▲안전성 확보 의무 가이드라인 TF ▲AI 투명성 확보 의무 TF ▲AI 영향 평가 TF ▲고영향 AI 기준과 예시 TF ▲고영향 AI 사업자 책무 TF 등 5개로 꾸려지며 총 60여명이 위원으로 선임돼 활동할 예정이다. 과기정통부는 이중 '고영향AI 기준과 예시 TF'에 가장 많은 인원을 배치할 것으로 알려졌다.
과기정통부는 시행령 또한 6월 중 초안을 만들어 내년 1월 법 시행에 차질이 없도록 할 계획이다. 과기정통부 관계자는 "현장의 법 시행 준비와 예측 가능성 확보를 위해 빠르면 6월 시행령과 가이드라인 초안을 내놓을 예정"이라며 "9월까지는 시행령을 공포할 계획"이고 말했다.
이성엽 고려대 기술경영전문대학원 교수는 "고영향 AI를 막연히 위험 가능성을 내포한 AI 정도로 바라봐서는 안 된다"며 "위험이 현실화 하거나 임박한 AI, 상당한 위험성이 있는 AI 등으로 세분화하고 현실적으로 위험이 생길 수 있는 분야까지 카테고리화해 제시해야 할 것"이라고 말했다.
