산업계 환영·시민사회 우려…‘AI 기본법’ 엇갈린 시선 속 시행 구체화

정부가 공개한 AI 기본법 하위법령 제정 방향에 업계가 한도의 한숨을 내쉬고 있다. [사진: 셔터스톡]

[디지털투데이 이진호 기자] 정부가 공개한 AI 기본법 하위법령 제정 방향에 업계가 한도의 한숨을 내쉬고 있다. 강한 규제가 될 거라는 우려가 일부 해소되서다. 특히 과태료 부과 유예 방침에 환영의 목소리가 크다. 반면 시민사회에서는 진흥에 쏠린 이번 방향에 우려를 나타내고 있다.

과학기술정보통신부는 최근 열린 대통령 직속 국가AI전략위원회 첫 회의에서 지난해 12월 통과한 AI기본법 하위법령 제정방향을 발표했다.

과기정통부는 올해 1월부터 민간전문가 80여명이 참여하는 정비단을 운영하며 하위법령 초안을 마련했다. 이제까지 총 74차례의 의견수렴 과정을 거쳤다.

하위법령은 시행령 1개와 고시 2개, 가이드라인 5개로 구성된다. 구체적으로는 ▲시행령 ▲고영향AI 기준·예시 가이드 ▲고영향AI 사업자책무 고시 및 가이드 ▲AI 안전성 확보 의무 고시 및 가이드 ▲AI 투명성 확보 가이드 ▲AI 영향평가 가이드 등이다.

과기정통부 측은 규제보다 진흥에 무게를 뒀다고 강조했다. 하위법령은 필요최소한의 규제 사항만을 포함하기로 했다. 과기정통부는 미국이 AI개발·활용에 대해 규제를 최소화한 사례와 일본이 자국 AI산업 발전을 위해 연성 규제를 도입한 사례 등 글로벌 동향을 참고했다.

생성형·고영향 AI 이용자에 대한 사전고지 및 워터마크 의무를 부여하고 구체적인 의무 이행 방법과 예외는 시행령으로 규정한다. 단 약관·사용자인터페이스(UI) 활용 사전고지나 비가시적 워터마크를 인정하는 등 일부 유연성을 줬다. 사업자 내부 업무용이거나 생성형·고영향 AI 기반 서비스임이 명백한 경우는 의무를 면제한다.

고영향 AI 해당 여부에 대한 영역별 판단 기준과 고영향AI 신뢰성 확보 조치 구체적 이행 방안은 하위법령에서 규정한다. 고영향AI는 기본권에 중대한 영향을 미치는 AI시스템을 뜻한다. 과기정통부는 사용영역, 기본권에 대한 위험 영향·중대성·빈도, 활용 영역별 특수성 등을 종합적으로 고려해 고영향 AI 범위를 판단할 방침이다.

또 누적학습량이 일정 수준 이상인 고성능AI는 위험 완화 등 안전 확보 의무를 부담토록 했다. 10의 26제곱 플롭스 이상인 AI시스템 중 고도화된 기술을 적용한 AI시스템은 기능오류나 데이터 편향 등 위험요소를 확인하고 긴급 대응계획 등을 수립해야 한다.

이번 하위법령 제정방향은 업계 의견을 반영해 유연함에 방점을 찍었다는 평이 나온다. 과태료 면제 방침은 업계가 특히 환영하는 요소다. 과기정통부는 AI기본법 시행 초기 기업 혼란을 최소화하도록 과태료 계도기간을 운영하기로 했다. 사실상 규제 유예와 동일한 효과다.

AI 기본법에 따르면 사업자는 고영향 AI나 생성형AI를 이용한 제품·서비스를 제공하는 경우 해당 AI 기반으로 운용된다는 사실을 이용자에게 사전 고지해야 한다. 만약 이 의무를 어기거나 시정명령을 위반하면 3000만원 이하 과태료를 물어야 한다. 이에 업계는 시행 초기 법 위반에 따른 과태료 부담을 우려해왔다.

한 AI 기업 관계자는 "분명히 시행 초기 시행착오가 있을 것으로 예상하고 있었다"며 "규제 유예까지는 아니지만 어느정도 부담을 덜 수 있을 것 같다"고 말했다. 또 다른 기업 관계자도 "고영향 AI 범위가 가장 쟁점이기는 하지만 (과태료 면제 방침이) 규제 유예 효과로 느껴져 긍정적으로 본다"고 말했다.

구체적인 과태료 유예 방식과 기간 등은 의견수렴을 통해 최종 확정한다. 과기정통부는 또 안전·신뢰 검·인증 및 영향평가에 대해서는 컨설팅, 비용지원 등을 통해 기업 부담을 덜고 인센티브를 부여해 자발적 참여를 유도할 방침이다.

단 시민사회에서는 우려의 목소리도 나온다. 오병일 진보네트워크센터 대표는 "(AI 기본법과 하위법령 제정방향이) 산업 진흥쪽으로만 치우친 경향이 있다"며 "AI 기본법 자체도 향후 개정을 통해 책무 규정이 더 구체적으로 담겨 기업 책임성을 강화하는 방안으로 가야 한다"고 말했다.

그는 정부 시정명령까지 위반했을 때 과태료가 부과되는 만큼 만큼 유예 방침도 철회해야 한다고 봤다. 오병일 대표는 "시정 기회가 있음에도 과태료가 나올 때까지 고치지 않는 건 문제"라며 "AI 기본법 실효성 자체가 미약해 진다"고 지적했다.

한편 과기정통부는 12월 시행령과 고시를 확정하고 가이드라인을 완성해 내년 1월 법 시행에 맞춘다. 과기정통부 관계자는 "시행령과 가이드라인이 확정되면 구체적인 과태료 유예 방안을 함께 발표할 계획"이라고 말했다.