‘AI 법’ 본격 시행하는 EU… 韓은 반쪽짜리 법안 ‘우려’
||2025.02.03
유럽연합(EU)이 지난해 공표했던 인공지능(AI) 기본법에서 규정한 ‘위험성 높은 AI 시스템’ 전면 금지 조치를 본격 적용한다. 이에 향후 EU 내 AI 기업은 서비스 제공 시 주의가 필요하다. 한국의 경우 지난해 말 AI 기본법이 EU에 이어 전 세계 두 번째로 통과했다. 다만 현재 해당 법이 제 효력을 발휘하려면 시행령 마련 등 후속 조치가 시급한 만큼 반쪽짜리 법안이라는 지적이 나온다.
◇ EU, 이달부터 ‘용납할 수 없는 AI’ 전면 금지
3일 IT 매체 테크크런치 등 외신에 따르면 EU는 2일(현지시각)부터 ‘용납할 수 없는 위험’을 초래하는 AI 시스템의 사용을 금지했다. 유럽 의회가 지난해 3월 최종 승인한 AI법인 ‘AI액트(AI act)’는 같은 해 8월부터 공식 발효됐다. 이 법이 규정한 가장 위험성이 높은 ‘용납할 수 없는 AI’는 6개월 준수 시한을 거친 뒤 이날부터 전면 금지된다.
AI액트는 AI를 위험 수준에 따라 ▲용납할 수 없는 AI ▲고위험 AI ▲제한적 위험 AI ▲최소 위험 AI 등 네 단계로 나누었다. AI 스팸 필터 등 ‘최소 위험군’은 규제 대상이 아니며 챗봇 등 ‘제한적 위험군’은 가벼운 감독을 받는다. AI 의료 추천 기능 등 ‘고위험군’은 강한 규제를 받으며 가장 위험한 ‘용납할 수 없는 AI’는 법적으로 전면 금지된다.
이번 규제로 ▲사회적 점수 평가 ▲사람의 결정을 기만적으로 조작 ▲취약 계층 악용 ▲외모로 범죄 가능성을 예측하는 AI 기술 사용이 금지된다. 또 ▲생체 데이터를 활용해 성적 지향 등 개인 특성을 추론하는 AI ▲공공장소에서 실시간 생체 인식을 수행하는 AI ▲직장·학교에서 감정을 분석하는 AI ▲온라인 및 보안 카메라를 활용해 얼굴인식 데이터베이스를 구축하는 AI도 금지 대상이다.
AI 기업은 규제된 서비스를 EU 내 운영할 경우 본사가 어디에 있든 관계없이 강력한 제재를 받게 된다. 위반 시 최대 3500만유로(약 525억원) 또는 연 매출의 7% 중 높은 금액이 벌금으로 부과된다. 다만 본격적인 벌금 부과는 오는 8월부터 시작된다. 규제에는 일부 예외도 있다. 공공장소 생체 인식 시스템은 특정 위협을 예방하거나 실종자를 찾는 경우 법 집행 기관이 제한적으로 사용할 수 있다. 또 직장·학교 내 감정 분석 AI도 의료적 필요성이 입증되면 허용된다. 다만 모든 예외 적용에는 엄격한 정부 승인 절차가 필요하다.
아울러 EU는 오는 8월 2일에는 생성형 AI가 포함된 범용 AI(GPAI)에 대한 규제도 본격 시행된다. GPAI 공급자에게 기술문서와 사용설명서 제공, 저작권 지침 준수, 학습에 사용된 데이터의 요약본 공개 등의 의무를 부과하는 것이다. AI액트는 GPAI를 오픈AI의 챗GPT, 메타의 라마 등과 같은 거대언어모델(LLM)을 사용하는 AI 서비스로 규정한 만큼, 글로벌 AI 기업이 규제 대상이 될 것으로 보인다.
◇ 韓, EU 이어 AI 기본법 통과… 후속 조치 필요
한국의 경우 지난해 12월 26일 EU에 이어 전 세계 두 번째로 AI법인 ‘AI기본법’이 통과됐다. AI기본법은 이용자의 생명과 안전, 기본권에 중대한 영향을 미치는 AI 기술을 ‘고영향 AI’로 규정하고 해당 AI 사업자에 대한 의무를 규정하고 있다. AI가 만든 콘텐츠에 워터마크(식별표시)를 넣는 등 개발사의 AI 신뢰성 확보 노력을 의무화하며 위반행위에 대해서는 과학기술정보통신부가 사실 조사와 시정명령을 할 수 있도록 한다.
다만 해당 법이 제 효력을 발휘하려면 시행령 마련 등 후속 조치가 시급하다는 지적이 나온다. 대표적으로 고영향 AI를 구체화해야 한다는 업계의 지적이 잇따르고 있다. 가령 기본법상으로는 의료기기에 쓰이는 일부 AI 시스템을 고영향 AI로 보는데, 구체적으로 어느 기술이 범주에 해당하는지를 명시되지 않아 기업들이 개발 방향에 혼선을 빚고 있다.
또 AI기본법에는 일상에서 가장 빈번하게 사용되는 생성형 AI는 제외됐다. 이는 EU의 AI액트에서 GPAI에 대해 규정한 것과 상반된다. AI기본법은 투명성 관련 규제 중 생성형 AI 등을 이용한 제품·서비스는 AI 기반으로 운용된다는 사실을 사전에 고지해야 한다는 일부 규정이 있긴 하지만, 생성형 AI가 사실상 주요 규제에서 벗어나 있는 것이다.
이와 관련 과기정통부는 지난달 하위법령 정비단을 운영해 시행령 초안을 신속히 마련한다는 방침이다. 정비단에는 과기정통부와 산업계, 학계, 법조계 전문가들이 참여해 법안에 포함된 고영향 AI, 생성형 AI 등에 대해서는 해외 입법 동향과 AI 경쟁력 강화라는 정책목표 달성 등을 고려해 기준과 적용 사례를 구체화할 계획이다. 기업의 불확실성을 해소하고, 민관의 대규모 투자를 촉진하는 것이 목표다.
최병호 고려대 인공지능연구소 교수는 “AI기본법은 AI 산업의 육성과 규제라는 두마리 토끼를 잡는 것이 중요하다”며 “특히 오늘날 AI기술은 과거의 기술과는 다르게 기술 발전 속도가 매우 빨라 법안을 무력화한다는 특징을 이해해 AI법안을 구체화해야 할 것”이라고 말했다.
