캘리포니아서 AI 규제법 이달 말 최종 투표..."실리콘 밸리 반발 일으켜"
||2024.08.19
미국 연방정부와는 별개로, 캘리포니아주 의회가 이달 말 인공지능(AI) 규제법 도입을 추진하고 있다. 실리콘 밸리 기업들은 AI로 인한 재해를 예방하려는 이 법이 AI 업계에 재해를 발생시킬 것이라며 반발하고 있다.
뉴욕타임스와 테크크런치 등은 18일(현지시간) 캘리포니아주 하원 예산위원회가 지난 15일 '첨단 AI 시스템을 위한 안전과 보안 혁신법안'(Safe and Secure Innovation for Frontier Artificial Intelligence Systems Act)에 대한 수정안을 통과시켰다고 보도했다.
이로써 'SB 1047'로 불리는 이 법안은 8월 말 주 상원에서 최종 투표만을 앞두게 됐다.
이 법안은 대량 사상자를 낼 수 있는 무기를 만들기 위해 AI 모델을 사용하는 악의적인 행위나 5억달러 이상의 피해를 입힌 사이버 공격 등 중대한 피해를 미리 막자는 의도로 추진됐다.
따라서 AI 회사는 충분한 안전 프로토콜을 구현하고 유사시 모델 작동을 정지하는 '킬 스위치'를 도입하도록 규정한다.
모든 모델에 적용되는 것은 아니다. 법안 제목처럼 최소 1억달러의 비용이 들고 훈련 중에 10^26플롭스(FLOPS)를 사용하는 프론티어 모델을 대상으로 한다. 또 캘리포니아에서 사업을 한다면 해외 기업도 이 규정을 따라야 한다.
여기에 해당하는 모델이 있는지는 확실치 않다. 하지만 AI 학습 비용만 따지면, 오픈AI나 구글, 메타 등은 이미 여기에 해당할 수 있다. 다리오 아모데이 앤트로픽 CEO의 최근 발언에 따르면 현재 첨단 모델 훈련 비용은 10억달러 수준으로 치솟았다.
오픈 소스에 대한 규정도 있다. 파운데이션 모델 개발자가 훈련에 사용한 금액의 3배를 넘지 않은 파생 모델에서 문제가 생기면, 책임은 원래 개발사가 지게 된다.
캘리포니아 의회는 이를 감독하기 위해 '프론티어 모델 디비전(FMD)'을 신설한다. FMD는 캘리포니아 주지사와 의회가 임명한 AI 산업, 오픈 소스 커뮤니티, 학계의 대표를 포함한 5인 위원회가 관리한다.
이를 준수하지 않을 경우, SB 1047은 캘리포니아 법무 장관이 개발자를 상대로 민사 소송을 제기할 수 있다. 마지막으로 안전하지 않은 AI 모델에 대한 정보를 고발하는 직원을 보호한다는 내용도 포함됐다.
스콧 위너 캘리포니아주 상원의원은 "개인정보 보호와 관련된 과거 정책 실패에서 교훈을 얻고, 너무 늦기 전에 시민을 보호하려는 시도"라며 "나쁜 일이 일어나기를 기다리지 말고, 그냥 앞서 나가자는 의도"라고 말했다. 또 제프리 힌튼이나 조슈아 벤지오 등 AI 종말론자나 일부 AI 안전단체 등은 이를 지지하는 것으로 알려졌다.
하지만, 이 법안은 AI 기업은 물론, 벤처 캐피털리스트, 기술 그룹, 연구자 및 스타트업 등 크고 작은 실리콘 밸리 관계자들의 분노를 샀다.
일어나지도 않은 일로 인해 기술 개발을 저해하려는 의도라는 것이다. AI로 인한 재앙은 아직 일어나지 않았지만, 이 법안이 AI에 재앙을 몰고 올 것이라는 지적이다.
앤드리슨 호로비츠는 이달 초 캘리포니아 상원에 서한을 제출, "임의적이고 변화하는 한계 때문에 법안은 스타트업에 부담을 줄 것"이라고 주장했다.
'AI의 대모'로 불리는 페이페이 리 스탠포드대학교 교수도 칼럼을 통해 "법안은 AI 생태계에 해를 끼칠 것"이라고 밝혔다. 앤드류 응 스탠포드대 교수도 법안을 "오픈 소스에 대한 공격"으로 간주했다.
특히 얀 르쿤 메타 수석과학자는 "소수의 망상적인 집단이 추진하는 실존적 위험의 망상에 빠진 결과"라며 맹비난했다. 기술을 개발한 기업이 아니라, 이를 악용한 행위자가 처벌받아야 한다는 주장도 나왔다.
연방 정부의 AI 규제를 지지했던 구글 등 빅테크도 이에 반발하고 있다. 구글, 애플, 아마존 등을 대표하는 무역 단체인 진보회의소(Chamber of Progress)는 "SB 1047이 언론의 자유를 제한하고 캘리포니아에서 기술 혁신을 밀어낸다"라며 법안에 반대하는 공개서한을 발표했다.
그럼에도 불구, 지금까지 주 의원들의 압도적인 지지를 감안할 때 법안이 통과될 가능성은 높은 것으로 알려졌다.
의회는 지난달 말 앤트로픽이 제기한 의견을 받아들여, 당초보다 법안을 완화한 것으로 알려졌다. 앤트로픽은 법안에 찬성하지는 않지만, 입법 과정에 협력할 의향을 밝힌 유일한 첨단 모델 개발자다.
이 법안은 2026년에 FMD가 구성될 예정이기 때문에 즉시 발효되지는 않을 것으로 보인다. 또 법안이 통과되더라도 이에 반대하는 단체들로부터 법적인 도전을 받을 것이라는 예상이다.
박찬 기자 cpark@aitimes.com
