美 캘리포니아주, AI 안전 보고 의무화 추진…AI 기업 반발 예상

캘리포니아주가 AI 기업에 안전 및 보안 프로토콜 공개를 의무화하는 법안을 개정해 제출했다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 캘리포니아주 상원의원 스콧 위너(Scott Wiener)가 인공지능(AI) 기업에 안전 및 보안 프로토콜 공개를 의무화하는 법안(SB 53)을 개정해 제출했다.

9일(현지시간) IT매체 테크크런치에 따르면 SB 53은 지난해 AI 기업들 반발로 무산된 SB 1047의 개정판으로, AI 안전성을 확보하려는 주 정부의 강력한 의지를 담고 있다.

이 법안이 통과되면 오픈AI, 구글, 앤트로픽, xAI 등 주요 AI 기업들이 투명성을 강화해야 한다. 위너 의원은 이번 법안이 AI 기업의 성장을 저해하지 않으면서도 투명성을 높이는 방향으로 조정됐다고 강조했다. 또한, 전 Y콤비네이터 회장 제프 랄스턴(Geoff Ralston)은 "AI 안전성을 확보하는 것은 기본적인 조치"라며, SB 53이 주 정부 차원의 AI 규제 모델이 될 수 있다고 평가했다.

해당 법안에는 AI 기술이 사회적 위험을 초래할 경우 내부 고발자 보호 조항도 포함됐다. 또한, AI 연구를 지원하는 공공 클라우드 컴퓨팅 인프라 '캘컴퓨트'(CalCompute) 설립도 추진된다.

SB 53은 현재 주 의회 개인정보보호위원회 심사를 앞두고 있으며, 통과되면 여러 입법 단계를 거쳐 주지사 서명 절차를 밟게 된다. 다만 구글이 자사 AI 모델 제미나이 2.5 프로의 안전 보고서를 공개하지 않고, 오픈AI도 GPT-4.1의 안전 보고를 누락하는 등 AI 기업들의 반발이 계속되고 있어 법안 통과까지는 험로가 예상된다는 분석도 나온다.

한편, 뉴욕주도 이와 유사한 AI 안전 법안을 검토 중으로, 앞서 연방 정부 차원에서는 주별 AI 규제를 제한하려는 시도가 있었으나 상원에서 부결된 바 있다.