자동차-에릭 슈미트 구글 전 CEO "AI 맨해튼 프로젝트 글쎄…방어 전략 우선"

[디지털투데이 AI리포터] 에릭 슈미트 전 구글 최고경영자(CEO), 알렉산더 왕 스케일 AI CEO, 댄 헨드릭스 AI 안전센터(Center for AI Safety, CAIS) 디렉터가 최근 정책 논문에서 미국이 '초인간적' 지능을 가진 AI 시스템인 인공 일반 지능(AGI) 개발을 위한 맨해튼 프로젝트식 추진을 하지 말아야 한다고 말했다.

5일(현지시간) IT매체 테크크런치에 따르면 이들은 '초지능 전략'(Superintelligence Strategy)이라는 제목의 논문을 통해 미국이 초지능 AI 시스템을 독점적으로 통제하려는 공격적인 시도가 중국의 강력한 보복을 초래할 수 있으며, 이는 국제 관계를 불안정하게 만들 수 있다고 주장했다.

이 논문은 최근 미국 의회가 1940년대 원자폭탄 개발을 모델로 한 AGI 개발을 추진하자는 제안을 한 직후 나온 것이다. 크리스 라이트 에너지부 장관은 오픈AI 공동 창업자인 그렉 브록맨과 함께 미국이 AI의 '새로운 맨해튼 프로젝트'의 시작에 있다고 말한 바 있다. 맨해튼 프로젝트는 제2차 세계 대전 중에 미국이 주도하고 영국과 캐나다가 공동으로 참여했던 핵폭탄 개발 프로그램이다.

슈미트 등은 AI 시스템을 핵무기와 비교하며, 미국이 초지능 AI 시스템을 독점하려는 시도가 적의 선제 공격을 유발할 수 있어 신중해야 한다고 지적했다. 이들은 '상호 확증 AI 오작동(MAIM)'이라는 개념을 도입하며, 정부가 적들이 AGI를 무기화하기 전에 위협적인 AI 프로젝트를 선제적으로 비활성화할 수 있다고 주장했다.

슈미트와 공동 저자들은 미국이 초지능의 경주에서 승리하는 것보다 다른 국가들이 초지능 AI를 개발하지 못하도록 억제하는 데 초점을 맞추어야 한다고 제안했다. 정부가 위협적인 AI 프로젝트를 비활성화하기 위한 사이버 공격의 무기를 확장하고 다른 국가들이 고급 AI 칩과 오픈 소스 모델에 접근하는 것을 제한해야 한다는 설명이다.