앤트로픽, AI로 핵무기 설계 시도 차단…美 에너지부와 협력
||2025.08.25
[디지털투데이 AI리포터] 앤트로픽이 인공지능(AI) 챗봇 클로드에 핵무기 설계 시도를 감지하고 차단하는 기능을 도입했다.
22일(현지시간) IT매체 테크레이더에 따르면 앤트로픽은 미국 에너지부 산하 국가핵안보국(NNSA)과 협력해 AI 챗봇이 무기 설계에 악용되지 않도록 새로운 감지 시스템을 개발했다. 해당 시스템은 단순한 호기심과 실제 설계 시도를 구분하며, 96%의 정확도로 위험한 질문을 차단한다.
강력한 AI 모델이 민감한 기술 문서에 접근할 가능성이 높아지는 상황에서, 연방 보안 기관들은 AI가 핵무기 설계 정보를 제공할 가능성을 우려하고 있다. 이번 감지 시스템은 AI 챗봇이 의도치 않게 무기 설계에 활용되는 것을 방지하려는 조치다. 앤트로픽은 실제 대화에서 클로드가 이러한 시도를 탐지하고 차단한 사례가 있다고 밝혔다.
앤트로픽은 AI가 다른 무기 설계에도 악용되지 않도록 이 기술을 AI 안전 컨소시엄과 공유할 계획이다. 사용자는 여전히 핵 의학이나 연료 안전성 같은 질문은 할 수 있지만, 핵무기 설계로 이어질 수 있는 질문은 차단된다.
