"이제 AI가 타깃 정한다"…美 국방부, 공격 우선순위 추천 시스템 개발

미국 국방부가 AI를 활용해 공격 대상의 우선순위를 분석하는 시스템을 개발하고 있다. [사진: Reve AI]

[디지털투데이 AI리포터] 미국 국방부가 인공지능(AI)을 활용해 공격 대상의 우선순위를 분석하는 시스템을 개발하고 있다. AI가 타깃 목록을 분석해 공격 순서를 제안하면, 인간이 이를 검토해 최종 판단을 내리는 방식이다.

12일(현지시간) MIT 테크놀로지 리뷰에 따르면, 국방부 관계자는 "AI가 타깃 리스트를 분석해 공격 우선순위를 추천하고, 인간이 이를 검토하는 구조가 될 것"이라고 설명했다. 현재 오픈AI의 챗GPT와 xAI의 그록(Grok)이 이러한 시나리오에 활용될 가능성이 있으며, 두 회사는 최근 미군과 협약을 체결했다.

미군은 이미 2017년부터 AI 기반 군사 프로젝트인 '메이븐'(Maven) 프로젝트를 통해 대규모 영상 데이터를 분석하고 타깃을 식별하는 기술을 개발해 왔다. 다만 생성형 AI는 기존 시스템과 달리 대화형 인터페이스를 통해 데이터를 분석하고, 타깃 선정 과정을 더 빠르게 지원할 수 있다는 점에서 주목받고 있다. 실제로 앤트로픽(Anthropic)의 생성형 AI 클로드(Claude)가 기존 군사 AI 시스템에 통합돼 이란과 베네수엘라 작전에 활용됐다는 보도도 나왔다.

AI 기반 타깃 선정 시스템을 둘러싼 논란도 이어지고 있다. 최근 뉴욕타임스는 이란의 한 여학교 공습으로 100명 이상의 어린이가 사망한 사건을 보도하며, 구식 타깃 데이터가 공격의 원인으로 지목됐다고 전했다. 다만 AI가 해당 작전에 관여했는지는 확인되지 않았다.

미 국방부는 최근 오픈AI, xAI 등 주요 AI 기업과 협력하며 군사 분야에서 AI 활용을 확대하고 있다. 현재는 보안이 유지되는 폐쇄 환경에서 AI 모델을 시험 운영 중인 것으로 알려졌다. 국방부는 작전 전반에 걸쳐 AI 도입을 빠르게 확대하는 추세다. 구글은 지난해 12월부터 수백만명의 군인에게 군용 생성형 AI 플랫폼 'GenAI.mil' 포털을 통해 서비스를 제공하기 시작했다..

AI 기술이 군사 작전에 본격적으로 도입되면 타깃 선정과 작전 의사결정 속도는 크게 빨라질 것으로 전망된다. 그러나 AI 판단의 신뢰성과 책임 문제를 둘러싼 논쟁은 여전히 이어지고 있다. 국방부는 AI가 제안한 타깃을 인간이 반드시 검토하도록 하는 원칙을 유지하고 있지만, AI가 전쟁 수행 방식 자체를 바꿀 수 있다는 전망도 나온다.