美 정부, 공곡기관 생성형AI 활용 본격화...환각 우려도 여전

[디지털투데이 황치규 기자]미국 정부가 공공 부문에 생성형 AI를 도입하기 위한 행보에 속도를 내고 있다. 미국 연방조달청(GSA)은 최근 연방 공무원들이 오픈AI, 앤트로픽, 메타, 구글 등의 모델을 시험해볼 수 있는 AI 플랫폼 ‘USAi’를 선보였다.

이번 조치는 한 달 전 도널드 트럼프 대통령이 발표한 ‘AI 행동 계획’ 일환이다. 트럼프 대통령은 당시 “미국민이 기대하고 마땅히 받아야 할 민첩한 정부”를 만들겠다며 연방 기관들이 AI 기술을 도입할 것을 촉구했다.

이와 관련해 폴리티코는 민첩한 정부가 반드시 잘 작동하는 정부는 아니며 빠른 응답성은 중요한 덕목이지만, 생성형 AI를 둘러싼 ‘환각(hallucination, 존재하지 않는 정보를 사실처럼 제시하는 현상)은 정책 실행에 치명적 오류를 유발할 수 있다고 지적했다.

몇몇 사건들도 예로 들었다. 5월 백악관 보고서에서는 존재하지 않는 학술 연구를 인용한 오류가 확인됐다. 이에 대해 백악관 대변인은 이를 단순한 ‘형식 문제’라고 해명했다.

USAi는 정부 데이터로 학습한 모델을 통해 정책 인사이트 제공까지 가능하도록 설계됐다. 하지만 공공 혜택, 건강보험, 군사 판단 등 생명과 직결된 분야에서 잘못된 출력이 나올 경우, 그 피해는 고스란히 국민에게 돌아갈 수 있다고 폴리티코는 지적했다.

전문가들은 이에 대응하기 위한 핵심 전략으로는 △공무원 대상 AI 활용 편향 교육 △사람 중심 검토 절차 △이중 AI 검증 시스템 도입 등을 꼽고 있다고 폴리티코는 전했다.

GSA는 “신뢰성과 편향 완화 기준을 충족하기 위해 플랫폼 사용을 모니터링하고 있다”고 밝혔다.