자동차-법조계 AI 남용 논란…美 판사 "허위 인용, 무책임한 행동"

미국 캘리포니아주 법조계에서 AI를 남용하는 사례가 발생해 논란이 되고 있다. [사진: Reve AI]

[디지털투데이 AI리포터] 인공지능(AI)이 만든 가짜 판례가 법정까지 흔들었다. 캘리포니아주 마이클 윌너(Michael Wilner) 판사는 AI를 활용해 허위 법적 인용을 제출한 두 개 로펌에 3만1000달러의 제재를 가했다.

13일(현지시간) IT매체 더 버지는 법률 교수 에릭 골드먼(Eric Goldman)과 블레이크 리드(Blake Reid)의 분석을 인용해 이 사건을 조명했다. 마이클 윌너 판사는 "AI가 만든 허위 자료를 보고 관심을 가졌지만, 실제로 존재하지 않는 판례였다"며 "이는 사법 시스템을 위협하는 심각한 문제"라고 지적했다.

사건은 스테이트팜(State Farm)을 상대로 한 민사 소송에서 발생했다. 원고 측 변호사가 AI를 활용해 보충 서면을 작성했지만, 그 과정에서 가짜 법적 인용이 포함됐다. 이 문서는 K&L 게이츠(K&L Gates) 로펌에 전달됐고, 추가 검증 없이 법원에 제출됐다. 마이클 윌너 판사는 "최소 두 개의 인용이 완전히 가짜였다"며 문제를 제기했고, 이후 재제출된 문서에서도 추가적인 오류가 발견됐다. 이에 변호사들은 AI 사용을 인정하며 "구글 제미나이(Gemini)와 AI 법률 도구를 활용했다"고 밝혔다.

이번 사건은 AI를 법률 문서 작성에 활용하는 것이 얼마나 위험한지를 보여 준다. 앞서 도널드 트럼프 미국 대통령 전 변호사 마이클 코언도 AI 생성 자료를 잘못 사용해 법적 문제를 일으켰고, 콜롬비아 항공사 소송에서도 변호사들이 챗GPT가 만든 가짜 판례를 제출해 논란이 됐다. 마이클 윌너 판사는 "AI로 초안을 작성하고 이를 다른 변호사에게 전달한 것은 명백한 잘못"이라며 경고했다.