arXiv, AI 오류 논문 1년 투고 금지…학계선 공동저자 일괄 제재 논란

미국 코넬 대학교에서 운영하고 있는 공개형 논문 초안 저장소인 아카이브(arXiv) [사진: arXiv.org]

[디지털투데이 AI리포터] 미국 코넬 대학교에서 운영하고 있는 공개형 논문 초안 저장소인 아카이브(arXiv)가 생성형 AI의 명백한 오류나 허구의 참고문헌이 들어간 논문에 대해 저자 전원의 1년 투고 금지 방침을 내놓으면서, 제재 범위를 둘러싼 논쟁이 커지고 있다. 30일(현지시간) 온라인 매체 기가진에 따르면 연구자들은 저품질 AI 작성 논문을 막아야 한다는 데는 대체로 동의했지만, 모든 공동저자에게 일괄 책임을 묻는 방식에는 우려를 나타냈다.

토머스 G. 디터리히 arXiv 컴퓨터과학 부문 책임자는 엑스에서 생성형 AI 도구의 실수는 저자 책임이라는 새 기준을 밝혔다. 논문에 저자가 대규모언어모델 생성 결과를 확인하지 않았다는 명백한 증거가 있으면, 그 논문 내용은 신뢰할 수 없다는 입장도 함께 내놨다.

이번 조치는 AI 사용 자체를 금지한 것은 아니다. 핵심은 AI 활용 여부가 아니라 저자가 결과를 검증했는지에 있다. 애들레이드대 교육학자인 비트미르 코바노비치 교수는 대부분의 연구자가 AI가 만든 문장 자체를 문제로 보지는 않을 것이라며, 문제는 AI가 저품질 텍스트를 쉽게 만들어낼 수 있다는 점이라고 지적했다.

배경에는 학술 출판 환경 변화가 있다. AI 기업 그래파이트 조사에 따르면 2025년 1분기 이후 인터넷에 공개된 글의 절반은 AI가 작성한 것으로 나타났다. 2026년 4월 학술지 오거나이제이션 사이언스에 실린 연구도 2022년 챗GPT 출시 이후 투고 논문 수는 급증한 반면 질은 낮아졌다고 분석했다.

코바노비치 교수는 특히 공동연구 관행과의 충돌을 문제로 들었다. 소규모 연구에서는 모든 저자가 전체 결과물에 책임을 지는 것이 타당할 수 있지만, 지금은 한 논문에 4~5명이 참여하는 일이 흔하고 많게는 수백명이 공동 저자로 이름을 올린다. 이런 상황에서 한 명이 맡은 부분에 AI가 만든 것으로 보이는 가짜 참고문헌을 넣었다고 해서 다른 공동저자까지 모두 투고 금지하는 것은 지나치게 엄격하다는 주장이다.

형평성 문제도 제기됐다. 과격하거나 신뢰하기 어려운 이론을 퍼뜨리거나, 질 낮은 근거와 비논리적 주장을 담은 논문에는 같은 수준의 제재가 없다는 것이다. 코바노비치 교수는 품질 보증을 강화하려면 AI를 처벌 대상만으로 볼 게 아니라 검증 도구로 활용할 수 있다고 제안했다. AI가 참고문헌 목록을 받아 실제 존재하는 논문인지 확인하고, 의심되는 항목만 사람이 다시 점검하는 방식이다. 통계 분석의 타당성을 빠르게 살피는 데도 AI를 쓸 수 있다는 설명이다.