AI가 사람 대체?…기업들 "인간 감독 여전히 필수"

[디지털투데이 AI리포터] AI 도입이 확대되는 가운데 기업 현장에서 인간의 감독과 검증이 여전히 필수적이라는 지적이 제기됐다.

지난달 29일(현지시간) IT매체 테크레이더에 따르면, 인사(HR)와 급여 관리 분야는 AI 활용 효과를 가장 먼저 입증한 영역 중 하나로 평가되지만, 실제 운영 과정에서는 데이터 보안과 의사결정 검증의 중요성이 더욱 부각되고 있다.

기업들은 반복 업무와 대규모 데이터 처리에 AI를 활용하며 생산성을 높이고 있다. 그러나 인사·급여 업무는 직원 보상, 성과, 건강 정보 등 민감한 데이터를 다루는 만큼 오류 허용 범위가 매우 낮다. 업계에서는 1% 수준의 오류율도 규정 준수 문제, 재무상 불일치, 보안 사고로 이어질 수 있다고 보고 있다.

실제로 일부 기업들은 AI가 특정 업무를 완전히 대체할 수 있다고 판단해 인력을 감축했지만, 이후 해당 결정에 대해 재검토하는 움직임을 보이고 있다. 이에 따라 AI는 사람을 대체하기보다 업무를 보조하는 방향으로 활용해야 한다는 목소리가 커지고 있다.

MIT 연구에 따르면 기업의 AI 시범 프로젝트 가운데 실제 성과로 이어지는 비율은 5%에 불과했다. 성공 사례들은 특정 업무 환경에 맞춰 설계된 시스템을 활용하고 인간의 감독 필요성을 인정했다는 공통점을 보였다.

전문가들은 범용 AI가 시연 단계에서는 효과적으로 보일 수 있지만 실제 업무 환경의 복잡한 변수와 예외 상황을 충분히 이해하기 어렵다고 설명했다. 특히 공개 데이터를 기반으로 작동하는 대규모 언어모델은 환각 현상 가능성이 있어 중요한 업무에 단독으로 활용할 경우 위험이 발생할 수 있다고 경고했다.

이에 따라 기업들은 AI가 수행한 업무와 분석 결과를 전문 인력이 검토하는 체계를 구축해야 한다고 강조했다. 또한 데이터 보안과 거버넌스를 강화하고 업무 특성에 맞는 AI를 적용해야 기대한 성과를 얻을 수 있다고 조언했다.