아마존, AI 사용 압박이 부른 부작용…‘토큰맥싱’ 논란

아마존 내부에서 AI 사용 실적을 높이기 위한 토큰맥싱 현상이 확산되고 있다. [사잔: Reve AI]

[디지털투데이 AI리포터] 아마존 직원들 사이에서 사내 인공지능(AI) 도구 사용 실적을 부풀리기 위한 이른바 '토큰맥싱' 현상이 확산하고 있다.

12일(현지시간) IT 전문매체 아스테크니카에 따르면, 아마존은 최근 사내 AI 도구 '메시클로'를 광범위하게 배포했으며, 일부 직원들이 실제 필요하지 않은 업무까지 자동화해 토큰 사용량을 늘리고 있는 것으로 전해졌다.

메시클로는 직원이 AI 에이전트를 생성해 사내 업무용 소프트웨어와 연결하고, 다양한 작업을 자동으로 수행하도록 하는 도구다. 코드 배포를 시작하거나 이메일을 분류하고 슬랙과 같은 협업 도구와 상호작용할 수 있다. 일부 직원들은 동료들이 실질적 필요와 무관하게 추가 작업까지 자동화해 토큰 소비를 늘리고 있다고 전했다. 토큰은 AI 모델이 데이터를 처리하는 기본 단위다.

이 같은 현상의 배경에는 사내 AI 사용 압박이 있다는 분석이 나온다. 아마존은 개발자의 80% 이상이 매주 AI를 사용하도록 목표를 제시했으며, 올해 초부터 내부 리더보드를 통해 AI 토큰 사용량을 추적해 왔다. 직원들은 해당 지표가 공식적인 성과 평가에는 반영되지 않는다는 안내를 받았지만, 여러 직원들은 관리자들이 이를 실질적으로 참고하고 있다고 보고 있다.

아마존은 한때 팀 단위 AI 사용 통계를 공개했으나 최근에는 개인과 관리자만 수치를 확인할 수 있도록 접근 권한을 제한했다. 또한 관리자가 토큰 사용량을 성과 지표로 활용하지 않도록 권고한 것으로 알려졌다. 한편 메타 내부에서도 유사하게 리더보드 순위를 높이기 위한 토큰맥싱 현상이 나타난 것으로 전해졌다.

메시클로는 지난 2월 화제가 된 오픈클로에서 영감을 받은 도구다. 오픈클로는 사용자가 개인 컴퓨터나 노트북에서 AI 에이전트를 직접 실행할 수 있도록 설계됐다. 아마존 내부 문서에 따르면 30명 이상의 직원이 메시클로 개발에 참여했다. 최근 내부 메모에는 해당 에이전트가 야간에 학습 내용을 정리하고, 회의 중 배포 상태를 모니터링하며, 사용자의 비활동 시간 동안 이메일을 분류하는 기능이 포함돼 있다고 적시됐다.

아마존은 메시클로가 수천 명의 직원들이 반복 업무를 자동화하는 데 활용되고 있으며, 팀 단위 AI 실험과 도입을 지원하는 사례라고 설명했다. 다만 내부에서는 보안 우려도 제기되고 있다. 일부 직원들은 사용자 권한을 위임받은 AI 도구가 오작동하거나 의도하지 않은 작업을 수행할 가능성에 대해 우려를 표했다.