치솟는 AI 토큰 비용...데스크톱 PC 역할 커진다

[디지털투데이 황치규 기자]기업들이 치솟는 클라우드 비용과 데이터 주권 우려에 대응해 AI 연산에 이뤄지는 위치를 조정하면서, 기업용 PC가 로컬 추론을 위한 단말로 주목받고 있다.

22일(현지시간) 실리콘앵글에 따르면 델테크놀로지스는 에이전트형 AI 확산으로 AI PC의 역할과 기준이 달라지고 있다고 밝혔다.

델은 AI PC 수요가 다시 확대되는 첫 번째 요인으로 토큰 비용을 꼽았다. 에이전트형 AI 워크플로는 에이전트가 반복적으로 질의하고 계획을 세우며 다시 요청하는 구조여서 클라우드 API 비용이 빠르게 늘어날 수 있다. 델 '데스크사이드 에이전트형 AI'는 이런 부담을 줄이는 데 초점을 맞췄다는게 회사측 설명이다.

롭 브루크너 델 상용 클라이언트 솔루션 그룹 사장은 델테크놀로지스 월드 2026에서 "추론이 반드시 최고 수준 추론 성능을 요구하지는 않는다"면서 "적정 규모 모델로도 충분한 경우가 많다"고 말했다. 이어 "AI PC를 활용하면 기업이 토큰 예산을 보다 세밀하게 통제하고, 필요할 때만 고성능 토큰을 쓰는 식으로 더 유연하게 운영할 수 있다"고 덧붙였다.

데이터 주권도 중요한 요소로 부상했다.

델에 따르면 기업들은 민감한 데이터와 지식재산을 기기 안에 두고 처리할 수 있는 대안을 찾고 있다. 로컬 추론은 개발자가 토큰 예산 제약에 덜 얽매이면서 워크플로를 시험하고 개선할 수 있게 해 준다고 브루크너는 사장은 설명했다. 그는 "개발자에게 충분한 실험 공간이 필요하다며, 토큰 비용을 지나치게 의식하면 혁신 시도 자체가 위축될 수 있다"고 말했다.