AI에이전트 시대, CPU 중량감이 커지는 이유

[디지털투데이 황치규 기자]AI 에이전트 확산 속에 GPU 중심으로 짜여져 있던 AI 인프라 판도가 CPU 쪽으로 이동하고 있다.

아마존뉴스는 AI에이전트 시대 왜 CPU가 중요한지를 다룬 글을 통해 AI 에이전트 환경에서 CPU 역할이 커지는 상황을 공유했다.

아마존뉴스에 따르면 기존 AI 인프라 논의는 대형 모델 학습에 쓰이는 칩 중심이었다. 트레이니움(Trainium) 같은 AI 가속기와 GPU는 대규모 데이터를 병렬로 처리하는 데 최적화돼 모델 학습에 적합하다.

에이전트 AI는 다르다. LLM이 프롬프트를 받아 병렬 연산으로 출력을 만드는 '계산기' 방식이라면 AI 에이전트는 다단계 작업을 자율적으로 완료하는 '관리자' 방식이다. 예를 들어 "이 회사를 조사해 보고서를 작성해줘"라는 요청을 받으면 에이전트는 목표를 단계별로 나누고, 웹 브라우저를 열어 링크를 탐색하고, 파일을 분석하고, 코드를 실행해 결과물을 만든다.

추론을 제외한 논리 처리, 파일 관리, 네트워크 호출, 코드 실행은 모두 CPU가 담당하는 작업들이다.

AWS 그래비톤(Graviton)은 이 같은 상시 실행·저지연 워크로드를 위해 설계된 CPU다.

에이전트 AI는 데이터 조회, 툴 호출, 행동 실행, 다음 단계 평가를 빠르게 반복하는데 그래비톤은 프로세서 내부 각 부분이 데이터를 주고받는 시간을 최소화하도록 설계됐다고 아마존뉴스는 전했다.