자동차-"AI 모델 개발 점섬 성숙...GPU 넘어 전용 칩 잠재력 커질 것"

[디지털투데이 황치규 기자]현재 AI 모델 개발을 지원하는 칩 시장은 엔비디아 등이 GPU(Graphics processing units )가 들었다 놨다하는 구도다.

GPU는 당초 게임 그래픽 지원을 위해 개발됐지만 고성능에 유연성 및 프로그래밍성(programmability)까지 제공해 끊임 없이 변화하는 AI 모델 개발 및 운영에도 필수적인 인프라로 자리매김했다.

이런 가운데 보다 표준화된 AI 모델 디자인이 확산되면서 GPU 만큼 프로그래밍성과 유연성을 많이 요구하지 않으면서 저렴하고 에너지 효율성이 좋은 맞춤형 칩에 대한 잠재력이 커질 것이란 관측도 있다.

리사 수 AMD CEO도 이렇게 보는 이들 중 하나. 월스트리트저널(WSJ) 보도에 따르면 리사 수 CEO는 "GPU는 병렬 프로세싱에 대단히 효율적이기 때문에 지금 당장에는 LLM을 위해 선택하는 아키텍처지만 프로그래밍성은 약간만 제공한다"면서 "5년 후에도 GPU가 주요 아키텍처가 될거라 보느냐? 바뀔 것으로 생각한다"고 말했다.

리사 수 CEO 전망은 GPU 패러다임이 다른 것으로 바뀐다기 보다는 GPU외에 전용 AI 칩 시장도 확장될 것이란게 골자다.

그는 "컴퓨팅에서 만능은 존재하지 않는다. 미래 AI 모델은 다양한 기능을 위해 현재 시장을 지배하는 GPU와 아직 개발 중인 특수 칩을 포함한 여러 유형 칩들을 조합해 사용할 것이다"고 말했다.

엔비디아와 AMD는 맞춤형 AI 칩에 대한 구체적인 계획은 언급하지 않고 있지만 맞춤형 AI 칩은 이미 실전에 투입됐다.

아마존웹서비스(AWS)와 구글 클라우드 같은 대형 클라우드 업체들은 자체 맞춤형 AI 칩을 개발했다. AWS는 트레이니움(Trainium)과 인퍼런시아(Inferentia)를, 구글은 TPU(tensor processing units)를 내부용도로 개발했다.

이들 칩은 특정 기능들을 수행하도록 개발됐다. 예를 들면 트레이니움은 모델 훈련에만 쓰이고, 인터런시아는 추론만 담당한다. 브로드컴 혹 탄 CEO는 올해 내부 연설에서 "맞춤형 칩 부문 분기 영업이익이 10억달러 이상"이라고 말했다.

맞춤형칩은 GPU에 비해 에너지 효율적이고 저렴하지만 맞춤형 애플리케이션 특화 칩 시장은 아직 성숙한단계는 아니다. 맞춤형 칩을 둘러싸고 유연성과 상호 운용성 부족을 지적하는 이들도 있다.

WSJ에 따르면 시장 조사 업체 가트너의 치라그 디카테 부사장은 "맞춤형 칩은 프로그래밍이 매우 어렵고 일반적으로 맞춤형 소프트웨어 스택이 필요해 다른 종류 칩들과 함께 작동하게 하는 것이 어려울 수 있다"고 말했다.