래블업, CES 참가... 클라우드 없이 PC서 LLM 돌리는 ‘백엔드닷에이아이:고’ 공개

[디지털투데이 황치규 기자]AI 인프라 플랫폼 기업 래블업은 2026년 1월 6일부터 9일까지 미국 라스베이거스 컨벤션센터에서 개최되는 CES 2026에 4년 연속으로 참가한다.

래블업은 이번 행사에서 클라우드 서버 없이 개인 PC에서 소형언어모델(SLM)을 직접 구동하는 데스크탑 애플리케이션 백엔드닷에이아이:고(Backend.AI:GO)를 정식 출시한다.

Backend.AI:GO에서 'GO'는 제너러티브 온 디바이스(Generative On-device) 약자로 온프레미스 환경에서 로컬 자원을 활용해 AI 추론을 가속한다.

모델을 다운로드받은 이후부터는 클라우드를 거치지 않아 인터넷 연결 없이도 작동하고, 사용자가 입력한 데이터도 외부 서버로 전송되지 않는다. 사용자는 개인 컴퓨터에서 보안 우려 없이 손쉽게 모델을 다운로드받아 사내 문서 분석, 이미지 이해 및 생성, 코드 리뷰 등에 자유롭게 활용할 수 있으며, 하이퍼파라미터(초매개변수)와 자원 할당량을 조절하여 모델 응답 특성과 자원 사용량을 원하는대로 변경할 수 있다.

래블업은 클라우드형 제품인 백엔드닷에이아이:돌(Backend.AI:DOL)'도 CES에서 정식 출시할 예정이다.

신정규 래블업 대표는 "AI PC 시대가 본격화되면서 온디바이스 환경에서 LLM을 직접 구동하려는 엔터프라이즈 수요가 빠르게 늘고 있다"며 "Backend.AI:GO와 DOL을 통해 개인 PC 한 대부터 수천 대 GPU 클러스터까지 규모와 환경에 관계없이 일관된 경험으로 AI 인프라를 운영할 수 있는 환경을 제공하겠다"고 말했다.