프렌들리AI, 엔비디아와 협력... 네모트론3 나노 모델 제공

[디지털투데이 황치규 기자]AI 추론 플랫폼 기업 프렌들리 AI(FriendliAI)는 엔비디아와 공식 런칭 파트너로 참여해, 엔비디아 최신 AI 모델인 네모트론(Nemotron) 3 모델을 자사 플랫폼을 통해 제공한다고 22일 밝혔다.

이에 따라 프렌들리 AI 플랫폼에서 네모트론3 나노(Nemotron 3 Nano) 모델을 배포하고 운영할 수 있다.

네모트론 3 모델은 복잡한 추론과 논리적 판단이 필요한 작업에 특화된 AI 모델로, 하이브리드 맘바-트랜스포머(Mamba-Transformer)를 활용한 전문가 혼합(Mixture-of-Experts, MoE) 아키텍처에 기반한다. Nano 모델은 100만 토큰 컨텍스트와 함께 소프트웨어 개발, 금융, 유통, 사이버 보안 등 다양한 산업 분야에 활용할 수 있도록 설계됐다.

전병곤 프렌들리 AI 대표는 “네모트론3와 프렌들리 AI 플랫폼 결합은 AI가 스스로 판단하고 작업을 수행하는 ‘에이전틱 AI’를 보다 현실적인 비용과 성능으로 구현할 수 있게 하는 중요한 계기”라며 “기업들이 대규모 AI 서비스를 운영하는 데 필요한 성능과 효율성을 동시에 제공하는 것이 목표”라고 말했다. 전 대표는 “AI 도입을 검토하는 기업들에게 가장 큰 고민은 비용과 운영 복잡성”이라며, “프렌들리 AI 는 고성능 AI를 보다 쉽고 합리적으로 활용할 수 있는 인프라를 지속적으로 제공할 것”이라고 덧붙였다.