자동차-엔비디아, 라마-3.1 니모트론 울트라 공개…딥시크 R1 성능 버금

라마 니모트론 울트라(Llama Nemotron Ultra) 모델 [사진: 엔비디아]

[디지털투데이 AI리포터] 엔비디아가 라마-3.1 니모트론 울트라(Llama-3.1 Nemotron Ultra) 모델을 공개하며, 딥시크 R1과 유사한 성능을 제공한다고 밝혔다.

11일(현지시간) 대만 매체 IT홈에 따르면, 이 모델은 2530억 개의 파라미터를 갖췄으며, 메타 'Llama-3.1-405B-Instruct'를 기반으로 개발됐다. 엔비디아는 이번 모델이 기존 라마 니모트론 시리즈 중 가장 강력한 버전이라고 강조했다.

엔비디아는 새로운 신경 아키텍처 검색(NAS) 기술을 활용해 메모리 크기를 최적화했으며, 이를 통해 적은 GPU로도 대규모 작업을 처리할 수 있도록 했다. 또한, 다단계 후학습을 적용해 모델의 추론 능력과 비추론 능력을 모두 개선했다고 설명했다. 라마-3.1 니모트론 울트라는 128K 길이의 컨텍스트를 지원하며, 단일 8xH100 노드를 활용해 최적의 성능을 발휘할 수 있다.

벤치마크 테스트 결과, 라마-3.1 니모트론 울트라는 과학적 추론(GPQA Diamond), 복잡한 연산(AIME 2024), 코딩, 명령어 준수 등에서 딥시크 R1과 라마 4 베헤모스(Llama 4 Behemoth)을 능가하는 성능을 보였다.

다만, 복잡한 수학 및 대화 테스트에서는 딥시크 R1이 우위를 점했다. 엔비디아는 이 모델이 AI 에이전트 시스템, 챗봇, 검색 강화 생성(RAG) 등 다양한 AI 응용 프로그램에 적합하며, 영어와 프로그래밍 언어뿐만 아니라 독일어, 프랑스어, 스페인어 등 여러 언어도 지원한다고 밝혔다.

라마-3.1 니모트론 울트라 모델은 허깅페이스(Hugging Face)에서 다운로드할 수 있으며, AI 개발자들에게 새로운 가능성을 열어줄 것으로 기대된다.