엔비디아, 30만원대 손바닥만한 생성형 AI 슈퍼컴 공개
||2024.12.19
||2024.12.19
엔비디아는 새로운 소형 생성형 AI 슈퍼컴퓨터 ‘젯슨 오린 나노 슈퍼 개발자 키트(Jetson Orin Nano Super Developer Kit)’를 공개했다고 19일 밝혔다. 소프트웨어 업그레이드로 이전 모델 대비 성능이 1.7배 높아졌지만 가격은 절반으로 내린 점이 눈에 띈다.
새로운 엔비디아 젯슨 오린 나노 슈퍼 개발자 키트는 손바닥만한 크기에서 상업용 AI 개발자부터, 취미로 AI를 다루는 사람, 학생에 이르기까지 모두에게 생성형 AI 기능과 성능을 제공한다.
개발자 키트는 젯슨 오린 나노 8GB 시스템 온 모듈(system-on-module, SoM)과 레퍼런스 캐리어 보드로 구성돼 엣지 AI 애플리케이션 프로토타입을 위한 플랫폼을 제공한다.
이 SoM은 엔비디아 암페어(Ampere) 아키텍처 그래픽처리장치(GPU)와 6코어 Arm 중앙처리장치(CPU)를 갖추고 있어 여러 개의 동시 AI 애플리케이션 파이프라인과 고성능 추론을 용이하게 한다. 최대 4개의 카메라를 지원할 수 있으며 이전 버전보다 더 높은 해상도와 프레임 속도를 제공한다.
이전 모델에 비해 성능은 67 INT8 TOPS(초당 67조회 연산)로 70% 증가했고 생성형 AI 추론 성능은 1.7배 향상됐지만 가격은 기존 499달러(약 72만원)에서 249달러(약 36만원)로 인하됐다.
젯슨 오린 나노 슈퍼는 검색 증강 생성(retrieval-augmented generation, RAG) 기반의 거대 언어 모델(large language model, LLM) 챗봇 생성, 시각적 AI 에이전트(AI agent) 구축, AI 기반 로봇 배포 등에 이상적인 솔루션을 제공한다.
엔비디아 젯슨 AI 랩은 오픈소스 커뮤니티에서 최신 생성형 AI 모델에 대한 즉각적인 지원을 제공하며 사용하기 쉬운 튜토리얼을 제공한다. 개발자는 광범위한 젯슨 커뮤니티의 지원을 받을 수 있다.
젯슨 생태계 파트너는 추가적인 AI와 시스템 소프트웨어, 개발자 도구, 맞춤형 소프트웨어 개발을 제공한다. 카메라와 기타 센서, 캐리어 보드, 제품 솔루션을 위한 설계 서비스도 지원 가능하다.
새로운 젯슨 오린 나노 슈퍼에 제공되는 소프트웨어 업데이트는 이미 젯슨 오린 나노 개발자 키트를 보유하고 있는 사용자의 생성형 AI 성능도 향상시킨다. 생성형 AI 성능을 1.7배 향상시키는 소프트웨어 업데이트는 젯슨 오린 NX와 오린 나노 시리즈 시스템 모듈에서도 사용할 수 있다.
권용만 기자
yongman.kwon@chosunbiz.com