모티프 "엔비디아 SW 대신 자체 툴로 독파모 개발...빅테크 상대 확률 높은 승부수"

22일 '엔비디아 네모트론 디벨로퍼 데이즈 서울 2026'에서 임정환 모티프테크놀로지스 대표(우측 두번째). [사진: 디지털투데이 석대건 기자]

[디지털투데이 손슬기 기자] 독자 AI 파운데이션 모델(독파모) 개발사 모티프테크놀로지스가 엔비디아 소프트웨어 도구 대신 독자 플랫폼을 앞세워 차별화를 꾀하고 있다.

엔비디아가 제공하는 범용 툴들을 써서는 컴퓨팅파워에서 앞선 빅테크 기업들을 이길 수 없다는 판단에서다. 이에 모티프는 자체 개발한 툴로 최대한 '가성비' 있게 LLM을 구축하고 운영하는데 초점을 맞추고 있다.

임정환 모티프테크놀로지스 대표는 지난 22일 서울 디캠프 마포에서 열린 '엔비디아 네모트론 디벨로퍼 데이즈 서울 2026'열린 패널 토론에 패널로 나와 엔비디아 대신 독자 툴을 개발한 배경으로 자유도를 꼽았다.

엔비디아 툴은 개발자 입장에서 자유도가 떨어지고 엔비디아 생태계 갇히는 결과로 이어진다는게 그의 지적이다.

엔비디아 쿠다(CUDA)는 AI 모델 학습에 필요한 대규모 연산을 효율적으로 처리할 수 있어 AI 개발 생태계 표준처럼 자리잡았지만 엔비디아 GPU에서만 작동한다. 엔비디아는 쿠다 플랫폼 위에 학습용 프레임워크(네모·메가트론), 추론 최적화 도구(텐서RT-LLM), 데이터 정제 솔루션(네모 큐레이터) 등을 번들로 제공한다. 엔비디아 GPU를 도입하면서 소프트웨어 패키지도 함께 쓰는 게 업계 관행이 된 이유다.

다른 독파모 참여사들은 엔비디아 툴을 활용해 LLM을 개발했다. SK텔레콤은 초거대 모델 A.X K1 학습에 메가트론-LM과 네모 큐레이터를 활용했고, LG AI연구원은 엑사원 개발 전 과정에 네모 프레임워크와 텐서RT-LLM을 적용했다.

모티프가 엔비디아 하드웨어와 쿠다 자체를 거부한 것은 아니다. 임 대표는 이를 "아이폰은 쓰되 기본 메모장은 안 쓰는 것과 비슷하다"며 "GPU도 쿠다도 쓰지만, 그 위에서 제공하는 모델 개발 툴은 쓰지 않는 것"이라고 설명했다.

임 대표는 "모델을 개발하는 관점에서 엔비디아 소프트웨어를 쓰면 엔비디아가 지원하는 아키텍처와 방법론을 활용할 수밖에 없는 구조에 갇히게 된다"면서 "네모 계열 소프트웨어를 쓰기 위해 코드를 고치는 시간도 너무 많이 걸리고 내부적으로 수많은 조건 분기(branch)들이 있어 그럴 바에 우리가 직접 하는 게 낫다고 판단했다"고 말했다.

모티프는 자체 SW 전략이 보다 경쟁력 있는 LLM을 개발하는데 차별화 포인트가 될 수 있다는 입장이다. 임 대표는 "아키텍처와 데이터, 방법론이 같다면 컴퓨팅파워가 적은 쪽은 이길 수 없다"며 "그걸 뛰어넘으려면 다른 영역에서 시도해야 한다"고 말했다.

엔비디아 소프트웨어 생태계 안에 머물면 결국 같은 아키텍처와 방법론을 쓸 수밖에 없고, 컴퓨팅파워에서 앞서는 빅테크를 이길 수 없다는 얘기다.

임 대표 철학에는 모티프 모회사인 AI 인프라 기업 모레(Moreh) 재직 시절 개발 경험이 반영됐다. 모레는 AMD GPU 기반 학습 플랫폼 MoAI를 직접 개발했다. 임 대표는 모레 AI 디렉터로 재직하며 AMD MI250 GPU 기반으로 MoMo-70B 모델 개발을 주도했다.

회사 측에 따르면 모티프가 독자 소프트웨어 기술에서 핵심은 자체 설계한 어텐션 구조 GDA(그룹별 차등 어텐션·Grouped Differential Attention)다. 어텐션은 AI 모델이 문장 내 단어 간 관계를 파악하는 핵심 연산인데, 불필요한 정보에도 반응하는 노이즈 문제가 있다. 모티프는 신호를 보존하는 그룹과 노이즈를 제어하는 그룹에 연산 자원을 비대칭으로 배분하는 방식으로 이를 개선했다.

모티프는 학습 알고리즘도 대부분 AI 기업이 쓰는 표준 알고리즘(AdamW) 대신 Muon을 채택했다. Muon은 학습 과정에서 파라미터 업데이트 방향이 충돌하지 않도록 조정해 같은 연산으로 더 많이 학습하는 알고리즘으로, 모티프는 이를 수천대 GPU 환경에서 동시에 돌아가도록 병렬화했다.

추론 단계에서도 엔비디아 텐서RT-LLM 대신 오픈소스 vLLM을 쓰되, 핵심 어텐션 연산은 모티프가 자체 구현한 방식으로 교체했다고 회사측은 강조했다.