"생성형AI도 오픈소스 원칙 적용할 때 왔다"...레드햇, RHEL AI 확산 시동
||2024.10.15
[디지털투데이 황치규 기자]레드햇엔터프라이즈리눅스(RHEL)과 클라우드 플랫폼 오픈시프트 같은 오픈소스 소프트웨어로 유명한 레드햇이 AI 대중화를 2025년 핵심 전략으로 내걸었다.
가장 오픈소스다운 접근 방식으로 거대 언어 모델(LLM)으로 대표되는 생성형 AI 시장에서 차별화하겠다는 전략이다. AI도 이제 오픈소스 모델이 먹혀들 수 있는 분위기가 무르익고 있다는게 레드햇 입장이다.
아셰시 바다니(Ashesh Badani) 레드햇 수석부사장 겸 CPO(최고제품책임자)는 14일 저녁 기자 간담회를 열고 "기업들을 내부 환경에 최적화된 자체 AI 모델을 필요로 하고 있지만 비용과 데이터 등의 문제로 인해 어려움을 겪고 있다"면서 "오픈소스 원칙들을 AI에 적용해 이같은 문제들을 해결할 수 있다"고 자신감을 보였다.
그는 "레드햇은 리눅스와 클라우드 플랫폼 시장에서 오픈소스 파워를 활용해왔다. AI에도 오픈소스 원칙을 적용해야 한다"면서 "RHEL AI 커뮤니티 활성화에도 적극 나설 것이다"고 강조했다.
레드햇발 AI 대중화 전략에서 핵심은 레드햇 엔터프라이즈 리눅스 AI(RHEL AI)다. 회사 측에 따르면 오픈소스로 제공되는 RHEL AI는 전용 파운데이션 모델(dedicated foundation model: FM) 플랫폼으로 기업들이 맞춤형 AI 모델을 구축할 수 있도록 지원한다. 소형 언어 모델(SLM) 지원에 초점이 맞춰져 있다.
RHEL AI는 9월 일반에 공식 출시됐고 델테크놀로지스는 레드햇과 협력해 RHEL AI를 지원하는 서버도 발표했다.
RHEL은 IBM이 개발한 거대 언어 모델(LLM) 그라나이트(Granite) 제품군과 레드햇이 자체 개발한 인스트럭트랩(InstructLab ) 모델 조정 툴이 결합돼 있다. RHEL AI는 사용자들에게 무료로 쓸 수 있는 그라나이트 LLM 라이브러리를 제공하며 인스트럭트랩 툴은 모델들을 자체 지식 및 데이터를 활용해 파인튜닝할 수 있도록 지원한다
콘셉트 측면에서 보면 REHL AI는 레드햇 페도라 리눅스 프로젝트에 유사하다.
페도라 리눅스는 레드햇이 주도하는 커뮤니티 기반 리눅스 프로젝트다. 페도라에선 리눅스 플랫폼에 적용해 볼만한 다양한 실험들이 이뤄지고 있고, 사용자들은 이를 무료로 쓸 수 있다. 레드햇은 페도라 프로젝트에서 일어나는 혁신들 중 기업에서 쓸만하다 싶은 것들을 최적화해 RHEL를 통해 제공한다.
RHEL AI에도 이와 유사한 전술이 활용된다. 바다니 부사장은 "오픈소스 커뮤니티를 활성화해 커뮤니티에서 탄생한 결과물을 RHEL을 통해 기업들이 활용할 수 있도록 할 것이다"고 말했다.
LLM 시장에서 오픈소스는 이미 중량급 키워드다. 페이스북을 운영하는 메타가 선보인 라마(Lama) 시리즈는 대표적인 오픈소스 LLM들 중 하나로 통한다.
이와 관련해 레드햇은 RHEL이 라마 보다 개방적이라고 강조한다. 바다니 부사장은 "라마의 경우 사용에 제한이 있는 반면 그라나이트 모델은 아파치 라이선스 아래 제공되며 데이터 소스 및 모델들 가중치도 오픈돼 있다. 고객들이 원하는 방식대로 쓸 수 있도록 하는 것이 중요하다. 레드햇은 고객들이 원하면 그라나이트 외에 다른 모델들도 쓸 수 있도록 지원하고 있다"고 말했다.
오픈소스 라이선스 방식들 중 하나인 아파치 라이선스는 사용자 입장에서 상대적으로 제약없이 쓸 수 있는 환경을 제공한다.
비용 경쟁력도 레드햇이 RHEL AI와 관련해 강조하는 포인트다. 레드햇에 따르면 생성형AI가 직면한 도전들 중 하나는 엄청난 잠재력에도 불구하고 어마어마한 비용이 들어갈 수 있다는 점이다. 일부 선도 생성형 AI 모델들은 훈련에만 거의 2억달러 가까운 비용이 투입된다. 데이터 가격 및 특정 작업을 수행하도록 파인튜닝하는데 필요한 작업 비용은 포함되지 않은 수치다.
기업이 어떤 모델을 선택하든 기업 특정 데이터와 프로세스에 맞추려면 정렬(alignment)은 필수적인데, 이는 비용 부담을 가중시킨다는게 레드햇 지적이다. 이에 레드햇은 엔터프라이즈 시장에선 RHEL 같은 소형 생성형 AI 모델들이 미래라고 강조한다.
아셰시 바다니 부사장은 "모델 크기가 커야 성능이 높은 건 아니다"면서 "통신, 제조 분야에서 오픈소스를 점점 많이 채택하고 있고, LLM AI에서도 오픈소스 도입이 늘어날 것이다"고 말했다.
레드햇은 15일 서울 소공동 롯데호텔에서 오픈소스 기술 연례행사인 ‘레드햇 서밋: 커넥트 2024(Red Hat Summit: Connect 2024)’를 오픈소스 소프트웨어에 기반한 AI 대중화 전략을 소개했다 이번 행사에선 RHEL AI와 인스트럭트랩(InstructLab으로 생성형 AI 파운데이션 모델 개발하기와 같은 세션도 진행됐다.
김경상 한국레드햇 사장은 “한국레드햇은 기업들이 AI 기술을 보다 쉽게 도입할 수 있도록 지원하여 AI 대중화에 기여하고, 이를 통해 비용 최적화와 데이터 준비, 모델 튜닝 등의 어려움을 해결할 수 있도록 지원을 아끼지 않을 것”이라며 “또한, 기존 가상화 환경을 클라우드 네이티브 환경으로 전환하여 인프라 구축 속도와 애플리케이션 개발 속도를 향상시키고, 엣지 컴퓨팅 영역으로 플랫폼을 확장하여 자동차, 통신, 제조 등 다양한 산업 분야에서 일관되고 유연한 서비스를 제공할 계획”이라고 말했다.
