작지만 강력한 SLM…기업들이 LLM 대신 선택하는 4가지 이유

[디지털투데이 홍진주 기자] 최근 대규모언어모델(LLM)이 문서 요약부터 코딩까지 다양한 작업을 수행하며 주목받고 있지만, 기업들은 이러한 범용 인공지능(AI) 모델이 실제 비즈니스 목표를 지원할 수 있는지에 대해 의문을 제기하고 있다.

실제로 맥킨지 조사에 따르면, 기업의 62%가 AI 채택 과정에서 모델 설명 가능성과 데이터 관리 문제를 겪고 있는 것으로 나타났다. 이 과정에서 기업들은 특정 목적에 맞춰 설계된 소형언어모델(SLM)을 선택하는 사례가 늘고 있다. 관련해 14일(현지시간) IT매체 테크레이더는 기업들이 LLM보다 작은 SLM을 선택하는 이유 4가지를 분석했다.

먼저 SLM은 LLM보다 작지만 특정 산업에 맞춰 훈련돼 더 정밀하고 비용 효율적인 결과를 제공한다. 예를 들어, 금융 분야에서는 규제 문서와 내부 데이터를 기반으로 훈련된 SLM이 위험 평가와 재무 보고를 지원할 수 있으며, 의료 분야에서는 진단 보조 역할을 한다. 이는 산업별 요구에 맞춘 AI 활용을 가능케 한다는 평가다.

또한 LLM의 경우 일반적인 정보를 다루다 보니 잘못된 출력을 생성할 가능성이 높은 반면, SLM은 특정 도메인 데이터로 훈련돼 오류 발생 확률이 낮다. 이는 금융 및 법률과 같은 규제 산업에서 특히 중요한 요소다.

비용 측면에서도 SLM이 유리하다. LLM을 운영하려면 막대한 IT 인프라가 필요하지만, SLM은 엔비디아 젯슨(NVIDIA Jetson), 맥 미니 등 소비자용 하드웨어에서도 실행 가능하다. 이는 기업들이 AI를 도입하는 데 있어 비용 부담을 크게 줄여준다. 엔비디아 DGX 스파크(DGX Spark)처럼 초소형 AI 슈퍼컴퓨터도 등장하면서 고성능 AI를 저비용으로 운영할 수 있는 가능성이 커지고 있다.

마지막으로, '블랙박스'로 알려졌던 LLM의 내부 작동 방식과 관련된 일련의 문제는 기업들에게 큰 부담으로 작용할 수 있다. 블랙박스로 불리는 이유는 모델의 내부 원리가 명확히 밝혀지지 않았기 때문으로, LLM은 웹 데이터를 기반으로 훈련되어 민감한 정보가 유출될 위험이 크다. 반면, SLM은 기업이 자체 데이터를 활용해 AI를 훈련할 수 있어 보안과 데이터 프라이버시 측면에서 유리하다. 이는 유럽연합(EU)의 일반 데이터 보호 규정(GDPR) 같은 규제를 준수하는 데도 도움이 된다.

매체는 "SLM이 LLM을 완전히 대체하지는 않겠지만, AI 생태계는 하이브리드 모델로 진화할 가능성이 높다"라며 기업들이 SLM을 활용해 AI의 정확성과 비용 효율성을 극대화하는 방향으로 나아갈 것으로 전망했다.