"AI 스타트업, 클라우드 비용 최적화도 핵심 경쟁력"
||2025.02.14
[디지털투데이 황치규 기자]거대 언어 모델(LLM) 관련 서비스를 개발하는 AI 스타트업들이 늘면서 이들 업체를 겨냥한 대형 클라우드 서비스 업체들 행보도 분주하다. 한국오라클도 AI 기반 스타트업들 공략에 속도를 내고 있다. 나름 성과도 거뒀다.
오라클은 최근 한국에서 개최한 ‘오라클 클라우드 서밋(Oracle Cloud Summit) 2025’에서 오라클 클라우드 인프라스트럭처(OCI)를 활용하는 다양한 분야 다양한 AI 스타트업들 사례도 비중 있게 다뤘다.
이들 스타트업은 OCI를 도입한 것과 관련해 안정성과 비용을 중요한 요소로 꼽았다. AI는 컴퓨팅 비용이 다른 서비스 분야보다 높을 수 밖에 없고, 그런 만큼 클라우드를 쓸 때도 비용을 보다 많이 따질 수 밖에 없다는게 이들 업체 설명이다.
이미지 생성 및 생성형 AI 기반 간접광고(PPL) 솔루션 업체 맥케이는 다른 클라우드를 쓰다 비용과 GPU 유연성 등을 고려해 OCI를 도입한 케이스다.
맥케이는 생성형 AI 기술 기반으로 이미지 생성 AI ‘MOAI’, PPL 솔루션인 reloAD를 OCI에서 제공하고 있다.
최재호 맥케이 대표는 "많이 쓸 수록 OCI와 다른 회사 클라우드는 비용에서 차이가 많이 난다. 오라클은 환율을 중장기적으로 적용하기 때문에 현재 시점에서 OCI는 더욱 가격 경쟁력이 있다. 보안 측면에서도 안정적이다"고 말했다.
AI 기반 게임 코칭 플랫폼 '지지큐'를 제공하는 지지큐컴퍼니(GGQ Company)도 비용이 저렴하고, 과금 체계 및 크레딧 지원 측면에서도 유리하다고 판단해 OCI를 도입했다.
회사 측에 따르면 지지큐컴퍼니 AI 코칭 데스크톱 애플리케이션을 PC에 설치하고 게임을 하면 AI가 자동으로 이용자가 플레이한 모든 경기 데이터를 분석해 게임 승패를 좌우한 중요한 순간을 선별한다. 이를 기반으로 이용자가 어떤 선택을 했다면 승률을 높일 수 있었을지 분석해 게임 종료 후 여러 영상으로 제공한다. 취약점을 보강하는 맞춤 훈련도 이용할 수 있다.
지지큐컴퍼니는 OCI 컴퓨트, 스토리지, OKE 네트워크 등을 도입해 ‘지지큐’ 북미 서비스 환경을 OCI 기반으로 개발 및 운영하고 있다. 전체 시스템을 OCI로 이관해 비용 절감, 운영 효율성 제고, 안정성 확보를 목표로 하고 있다.
이용수 지지큐컴퍼니 대표는 "OCI는 백엔드 아키텍처가 잘돼 있는데다 절감할 수 있는 비용도 압도적이었다. 이를 통해 내부 개발진들을 설득할 수 있었다"고 전했다.
지지큐컴퍼니는 클라우드와 엣지를 연결하는 AI 서비스로 지지큐를 운영하고 있다. 이용수 대표는 "학습은 클라우드에서 하지만 추론은 온디바이스에서 하고 있다. 비용과 반응 속도 측면에선 엣지에서 운영하는 것이 유리한 측면이 있다"고 말했다.
ML옵스 솔루션을 주특기로 하는 AI 네이티브 SaaS 기업 사이오닉에이아이(Sionic AI)는 인프라 특성이 자사 솔루션과 궁합이 맞아 OCI를 쓰게 됐다. 사이오닉에이아이 솔루션은 기업들이 맞춤형 AI 모델을 만들고 결과물을 학습한 후 다시 개선하는 워크플로우를 구현할 수 있도록 지원한다.
고석현 사이오닉에이아이 대표는 "AI 서비스는 GPU 자체보다 네트워크 기술도 중요하다. GPU를 많이 연결해서 쓰는 경우 통신량이 많지 않으면 GPU를 제대로 활용할 수 없는데 네트워크 안정성 측면에서 OCI가 유리한 면이 있다"고 말했다.
그는 또 "일반적인 서비스 회사라면 클라우드 종속성을 무시할 수 없지만 AI 스타트업들 입장에선 비용이나 최적화가 핵심 경쟁력일 수 밖에 없다. 내재화해야 하는 연구 활동으로 바라볼 필요가 있다"고 말했다.
