제프 클라크 부회장 “델의 생성형 AI 여정 경험 ‘AI 팩토리’에 담았다” [DTW 2025]
||2025.05.21
||2025.05.21
“델의 서비스 팀 요원들은 인공지능(AI) 어시스턴트를 통해, 다양한 문제를 더 빨리, 정확히 해결했다. 재파견율은 낮아졌고 고객 만족도는 높아졌다. 비용적으로도 3개월만에 투자수익률을 달성했다. 지금까지 델이 겪은 여정의 경험이 델의 ‘AI 팩토리’에 녹아들어 있다.”
제프 클라크(Jeff Clarke) 델 테크놀로지스 부회장 및 최고운영책임자(COO)는 20일(현지시각) 미국 네바다주 라스베이거스에서 열린 ‘델 테크놀로지스 월드(DTW: Dell Technologies World) 2025’의 2일차 기조연설에서 이와 같이 밝혔다. ‘지금 대응하지 않으면 이미 뒤쳐진 것’이라며 빠른 시작을 강조했다.
델은 이 자리에서 지난 2년여간 자체적으로 업무 효율 향상을 위한 생성형 AI 도입 여정을 소개했다. 이러한 여정에서 델이 얻은 경험들은 ‘AI 팩토리’의 구성에 반영됐다. 델은 이번 ‘델 테크놀로지스 월드’를 통해 ‘AI 팩토리’ 뿐만 아니라 기업의 IT 인프라 환경 전반을 현대화, 효율화하고 더 높은 복원력을 달성할 수 있게 돕는 새로운 기술과 제품들을 대거 발표했다.
델의 생성형 AI 여정 경험 들어간 ‘델 AI 팩토리’
제프 클라크 부회장은 “생성형 AI가 폭발적으로 성장하고 있다. 내년의 상황은 또 완전히 달라질 것이다”라고 제시했다. 이어 “델의 ‘AI 팩토리’는 최신 워크로드를 다루는 확장 가능한 환경을 통합 제공하고 있다”며 “이미 ‘AI 팩토리’는 3000개 이상의 고객이 도입해 구축했고 고객들에 큰 공감을 얻고 있다”고 밝혔다. 또한 “델은 PC에서 데이터센터에 이르기까지 스토리지와 네트워킹, 클러스터까지 포함한 가장 폭넓은 기술 포트폴리오를 제공하고 있다”고 말했다.
델은 지금의 상황이 엔비디아와 함께 처음 ‘AI 팩토리’를 만들었던 지난해와 비교해도 크게 달라졌다고 제시했다. 가장 먼저 꼽는 변화는 멀티모달 모델과 컨텍스트 LLM(거대언어모델) 덕분에 AI를 활용해 얻을 수 있는 결과물이 크게 좋아졌다는 점이다. 또한 양자화 기술 등을 통해 더 작은 크기에서도 더 높은 성능을 내는 모델들이 나오고 있다. 추론(Reasoning)이 주목받으면서 컴퓨트 성능 요구도 커지고 있고 토큰 성능에 대한 요구도 증가하고 있다는 점도 주목했다.
제프 클라크 부회장은 “모델당 학습 비용이 증가했음에도 파운데이션 모델 수는 증가하고 있다”며 “토큰당 비용은 지난 4년간 크게 줄었다. 새로운 모델의 등장마다 토큰당 비용은 1만배씩 감소하고 있다”고 설명했다. 또한 “에이전틱 AI는 모든 것의 정답”이라며 “2028년에 이르면 생성형 AI와의 상호작용 대부분은 에이전트와 이뤄질 것이다”라고 말했다. 이 외에도 “이제 생성형 AI는 프로덕션 단계로 가서 실질적인 비용 효율 효과를 만들고 있다”고 덧붙였다.
제프 클라크 부회장은 이 자리에서 지난 2년간 델의 ‘생성형 AI’로의 여정을 소개하며 “지금까지 델이 겪은 여정의 경험이 델의 ‘AI 팩토리’에 녹아들어 있다”고 소개했다. 제프 클라크 부회장은 “시작 당시에는 충격적이었다. 생성형 AI 관련 프로젝트는 900개 이상 난립하고 있었고 관리 정책은 느슨했다. 우리는 이 생성형 AI를 챗봇 정도로 혼동하고 있었다”며 “최신 기술과 자금 지원을 받았지만 제대로 활용하지 못했고 제어도 잘 되지 않았다”고 말했다.
델은 이 여정을 ‘구조 정립’에서부터 시작했다. 최고 AI 책임자를 선임하고 모든 작업을 신속한 90일 정도의 프로젝트로 빠르게 시도했다. 이러한 과정을 통해 ‘생성형 AI’는 결국 ‘데이터’고, 분산된 데이터를 통합, 연결해야 한다는 것을 배웠다. 제프 클라크 부회장은 “이후 AI 데이터 아키텍처를 정의하고 전사적인 데이터 메시를 구축한 뒤 생성형 AI 운영 전략을 수립했다. 이는 ‘AI 팩토리’의 초기 형태가 됐고, 우리를 위한 솔루션이 됐다”고 밝혔다.
생성형 AI로의 여정에서 중요한 가치에 대한 기준으로는 프로세스의 단순화와 표준화, 자동화를 꼽았다. 데이터는 큰 절제력을 가지고 훈련시켜서 주요 사용 사례에 연결되게 했다. 제프 클라크 부회장은 “생성형 AI가 발전하면서 핵심 데이터세트의 통합이 가능해졌고, 이후 의미있는 결과를 발굴할 수 있었다”며 “이제 델의 모든 서비스 팀 요원에 ‘어시스턴트’가 생겼다. 이를 통해 서비스 담당자들이 더 빨리 더 많은 문제를 정확하게 해결했고 재파견율이 낮아졌으며 고객 만족도도 높았다”고 밝혔다. 이어 “비용적으로도 3개월만에 투자수익률(ROI)을 달성했다”고 말했다.
제프 클라크 부회장은 “생성형 AI는 파괴적인 기술 혁신이 될 것”이라며 몇 가지 조언을 제시했다. 가장 먼저 ‘지금 대응하지 않으면 이미 뒤쳐진 것’이라며 빠른 시작을 촉구했다. 또한 ‘만능의 접근방식은 없다’는 점과 ‘최신 고성능 기술이나 지표 등이 없이도 시작할 수 있다’고 제시했다. 이와 함께 ‘속도’와 ‘데이터 제어’의 중요성을 강조했고 투자 회수는 수 개월 만에 가능할 것이라 말했다.
한편, ‘에이전틱 AI’에 대해서는 ‘AI를 기반으로 자율적 의사결정을 내리고 목표 달성을 위한 행동을 하는 소프트웨어’라 정의하며 “앞으로 사람의 역할은 에이전트의 결정과 행동을 관리하는 것이 될 것”이라 제시했다. 또한 “AI 에이전트의 활용은 사람이 더 큰 성과와 경계를 넘는 협업을 구현할 수 있게 해 준다”며 “인간과 에이전트가 함께 일하고 상호 작용함으로써 무한한 가능성을 기대할 수 있다”고 말했다.
AI 위한 데이터 플랫폼과 인프라 구성 위한 신기술 대거 공개
아서 루이스(Arthur Lewis) 델 테크놀로지스 ISG(Infrastructure Solutions Group) 사장은 이 자리에서 “델은 다음 물결의 혁신을 목격하는 것이 아니라 직접 만들어가고 있다”며 “데이터 인텔리전스를 정립하고, 복잡함을 명확함으로 바꾸는 것에 집중하고 있다”고 밝혔다. 이어 “지금 우리에게는 다양한 방식과 새로운 아키텍처가 필요하다”며 “AI의 과제를 최대한 끌어내는 것이 중요한 과제다”라 제시했다.
델의 새로운 ‘AI 데이터 플랫폼’은 복잡한 대규모 데이터 워크플로우를 관리할 수 있고, AI를 우선으로 고려한 빠르고 확장 가능한 스토리지를 목표로 한다. 이 플랫폼의 기반에는 델의 파워스케일, 오브젝트스케일 등의 스토리지 솔루션이 있다. 아서 루이스 사장은 “파워스케일은 이전 세대 대비 두 배 향상된 노드당 최대 3페타바이트(PB) 용량 제공이나 파이프라인 자동 적재 기능, 고급 검색 기능 등을 탑재하는 등 지속적으로 발전시키고 있다”고 소개했다. 또한 “오브젝트스케일은 업계 최고 수준의 처리량과 엑사바이트 규모까지 선형적 확장성 등을 갖춰 AI 환경에서 뛰어나다”고 밝혔다.
델의 AI 데이터 플랫폼을 위한 새로운 병렬 파일 시스템 ‘프로젝트 라이트닝(Project Lightning)’도 중요한 요소로 꼽혔다. 아서 루이스 사장은 “프로젝트 라이트닝은 기존 대비 최대 두 배 더 높은 데이터 처리량과 67% 높은 접근 속도를 제공한다”며 “대규모 환경 병목을 제거하는 AI용 슈퍼 하이웨이다”라고 소개했다. 특히 이 ‘프로젝트 라이트닝’은 대규모의 에이전틱 AI 환경 등에서 효과가 크며 추론 모델의 지연시간을 80% 이상 단축시키고 토큰 성능도 100배 향상시킬 수 있다고 제시했다.
기업의 전체 데이터에 통합된 방법으로 접근을 가능하게 하는 ‘델 데이터 레이크하우스(Dell Data Lakehouse)’도 기능이 향상됐다. 주목할 만한 기능으로는 조직 전체 데이터를 검색, 처리, 분석할 수 있는 ‘연합 쿼리 엔진(Federated Query Engine)’이나 에이전트 기반 데이터 오케스트레이션 제공 등이 꼽혔다. 델 데이터 레이크하우스는 이러한 기능 향상을 통해 AI 워크플로우를 간소화하고 다양한 AI 활용 사례 적용을 가속화할 수 있다고 소개됐다.
델의 ‘AI 팩토리’는 긴밀하게 통합된 폭넓은 제품 포트폴리오 뿐만 아니라 강력한 파트너 생태계도 중요한 특징으로 꼽힌다. 델은 이번 ‘DTW 2025’ 행사를 통해 기업 및 기관들이 기존 IT 환경에 간단하고 빠르게 통합 맞춤형 솔루션을 적용할 수 있게 하는 새로운 협력 확대 사례를 발표했다.
먼저, 델은 구글과 협력해 제미나이 모델 및 구글 분산형 클라우드(Distributed Cloud)를 델 파워엣지 XE9680 및 XE9780 서버와 AI 팩토리 포트폴리오를 기반으로 온프레미스 환경에 구축, 활용할 수 있게 제공한다고 소개했다. 이를 통해 최고 수준의 보안과 데이터 제어권을 유지하면서 고급 AI 기능들을 활용할 수 있게 했다.
또한 델은 코히어(Cohere)와의 협력을 통해 ‘코히어 노스(Cohere North)’의 온프레미스 제공을 처음으로 선보인다고 밝혔다. 이를 통해 다양한 데이터 원본을 통합하는 동시에 운영에 대한 제어권을 보장하면서 지능적이고 자율적인 워크플로우를 구현할 수 있다. 에이단 고메즈(Aidan Gomez) 코히어 CEO는 이 자리에서 “이번 협력을 통해 코히어 노스 플랫폼을 데이터가 있는 위치에서 직접 사용할 수 있게 제공할 수 있게 됐다. 이를 통해 데이터를 온프레미스에서 안전하게 관리하고 투명하게 유지할 수 있게 됐다”고 설명했다.
이 외에도 델은 메타의 최신 라마 스택(Llama Stack) 배포판 및 라마 4(Llama 4) 모델을 사용해 델 AI 솔루션과 함께 에이전트 기반의 엔터프라이즈 AI 애플리케이션을 프로토타이핑하고 구축할 수 있게 했다고 발표했다. ‘글린(Gleen)’과는 델 AI 인프라 솔루션을 통합해 글린의 ‘워크 AI(Work AI)’ 플랫폼을 위한 최초의 온프레미스 배포 아키텍처를 발표했으며 ‘미스트랄AI(Mistral AI)’와 공동 설계한 솔루션으로 안전하고 맞춤화된 AI 애플리케이션 및 지식 관리 워크플로우 구축과 배포를 지원한다.
기업의 IT 인프라 또한 지속적인 ‘현대화’가 필요하다. 델은 최신 워크로드 환경에 적합한 ‘모덴 데이터센터’에 필요한 점으로 ‘분리형’ 아키텍처로의 변화와 특정 기업이나 기술에 대한 종속성을 막고 유연성을 확보하는 것 등을 꼽았다. 이를 통해 여러 클라우드 운영환경 간 유연한 전환 가능성과 컴퓨트와 스토리지의 독립적 확장을 통한 비용 최적화 등을 기대할 수 있다.
데이터센터 현대화를 위한 델의 ‘파워스토어(PowerStore)’ 스토리지는 지난 3분기간 두 자리 수 수준의 성장을 지속해 왔고 글로벌에 1만7000여 고객을 확보한 것으로 소개됐다. 델은 이 자리에서 파워스토어 제품군에 ‘랜섬웨어 정밀 탐지(Advanced Ransomware Detection)’ 기능을 추가해, 정밀 AI 분석으로 데이터 무결성을 검증하고 랜섬웨어 공격으로 인한 다운타임을 최소화할 수 있게 제공한다고 발표했다. 이 기능은 2025년 하반기 제공 예정이다.
또한 델은 데이터센터의 회복탄력성을 높이는 ‘델 파워프로텍트 데이터 도메인 올플래시 어플라이언스’를 선보인다고 발표했다. 델은 이 제품에 대해 “기존 대비 최대 4배 빠른 데이터 복원과 2배 빠른 복제 성능으로 사이버 회복탄력성을 높였다. 또한 하드 드라이브 기반 시스템보다 랙 공간을 40% 적게 차지하고, 전력은 최대 80%까지 절감할 수 있다”고 소개했다.
델은 분리형 인프라 아키텍처를 기반으로 프라이빗 클라우드를 구축하는 새로운 방식을 제시하는 ‘델 프라이빗 클라우드(Dell Private Cloud)’도 발표했다. 이는 분리형 인프라 아키텍처에서 기존의 투자를 보호하면서 원활한 통합을 가능하게 하고, 간소화된 중앙집중식 관리 등을 지원한다. 델은 ‘델 프라이빗 클라우드’가 ‘델 자동화 플랫폼’을 기반으로 제공되며, 수동 프로세스 대비 90% 더 적은 단계로 프라이빗 클라우드 스택을 프로비저닝할 수 있고, 수작업 없이 2시간 30분만에 클러스터를 구축할 수 있다고 소개했다.
라스베이거스=권용만 기자
yongman.kwon@chosunbiz.com
고객님만을 위한 맞춤 차량