"거버넌스·최적회된 데이터레이어가 AI 프로젝트 성패 좌우"

[디지털투데이 황치규 기자]IT인프라 기업 델테크놀로지스의 존 로즈 CTO가 2026년 엔터프라이즈 AI 시장에서 주목해야할 트렌드를 5가지로 키워드로 공유했다.

존 로즈 CTO는 11일 델테크놀로지스가 아테지역 미디어를 상대로 진행한 온라인 기자 간담회를 통해 거버넌스, AI에 최적화된 날리지 레이어(knowledge layer), AI에이전트, AI팩토리 회복 탄력성, 소버린AI를 2026년 기업들이 관심을 가져야할 이슈로 꼽았다.

거버넌스와 관련해 로즈 CTO는 "기업과 국가 모두 거버넌스 구조를 확립하고 우선순위를 정하는 것이 중요하다. 2026년 AI 확산에 중요한 것은 명확한 규칙 확립하는 것이다"고 강조했다.

그에 따르면 거버넌스는 기업 외부와 내부로 나눠진다. 대외 거버넌스는 정부 차원에서 프레임워크를 만들고 기업들이 이를 분명하게 이해하고 협력할 수 있는 환경이 중요하다. 로즈 CTO는 "정부들이 최선을 다하고 있지만 AI 대외 거버넌스는 아직 파편화돼 있고 혼란스럽다"면서 "정부 기관과 기업이 협력해 합리적인 프레임워크를 만들 필요가 있다"고 말했다.

기업 내부 거버넌싀 경우 우선순위를 정하는 것이 중요하다. 로스 CTO는 "우선순우가 명확해야 투자 대비 효과(ROI)를 제대로 실현할 수 있다. 올바른 프로젝트를 제대로 완성해 운영단계로 들어가는게 무엇보다 중요하다"고 말했다.

AI 컴퓨팅을 넘어 AI가 기업 데이터를 제대로 활용할 수 있는 환경도 중요한 요소로 꼽혔다.

로즈 CTO는 "2025년은 GPU와 AI PC를 어떻게 도입하는지 등 AI 컴퓨팅이 중요했지만 AI를 운영에 활용하는 시점에선 컴퓨팅 외에 AI에 쓰이는 데이터가 더 중요하다. 기업 시스템에 있는 데이터를 AI가 그냥 쓸 수 있다고 생각하지만 사실은 그렇지 않다. 벡터DB, 날리지 그래프 등 다른 레이어로 옮기는 툴과 고도화된 스토리지 역량도 필요하다"고 말했다.

AI에이전트와 관련해 존 로스 CTO는 자율 에이전트를 강조했다.

그는 "많은 이들이 에이전트라 하는 것은 에이전트가 아니라 고도화된 챗봇이나 프롬프트인 경우가 많다. 자율형 AI에이전트는 낼 내부에서도 쓰기 시작했는데, LLM 기능보다 훨씬 고도화된 것이다. LLM이 아니라 소프트웨어 시스템이다. 자율 에이전트는 LLM에 없는 지식도 결합해 LLM보다 똑똑하게 행동할 수 있다. LLM과 날리지 레이어에서 날리지 레이어를 통해 에이전트에 특별한 지식과 기억을 제공할 수 있다"면서 "자율 에이전트는 단순한 챗봇이나 자동화가 아니다. 에이전트가 조직에 내재화되면서 일하는 방식을 바꿀 것이다. 내년에는 AI에이전트가 훨씬 더 많은 일을 해줄 것이다"고 말했다.

자율 에이전트를 지원하는 기반 기술로 최근 MCP(Model Context Protocol)와 A2A(Agent2Agent)에 대한 관심이 커지고 있다. 로즈 CTO는 "에이전트는 세상과 상호 작용해야 한다. MCP를 통해 외부 데이터에 접근해 활용할 수 있다. A2A 프로토콜은 에이전트들끼리 통신할 수 있도록 지원한다"고 말했다.

AI 팩토리 회복력의 경우 변화에 유연하고 효율적으로 대응할 수 있는 AI인프라를 구축하는 것이 골자. 로즈 CTO는 "AI 데이터센터를 구축하면서 퍼블릭 클라우드, 소버린AI, 엣지 등 회복력 있는 아키텍처를 만드는 것이 중요하다. AI 워크로드 별로 서로 다른 인프라 필요로 하는 만큼, 온프레미스, 엣지, 클라우드 병행하는 하이브리드 전략이 중요하다. 델은 새로운 개념의 회복력을 구현하는데 있어 확실한 입지를 보유하고 있다"고 말했다.

소버린 AI와 관련해서는 소버린AI를 필요로 하는 영역이 확대되고 있다는 점이 강조됐다. 로즈 CTO는 "소버린AI가 지원해야할 인프라가 계속 확산되고 있다. 로보틱스 AI 등에서 소버린AI는 점점 더 중요해질 것이다"고 말했다.