엔비디아·AMD·인텔, ‘AI 렌더링’으로 게이밍 성능 경쟁 [AI PC 2026]

인공지능(AI) 수요 확대가 메모리 가격을 끌어올리면서 PC 업그레이드 부담이 커졌고, 데이터센터용 그래픽처리장치(GPU) 수요 증가로 게이밍 그래픽카드 공급도 압박받고 있다. 이에 따라 올해 시장 전반에서는 고성능 그래픽카드 공급이 크게 줄고, 메모리 부담이 상대적으로 덜한 메인스트림 급 그래픽카드들 위주로 시장에 공급될 것이라는 전망도 나온다.

이러한 상황 속에서 게이밍 그래픽을 위한 새로운 돌파구로 ‘AI 렌더링’의 가치가 더 높아질 것으로 보인다. 엔비디아의 DLSS나 AMD의 FSR, 인텔 XeSS 등의 기술은 GPU의 AI 역량을 사용해 픽셀과 프레임을 생성해 렌더링 부담을 줄이고 체감 성능을 높인다. 엔비디아와 AMD, 인텔 모두 최근 이러한 그래픽 기술들의 최신 업데이트를 발표하며, 기존 하드웨어에서 사용자가 얻을 수 있는 가치와 경쟁력을 높인 점도 주목할 만한 부분이다.

엔비디아 ‘DLSS 4.5’는 최신 메인스트림 급 카드들에 큰 도움을 줄 것으로 기대된다. / 권용만 기자

엔비디아 ‘DLSS 4.5’, 화질 개선과 ‘6배 프레임 생성’ 제시

엔비디아는 올해 PC를 위한 새로운 GPU를 내놓을 계획이 없는 것으로 알려졌다. 하지만 기존 지포스 RTX 50 GPU의 효용성을 높일 업그레이드로 ‘DLSS 4.5’를 공식 발표했다. 이 업그레이드는 이론적으로는 지포스 RTX 시리즈 전체에서 활용이 가능하지만 현실적으로는 지포스 RTX 50 시리즈 모델에서 모든 기능을 활용할 수 있다. 지난 15일부터 드라이버와 앱 업데이트가 본격 배포되기 시작했고, 기존 DLSS 4 지원 게임에 드라이버 설정으로 임의 적용도 가능하다.

젠슨 황 엔비디아 CEO는 게이밍 그래픽 관련 이야기가 나올 때마다 “그래픽의 미래는 뉴럴 렌더링”이라고 언급하는데, 이 때의 뉴럴 렌더링이 DLSS를 가리킨다. 현재 엔비디아의 지포스 RTX GPU는 그래픽 처리를 위한 쉐이더와 쿠다(CUDA)코어, AI를 위한 텐서 코어, 레이 트레이싱을 위한 RT 코어가 함께 있는데 전통적인 래스터 그래픽 처리에서는 텐서 코어와 RT 코어를 제대로 활용하지 않는다. 하지만 DLSS에서 프레임 생성까지 모두 활용하면, 크게는 렌더링 대 생성 워크로드의 비중이 1:15까지 벌어지며 그래픽 연산의 중심이 바뀐다.

지포스 RTX 50 시리즈와 함께 발표된 ‘DLSS 4’에서는 핵심 기능인 업스케일링 기반 모델을 CNN(합성곱 신경망) 기반에서 트랜스포머 기반으로 바꾸고, 프레임 생성 기능은 1프레임 렌더링에서 3프레임을 생성해 낸 ‘4X 멀티 프레임 생성’ 기능을 선보였다. 쉐이더 연산과 레이 트레이싱에도 AI 모델을 적용해 처리 성능과 효율을 대폭 끌어올릴 수 있게 했다. 이를 활용하면 엔비디아가 제시했던 ‘지포스 RTX 4090 성능의 RTX 5070’도 현실화될 수 있고, 지포스 RTX 5060급 모델에서도 풀HD급 이상 해상도에서의 충분한 성능 확보가 가능하다.

새로운 ‘DLSS 4.5’에서 눈에 띄는 변화는 업스케일링에서의 ‘2세대 트랜스포머’ 모델과 ‘6배 프레임 생성’이다. 2세대 트랜스포머 모델은 지포스 RTX 50 시리즈의 FP8 데이터 규격을 적극 활용해 데이터 셋 크기를 키우면서도 모델 크기의 부담을 최소화했다. 이를 통해 장면에 대한 맥락 인식 기능이 향상되고 픽셀 샘플링과 모션 벡터를 지능적으로 활용해 업스케일링 품질을 높였다.

엔비디아는 업스케일링 품질 향상에 대해 50% 렌더링 해상도 비율의 ‘퍼포먼스’ 모드가 100% 해상도의 네이티브 화질에 견줄 수 있고, 33% 렌더링 해상도 비율의 ‘울트라 퍼포먼스’ 모드도 4K 게이밍에서 실용적인 화질을 확보할 수 있다고 제시한다. 성능에서는 조금 하락이 있는데, 지포스 RTX 50, 40 시리즈에서는 FP8의 하드웨어 지원으로 5% 정도 하락에 그치지만, FP8을 하드웨어 지원하지 않는 RTX 30, 20 시리즈는 이전 대비 30% 이상 성능 하락이 나타나는 것으로도 알려졌다.

멀티 프레임 생성 기술은 이제 4배를 넘어서 ‘6배’까지 올라갔다. 이제는 한 프레임을 생성할 때 5프레임을 생성하며, DLSS 퍼포먼스 모드를 사용하면 실제 렌더링한 픽셀 대 생성된 픽셀의 비율은 1:23까지 벌어진다. 엔비디아는 6배 멀티 프레임 생성이 4배 대비 패스 트레이싱 적용시 4K 해상도에서 최대 35%까지 높아진다고 제시했다. 또한 ‘동적 프레임 생성’ 기능은 모니터의 주사율 등 목표에 맞춘 동적 프레임 생성을 제공한다.

‘DLSS 4.5’ 업데이트는 지포스 RTX 50 시리즈 중에서도 상대적으로 접근이 용이한 가격대인 ‘RTX 5060’ 제품의 매력을 높여 줄 것으로 기대한다. 지포스 RTX 5060급 제품의 성능은 전통적인 래스터 기반 그래픽에서 ‘1080p FHD’급이지만 DLSS와 프레임 생성을 적극적으로 활용하면 2560x1440 QHD급 해상도까지도 충분히 실용적인 성능을 확보할 수 있기 때문이다. 올해 고성능 그래픽카드의 수급 전망이 밝지 않은 상황에서 최신 게이밍을 위한 현실적인 대안으로 DLSS의 기능, 성능 향상을 주목할 필요가 있다.

AMD ‘FSR 레드스톤’ 업데이트, 최신 ‘RX 9000 시리즈’에만 혜택

AMD 또한 지난 12월 기존 FSR 기술의 ‘레드스톤(Redstone)’ 업데이트로 기능과 성능을 대폭 높였다. FSR 레드스톤 업데이트는 최신 RDNA 4 아키텍처의 매트릭스 코어를 적극적으로 활용하는 ‘FSR 4’를 바탕으로 머신러닝 기반 프레임 생성과 레이 재생성(Ray Regeneration), 래디언스 캐싱(Radiance Caching) 등의 기능이 추가됐다. 이전 FSR 3대까지는 다양한 GPU에서 지원 가능했지만 FSR 4 이후부터는 매트릭스 코어를 적극적으로 활용하게 되면서 ‘라데온 RX 9000 시리즈’ 이외에서는 제대로 효과를 내기 어려운 점은 아쉽다.

‘FSR 레드스톤’ 업데이트의 가장 큰 차별점은 업스케일링 뿐만 아니라 프레임 생성과 레이 재생성, 래디언스 캐싱 등에까지 모두 RDNA 4 아키텍처의 매트릭스 코어를 활용한 머신러닝 연산으로 구현한다는 것이다. 업스케일링이나 프레임 생성을 일반 GPU 연산 유닛으로 구현했던 이전 FSR 3 기술 대비로는 기능과 성능 모두 제법 큰 향상이 있었다. AMD는 라데온 RX 9070 XT GPU에서 ‘콜오브듀티 블랙옵스 7’을 4K에 레이 트레싱을 모두 적용하면 초당 23프레임이 나오지만, 여기에 업스케일링과 프레임 생성, 레이 재생성을 모두 적용하면 성능이 4.7배 높은 109프레임까지 오른다고 제시했다.

하지만 RDNA 4 아키텍처의 매트릭스 코어를 이용하게 되면서 FSR 레드스톤은 오픈소스지만 하드웨어 종속적인 면을 가지게 됐다. 이 부분은 엔비디아의 DLSS나 인텔의 XeSS도 비슷한 측면을 가지고 있지만, 최신 세대 ‘RDNA 4’만 지원한다는 점에서 아쉬운 모습이다. 특히 최신 프로세서 내장 그래픽 ‘RDNA 3’ 계열을 지원하지 않아 노트북 PC 시장에서 경쟁력 강화에 도움을 주지 못하는 상황이다. 상대적으로 인텔은 XMX가 지원되는 이전 세대 아크 그래픽과 프로세서 내장 그래픽까지도 최신 XeSS를 지원한다.

머신러닝 기반 기술로 품질을 높였지만, 여전히 프레임 생성이 ‘단일 프레임 생성’ 인 점도 조금은 아쉽다. 이미 엔비디아는 4배, 6배 다중 프레임 생성을 선보였고 인텔도 4배 다중 프레임 생성을 선보인 상태다. 인텔은 이 ‘4배 다중 프레임 생성’을 최신 코어 울트라 시리즈 3 X-시리즈 프로세서 탑재 시스템에 적용해 게이밍 노트북급 성능 경쟁력을 선보이기도 했다.

인텔 XeSS, 프로세서 내장 그래픽에서도 ‘멀티 프레임 생성’ 지원

인텔은 지난 9월 개최한 ‘인텔 테크 투어’ 행사에서 코어 울트라 시리즈 3로 발표된 ‘팬서 레이크(Panther Lake)’의 기술 세부 사항을 발표하면서 XeSS-MFG(Multi-Frame Generation)’ 기술을 소개한 바 있다. 이 기술은 엔비디아의 ‘DLSS 4 MFG’와 마찬가지로 한 프레임을 렌더링할 때 3개 프레임을 AI 모델로 생성해 프레임 출력 성능을 최대 4배까지 끌어올린다. 인텔의 XMX(Xe Matrix Extensions) 지원 GPU에서 사용할 수 있어, 하드웨어 지원 폭도 상대적으로 넓은 편이다.

인텔의 XeSS는 기술적, 전략적으로 엔비디아의 DLSS와 AMD의 FSR 사이에 위치하는 모습이다. 엔비디아의 GPU를 위한 독점 기술인 DLSS와 달리 XeSS는 FSR처럼 인텔 뿐만 아니라 엔비디아와 AMD의 하드웨어에서도 범용 연산 유닛을 통한 사용도 가능하다. 그럼에도 XeSS는 기술 초기부터 인텔 아크 그래픽의 XMX를 활용한 AI 연산을 먼저 도입해 성능과 품질 측면을 강화했다. AMD의 FSR 레드스톤과 비교하면 XeSS는 XMX 기반 프레임 생성 등의 기능을 이전 세대 하드웨어에서 제공한다는 점에서 차별점이 있다.

인텔은 이미 지난 해 아크 B-시리즈 그래픽과 코어 울트라 시리즈 2의 발표에서 주요 내·외장 GPU에서 프레임 생성 기능을 제공한 바 있다. 인텔의 GPU 중 XMX가 지원되는 모델은 외장 전 모델, 내장에서는 코어 울트라 시리즈 2의 H-시리즈와 V-시리즈, 코어 울트라 시리즈 3 등이 있다. 향후 ‘XeSS-MFG’도 XMX가 탑재된 GPU로 지원이 확장될 것으로 보인다. 인텔 관계자는 “향후 XeSS-MFG는 XMX가 탑재된 기존 아크 GPU들까지 지원이 확장될 것”이라 언급했다.

인텔의 XeSS-MFG 기술이 가장 먼저 도입될 플랫폼은 28일부터 본격적으로 판매에 들어갈 ‘코어 울트라 시리즈 3’의 내장 GPU가 될 것으로 보인다. 이미 인텔은 코어 울트라 시리즈 3를 발표한 CES 2026에서 주요 게임의 4배 프레임 생성 적용을 시연했다. XeSS-MFG는 기존 XeSS-FG가 적용된 게임에서 드라이버 설정 변경으로 직접 적용도 가능해, 게임 개발사들의 멀티 프레임 생성 기능 지원을 기다릴 필요도 없다.

인텔의 XeSS-MFG 기술은 단기적으로는 코어 울트라 시리즈 3의 그래픽 경쟁력을, 장기적으로는 인텔의 외장 그래픽 제품군까지도 경쟁력을 제법 높여줄 것으로 기대된다. 노트북 PC 시장에서 경쟁 관계인 AMD의 RDNA3 기반 내장 그래픽과 비교하면, XeSS-MFG를 사용한 인텔의 내장 그래픽은 실제 사용자가 누릴 수 있는 성능에서 큰 차이를 보인다. 고성능 외장 그래픽을 사용하기 여의치 않은 현재 시장 상황에서, XeSS 기술의 경쟁력은 인텔 프로세서 기반 제품 경쟁력에 있어서도 더 중요한 의미를 가지게 될 것으로 기대된다.

권용만 기자

yongman.kwon@chosunbiz.com