엔비디아는 GTC 2026을 앞두고 AI 분야의 중점이 ‘얼마나 빠르게 학습할 수 있는가’에서 ‘얼마나 잘 서비스할 수 있는가’로 전환되고 있음을 강조했습니다. 과거 학습 단계가 현대 AI 시대를 열었다면, 이제 적절한 추론 단계에서 실제 수익 창출이 발생하고 있음이 주목됩니다.

제이슨 황은 최근 실적 발표에서 엔비디아가 Groq의 디코더 기술을 활용해 지연시간이 낮은 추론 시스템을 한층 강화하겠다는 계획을 암시했으며, GTC에서 그 구체적인 내용을 발표할 것이라 전했습니다. 이는 구조적 호환성을 유지하면서도 성능 향상 및 비용 효율성을 극대화하려는 노력의 일환입니다.

‘The Inference Engine’ 패널 논의에서는 추론 시장이…  더보기