NVIDIA 如何通过全栈协同设计应对 AI 的内存挑战

NVIDIA 通过协同设计 GPU、CPU、网络、存储和软件，优化 AI 工厂各层内存的使用效率，以应对模型变大、上下文增长带来的 GPU 内存压力。从 NVIDIA Blackwell Ultra 到 Vera Rubin 平台，单 GPU 的 HBM 容量约增长 3%，SemiAnalysis AgentX 上每美元智能体吞吐量最高提升 30 倍。