Hugging Face Blog·· 2 小时前精选AI 评分75
Ai2 如何为 GPU 集群设计高影响力调度机制
Impactful scheduling for GPU clusters
AI 导读
Ai2 的 AI 基础设施团队用 GPU 时间预算、层级公平份额分配和时间切片合约,取代基于优先级的调度器,以便优先支持高影响力研究并保持集群高占用。上线 30 天后,团队获得了应得 GPU 时数的 98%,集群占用率维持在 98%;debug workload 的 p90 排队时间从 2 小时降至 30 秒,需要人工介入的维修减少了 74%。
推荐理由
文章拆解了从优先级调度转向 GPU 时间预算、层级公平份额和时间切片的设计,并用集群数据呈现其对等待时间、占用率与运维负担的影响。
来源:Hugging Face Blog · huggingface.co