Hugging Face Blog·· 2 天前精选AI 评分67
Hugging Face 推出查询模型能否在 AWS Trainium 上运行的 Space
Does Your Model Run on AWS Trainium? Look It Up
AI 导读
Hugging Face 推出 torch-neuronx model support Space,可查询热门 Hub 模型能否在 AWS Trainium 上运行,并提供测试结果和复现脚本。测试目前覆盖 Transformers 的文本生成与图文转文本模型,最多使用 4 台 Trainium2 设备;PASS 仅表示短生成通过检查,不代表吞吐表现。
推荐理由
该 Space 将模型在 Trainium 上的兼容结果、运行脚本和测试条件放在同一处,便于区分可运行性与吞吐表现。
来源:Hugging Face Blog · huggingface.co