Hugging Face Blog·· 21 小时前精选AI 评分77
Hugging Face推出TorchNeuron,原生支持AWS Trainium
TorchNeuron: running HF models on AWS Trainium is easier than ever
AI 导读
Hugging Face推出TorchNeuron,这是面向AWS Trainium的PyTorch原生后端,将于2026年10月20日开放公测。Transformers、Diffusers、Accelerate、PEFT和TRL可直接使用该后端;文中称,TorchNeuron开箱支持最常用的前100种文本生成模型架构中的89%,Optimum Neuron v0.4.5为46%。
推荐理由
TorchNeuron将Trainium接入PyTorch原生设备体系,并给出推理、训练与Diffusers示例,便于了解HF库在该硬件上的使用方式。
来源:Hugging Face Blog · huggingface.co