跳到正文
Hugging Face Blog·· 21 小时前精选AI 评分77

Hugging Face推出TorchNeuron,原生支持AWS Trainium

TorchNeuron: running HF models on AWS Trainium is easier than ever

AI 导读

Hugging Face推出TorchNeuron,这是面向AWS Trainium的PyTorch原生后端,将于2026年10月20日开放公测。Transformers、Diffusers、Accelerate、PEFT和TRL可直接使用该后端;文中称,TorchNeuron开箱支持最常用的前100种文本生成模型架构中的89%,Optimum Neuron v0.4.5为46%。

推荐理由

TorchNeuron将Trainium接入PyTorch原生设备体系,并给出推理、训练与Diffusers示例,便于了解HF库在该硬件上的使用方式。

来源:Hugging Face Blog · huggingface.co