Hugging Face Blog·· 2 小时前AI 评分53
VocabX 通过专用词表将实际应用推理成本降低 77%
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
AI 导读
Dharma AI 介绍 VocabX，一种面向领域专用语言模型的词表调整方法；在葡萄牙语作文评分器中，它在不改变 Qwen3-4B 基础模型和训练方案的情况下，将平均响应从 350 个 token 降至 101 个 token，实测推理成本降低 77.0%。
来源：Hugging Face Blog · huggingface.co