跳到正文
热点事件持续更新

百度发布开源基础模型 ERNIE 5.5 Flash Base

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

百度发布了未经微调或后训练的开放基础模型 ERNIE-5.5-Flash-Base,权重以 FP8 和 BF16 格式开放在 Hugging Face。模型采用 MoE 架构,总参数量为 2800 亿,每次输入激活 140 亿参数;它以 33.5 万亿 tokens 预训练,训练上下文长度最高为 12.8 万 tokens,并设计为在微调和推理时支持最高 100 万 tokens。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. The Decoder
    百度发布280B参数的开源基础模型 ERNIE 5.5 Flash Base

    百度发布 ERNIE-5.5-Flash-Base,这是一款未经过微调或后训练的开放基础模型,采用 MoE 架构,总参数量为280B,每次输入激活14B参数。模型使用33.5万亿 tokens 进行预训练,训练上下文长度最高为128,000 tokens,并设计为在微调和推理时支持最高1,000,000 tokens;权重以 FP8 和 BF16 格式发布在 Hugging Face。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。