跳到正文
热点事件持续更新

DeepSeek 开源推理框架 DeepInfer

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

DeepSeek 将内部推理框架 DeepInfer 以 Apache License 2.0 开源,用于支持 V4.1-Flash 模型快速、大规模生成回答。该框架基于 vLLM,包含优化计算内核、多芯片分布式处理和加速文本生成技术。 DeepSeek 还发布了 deepseek-recipe,用于复现官方 API 的 token 处理方式。

AI 根据报道生成 · 1 小时前更新

最新进展10月21日 02:56
DeepSeek 开源推理框架 DeepInfer

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. The Decoder
    DeepSeek 开源推理框架 DeepInfer

    DeepSeek 将内部推理框架 DeepInfer 以 Apache License 2.0 开源,用于让 V4.1-Flash 模型快速、大规模地生成回答。该框架基于 vLLM,包含优化计算内核、多芯片分布式处理和加速文本生成技术;DeepSeek 还发布了 deepseek-recipe,以复现官方 API 的 token 处理方式。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。