跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

42 条精选近 30 天 38 条共收录 92 条

更新

精选归档 · 第 3 页

8月11日周二第 41–42 条
  1. Mistral AI73

    Mistral 推出区域推理端点、优先服务等级并扩展第三方开放模型支持

    Mistral 宣布三项推进 AI 主权的举措,包括增强区域推理与服务可靠性、支持第三方开放模型,以及汇集企业和机构承诺以保障欧洲长期算力。Mistral Regional Endpoints 已全面开放,客户可选择在欧洲或美国进行推理;Mistral Priority Tier 处于公开预览阶段,为关键任务提供承诺服务等级和正常运行时间 SLA。

    推荐理由:文章把区域推理、第三方开放模型接入与欧洲算力承诺放在同一框架中,具体说明了企业获得区域合规和模型选择的路径。

7月29日周三