技术方向
把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
85 条精选近 30 天 80 条共收录 169 条
GitHub 将 Copilot 智能体运行时从 TypeScript 迁移为 Rust，项目主要由 AI 智能体编写代码，并通过 128 个 pull request 分批合入和发布。运行时最终包含 832,378 行生产 Rust 代码，迁移期间发布了 135 个版本；作者还介绍了原地替换策略、测试验证以及多智能体协作中的协调经验。
推荐理由：文章以运行时迁移为例，结合渐进式替换、测试和发布数据，呈现了用智能体协作完成大型代码迁移的具体做法。
Microsoft Research 发布 Skala 1.1，并宣布其已接入 CP2K，正集成至 Psi4、FHI-aims、ORCA 和 VASP。Skala 1.1 的训练数据量是首个公开版本的 2.5 倍，在 GMTKN55 的 55 个类别中有 32 个排名第一，平均加权误差为 2.8 kcal/mol；团队还发布了跟踪不同版本和软硬件平台计算性能的持续更新报告。
推荐理由：Skala 1.1 的精度提升与多软件集成同步推进，文中还介绍了持续更新的性能报告，呈现其走向计算化学工作流的路径。
Mistral推出Agentic Search检索层，让AI系统能够跨数据源搜索、浏览和核验复杂文档，并报告其在FinanceBench和OfficeQA Pro上的准确率提升。
推荐理由：文章用 FinanceBench 与 OfficeQA Pro 对比单轮 RAG，展示迭代检索和文档导航对准确率、延迟与 token 消耗的影响。
Mistral 宣布三项推进 AI 主权的举措，包括增强区域推理与服务可靠性、支持第三方开放模型，以及汇集企业和机构承诺以保障欧洲长期算力。Mistral Regional Endpoints 已全面开放，客户可选择在欧洲或美国进行推理；Mistral Priority Tier 处于公开预览阶段，为关键任务提供承诺服务等级和正常运行时间 SLA。
推荐理由：文章把区域推理、第三方开放模型接入与欧洲算力承诺放在同一框架中，具体说明了企业获得区域合规和模型选择的路径。
Berkeley AI Research 团队为 K-Search 增加 MLX 后端和 CUDA-to-MLX 翻译层，使其能将现有 CUDA 内核作为知识基础，为 Apple Silicon 搜索优化内核。
推荐理由：文章拆解了 CUDA 优化知识迁移到 MLX 的结构化做法，并用 Attention 与 Mamba SSM 两类内核的实测数据展示其性能差异。