Agent 隐私与安全中的开放问题与新兴问题:一种情境视角
Google Research 发布《Agent 隐私与安全中的开放问题与新兴问题:一种情境视角》研讨会报告,汇集 50 多位学界和业界人士的合作成果,梳理自主 Agent 面临的隐私与安全挑战。报告以情境完整性理论为基础,提出通过情境策略引擎评估数据流和行动是否恰当,并从系统、模型和用户层面探索多层防护。
Google Research 发布《Agent 隐私与安全中的开放问题与新兴问题:一种情境视角》研讨会报告,汇集 50 多位学界和业界人士的合作成果,梳理自主 Agent 面临的隐私与安全挑战。报告以情境完整性理论为基础,提出通过情境策略引擎评估数据流和行动是否恰当,并从系统、模型和用户层面探索多层防护。
GitHub 推出 ReviewBench 开放基准,用于评测 AI 代码审查智能体,并提供公开数据集、统一评分方法和系统比较入口。基准包含来自 187 个开源许可仓库的 219 个 PR,覆盖 19 种语言,其分布参考了对 103.9M 个 GitHub PR 的分析;资深工程师独立复核标注,判断一致率为 96.6%。
推荐理由:ReviewBench 将真实 PR 分布、多来源标注和专家复核纳入同一评测流程,并用线上实验对照离线信号,为代码审查智能体比较提供可复现依据。
Microsoft 与 Hugging Face 发布 ThinkingBox 和 ThinkingBox-Bench,用数据库终态及副作用评估 AI 智能体是否真正完成业务工作流,并将每项任务独立运行 20 次衡量一致性。
推荐理由:ThinkingBox 将评估焦点从对话和工具调用转向数据库终态,并通过每项任务重复运行衡量一致性,为检验智能体是否可靠完成业务流程提供了可复用基准。
Microsoft Research 研究人员开发了一套机器学习系统,为美国本土 66,935 座变电站预测空间天气风险,可提前 30 至 60 分钟给出位置级风险估计。
Google DeepMind 推出 SynthID Bio,可将可检测的水印嵌入AI生成的蛋白质序列或预测结构,同时保留蛋白质的生物功能。针对VEGF-A、SARS-CoV-2刺突蛋白RBD和PD-L1的湿实验显示,带水印的蛋白质结合体在命中率、结合亲和力和天然序列多样性方面与未加水印版本相当。Google DeepMind还将发布方法论文、开放代码和体外数据,并向研究社区开放模型权重。
推荐理由:SynthID Bio将水印嵌入蛋白质序列或预测结构,并以实验结果说明其检测信号与生物功能可以并存,为识别AI生成生物设计提供验证层。
Google Research 提出 Diffusion Controller,将图像去噪过程建模为连续控制问题,统一图像生成的引导与微调方法。基于 Stable Diffusion v1.4 的实验使用 HPS-v2 评测;轻量附加网络在匹配人类偏好方面优于行业标准,完全解锁版本相较基线模型的胜率为 90%。
ProvenanceGuard 研究提出一种面向 MCP 智能体的生成后核验层,逐条检查回答中的主张是否得到其所指来源的支持,并输出来源判定及整体放行或拦截结果。在医疗智能体测试中,系统从 361 条主张中拦截了专家判定不应通过的 139 条中的 138 条,同时拦截了 67 条专家认为有支持的主张;对可识别来源的主张,来源判断准确率约为 86%。
推荐理由:研究针对MCP智能体把事实归到错误来源的问题,展示逐条核验来源的流程及其在医疗记录数据上的测试结果。
Google Research 介绍一套面向长篇连贯视频生成的多智能体框架,旨在提升多镜头叙事的一致性并减少视觉漂移和流程错误传播。研究包含 Co-Director、CANVAS、A²RD 和 VQQA,分别处理创意编排、视觉连续性、长时序生成与闭环修正。评测中,Co-Director 在 GenAD-Bench 上取得 81.4 的峰值质量分数;其余框架也在文中列出的多个基准上展示了相应改进。
推荐理由:文章将长视频生成拆解为创意编排、视觉分镜、时序延展和闭环修正四类问题,并说明各框架如何应对连续性漂移。
NVIDIA 与 Google DeepMind 等全球研究机构通过 AlphaFold Database 开放了 2,800 多种病毒的蛋白复合物预测结构,供全球科学家使用。
推荐理由:这次开放数据与预测流程同时覆盖资源和方法,文中还说明约 30% 的蛋白质相互作用对科学界而言是全新的。
Microsoft Research 宣布 Physical AI Toolchain 新增机器人推理卸载能力,可通过 Kubernetes 工具在机器人、边缘 GPU 和云端之间分配推理工作负载。研究发现,部分较轻 GPU 上的地图构建与规划速度较 A100 慢最多 383%,较大的板载 GPU 还会显著消耗机器人电量;文章也提供了 SO-101 和 UR10e 的卸载示例。
推荐理由:文章结合移动操作任务测量了端侧与卸载推理的性能和续航差异,并介绍 Kubernetes 工具链如何在机器人、边缘 GPU 与云端间分配工作负载。
Google Research 推出 MilleMiglia,这是一个用 C++ 编写的实例生成器,可为中间里程配送问题生成逼真基准数据。它以合成网络保留固定车辆班次、配送中心吞吐量限制和跨车辆同步等约束,同时避免披露私有物流数据;源代码和文档已在 GitHub 提供。
Google Research 推出一项生成式界面研究实验,允许教师按教学目标和课程动态生成定制的互动学习模拟。Google 同时发布了 30 多个英文 STEM 互动示例,涵盖物理、化学、生物和数学,并由教师审核;12 名美国教师的初步试用评分平均为 8/10。
推荐理由:这项研究展示了生成式界面如何结合课程目标、分级挑战和教师审核来生成互动模拟,并给出了教师试用反馈。
Google Research 提出 Retrieve-for-Train,用离线强化学习发现符合奖励目标的查询扩展方式,再将其蒸馏到轻量扩散检索器,以单次推理生成互补的子查询集合。该框架的扩散模型有 53.9M 参数,可直接把查询嵌入映射为完整目标嵌入集合,绕过文本 CoT 推理 token;训练还使用 Gemma3-4B 和 Qwen3-4B。
Google Research 在 ACL 2026 介绍 ToolGrad,一种先生成真实工具调用链、再标注对应用户查询的工具使用数据生成方法。它通过文本“梯度”迭代构建 API 工作流,并在 ToolBench 的 16k+ API 上生成数据;结果显示,该方法以较低成本生成更复杂的数据,数据生成通过率接近 100%。
Microsoft Research 推出 MindTopo 基准,用于评估多模态大语言模型对连通、分离、顺序、包围和打结等拓扑关系的推理与规划能力。测试结果显示,模型在静态场景识别上的表现优于交互规划;规划错误常出现在模型已理解场景之后,包括未能追踪多步动作的后果或提出违反环境规则的动作。
推荐理由:MindTopo将静态识别与交互规划放在同一基准中比较,揭示多模态模型在连续动作中维持拓扑关系时的表现落差。
Berkeley AI Research 提出 ABBEL,通过自然语言信念状态压缩长交互历史,并用信念评分监督状态中保留的信息。 在 CollabBench 协作编程实验中,重建式信念评分将与完整上下文的性能差距缩小约一半,训练步数从 100 降至 50;峰值上下文 token 长度也低于完整上下文设置。
Berkeley AI Research提出基于互信息直接评估和优化成像系统的方法,并将结果发表于 NeurIPS 2025 论文。该方法在彩色摄影、射电天文学、无透镜成像和显微成像四个领域检验了信息估计与下游表现的关系;其 IDEAL 方法通过梯度上升优化系统参数,无需在训练中反向传播解码器。