Google Research 介绍基于 TEE 的联邦学习系统，提升隐私保障与训练效率
Google Research 介绍了新一代基于可信执行环境（TEE）的联邦学习（FL）系统，通过公开访问策略、可验证执行和差分隐私，增强数据匿名化的可审计性。Gboard 已用该系统部署英语和日语的下一个词预测模型，获得更强隐私保障和更高准确率，训练时间也较以往显著缩短。
推荐理由：文章梳理了 TEE 如何把访问策略、可审计执行与差分隐私结合起来，并以 Gboard 部署说明这种架构的实际应用。
技术方向
安全对齐 最新动态
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
5 条精选近 30 天 5 条共收录 18 条
更新
安全对齐的精选
Google Research精选AI 评分7979
Google DeepMind精选AI 评分8282 Google 发布 Gemini 4 Argon，面向复杂工作流并分阶段开放
Google 宣布推出前沿模型 Gemini 4 Argon，面向软件工程、企业知识工作和网络安全等复杂工作流，现正通过 Fairwind Program 向可信网络防御人员分阶段开放。
推荐理由：1M tokens 的输出上限与分阶段开放安排，呈现了 Gemini 4 Argon 在长流程任务能力和前沿模型发布管控上的两项具体变化。
Google DeepMind精选AI 评分8181 Google DeepMind 推出 SynthID Bio，为AI生成蛋白质添加水印
Google DeepMind 推出 SynthID Bio，可将可检测的水印嵌入AI生成的蛋白质序列或预测结构，同时保留蛋白质的生物功能。针对VEGF-A、SARS-CoV-2刺突蛋白RBD和PD-L1的湿实验显示，带水印的蛋白质结合体在命中率、结合亲和力和天然序列多样性方面与未加水印版本相当。Google DeepMind还将发布方法论文、开放代码和体外数据，并向研究社区开放模型权重。
推荐理由：SynthID Bio将水印嵌入蛋白质序列或预测结构，并以实验结果说明其检测信号与生物功能可以并存，为识别AI生成生物设计提供验证层。
Hugging Face Blog精选AI 评分6767 ProvenanceGuard 论文提出面向 MCP 智能体的来源感知事实核验
ProvenanceGuard 研究提出一种面向 MCP 智能体的生成后核验层，逐条检查回答中的主张是否得到其所指来源的支持，并输出来源判定及整体放行或拦截结果。在医疗智能体测试中，系统从 361 条主张中拦截了专家判定不应通过的 139 条中的 138 条，同时拦截了 67 条专家认为有支持的主张；对可识别来源的主张，来源判断准确率约为 86%。
推荐理由：研究针对MCP智能体把事实归到错误来源的问题，展示逐条核验来源的流程及其在医疗记录数据上的测试结果。
GitHub Blog · AI & ML精选AI 评分7575 GitHub Security Lab 开源 Fuzzing Taskflow 智能体，自动化 C/C++ 模糊测试
GitHub Security Lab 开源了面向 C/C++ 项目的 Fuzzing Taskflow，由 LLM 智能体自动识别代码入口、编写 harness、运行 AFL++、根据覆盖率改进测试，并对崩溃进行分诊和生成漏洞报告。
推荐理由：文章拆解了覆盖率反馈、结构化输入生成与崩溃分诊的自动化流程，也说明模型报告仍需人工审查，可供安全测试工作流设计参考。