Hugging Face Blog·· 7 天前精选AI 评分67
ProvenanceGuard 论文提出面向 MCP 智能体的来源感知事实核验
Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents
AI 导读
ProvenanceGuard 研究提出一种面向 MCP 智能体的生成后核验层，逐条检查回答中的主张是否得到其所指来源的支持，并输出来源判定及整体放行或拦截结果。在医疗智能体测试中，系统从 361 条主张中拦截了专家判定不应通过的 139 条中的 138 条，同时拦截了 67 条专家认为有支持的主张；对可识别来源的主张，来源判断准确率约为 86%。
推荐理由
研究针对MCP智能体把事实归到错误来源的问题，展示逐条核验来源的流程及其在医疗记录数据上的测试结果。
来源：Hugging Face Blog · huggingface.co