Hugging Face Blog·· 4 小时前AI 评分51
ProvenanceGuard:面向 MCP Agent 的来源感知事实核查
Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents
AI 导读
Multiverse Computing 提出 ProvenanceGuard,在 MCP agent 回答后逐条核查 claim 与来源是否匹配,而非把所有证据混合后判断。测试中它从 139 条应被拦截的 claim 中拦下 138 条,并对来源识别正确的比例约 86%。该方法可对接 RARR 修复循环,在本地配置下每条回答约增加半秒开销。
来源:Hugging Face Blog · huggingface.co