Berkeley AI Research·· 2026-07-26精选AI 评分60
ABBEL:教大语言模型更新信念以实现高效长程交互
Teaching LLMs to Update Beliefs for Efficient Long-Horizon Interaction
AI 导读
Berkeley AI Research 提出 ABBEL 框架,将交互历史压缩为自然语言信念状态,并通过信念评分监督信念内容。在 CollabBench 协作编程中,ABBEL 恢复约一半全上下文性能差距,峰值上下文 token 数降至约 4.2 万,训练步数减半;在 Combination Lock 游戏中,结合领域知识的信念评分可接近或超越全上下文模型。
推荐理由
通过将摘要隔离为可监督的信念状态,在协作编程和组合游戏中以更少训练步数和更低显存缩小了与全上下文模型的性能差距。
来源:Berkeley AI Research · bair.berkeley.edu