自适应并行推理：高效推理扩展的新范式

伯克利研究团队综述了自适应并行推理（APR）范式，提出模型可自主决定何时分解任务、生成多少并行线程以及如何协调。APR 通过特殊控制标记在推理时动态分配串行与并行计算，相比固定并行和多数投票等方法能减少冗余并避免上下文膨胀。文中对比了 Multiverse 等修改推理引擎与 ThreadWeaver 等保持引擎不变的系统设计，并讨论了基于关键路径的并行效率奖励和当前开放问题。