跳到正文

#推理

今日 0 条
9月16日周三
  1. Google Research38

    Google 用 Retrieve-for-Train 加速复杂 AI 搜索:53.9M 扩散模型实现单次查询扇出

    Google 在 ICML 2026 论文中提出 Retrieve-for-Train 框架,通过离线强化学习将查询扇出行为编译为监督信号,并蒸馏进一个 53.9M 参数的扩散检索器,在推理时以单次非自回归前向传播完成集合级查询扩展,无需链式推理 token。该框架基于 Gemma3-4B 和 Qwen3-4B 微调,旨在解决零样本 LLM 在数据库感知查询分解中的同义重复与自回归延迟瓶颈。

5月8日周五
  1. Berkeley AI Research62

    自适应并行推理:高效推理扩展的新范式综述

    Berkeley AI Research 发布综述,介绍自适应并行推理(APR)范式,让模型自行决定何时分解任务、并行生成多少线程以及如何协调。文章比较了 Multiverse、ThreadWeaver、Parallel-R1 等方法的推理系统设计与训练奖励机制,并讨论了并行化是否主要作为训练期探索脚手架等开放问题。

    推荐理由:文章梳理了自适应并行推理这一范式的动机、实现与训练方法,并比较了不同方案的取舍,适合想了解推理扩展新方向的读者。

4月20日周一
3月13日周五