HybridAgent：让智能体在潜空间里思考、用文本与世界交互
上周读到一篇让我挺兴奋的论文。背景是这样的——现在做 Agent 的人都有个隐隐的痛：模型每一步中间推理都要老老实实解码成文字，一个复杂的搜索任务动辄吐出几千个 token 的思考过程，慢、贵，还未必有必要。另一条线上，latent reasoning（潜空间推理）这几年悄悄火了起来，模型直接在连续隐向量空间里"想"，不解码、速度快，但问题是它像个哑巴天才——想完了没法调工具，想的过程人也看不懂。
这两派各走各的路，直到这篇 HybridAgent 把它们捏到了一起。
核心摘要：这篇论文（arXiv:2610.18861）提出了一种"混合推理智能体"，让模型在同一次生成过程中自由切换两种模式——需要对外交互、留下审计痕迹时用文本，纯内部思考时切到潜空间连续推理。架构上靠一个轻量适配器 HybridLink 把隐状态映射回输入嵌入空间，训练上配了 HybridSFT 和 HybridRL 两段式后训练。结果相当能打：11 个基准上平均提升 10.4 个百分点，同时 token 用量砍掉 35.5%–54.7% 的幅度，推理提速 1.8–2.6 倍，成本降到原来的 1/2.7–1/3.7。我觉得这是 latent reasoning 方向第一次真正解决"怎么当 Agent 用"的问题，值得细读。
论文信息 - 标题：Hybrid Reasoning Agents - 作者：Jiaru Zou、Yunzhe Qi、Sirui Chen、Federico Bianchi、Shang Zhu、Pan Lu、Jingrui He、James Zou - 机构：Stanford University、UIUC、Together AI、Meta - 链接：https://arxiv.org/abs/2610.18861 （2026 年 10 月 13 日提交，45 页长文，代码已开源在 togethercomputer/HybridAgent）
为什么这件事难做
先讲清楚矛盾在哪。
文本 Agent（ReAct、Search-o1 这一路）的范式是：思考即文字。每个中间步骤都得 token 一个一个蹦出来，然后才能调工具。好处显而易见——全程可读、可监控、可调试。代价也显而易见：大量算力花在"把想法说出来"上，而不是花在想本身。
Latent reasoning（Coconut、SoftThinking 这一路）反其道而行：中间推理直接在隐向量空间里滚动，不经过词表解码。省 token、推理深度可以拉得很长。但它有两个致命伤：一是连续向量没有原生的工具调用通路——你没法把一个向量发给搜索引擎；二是它是个黑盒，训练时难监督，推理时难审计。安全团队看到这种"看不见的推理"是要皱眉头的。
所以真实的张力是：智能体交互和高效内部推理，各自需要一种介质，之前没人能两者兼得。
HybridAgent 的回答很直接——那就别选了，在同一条生成序列里来回切换。
架构：一个适配器 + 一块连续工作记忆
图 1：左图是 HybridLink 的结构——把最后一层隐状态 h 经 Linear-GELU-Linear 加残差映射回输入嵌入空间；右图是 HybridAgent 的混合生成流程，文本模式（蓝色）与潜空间模式（橙色）在同一条序列里交替出现。
整个架构的核心改动就两处，但都很讲究。
HybridLink 充当隐状态到嵌入空间的翻译器。已有的 latent reasoning 做法通常把最后一层隐状态 \(h_t\) 直接当下一步输入。这在混合场景下会出问题——\(h_t\) 是隐空间的东西，直接塞进输入端，和预训练好的 token 嵌入分布对不上，两种模式之间的切换就会很生硬。HybridLink 的做法是加一个轻量残差适配器：
残差连接保住了 \(h_t\) 原本的语义，投影层只需要对齐分布差异，不用从头学整个映射。参数量约 \(2d_h^2\)，对 4B 模型也就一千万参数左右，非常轻。
模式切换的机制也很干净：文本模式下正常采样 token，直到模型吐出特殊锚点 token <latent>，进入潜空间模式；之后每一步都把隐状态过 HybridLink 继续滚动，不做词表解码。退出条件是靠语义对齐判定的——当 \(\mathcal{R}(h_t)\) 与 </latent> 的嵌入余弦相似度在全词表里最大时，潜空间段关闭，回到文本模式。也就是说，** latent 段的长度和出现频率完全由模型自己决定，没有任何预设规则**。
连续工作记忆：多轮混合上下文不重编码。标准 Agent 的多轮是把上一轮的文本和工具输出拼回 prompt 重新 tokenize。混合轨迹里掺着向量，没法 tokenize 重建。HybridAgent 的方案是把生成过程中所有层的 KV 缓存直接攒下来当工作记忆——文本、latent 思维、工具观测的 KV 条目按位置顺序全部保留，下一轮直接在上面续写。这在数学上是上下文的无损延续（论文附录 A 给了形式化论证），工程上省掉了每轮重新编码的开销。
图 2：工作记忆跨轮累积示意。每一轮的文本段、latent 段、工具调用和返回的 KV 条目都追加进记忆 \(\mathcal{M}\)，后续轮次直接复用，不做 token 空间的中间重建。
还有一个让我意外的发现：latent 思维居然是可读的。把每个 latent 步的 \(\mathcal{R}(h_t)\) 映射到最近的 token 嵌入，能还原出语义连贯的"伪文本"。左图的可读性-上下文特异性散点里，4B/8B/14B 三个规模全部落在"有意义区域"（远高于随机噪声基线）；右图的案例里，latent 段解码出来是"Step 1: Identify the company that Sachin Warrier worked for..."这种正经的规划文字，和周围的文本推理、搜索调用语义完全衔接。这意味着黑盒问题至少被缓解了一大半——审计员想看的时候随时能看。
图 3：左，200 个下游问题上 latent 思维的可读性与上下文特异性定量探测，三个规模都显著高于噪声基线；右，一个完整案例——文本（30 步）→ latent（56 步）→ 搜索调用 → latent（49 步）→ 文本答案（10 步），latent 段还原出的伪文本与上下文语义对齐。
训练：两段式后训练
架构不动主干，所以从任何预训练 LLM 出发做后训练就行。难的是训练本身。
HybridSFT：先解决"自产自销"的错位问题。这里有个很实际的技术坑（论文 Figure 11 专门讲了）：teacher forcing 训练时，latent 位置喂的是 ground-truth 嵌入 \(\mathrm{Emb}(y)\)；但推理时 latent 位置吃的是 HybridLink 自己的输出 \(\mathcal{R}(h)\)。训练和推理的输入分布不一致——经典的 exposure bias，scheduled sampling 时代就有的老问题。
解法是两遍式自条件训练。第一遍 teacher-forced 跑 ground-truth 混合序列，让 HybridLink 把 latent 位置的隐状态"提前一步"映射出下一步输入；第二遍把 latent 位置的 ground-truth 嵌入替换成 HybridLink 自己的预测，文本位置算 CE 损失、latent 位置算回归损失，主干和 HybridLink 联合训练。
图 4：两遍式自条件训练。Pass 1 用 ground-truth 做 teacher forcing 并产生 latent 输入；Pass 2 用模型自己的 \(\mathcal{R}(h)\) 替换 latent 位置，两种位置分别施加 CE 和回归监督。
消融（Table 3）很说明问题：Qwen3-14B-Base 只做格式激活，MATH500 从 47.0 涨到 62.4；加 HybridLink 激活到 73.8；再加自条件训练才到 84.2——比 HybridLink 激活阶段平均高了 30.5 个百分点，追平标准文本 SFT。少了自条件这一步，latent 模式基本不可用。
HybridRL：让模型自己学会何时想、何时说。RL 阶段的麻烦是：PPO/GRPO 假设每个位置都有 token 级似然，可 latent 位置是连续向量，重要性比率没定义。论文的处理分两块：
一是混合策略分解（Proposition 4.1）。latent 思维是 HybridLink 确定性计算出来的，工具观测是环境给的，真正的随机采样只发生在文本位置。固定 HybridLink 后，整条混合轨迹的策略可以分解为仅在文本采样位置上的乘积——于是重要性比率良定义，标准的 likelihood-ratio 更新就够用了。这个观察说实话挺优雅的，把看似需要新算法的场景归约回了标准 RL。
二是精确 rollout 重放。更新时要重建可微计算图，且文本似然必须条件在 rollout 时同一批 latent 思维上。做法是 rollout 时把 latent 向量连同文本 token、工具观测一起记下来，更新时在嵌入空间用一次可微前向重放整条轨迹。
奖励设计刻意保持简单：\(r(\tau) = r_{\mathrm{correct}} + r_{\mathrm{format}} + r_{\mathrm{tool}}\)，对模式使用本身不给任何显式奖励。这一点我很欣赏——不在奖励里塞"多用 latent"的偏置，让模型自己在优化中发现在哪儿想、在哪儿说划算。
实验：性能、效率、可审计性三线都过关
模型用 Qwen3-Base 的 4B/8B/14B 三档，HybridSFT 用 54K 条自动标注的混合轨迹，HybridRL 用 12K 深度推理样本加 1K 智能体搜索样本，H100 集群、五个随机种子。评测覆盖 11 个基准：数学（AIME25/26、MATH500）、知识密集（GPQA-Diamond、MedQA、MuSiQue）、智能体推理（GAIA、HLE、WebWalker、SealQA、DSQA）。
智能体推理任务（Table 1），挑几个关键数：
| 方法 | GAIA Avg. | WebWalker Avg. | HLE Avg. | DSQA F1 |
|---|---|---|---|---|
| GPT-5.6-Luna | 37.9 | 11.0 | 29.0 | 49.4 |
| Kimi-K3 | 41.7 | 10.0 | 31.4 | 46.0 |
| ARPO（14B 文本 RL） | 43.7 | 40.5 | 10.0 | 38.2 |
| HybridAgent（8B） | 43.7 | 42.5 | 14.4 | 40.7 |
| HybridAgent（14B） | 52.4 | 49.5 | 16.0 | 46.8 |
14B 的 HybridAgent 比最强智能体基线平均高 17.4 个百分点。一个 14B 模型在 GAIA 和 WebWalker 上压过 frontier 级 API 模型，这个对比还挺扎眼的。不过说句公道话，frontier 模型是通用零样本调用，HybridAgent 是专门训过的，两者不完全同场竞技——但跟同规模同预算的 GRPO/ARPO 比（这是公平的），GAIA 上 52.4 vs 43.7（ARPO）、WebWalker 上 49.5 vs 40.5，差距是实打实的。
latent 基线的表现反而印证了这个方向的坑：Coconut 和 SoftThinking 在智能体任务上几乎全军覆没（Coconut 14B 在 GAIA 上只有 6.8），纯潜空间推理确实当不了 Agent。
数学与搜索任务（Table 2），同骨干同预算下，HybridAgent 在 RL 阶段全面领先：8B 上 AIME25 拿到 39.2（GRPO 36.3、ARPO 37.1），14B 上 MATH500 到 88.2（GRPO 87.4）。SFT 阶段比文本 SFT 平均高 18.5%，RL 阶段高 10.4%。
效率是这篇论文最硬的卖点。
图 5：三个规模下的 token/步数对比。4B 省 35%（latent 步占 29%），8B 省 52%（占 37%），14B 省 54%（占 35%），分别对应 2.2 倍、2.9 倍、3.1 倍的文本 token 削减。
成本账（Table 9）按每步一次完整前向计算、$2.50/H100 小时、10% 峰值利用率估算：每百万题的成本从 $359 降到 \(98（4B，3.7 倍节省）、\)439 到 \(121（8B，3.6 倍）、\)470 到 $176（14B，2.7 倍）。每题解码计算量从 51.2–66.9 TFLOP 降到 13.9–25.1 TFLOP。这个估算口径把 latent 步的算力也老实算进去了，没有玩文字游戏。
图 6：HybridRL 训练动态。随训练推进，奖励升到 0.81，文本 token 从约 800 降到 499，latent 步数从约 190 升到 276，工具调用率达到 98.8%——模型自发地把越来越多思考搬进 latent 模式，同时工具使用反而更积极。
这张图是我全文最喜欢的。没有人告诉模型"多用 latent"，但 RL 自己发现了这个分工：内部思考下沉到快的潜空间，文本留给工具调用和关键决策。这是涌现出来的策略，不是设计出来的规则。
latent 思维到底有没有用？ Table 5 的因果干预实验做得很扎实：把 latent 向量换成随机 token 嵌入，MATH500 准确率从 84.6 掉到 41.2（8B）；换成另一道题的 latent 段，掉到 44.8——跨题替换比加两倍范数的高斯噪声（66.4）伤害还大，说明模型依赖的是 latent 的语义内容而非扰动量级；打乱顺序掉 13.4–15.0 个点；强制每个 latent 段只走一步也掉十几个点。语义、顺序、推理深度，三个维度都被因果验证过。
HybridLink 的消融（Table 6）同样干净：恒等映射（直接复用 \(h_t\)）MATH500 只有 71.4，加残差的两层设计到 88.2，残差连接在不同深度下平均贡献 4.3 个点。
文本模式的可审计性保住了吗？ 这是我最关心的问题，论文用四个维度回答（Table 7）：弱监控器 AUROC 0.840 vs 文本 Agent 的 0.772（8B，HybridAgent 反而更高）；首错误定位率 98%–99%；诊断与参考答案一致率 97% 以上且答案泄漏率低于 1%；基于文本提示的纠错修复率增益比通用重试高 5.4–9.1 个点。关键在于：HybridAgent 暴露在外的文本少了 43%–49%，但每百个可见 token 里的关键推理步骤密度反而高 26%–28%——留下来的都是精华。
图 7：工具调用分析。左，合法工具调用率 8B 达 97.5%、14B 达 98.3%（对比 GRPO 文本 Agent 的 93.1%/90.8%），合法调用执行成功率 99.7%；中，调用工具的题目上最终答案准确率全面高于文本 Agent；右，"有用调用率"（结果中包含最终答案的比例）也更高。
我的判断
这篇论文值钱的地方不在于某个单点技巧，而在于它把 latent reasoning 从"玩具benchmark 上的效率技巧"拉到了"能当 Agent 用"的台阶上。工具调用、多轮记忆、可审计性——这三个此前 latent 路线的死穴，它挨个给出了工程上成立、实验上验证过的方案。HybridLink 加残差适配器、自条件 SFT、混合策略分解，每一块的消融都扎扎实实。
当然也有要打问号的地方。其一，latent 伪文本的"可读性"是最近邻映射出来的近似读法，它和模型真实的内部计算之间到底有多忠实，论文的探测是给信心的，但可解释性研究里"看似可读的探针"翻车的先例不是没有，审计关键场景时我不会只信这个读数。其二，效率数字的口径是自建基础设施（论文明说现有 serving 引擎不支持多轮混合生成，他们自己扩展了训推框架），这套东西能不能在 vLLM 这类主流引擎里落地、落地后加速比还剩多少，是工程化的真正考验。其三，成本估算排除了 prefill 和注意力随上下文增长的部分，长程任务上实际节省会比账面数字保守一些。
但即便如此，方向感是对的。论文 Discussion 里有段话让我印象很深：前沿实验室现在藏 CoT 是怕泄密，但加密轨迹能被重放转录；而 latent 思维只以服务商持有的隐状态形式存在、只能通过自家的 HybridLink 解读——这给了"保护知识产权"和"保留完整审计能力"一个同时成立的技术底座。如果这个范式跑通，未来的 Agent harness 里，KV 工作记忆可能会成为一等公民，上下文管理直接操作 KV 条目，文本只留给真正需要人和环境看见的部分。
如果你在做 Agent 系统，这篇值得花时间——不为立刻照搬，为的是它示范了"推理介质"这个维度的设计空间远比"全部文本化"大得多。
觉得有启发的话，欢迎点赞、在看、转发。跟进最新AI前沿，关注我