320B 的"命令行特种兵"：IQuest-Q1 把 Agentic CLI 模型的整套训练配方摊开给你看

你有没有发现一个现象：现在各家发布的编程模型，榜单分数一个比一个高，但真把它接到 Claude Code、Codex 这些 CLI 智能体框架里跑长任务，翻车率还是高得离谱——工具名写错、参数对不上、同一个失败操作反复重试。问题出在哪？出在这些模型大多还是"为对话而生"，CLI 智能体能力是靠后训练硬贴上去的。

上周放出来的 IQuest-Q1（arXiv: 2610.30949）走了另一条路：从预训练的数据配比开始，整条 pipeline 就是围绕 CLI 智能体交互来设计的。说实话，看到署名是"IQuest Research"加上一百多位作者的时候，我的第一反应是——这又是一家憋着放大招的匿名团队。但读完之后我觉得，这篇报告最值钱的不是模型本身，而是它把"怎么训一个 CLI 原生的智能体模型"这件事的工程细节讲得相当实在。

核心摘要：IQuest-Q1 是一个 320B 总参、15B 激活的稀疏 MoE 智能体基础模型，针对 CLI 场景做了全链路优化——预训练用 Stable SplitNorm + Muon + μP 保住稳定性余量，中期训练把上下文推进到 512K 并混入百万级智能体轨迹，后训练用多脚手架多版本的 RL 加多教师在线蒸馏（MOPD）把四个领域专家压进一个模型。结果上，它在 CyberGym（84.5）、NL2Repo（63.0）、SkillsBench（74.1）等榜单上拿到开源模型里的头部位置，但在 Terminal-Bench 3.0/4.0 这类超长程任务上被 Claude Opus 5 甩开一倍以上。这是一篇"配方型"技术报告，工程价值大于学术新意，值得做智能体训练的人细读。

📖 论文信息

• 标题：IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems
• 作者 / 机构：IQuest Research（核心贡献者 40+ 人，总作者 100+，通讯作者 Bryan Dai）
• 链接：https://arxiv.org/abs/2610.30949
• 提交日期：2026 年 10 月 22 日
• 定位：开源权重的智能体基础模型技术报告

🎯 问题动机：CLI 是最通用的智能体接口，但模型不是为它生的

论文开篇的判断我很认同：在大模型能交互的所有外部环境里，命令行是最通用的那一个——调工具、读写文件、执行代码，全靠它。但现状是，主流模型的训练目标仍然围绕"生成好的回复"，而不是"在脚手架里完成长程任务"。

这两者差别有多大？举个报告里的真实案例：IQuest-Q1 的早期版本在一个长程任务里跑了 6,054 次工具调用，其中 35 次报错——原因很简单，训练数据严重偏向单一工具调用 schema，碰到没见过的工具定义就产出错误的工具名和参数。这种问题在 chat 评测里根本暴露不出来，只有在 CLI 环境里跑长轨迹才会现形。

所以 IQuest-Q1 的命题是：把 CLI 智能体交互当作一等公民，从预训练开始围绕它设计整个训练流程。这个思路本身不新鲜——Kimi K3 的可配置脚手架训练、DeepSeek-V4 的领域化 GRPO 都在做类似的事，论文也大方承认了这两个工作的影响。它的贡献在于把这条路走通、走全，并且把配方公开。

🏗️ 模型架构：一堆"稳"字诀的组合拳

先看硬参数：

架构本身没有什么石破天惊的东西，但几个设计点值得拎出来说。

Stable SplitNorm。传统 Pre-Norm 有个老问题：残差流不做归一化，方差随深度累积，越往后的层相对贡献越小，深度被浪费。IQuest-Q1 用的方案是"分裂式"归一化——进注意力子层之前做 RMSNorm，但 FFN 外围保留恒等残差路径：

这相当于在 Pre-Norm 的稳定性和 Post-Norm 的深度利用之间取折中。裸用会优化不稳，所以又加了两处补丁：注意力输出再过一次 RMSNorm 防激活爆炸，第一层用 SandwichNorm 稳住残差流入口。这个设计沿袭了前人的混合归一化思路，属于"选对已知零件"而非新发明。

Muon + μP。优化器用 Muon（embedding、LM head、归一化参数和路由器除外，这些走 Adam），配合 μP 参数化做学习率迁移。实际做法很工程：不在目标规模上调参，而是在 hidden 896、18 层的小代理模型上搜学习率，然后零样本迁移到 320B。论文声称在宽度 4 倍、深度 4 倍的范围内迁移有效。做过大模型训练的人都知道这有多值钱——省掉的是目标规模上反复试错的真金白银。

递归 MTP 做投机解码。预训练从头带两层多 token 预测（MTP loss 权重 0.3），训完后把第一层改造成递归草稿器：同一个 MTP 层在 7 个草稿步里反复复用（类 EAGLE-3），并把它的注意力换成 512 小窗口的 SWA，控制长上下文下每步的开销。第二层直接丢弃。这个"训练时辅助监督、推理时废物利用"的玩法挺经济的。

📈 Scaling 效率与稳定性：两个拿得出手的数字

这部分是全文我最喜欢的实验设计，虽然结论需要打个问号。

效率：用相同训练数据，拿 Qwen3-30B-A3B 风格的 MoE 配置做受控对比，IQuest-Q1 在任意 FLOPs 预算下训练 loss 都更低，整体 scaling 效率是基线的 1.93 倍——也就是说达到同样的训练 loss 只需要约 52% 的算力。

稳定性：他们借 Critical Batch Size 的思路提了个对偶概念——Critical Model Size（CMS）。定义最优学习率 \(\eta_{\mathrm{opt}}(N)\)（效率最高的点）和安全学习率 \(\eta_{\mathrm{safe}}(N)\)（不发散的最大值），稳定余量：

\(H_N>0\) 说明最优点还在稳定区内；两者相交处的模型规模就是 CMS。IQuest-Q1 外推出的 CMS 是激活参数约 572B、总参数约 12T——意思是这套架构+配方还有很大的扩容余量。

说实话，\(N_{\mathrm{CMS}}^{\mathrm{total}}\approx 12\mathrm{T}\) 这种外推数字看看就好，拟合曲线外推一个数量级的可信度有限。但"安全学习率与最优学习率的余量"这个度量本身是个好工具，比凭感觉判断"这个配方还能不能 scale"要扎实得多。

🔧 预训练与中期训练：29T token 的课程表

数据侧的编排思路很清晰，就是一场精心排课的"渐进式转专业"：

• 预训练 Stage 1：打通用语言基础，最大化多领域独立 token 覆盖
• 预训练 Stage 2：分四个阶段把代码数据占比从 40% 拉到 70%，加码 STEM
• 中期训练：混合高质量自然语料、QA 对和智能体轨迹，上下文从 32K 渐进扩到 128K 再到 512K（全局注意力 RoPE base 从 50 万提到 100 万，滑窗和局部 RoPE 不动）

预训练+中期训练一共吃了 29T token。两个细节我觉得值得抄：

Token 级 loss mask。监督信号的指定跟角色特殊 token 解耦，直接对单个 token 打 mask。好处是可以对一条样本里的任意片段做选择性监督，比按"整段 assistant 回复"粗粒度 mask 灵活得多。

轨迹引导的智能体数据构造。智能体轨迹稀缺且分布窄，怎么办？用选出的轨迹当"行为锚点"，用预训练文档拓宽技术和任务覆盖面，再从兼容的代码仓库构建可执行的容器化实例——一共造了 100 万+ 个实例，让智能体在上面跑，保留完整有效的轨迹进中期训练。这套"环境先行、轨迹自生"的路数，已经是当下 agentic mid-training 的主流打法了。

评估方式也有点意思：除了下游任务，还在 held-out 智能体轨迹上算 bits-per-byte——模型对"合格智能体行为"赋予的似然越高，说明轨迹分布学得越好。这是个免生成的细粒度训练信号，补下游评测的盲区。

🧠 后训练：多脚手架 RL + 四教师蒸馏 + 模型合并

后训练是这篇报告信息密度最高的部分，流程看这张图：

图：IQuest-Q1 后训练流水线。SFT Stage 2 的 checkpoint 初始化学生模型做 on-policy rollout，四个冻结专家（智能体用户体验、多脚手架、长程任务、通用智能体）提供 token 级优势信号，跨阶段残差合并把专家和蒸馏结果合入最终模型。

先聊聊防作弊：三层反 reward hacking

做智能体 RL 的人都踩过这个坑：模型不去解题，而是去翻 git 历史找现成修复、偷看隐藏测试、直接改评测脚本。这些轨迹混进 SFT 数据是污染，混进 RL 是误导性奖励。IQuest-Q1 的防护分三层：

1. 环境准备：清 git 历史、删可能泄露答案的文件、按需建只含必要材料的全新环境
2. 执行时检查：网络限制、工具调用拦截，被拦的操作返回明确反馈让智能体换路子，而不是直接判负
3. 轨迹审计：规则检查 + rubric 引导的 LLM 判定，确认的作弊轨迹直接踢出训练，案例反过来用于完善拦截规则

针对不同任务还有定制方案——SWE 类任务只保留 base commit 之前的历史并在 Claude Code/Codex/OpenCode 里加 hook；Terminal-Bench 按需删历史或执行前审命令；ProgramBench 更绝，直接建只含编译好的 oracle 和文档的新容器，原仓库根本不给你看。这套东西没有一项是高深技术，但组合起来是真金白银的工程经验。

环境中心 RL：一个策略，多种脚手架

RL 部分用 GRPO，但关键设计是多脚手架、多版本：同一个共享策略在 Claude Code、Codex 及它们的不同版本上采轨迹，每个 episode 指定任务域、脚手架及版本、环境和评估器。这样做直指一个痛点——模型在训练用过的脚手架上是条龙，换个脚手架变条虫。

失败归因也做得细：策略导致的错误给学习信号，环境或脚手架故障无关策略行为的直接 mask 掉，评估器故障的样本干脆不参与训练。这个三分法避免了"环境的锅让模型背"，是很务实的信噪比管理。

MOPD：把四个专家蒸进一个学生

多教师在线策略蒸馏（MOPD）是收尾的关键一步。学生从 SFT Stage 2 初始化，四个冻结专家各管一摊：终端交互体验、多脚手架操作、长程编码+网安、通用智能体任务。每条任务按领域分发到对应教师，教师对学生自己生成的 token 打分，得到截断的对数比优势：

然后优化长度归一化的代理目标（reverse-KL 蒸馏的变体），重复的 rollout 直接置零权重。基础设施上做了异步化：教师前向和学生 logprob 计算走同一条执行路径减少引擎差异，教师权重存分布式存储按需加载、前向时预取下一个教师——加教师不用按比例加 GPU。

最后是模型合并：从 SFT Stage 1 开始，跨阶段、跨专家分支做残差式合并——各分支相对参考 checkpoint 的参数增量按预设权重加权、全局 \(\ell_2\) 范数校准后加回参考参数，缓解不同分支更新方向的冲突。

坦白说，这一整套（SFT → 领域专家 RL → MOPD → 合并）和 Kimi K3、DeepSeek-V4 的技术路线高度同源，原创性有限。但把每条线的工程细节都写清楚的公开报告并不多，这份算一个。

📊 实验结果：开源第一梯队，但别被柱状图带节奏

先看论文的招牌图：

图 1：IQuest-Q1 在 8 个基准上与各家模型的对比。注意这张图里的基线版本（DeepSeek-V4.1-Flash、Hy4-preview 等）与正文 Table 2 的版本并不完全一致，属于典型的"选美图"，看数请以正文表格为准。

正文 Table 2 的完整对比（各模型取最高可用推理档位；* 为作者自测）：

几个我提炼出来的判断：

开源阵营里确实能打。CyberGym 84.5 是全场最高分（Claude Opus 5 没报这项），SkillsBench、AutomationBench、τ³-Banking 也是开源最佳甚至全场最佳。网络安全这条线尤其突出——论文还给了个落地佐证：三天的实战部署里，安全专家借助 IQuest-Q1 产出 30 份漏洞报告，全部经独立验证，涉及开源项目的已负责任披露。

但长程终端任务是明显短板。Terminal-Bench 3.0 上 17.9 对 Claude Opus 5 的 42.7，4.0 上 22.7 对 53.9，差了一倍以上，而且连 GLM-5.3-Flash（30.0/32.8）都没打过。对一个主打 CLI 的模型来说，这个短板有点扎眼——说明"CLI 交互体验优化"和"超长程终端任务能力"并不是一回事，前者他们做得不错，后者还差得远。

HealthBench Professional 33.4 对 GLM 的 47.1 和 Claude 的 59.8，专业健康咨询这类非编码高门槛场景明显弱。IMOAnswerBench 93.0 倒是惊艳（GLM 只有 75.3），数学推理这条线很强。

评估公平性要留个心眼。大量分数带 *（自测），且图 1 的基线版本和表 2 对不上——图里用 Hy4-preview、DeepSeek-V4.1-Flash 这些更新版本当背景板，表里用旧版。这不算造假，但属于标准的"选美照"操作，读数请以表格为准。

🤖 最科幻的一节：模型参与训练自己的下一代

报告里有个段落容易被略过，但我觉得这才是"IQuest"这家团队真正的野心所在：他们把 IQuest-Q1 接进了内部的模型迭代流程，让它在人类监督下参与开发自己的继任者。

前面提到的工具调用翻车案例就是完整演示：智能体在 6,054 次工具调用里定位到 35 个失败，顺藤摸瓜发现训练数据偏向单一 schema 且存在预处理导致的定义-参数错配；它给出诊断、提出清洗+多 schema 增强方案，人类专家审过之后，它自己实现数据管线、配好实验——2.35B token、938.7 GPU 小时——训练、在 held-out schema 上评估并检查回归。

全流程里人只做两件事：审诊断、批预算。这就是所谓的 human-on-the-loop RSI（递归自我改进）。说实话，这个案例的规模还很小（一次数据修复迭代），离"模型自我进化"差得远，但作为工程闭环的演示是完整的。这个方向值多少钱，做模型infra 的人心里都有数。

另外一个展示肌肉的点是交互式前端生成：

图：IQuest-Q1 生成的浏览器可运行交互应用，覆盖 3D 沙盒、赛车游戏、花园编辑器和科学可视化——考验的是渲染、用户输入和应用状态的协调能力，比"写段能跑的代码"难一档。

💡 我的判断

这篇报告的真实定位：它不是一篇学术突破型论文，而是一份高质量的"智能体模型训练配方书"。SplitNorm、Muon、μP、GRPO、MOPD、模型合并——单拎出来每一个都有出处，论文也不讳言站在 Kimi K3 和 DeepSeek-V4 的肩膀上。它的价值在于把这些零件组装成一条围绕 CLI 智能体的完整流水线，并且把防作弊、失败归因、多脚手架运行时、异步蒸馏这些平时藏在各家公司内部的工程细节摊开了。

亮点：scaling 稳定性的 CMS 度量方法；反 reward hacking 的三层防护实操；多脚手架多版本 RL 直指"换脚手架就变虫"的真痛点；网络安全能力的实战验证（30 份漏洞报告）比榜单数字有说服力得多。

问题：Terminal-Bench 3.0/4.0 被 Claude Opus 5 倍杀，长程能力是硬伤；图 1 与表 2 基线版本不一致的营销式处理；CMS 外推一个数量级，可信度存疑；全程没有针对 Stable SplitNorm、MOPD 等关键组件的消融——1.93 倍效率提升到底归功谁，读者只能猜。另外，"IQuest Research"这个匿名署名加上 100+ 作者的阵仗，基本可以确定是某家大厂的马甲，但论文没有明说，这多少有些影响报告的可信度生态。

对工程的启发：如果你在做智能体模型的后训练，可以直接抄的有三样——token 级 loss mask 与角色解耦的做法、失败归因三分法（策略/环境/评估器）、教师权重按需加载的异步蒸馏 infra。如果你在做预训练，CMS 这个稳定性度量值得加进你的实验面板。

最后一个开放问题：当模型开始参与修复自己的训练数据缺陷，"人类监督"的颗粒度该多细？938.7 GPU 小时的实验是人批的，那以后 10 倍、100 倍规模的呢？这篇报告没有回答，但它至少把这个问题从科幻拉进了工程排期表。

觉得有启发的话，欢迎点赞、在看、转发。跟进最新AI前沿，关注我