近日，至知创新研究院（IQuest Research）公开了 IQuest-Q1 技术报告《IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems》，披露了这款 320B 开源模型在架构设计、规模化训练及 Agent 后训练等方面的技术细节。
近日，至知创新研究院（IQuest Research）公开了 IQuest-Q1 技术报告《IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems》，披露了这款 320B 开源模型在架构设计、规模化训练及 Agent 后训练等方面的技术细节。
报告涉及几组关键数据：29T Tokens、超过100万个可执行任务实例、512K上下文、1.93倍架构规模化效率，以及30项Benchmark结果。
这些技术设计共同指向一个问题：如何让 Agent 在复杂环境中持续、可靠地完成任务？
超过100万个可执行任务，模型训练如何避免「作弊」？
与代码生成相比，Agent 任务中，模型需要处理更加复杂的执行过程。
读取文件、修改代码、运行测试、处理报错，每一步都可能改变环境状态。模型需要根据反馈调整操作，并持续推进任务。
为此，IQuest-Q1 团队基于代码仓库和已有智能体轨迹，构建了超过100万个可执行、容器化的任务实例，覆盖软件工程、终端操作、代码测试、程序生成及网络安全等领域。
这些任务配套执行环境与验证方法，能够产生包含工具调用、环境反馈和执行结果的轨迹，为中期训练提供数据支持。
图：智能体训练任务与验证体系
但在强化学习中，任务能够执行，还需要确保奖励信号可靠。
针对 Reward Hacking 问题，团队建立了三层防护机制：训练前清理可能泄露答案的参考文件与代码历史，构建干净的训练环境；执行时限制对隐藏测试等资源的非授权访问；训练后结合规则检查和模型辅助审计，剔除确认存在作弊行为的执行轨迹。
这套机制旨在减少模型利用环境漏洞获取奖励的情况，使训练反馈更接近真实任务完成结果。
后训练阶段，IQuest-Q1 还引入 Claude Code、Codex 等智能体执行框架，结合监督微调、强化学习和多教师在线策略蒸馏（MOPD）开展训练。
其中，四类专业教师模型分别面向终端交互、多框架适应、长程代码与网络安全，以及通用 Agent 任务，并通过模型融合整合不同方向的能力。
图：后训练流程
29T Tokens与1.93倍规模化效率，320B模型如何训练？
Agent 的任务执行能力，也依赖基础模型的代码理解、长上下文处理和推理能力。
IQuest-Q1 采用总参数 320B、激活参数 15B 的 MoE 架构，包含 88 层 Transformer。每个 MoE 层配置 256 个路由专家，每个 Token 激活其中 8 个。
模型结合分组查询注意力与滑动窗口注意力，中间层采用每 3 层滑动窗口注意力搭配 1 层全注意力的结构。
图：IQuest-Q1 整体模型架构
在训练方面，IQuest-Q1 的预训练与中期训练累计使用约29T Tokens。
预训练阶段，代码数据占比从 40% 逐步提升至 70%；中期训练进一步引入推理问答和 Agent 执行轨迹，并分阶段将上下文长度扩展至 512K Tokens。
针对大规模训练的效率与稳定性，团队采用 Stable SplitNorm、Muon 优化器及μP 参数化等技术。
技术报告公布的一项受控架构对照实验显示，在相同训练数据条件下，与参照 Qwen3-30B-A3B 配置的 MoE 风格基线相比，IQuest-Q1 架构达到相同训练损失所需的计算量约为基线的 52%，对应1.93倍规模化效率。
图：规模化效率与稳定性实验
需要注意，这一结果来自架构对照实验，并不等同于完整 320B 模型的实际训练成本降低 48%。
团队还提出 Critical Model Size（CMS）指标，通过安全学习率与最优学习率之间的关系，研究模型规模化过程中的训练稳定性。
在推理效率方面，IQuest-Q1 采用递归式多 Token 预测（Recursive MTP）机制，将预训练阶段使用的一个 MTP 层改造为递归草稿生成模块。
该模块通过复用相同参数生成多个候选 Token，并结合较小窗口的滑动窗口注意力，控制长上下文下的草稿预测开销，为投机解码提供支持。
图：递归式多 Token 预测示意图
30项Benchmark，复杂工作流能力表现如何？
在上述训练体系基础上，IQuest-Q1 技术报告公布了覆盖代码、软件工程、工具使用、复杂工作流及通用推理等方向的 30 项评测结果。
图：Benchmark 成绩
其中，AutomationBench与τ³-Banking分别取得52.7和51.8分，均位居报告列示的对照模型首位。参与比较的模型包括 Claude Opus 5、GPT-5.6 Sol 等。
AutomationBench 主要考察跨应用自动化能力，要求模型在不同系统间调用工具、管理状态并完成多步骤操作。
τ³-Banking 则围绕银行业务场景，评估智能体对业务规则的理解、工具调用及多轮任务执行能力。
这类评测关注的不只是单次操作是否正确，还包括模型能否遵守约束，并将多个步骤整合为完整的任务结果。
在工具使用方面，IQuest-Q1 在 SkillsBench、MCP-Atlas 和 Toolathlon-Verified 上分别取得 74.1、78.4 和 75.0 分。
在 Claw-Eval 和 IQuest-CLIBench 上，模型分别取得 77.1 和 53.7 分。其中，IQuest-CLIBench 是团队针对 CLI Agent 设计的内部评测，结合用户交互模拟、执行轨迹和环境状态检查，考察实际任务完成情况。
此外，模型在 NL2Repo-Bench 和 CyberGym 上的成绩分别为 63.0 和 84.5 分；BrowseComp、WideSearch 和 GPQA Diamond 则分别达到 85.5、81.8 和 93.3 分。
整体来看，此次报告补充了 IQuest-Q1 在复杂工作流与工具交互方面的评测证据。但标准化测试仍无法完全反映开放环境中的任务复杂度，模型的执行稳定性与泛化能力仍需进一步验证。
从任务执行到研发辅助，Agent还有哪些可能？
除训练方法与评测结果外，报告还披露了一项智能体参与模型研发的实验。
针对长程任务中出现的 35 次工具调用错误，基于 IQuest-Q1 构建的智能体分析了 6054 次工具调用记录，发现部分训练数据集中于单一工具调用格式，且存在工具定义与参数不匹配的问题。
随后，智能体提出数据清洗与增强方案，并在研究人员审核后参与相关数据处理及训练配置准备。
这一案例展示了 Agent 辅助分析模型训练问题的可能性，关键研发决策和高成本实验仍由研究人员负责。
从报告中还可以观察到，IQuest-Q1 的研发覆盖了从预训练、中期训练到后训练的完整流程，而不是微调其他模型而来。虽然是一条更具挑战性的路线，但也更具意义。
来源：互联网
