
在 AI 应用迈向工程化与规模化的新阶段,行业讨论的重点已逐渐从「Agent 能否完成任务」,转向「是否能够在真实业务环境中稳定、可控、可复用地创造持续价值」。
在 AI 应用迈向工程化与规模化的新阶段,行业讨论的重点已逐渐从「Agent 能否完成任务」,转向「是否能够在真实业务环境中稳定、可控、可复用地创造持续价值」。12 月 19 日,在 AICon 全球人工智能开发与应用大会期间,由商汤大装置事业群 CTO 宣善明担任出品人的「Data+AI / Agent 落地实践论坛」聚焦这一现实命题,围绕典型场景展开系统性实践分享。
会上,商汤大装置事业群研发总监王志宏带来《从需求到投标:数据驱动的智能技术方案生成 Agent 实战》主题演讲,深入解析商汤在复杂售前方案评估与标书生成领域的 Agent 工程化探索与应用落地。
作为论坛的出品人,宣善明表示,本次论坛刻意弱化「炫技式 Demo」,而是聚焦最具代表性的实践场景,以商汤复杂售前方案评估与标书生成场景为例,我们可以看到,现在 Agent 应用已经不再停留于模型能力本身,而是通过工程方法论、架构设计与系统闭环,让 Agent 真正成为可规模复用的生产力。这也是我们希望与行业共同推进的重要方向。

数据驱动的智能技术方案生成 Agent
项目数量激增、客户需求高度定制化,产研团队则承担评估与响应工作压力巨大。真正的瓶颈不再是「技术能不能做」,而是有没有足够资源去评估。王志宏讲到,基于这样的现实,商汤大装置打造了一个数据驱动的智能技术方案生成 Agent:构造一个由多个专家 Agent 组成的协同系统,分析杂乱无章的数据并得到我们需要的结果。它不仅仅是⾃动化⼯具,更是⼀个能够理解、推理、⽣成和验证的专家级合作伙伴。
该方案主要解决两件事情:①帮助完成立项与解决方案评估;②自动化完成标书生成与合规审核。

【商汤大装置事业群研发总监王志宏】
「认知—匹配—生成—校验—复用」的工程闭环
这套「数据驱动的智能技术方案生成 Agent」实践,本质是在复杂售前与方案编制场景下,通过产品知识解析、产品与需求的数据匹配和分析、智能生成、校验与改写等,构建了一条从「认知—匹配—生成—校验—复用」的工程化闭环。
● 首先将问题拆解为几个关键步骤:一是对产品侧进行系统化结构解析,面对多源资料(Word/PDF/Excel),通过目录解析、层级重建、功能抽取与 metadata 提取,完成分层(IaaS/MaaS/应用层)+聚类建模,形成一个可持久化、可复用、可增量更新的产品知识库;
● 二是进行数据驱动的匹配与分析,按产品聚类切分需求、逐层匹配产品,结合功能得分、过滤条件与「最少产品覆盖最大需求」的优化策略,同时评估定开成本与人力投入,整体来看,对于一篇 50 页左右的产品文档和需求说明,约需要花费 50w Token 的费用,耗时约 30 分钟。
● 在此基础上进入智能生成阶段,通过「长文本拆解→子问题规划→工具化 Agent 并行求解→Refine 回填」策略,避免一次性大段生成的不稳定问题,结合代码工具、检索与复杂子任务能力,产出结构正确、逻辑一致、风格符合模板要求的标书与解决方案;
● 最后,构建审核与改写体系,会进行基础语言、结构审核,再针对废标项、功能承诺与合规红线等做场景审核,并采用「多节点粒度+多维度并行+大模型复审」机制生成问题清单,再按类型分流回填与最终复核,10 万字标书约 1 小时即可完成审核与修改。
王志宏总结指出,整个体系最终实现从「专家数日鏖战」到「系统数小时完成+人工最终确认」的效率提升,并通过统一知识底座与多重校验机制显著提升质量,让一次性工程真正沉淀为可复用能力体系。
真实工程难题的系统化应对
在实践过程中,团队直面了多个工程挑战,并逐一给出体系化解法:
● 提取结构化数据的准确率较低:依托商汤万象的 UniParse,专注于复杂文档与票证的深度理解和信息提取,为企业提供「全维度、高精度、流畅化」的智能文档处理解决方案。
● 为实现功能覆盖而「海选产品」:引入「分层+分类」的策略,先对产品进行分层与类别划分,再在每一类中仅选择最优产品代表来满足该层需求,从而以尽量少的产品实现尽量多的能力覆盖,避免「海选式堆砌产品」的低效与失真。
● 长文本写作的生成效果较差:采用「模板切分 + 子任务化」的方式,通过大模型判断将长模板切分并、将超长段落拆成写作子任务。同时,在写作过程中动态优化目录结构,并基于「目录驱动+上下文增强」显著提升长文本生成的结构清晰度、逻辑一致性与可用性。
● 上下文一致性审核准确率低,通过解析全文目录结构与段落位置,定位相关信息、剔除无关内容,再结合参考资料让大模型进行多轮复审,显著提升了一致性审核效果。
LazyLLM——真正面向工程落地的 Agent 应用开发框架
王志宏特别介绍了,支撑这一体系的,是商汤自研 Agent 应用开发框架 LazyLLM,能够以极低成本构建强大 Agent 系统,并解决私有化与复杂生产环境中的关键难题。

● 统一了本地与云端模型的使用方式:支持不同推理框架与模型的无缝切换,支持所有模型微调和评测
● 复杂应用一键跨平台部署:通过数据流 Pipeline 自动发现并启动所需服务,包括大模型、向量模型、文档管理、召回服务等,并可接入 K8s 实现工业级能力。
● 灵活地定制数据切分和解析策略:可轻松构建「可替换、可扩展」的高定制 RAG,仅需十余行代码即可完成复杂能力搭建,并具备清晰易定位的错误提示体系。
● 更重要的是,它不是「只做 Demo」的框架,而是已在实际 PoC 与工业生产中大规模应用,并在高并发与扩展性方面完成工程化打磨,真正让 Agent 开发变得「简单但可靠、灵活且可落地」。
形成可持续进化的系统能力
未来不仅是把系统「跑起来」,更重要的是让系统「学起来」。通过真实客户反馈形成「执行→结果反馈→误差分析→模型更新→知识更新→系统进化」的闭环,让每一次成功或失败都转化为能力提升,推动从效果复盘走向算法与系统能力持续进化。
论坛出品人宣善明讲到,商汤大装置将推动 LazyLLM 框架开源,持续开放底层核心技术与算法能力,建设开发者生态,推动行业方案标准化,形成产品与技术双向演进;另一方面推进产品化,【将基于 LazyLLM 开发的各种实用工具】集成到商汤大装置「万象」体系,持续优化交互与体验,强化高并发、多用户和多场景的稳定能力,并兼容企业级私有化部署需求,形成可运营、可落地的完整产品体系。
来源:互联网



