WAIC 洞察-曦望徐冰:推理基础设施是未来十年最大机遇,端侧将引爆推理需求的第二波浪潮

摘要

"今年才是大众真正认可 Token 商业价值的元年。"曦望 Sunrise 董事长徐冰表示,当前市场已开始大规模为顶尖大模型付费,不少用户每月在模型上的支出达到上千元,甚至频繁耗尽 Token 额度。

"今年才是大众真正认可 Token 商业价值的元年。"曦望 Sunrise 董事长徐冰表示,当前市场已开始大规模为顶尖大模型付费,不少用户每月在模型上的支出达到上千元,甚至频繁耗尽 Token 额度。

7 月 17 日,2026 WAIC「清华朋友圈之夜」论坛上,徐冰在与图灵奖得主 Richard Sutton 等顶尖学者、创业者、投资人共话 AI 未来,发表了《与 Agent 共生,与同路人共造——Agent 时代的推理基础设施与创业地图》的产业演讲。

在他看来,顶尖智能长期是稀缺资源——依赖高校多年培养专业人才,高端智力如同"奢侈品";而今天,顶级智能第一次成为可按需采购的标准化商品,智能正式转型为一种数字基础设施。

曦望 Sunrise 董事长徐冰在 2026 WAIC 论坛上发表关于 Agent 时代推理基础设施主题演讲的现场画面。

为 Agent"造房子":推理基础设施是未来十年最大机遇

演讲中,徐冰提出了一个观察:"Token 的主人正在换人。过去三年,Token 是人买的、人看的;从今年开始,越来越多的 Token,人都不会看一眼——那是 Agent 在规划、调用工具、写代码、自我检查时,机器烧给机器的。"

买单主体从人切换到 Agent,改变了需求的计算方式。人消耗智能受注意力和工作时长的生理约束,而 Agent 实现了智能任务与人类时间的完全解耦——7×24 小时在岗、可无限并行复制,未来数量有望达到数百亿,远超全球 80 亿人口。但徐冰特别强调:"Agent 数量超过人类只是表象,真正的经济拐点,是 Agent 的工作小时数超过人类的工作小时数。"推理需求由 Agent 数量、活跃时长、行动步骤、每步 Token 与验证重试倍数五个变量连乘决定,呈指数叠加式增长。

AI Agent 被普遍定义为继工业革命、信息革命后的第三次生产力革命:工业革命放大了人类的肌肉与体力,信息革命放大了注意力与信息传播效率,而 Agent 时代则彻底解放了人类的时间。在徐冰看来,"Agent 并非切分存量的蛋糕,而是创造历史上不存在的增量市场。

 

换道超车:当内存成为"数字员工的工位"

AI 算力竞争正从追求性能峰值,转向推理时代的性价比与 TCO(总拥有成本)。以存储为例,高通、英特尔等全球头部企业的推理产品正在采用 LPDDR(低功耗内存)方案——LPDDR 工艺成熟、供应链充足,易于扩产。这一技术路径的切换,为产业提供了"换道超车"的战略窗口。

徐冰用一个比方解释曦望押注大容量内存路线的逻辑:"在 Agent 系统里,内存容量不只是显卡的一个配置参数,它是数字员工的工位。工位越大,一台机器养得起的 Agent 越多,每个 Agent 记得住的事越久。"他同时强调:极高带宽场景与训练负载仍更适合 HBM,曦望要证明的是,在长上下文、高并发等容量敏感的 Agent 负载上,大容量内存加全栈协同能够做出更低的真实任务成本。

 

端侧拐点:引爆推理需求的第二波浪潮

如果说云端 Agent 的爆发是推理需求的第一波浪潮,那么端侧拐点的到来,将引爆推理需求的第二次大爆发。

徐冰指出,云端 AI 正从"野蛮生长"进入"高成本稳态"。全球云厂商投入数万亿美金 Capex 建设 AI 数据中心,Token 账单已成为企业最需要关注的成本项。

与此同时,端侧正在迎来三个关键拐点:算力跃升,内存扩容,智能密度提升。 清华大学"密度法则"揭示大模型能力密度每 3.5 个月翻番,如今还在提速,这预示一两年内 200-300B 模型可比肩当前云端旗舰。

这意味着,用户目前每月花费上千元订阅的云端模型能力,未来可直接部署到终端设备上。

"如果推理成本能降低 90%,很多历史上不赚钱的应用场景将转变为可盈利的商业模型,进而带动推理需求和算力需求的爆发性增长。"徐冰强调。

端侧 AI 的杀手级应用场景将集中在"数据不出端"的需求上,尤其是隐私敏感型任务,其天花板由内存容量和内存价格决定,而 LPDDR 方案正在持续推高这一天花板。推理成本的大幅下降,将让海量过去不经济的场景变为现实——这正是推理需求第二波爆发的引擎。

 

三重产业红利:把"Agent 工作时间"变成中国给世界的新供给

徐冰系统阐述了中国 AI 产业的三重优势:位居全球第一梯队的开放权重大模型、可大规模扩产的内存、价格低且供应充足的电力。三重优势叠加,使国内 Token 量产成本极具优势。

在他看来,这套组合最终交付的产品不是一张芯片,而是"可负担、可拥有、可部署"的 Agent 基础设施。这与"算力普惠"的宏观导向一脉相承;他在演讲中提出的算力调度、软硬协同模型优化、闲置智算集群盘活等创业赛道,正是将普惠愿景转化为可操作商业实践的具体路径。

曦望将以推理基础设施为核心方向,从芯片、解决方案到生态多维布局,"为 Token 工厂装上 Agent 原生的发动机",致力于为 AI 产业构建可负担、可信赖的基础设施底座。

最新文章

极客公园

用极客视角,追踪你不可错过的科技圈.

极客之选

新鲜、有趣的硬件产品,第一时间为你呈现。

张鹏科技商业观察

聊科技,谈商业。