在 WAIC 的安谋科技展台上，我听到了一组被忽略的判断：AI 算力的竞争，正在从「峰值有多高」转向「系统够不够用」。
今年 WAIC 最出圈的展品，大多是那些会动的家伙，机器人、机甲、机器狗，占据了展馆里最热闹的角落。
7 月 18 日下午，在世博展览馆 H1-C420 的安谋科技展台，我们听了一场几乎没有任何炫目 demo 的发布会。四位技术负责人轮流上台，讲的都是些看不见摸不着的东西，CPU、NPU、VPU、操作系统。它们放在一起，几乎能拼出一张未来两三年 AI 硬件演进的底层路线图。
最核心的变化是，能用的模型正在快速变小。在 MMLU 这个基准测试上，业界普遍把 60 分看作商用的最低门槛。2022 和 2023 年的时候，模型参数得做到几百 B 才能摸到这个及格线，而到了 2025 和 2026 年，接近 1B 体量的轻量模型也能拿到 60 分左右。这意味着原本只能跑在云端服务器上的能力，现在有机会被塞进端侧一颗小小的芯片里。
蒸馏让大模型的知识可以压缩迁移，MoE 让参数量和实际激活量解耦，低比特量化让同样的权重占更少的内存和带宽，再叠加数据质量的提升，四股力量叠在一起，才把及格线的门槛拉低了两个数量级。而对硬件行业来说，这条曲线的意义远比它看起来重要：它决定了 AI 计算这块蛋糕，未来会有多大比例从云端切给终端。
过去两年所有关于端侧 AI 的争论，说到底都是在赌这条曲线的斜率。现在斜率已经出来了。
伴随这一变化，AI 算力的评判标准也在转向。安谋科技 NPU 产品线负责人、首席架构师舒浩说得很直接，产业关注的焦点已经从单纯的峰值算力，转向了系统效率、场景适配性和整体可部署能力。这个转向其实不只发生在端侧。过去一年云端最热的讨论是 GPU 利用率和推理成本，本质上问的是同一个问题：算力本身不再稀缺之后，把算力有效用掉的能力才是稀缺的。端侧只是把这个问题提前逼到了极限。
这背后的根本逻辑是，边端侧 AI 并不是云端 AI 的缩小版，它是一个由功耗、实时性、软件复杂度、数据隐私和可靠性共同重新定义的新计算市场。你不能把云端那套高功耗大带宽的方案简单缩放，就指望它在手机、摄像头或者机器人上跑得流畅。
这种分野在具体的技术路径上体现得很明显。安谋科技 CPU 产品总监朱晓鸣指出，端侧 AI 是一场资源受限下的博弈，用户想要强大的推理能力、长上下文和永远在线，但现实是电池有限、芯片面积有限、内存带宽也有限。
针对 IoT 设备，Arm 生态拿出了 Cortex-M 系列配合 Helium 指令集的组合，在蓝牙音频这类场景里新架构能带来 30% 到 65% 的性能提升，在机器学习任务中平均有三倍、个别情况下甚至超过八倍的提升，让嵌入式设备在有限的功耗和算力下，尽可能多地释放 AI 计算潜力。
值得注意的是，端侧真正的瓶颈其实早就不在算力上了。朱晓鸣在会上专门提到内存墙和带宽墙，这两堵墙在端侧的约束比云端重得多。这也是为什么在他们规划的三条路径里，存内计算被单独拎了出来。当模型跑不动的原因不是算不过来，而是数据搬不过来的时候，堆 TOPS 就是无效努力。这是端侧 AI 和云端 AI 在工程直觉上最大的差别，也是很多把云端经验平移过来的团队最容易踩的坑。
NPU 这条线的变化同样深刻。随着大模型和 Agentic AI 的兴起，舒浩提出 NPU 正从一个一次性的推理加速器，进化成 AI 智能体的计算底座。一次性推理只需要把一次前向算完，而智能体要持续感知、保留上下文记忆、多轮调用工具，这意味着 KV Cache 的规模、内存层次的设计、数据在不同计算单元之间的流转效率，全都变成了一等公民。X3-Pro 在规格上强调可配置的内存层次架构。
面对手机、自动驾驶、工业网关等四类需求截然不同的端侧场景，新一代周易 X3-Pro 架构采用了统一分层场景化的设计思路，试图用一次软件适配去覆盖从低功耗到高算力的各种硬件方案，让碎片化的场景适配成本大幅收敛。
这里其实藏着芯片行业一个新的结构性难题。过去几十年，硬件行业解决碎片化的方式是通用化：靠工艺进步和架构通用性，把不同场景的需求收敛到一颗芯片上，摩尔定律替所有人买单。但 AI 时代的碎片化不一样，它不是性能梯度的差异，而是约束条件的差异。可穿戴要的是能效比，工业网关要的是确定性和长生命周期，家庭 AI 盒子要的是多路并发和常年在线，这些诉求之间没有强弱关系，只有取舍关系，通用化收敛不了。
所以答案只能反过来：硬件保持差异化，但让软件界面统一。X3-Pro 那套统一 ISA 加差异化硬件抽象的分层设计，本质上是承认了场景不可能收敛，转而让适配成本收敛。
而视频这条赛道也在换观众。安谋科技 VPU 研发总监黄鑫提到，过去的视频编码是为人眼的主观视觉服务的，讲究的是发朋友圈画质够不够好，但现在机器人、自动驾驶的感知模块都要拿视频去做推理和训练，AI 本身成了视频的最终消费者。所以他们发布的武当 VPU 以及后续的端到端编码技术，目标就是让编解码不仅要让人看清，更要让 AI 看懂。
具身智能这两年最贵的不是算力，是数据，而视频是机器人训练数据最主要的载体。当一段视频既要被存储、被传输，又要被拿去训练，编码的取舍逻辑就完全变了：传统编码可以放心丢掉人眼看不出来的细节，但那些细节恰恰可能是模型判断的依据。压缩率每提高一点，训练成本和存储成本就降一点；而质量每损失一点，感知精度就折损一点。谁能在这条曲线上找到更好的平衡点，谁就在具身智能的数据链路上占了一个位置。这是一个过去几乎没人认真讨论、但接下来两年会越来越贵的问题。
在具体产品动作上，最值得关注的是星辰 300 平台。它把自研的 STAR CPU 和 Ethos NPU 高效集成在一起，做成了一个 FPGA 原型验证平台，上面已经跑通了六个端侧 AI 的典型模型案例。现场演示中，一块小小的开发板就能完成实时人脸探测和多目标跟踪。
对 IP 供应商来说，从交付一份规格文档到提供一个可上手验证的平台，这个姿态变化意味深长。IP 授权是个很纯粹的生意，卖的是设计，交付的是文档和代码，剩下的集成、调优、验证都是客户自己的事。但在异构计算成为常态之后，客户的真实痛点已经不是某一颗 IP 好不好，而是几颗 IP 放在一起能不能配合好，调度策略怎么写才不浪费。
一个原型验证平台的意思是：我把异构组合好了，主流模型也跑通了，你直接上手看效果。这本质上是在帮客户压缩试错成本，在端侧 AI 这种一分功耗一分钱的工程约束下，这个价值相当实际。往长了看，这也是 IP 商业模式在 AI 时代不得不做的进化，因为客户买的东西正在从一颗核，变成一整套能跑起来的方案。
硬件之外，生态层面也有动作。安谋科技市场及生态副总裁梁泉宣布牵头发起开源 AIOS 联盟，因为随着具身智能逐渐落地，操作系统正从传统的工具型系统，向具备模型推理、任务编排和记忆管理等能力的智能体操作系统演进。这一联盟落地在极术社区，首批参与者包括紫光、辉羲等芯片伙伴，以及面壁智能等端侧模型厂商。
一家做 IP 的公司为什么要牵头做操作系统？因为端侧 AI 现在的瓶颈已经不只在硬件。你把 CPU、NPU、VPU 都做好了，客户拿回去还是要面对任务调度、记忆管理、多模态数据流融合这些软件难题。如果每家企业都自己造一遍轮子，整个行业的效率会低得可怕，开源是摊薄这份重复劳动最现实的办法。
更深一层看，这也是生态位的争夺。PC 时代和移动时代的历史都证明了同一件事：定义了操作系统的人，才真正定义了这一代计算平台的价值分配。如今新一代 AI 设备的形态还没定型，从 AI 眼镜、录音设备到互动宠物、家庭边缘盒子，谁都不确定哪一类会跑出来，但可以确定的是，它们上面终究要跑一套东西。在这个窗口期选择开源，是后来者最聪明的打法，因为闭源需要绝对的号召力，而开源只需要足够多的人愿意一起用。这一步的成败，短期看不出来，要看三年后还有多少家伙伴留在里面。
最值得关注的还是AI 算力底座的关注焦点已经从峰值算力转向了系统效率和可部署能力。
过去几年 AI 硬件的叙事是更大的算力、更高的 TOPS，这套逻辑在云端依然成立，展馆里那些超节点和万卡集群就是最好的证明。但当 AI 要下沉到摄像头、门锁、耳机、机器狗这些真实设备时，核心命题就从我能有多强，变成了在这么点电、这么点面积、这么点带宽里，我能榨出多少有效算力。这是两种完全不同的工程哲学，前者比的是上限，后者拼的是效率。
也正因为如此，这场竞争的胜负手会和过去很不一样。上限之争是一场资本密集的游戏，谁有钱、谁有先进制程、谁能拿到产能，谁就领先；而效率之争拼的是软硬协同的工程功力，是编译器、调度器、算子库这些不上台面却极其吃时间的东西，很难靠钱在短期内补齐。这对中国的芯片公司未必是坏事，因为它把竞争从一场需要追赶的军备竞赛，拉回到一场需要熬时间的手艺活。
一个 1B 的模型就能摸到商用及格线，这句话背后是整个 AI 产业重心从炫技走向落地的开始。而在这场下沉之战里，最终胜出的未必是堆料最猛的那个，而是能在有限资源下把软硬协同做到极致的那一个。
WAIC 的展馆里，最热闹的永远是那些会动的东西。但让那些东西动起来的，是这些不会动的部分。
