大模型定义芯片:XHEART 发布 X7 Ultra,释放 10 倍模型参数

摘要

让大模型定义芯片,让芯片承载大模型的下一次进化。

10 月 29 日,XHEART 新芯航途正式发布大模型芯片 X7 Ultra,以 700 TOPS 大模型算力、六大产品优势,将“大模型定义芯片”的理念转化为产品能力,并携手产业伙伴展示量产成果、公布下一代芯片 X9 的研发目标。

 

从模型适配芯片,到大模型定义芯片

智能驾驶正从多个小模型分工协作,走向端到端大模型。模型架构的变化,对芯片提出了新的要求:算力能否在真实量产模型中充分发挥,架构能否跟上模型迭代,能否在有限的能耗与散热条件下支撑更强的智能。

2023 年创业之初,XHEART 便确立了“大模型定义芯片”的技术路线:从真实应用中的模型需求出发,倒推芯片架构,重新组织计算、存储和数据流转。团队从芯片定义阶段就与算法团队共同研究模型架构和关键算子,为未来几年的模型演进提前做好准备。

这一思路也贯穿性能评价。X7 Ultra 的 700 TOPS 大模型算力,基于真实量产智驾大模型评测,并以量化部署后模型输出与训练后 FP32 浮点模型的相似度达到 99.99%以上为约束,让芯片优化直接面向量产要求与驾驶体验。

 

X7Ultra 六大产品优势,释放大模型潜能

围绕大模型对计算、精度、带宽和系统协同的需求,X7 Ultra 形成六大产品优势。

第一,专为大模型设计的超大核 NPU。顺应模型计算集中化趋势,将传统小核之间百 GB/s 级的数据交互,聚合至超大核内部 TB/s 级的高速互联,实现带宽数量级提升。同时,为关键算子配置高精度专用加速引擎,让计算与数据交互更高效,让算子执行又快又准。

第二,硬件并行度解锁。通过底层软硬协同,让更多计算单元同时工作,并使计算与权重加载并行,减少等待,充分释放硬件能力。基于量产智驾大模型实测,X7 Ultra NPU 计算利用率达到 98.7%。

第三,AI 工具链重构。通过整网级融合,对整个模型的计算任务统一编排与优化,减少中间结果反复读写外部内存。结合全新 NPU 架构与硬件并行能力,X7 Ultra 释放 700 TOPS 大模型算力,内存带宽消耗较行业旗舰产品下降 80%,能效提升 100%。

第四,中国首发量产 Armv9 车规级 CPU。承担复杂控制与系统调度,提升多核协作能力,让整颗芯片高效协同,支撑持续演进的智驾系统。

第五,深度异构计算。通过专用计算单元实现本地任务、本地处理,激光雷达处理带宽最高达 2000 万点/秒,传感器预处理稳定性提升 100%,为系统及时、稳定响应提供支撑。

第六,软硬兼备的安全能力。X7 Ultra 满足 ISO 26262 ASIL-B 功能安全要求,内置 MCU 通过 ASIL-D 认证,同时以高效算力与模型迭代空间支撑行驶安全,为智驾系统系好安全带。

这六项能力来自同一个起点:先理解大模型,再设计芯片。通过架构与工具链协同创新,X7 Ultra 支持可部署模型参数量实现 10 倍提升,让更强的模型能力走进量产汽车。

 

量产交付,打造最快的大模型芯片初创公司

“大模型定义芯片”的技术路线,正在接受规模量产的检验。从公司成立到芯片量产,XHEART 用了两年。

首颗 X7 芯片回片后,不到 24 小时完成点亮,主要数据通路全部打通;第 17 天,芯片、底层软件与智驾模型实现整车闭环,在真实道路上接受白天、夜晚及暴雨等环境检验,随后向客户和合作伙伴开放体验。

快速上车之后,是与客户共同完成量产交付。XHEART 围绕 X7 系列提供经过充分验证的解决方案参考设计,并开展域控级 PreDV 测试,帮助客户降低开发难度、提升项目推进效率。

截至发布会,X7 系列已量产 8 个月,累计出货超过 20 万颗,搭载 10 款量产车型,获得超过 40 款车型订单。基于双 X7 的 L3/L4 计算平台也已获得多个车型项目定点,从辅助驾驶向更高等级自动驾驶拓展。

 

携手产业伙伴,深化软硬协同

“大模型定义芯片”的背后,是 XHEART 与产业伙伴对技术方向的共同判断。发布会上,Momenta CEO 曹旭东首次公开分享公司的第三个洞察:“大模型定义芯片。”

这一判断形成于 2022 年底,并由 Momenta 与 XHEART 共同付诸行动。曹旭东认为,大模型定义的芯片,相比通用芯片,性能能够提升 10 倍。而实现规模化 L4,需要百亿至千亿参数模型。如何在车端成本、功耗和可靠性约束下承载这样的模型,要求双方从模型需求出发,协同设计芯片。

即将发布的 R7 Ultra,展现了这一协同的最新成果。基于 X7 Ultra 的支撑,R7 Ultra 的模型参数规模扩大 5-10 倍,安全性能提升 5-10 倍以上,推动世界模型从“理解世界”走向“推演世界”。

曹旭东表示,大模型芯片正在加速智驾摩尔定律。2022 年至 2026 年,智驾能力每两年提升十倍,推动城市 NOA 从早期探索走向应用引爆点与加速普及。面向未来,推动这一规律迈向每年十倍提升, 关键是 “大模型定义芯片”。他判断,L3 和 L4 有望于 2028 年迎来重要引爆点,并在 2030 年走向规模化落地。

要让模型需求真正进入芯片架构,协同必须从设计之初开始。在圆桌论坛上,图灵奖得主 Jack Dongarra 教授表示,让算法、软件与芯片团队在设计定型前紧密协作,是面向大模型时代,更加行之有效的研发方式。他指出,XHEART 改善了芯片内部及芯片之间的数据搬运效率,这是软硬协同优化的重要方向。

从协同设计走向规模量产,先进制造是重要支撑。台积电副总经理陈平博士表示,先进工艺通过持续提升性能、能效与集成度,为大模型提供计算基础。台积电已为 X7 Ultra 提供工艺支持,并表示将持续以先进工艺支持 XHEART 创新:“我们的工艺已经准备好了。”

面向下一代更大规模的模型,XHEART 公布 X9 的核心研发目标:3000 TOPS 大模型算力、700GB/s 单芯片内存带宽,计划于 2027 年推出。通过计算与访存能力同步提升,X9 将继续围绕下一代世界模型推进软硬协同设计。

从 X7 Ultra 到 X9,XHEART 将持续以“大模型定义芯片”为技术主线,与 Momenta 及产业伙伴深度协同,推动更强的模型走进更多量产产品,让芯片承载大模型的下一次进化。

最新文章

极客公园

用极客视角,追踪你不可错过的科技圈.

极客之选

新鲜、有趣的硬件产品,第一时间为你呈现。

张鹏科技商业观察

聊科技,谈商业。