2026 RISC-V 中国峰会期间，武汉元石智算科技有限公司（以下简称「元石智算」）在「数据中心与高性能计算」分论坛发表主题演讲，分享了 RISC-V 服务器级全栈 AI 推理的最新技术成果与工程实践。
2026 RISC-V 中国峰会期间，武汉元石智算科技有限公司（以下简称「元石智算」）在「数据中心与高性能计算」分论坛发表主题演讲，分享了 RISC-V 服务器级全栈 AI 推理的最新技术成果与工程实践。
武汉元石智算科技有限公司 CTO 席宏海
作为以 RISC-V 为基础的 AI 异构集群方案提供商，元石智算始终围绕 RISMA®（RISC-V Multi-Architecture）核心产品战略，推进 RISC-V 与多元算力技术融合。
本次演讲主要向大家汇报了公司在 RISC-V 服务器级 AI 计算领域取得的技术进展：打通从底层硬件、驱动、编译器到大模型推理服务的完整技术链路，进一步验证了 RISC-V 作为 AI 计算系统主处理器的可行性。
1. 打通全栈链路，验证 RISC-V 高性能 AI 推理能力
当前，RISC-V 服务器硬件日趋成熟，但在 GPU 驱动、运行时、编译器及 AI 推理框架等方面，仍面临软件生态适配的挑战。
针对这一问题，元石智算研发 RVOCs（RISC-V Open Computing System）开放异构计算系统，采用双路 80 核 RISC-V 服务器，支持最多 8 张双宽 AI 加速卡，并以 AMD ROCm 作为参考软件栈，完成 Linux 内核驱动、ROCm 运行时、LLVM/Triton 编译器、PyTorch、vLLM 及 MaaS 模型服务等关键组件的适配，实现从硬件到大模型推理服务的端到端贯通。
元石智算展台针对 RVOCs 系统进行动态展示
北京 RISC-V 创新中心展出元石智算最新款 RISC-V AI 服务器
（基于RVOCs 系统）
在采用 AMD Radeon AI PRO R9700 GPU 的对比测试中，RISC-V 平台 32 并发推理吞吐达到 x86 对照平台的 95.8%，并完成了 12 小时压力稳定性验证。
测试结果表明，经过全栈适配，RISC-V 已能够承担 GPU 设备管理与推理任务调度，支撑大模型推理服务运行。
2. 深耕 RISMA 战略，完善 AI 异构算力体系
RISMA 是元石智算的核心产品战略，该战略以 RISC-V 为基础，融合国产及先进多元算力，涵盖算力硬件、智算软件与系统级解决方案。
此次 RVOCs 项目践行 RISMA 战略，聚焦 RISC-V 服务器与 GPU 的底层协同，验证了服务器级 AI 推理能力。
公司由此积累的全栈适配经验，也将为 RISMA 产品体系的技术演进提供参考，支持公司进一步完善软硬协同的 AI 异构算力解决方案。
3. 沉淀跨架构经验，推动开放计算生态发展
在 RVOCs 研发过程中，元石智算围绕不同处理器架构在内存模型、同步机制、编译目标等方面的差异，逐层解决软件兼容性问题，形成了一套可复用的全栈适配方法。
相关技术成果为 RISC-V 与多元 AI 加速器的协同提供了工程参考，也为后续国产 AI 芯片适配积累了实践经验。
下一阶段，项目将继续推进多卡互联、RISC-V 向量化优化及软件生态建设，拓展开放异构计算系统的应用能力。
4. 结语
面向 Token 经济时代，元石智算始终围绕 RISMA 产品战略，提升多元算力资源的整合与服务能力，助力企业建设高效能、低成本的 Token 工厂，朝着「成为 AIDC 算力系统领域最受人尊敬的企业，赋能千行百业」的愿景稳步前进。
通讯作者：李梦竹
来源：互联网
