1 度电可实现多少次 AI 推理计算? 宁畅的答案是:上百万次!
1 度电可实现多少次 AI 推理计算? 宁畅的答案是:上百万次!
11 月 4 日,2022 云栖大会上, 宁畅公司首席技术官赵雷介绍, 依托「全系统定制液冷服务器方案」, 宁畅可让 1 度电能实现上百万次的 AI 模型推理计算, 让高能耗 AI 产业顺应「低碳」政策要求。
伴随 AI 产业高速发展, 数据中心建设迎来热潮, 但对更高算力的需求, 也给数据中心行业带来能耗难题, 伴随多项政策出台, 降低 PUE(数据中心能源效率指标) 成为 IT 企业追求目标。
2022 云栖大会上, 宁畅首席技术官赵雷在远程分享《场景化绿色算力发展与实践》报告时表示, 宁畅「全系统定制液冷方案」不仅可让数据中心 PUE 值降低至 1.2 以下, 还可满足服务器单芯片 500W 功耗的散热, 让单机柜功率得到提升并节省部署空间 80%, 噪音低于 50 分贝。
2022云栖大会宁畅报告现场
「通过总负载 10MW 的数据机房来看, 采用宁畅液冷方案, 相比传统风冷模式, 其年均节省电费可高达 1580 万元, 节省的电能, 每 1 度都可进行数百万次 AI 推理计算。」
赵雷介绍基于 MLPerf-training2.0、MLPerf-inference2.1 人工智能测试标准, 宁畅新款液冷服务器, 仅 1 度电就可实现 16870314 次目标识别分类、435343 次重量级目标分析, 能效比位列行业头部。
2022 年 9 月, 在国际权威 AI 性能基准测试平台 MLPerf 的最新推理 (Inference 2.1) 结果中, 宁畅两款液冷服务器共获得 13 项的第一成绩, 该成绩背后是每秒可完成 679915 个样本处理的世界顶级性能。
另据 IDC 最新发布的《2022 上年度 (H2) 中国加速计算服务器市场分析报告》显示, 宁畅 (Nettrix) 已位列中国区加速服务器市场第二名。
如今, 宁畅作为智能算力定制专家, 已承接定制化服务器项目近千个, 其中液冷方案众多。
来源：互联网
