
6 月 28 日,腾讯云正式对外发布 TI 平台公有云版本,并推出全新 AI 加速功能 TI-ACC,其训练加速性能较原生框架提升 30% 以上,模型推理加速比达 2 倍以上。
6 月 28 日,腾讯云正式对外发布 TI 平台公有云版本,并推出全新 AI 加速功能 TI-ACC,其训练加速性能较原生框架提升 30% 以上,模型推理加速比达 2 倍以上。该版本也是腾讯首个面向开发者开放的一站式机器学习平台。
腾讯云 AI 副总经理、AI 开发平台资深技术专家李世平表示:「AI 应用如今正在各个领域蓬勃发展,AI 开发服务平台也已成为各行业 AI 应用的生产力工具。在此背景下,腾讯云全新推出 TI 平台的公有云版本,帮助广大开发者简化在工程上的大量研发投入,将精力聚焦在业务本身,从而提高 AI 应用的开发效率。」
据介绍,此次发布的 TI 平台公有云版本性能强大、兼容性高、计费灵活、使用门槛低以及管理高效,可以有效帮助企业和开发者提升数据接入、数据处理、模型训练、模型服务等环节的效率,助力 AI 开发降本增效。
其中,TI-ACC 是本次 TI 平台全新升级发布的重磅功能,也是其强大性能的核心保障。TI-ACC 支持大规模的训练和推理加速,帮助企业和开发者解决了在 AI 加速方面的痛点和需求。
针对训练加速,TI-ACC 能在模型精度不下降的前提下,提升模型的产出效率。依托优图实验室在各类复杂模型训练加速的实践经验,TI-ACC 实现了对主流的训练框架和分布式训练工具的支持,同时加速效果优异,较原生训练框架提升了 30% 以上的训练性能。

针对推理加速,TI-ACC 能在不影响预测精度的前提下降低 GPU 资源占用率,其加速效果、使用便捷性较市面开源方案均有明显的优势。在产品能力上,TI-ACC 除了可以支持主流的各类模型格式,同时也包含了丰富的推理加速优化手段,相比原始模型,其推理加速比通常达到两倍以上。

以某商品识别行业 ISV 厂商客户为例,该客户采用了高精度的 Detectron2 商品识别模型,而随着业务规模扩大,其 GPU 卡资源投入成本不断提高,降本诉求也愈加强烈。采用 TI 平台后,客户将 TI-ACC 加速优化后的模型部署在生产环境,推理性能相比客户 baseline 提升了 100% 左右,服务 QPS 提升了 45%,云资源成本支出也得到了有效降低。
目前,腾讯云 TI 平台已在泛互、泛政务、医疗、金融、工业、传媒等行业落地应用,帮助实现了智能工业质检、金融 AI 中台、智慧化城市运营管理、疾病辅助诊断等诸多细分领域 AI 应用的开发。
作为「下一个十年」的核心科技手段之一,AI 正在加速渗透到各行各业,推动其发展与创新。面向未来,腾讯云也将持续精进 AI 开发平台的产品创新能力,为企业和开发者提供更加丰富的平台化服务,赋能千行百业,引领时代之声。
来源:凤凰网



