深鉴科技语音识别加速系统上线 AWS 为全球用户提供云加速服务

摘要

2018 年 3 月 5 日,深鉴科技宣布在亚马逊 AWS 正式上线基于深鉴 Descartes 稀疏神经网络处理架构的自动语音识别引擎 DDESE (DeePhi Descartes Efficient Speech Recognition Engine),开始面向全球用户提供加速试用服务。

成为首家上线基于 FPGA 平台加速方案的中国人工智能公司

2018 年 3 月 5 日,深鉴科技宣布在亚马逊 AWS 正式上线基于深鉴 Descartes 稀疏神经网络处理架构的自动语音识别引擎 DDESE (DeePhi Descartes Efficient Speech Recognition Engine),开始面向全球用户提供加速试用服务。DDESE 自动语音识别加速引擎在 AWS 的发布,标志着深鉴科技成为首个在 AWS 上线基于 FPGA 平台加速方案的中国人工智能公司。

FPGA 芯片可定制化和多功能的灵活特性,满足了云计算便捷经济、易于扩展的需求。从 2016 年起,各大云服务提供商就开始部署 FPGA 云加速业务。全球最大的云供应商亚马逊网络服务 (AWS) 与 FPGA 龙头厂商赛灵思 (Xilinx) 达成合作,充分证明了云计算数据中心将是 FPGA 应用释放潜力的重要市场。同时, 通过大型数据中心的影响力和服务能力,FPGA 影响着数十万应用开发商和企业用户,快速成为公有云服务青睐的应用趋势。

深鉴所发布的 DDESE 聚焦语音识别场景,构建了以赛灵思 FPGA 为计算平台的自动语音识别系统加速引擎,可以为用户提供在 AWS 上端到端的语音识别服务。基于 FPGA 平台,结合深鉴科技算法、软件和硬件协同设计的深度学习加速解决方案,目前 DDESE 初始版本在语音识别的计算环节是 GPU 计算速度的 2 倍。此次深鉴科技获得 AWS 系统服务授权,在云端部署 FPGA 语音识别加速方案,从而可以面向全球用户提供加速服务,并支持其降低开发与部署成本,消除硬件壁垒,同时通过软硬件的协同优化,取得更高效的云运算能力。

深鉴的 LSTM 加速引擎能够有效地缩短语音识别、机器翻译等 AI 时序类应用的延时。深鉴 CTO 单羿表示:「我们在亚马逊 AWS 上发布 DDESE 的目的,是通过基于 Xilinx FPGA 的 ESE 引擎来展示 AI 加速能力,并通过云端推广让更多客户了解深鉴的语音识别全流程解决方案。我们非常高兴可以和 Xilinx 与 AWS 一起来构建 AI 云端加速生态。」

技术测试阶段,采用相同的网络和输入数据,该款自动语音识别引擎端到端延迟相比 GPU(Tesla P4 + cudnn6020)、CPU(Intel(R) Xeon(R) CPU E5-2686 v4 @ 2.30GHz, 8 processors)的加速比分别为 2.06 倍和 6.59 倍,其中 LSTM 部分的加速比分别为 2.82 倍和 8.64 倍。不久之后深鉴还将发布新版本的 DDESE。未来 FPGA 与云端业务结合还将不断扩展及深入,深鉴科技将持续优化技术的功耗性能,扩大 FPGA 的加速特性,实现公有云服务的提速。

关于深鉴科技

深鉴科技由美国斯坦福与中国清华大学的深度学习硬件加速研究者创立,在 FPGA 领域的技术潜能及深度学习 AI 专用芯片发展速度在行业内一直处于领先地位。与 FPGA 巨头赛灵思保持长期深度合作,DDESE 的核心技术 ESE(高效的语音识别引擎)的研究早于 2017 年获得 FPGA 芯片领域顶级会议 FPGA2017 最佳论文奖。深鉴科技期待通过与 AWS 的深度合作输出更便捷、更高效、更经济的 AI 云加速服务。

关于赛灵思

赛灵思(Xilinx, Inc.,NASDAQ:XLNX)是 All Programmable FPGA、SoC、MPSoC、RFSoC 和 3D IC 的全球领先供应商,独特地实现了既能软件定义又能硬件优化的各种应用,推动了云计算、5G 无线、嵌入式视觉和工业物联网等行业的发展。


最新文章

极客公园

用极客视角,追踪你最不可错过的科技圈。

极客之选

新鲜、有趣的硬件产品,第一时间为你呈现。

顶楼

关注前沿科技,发表最具科技的商业洞见。