在人工智能领域，模型的计算效率和性能一直是推动行业发展的关键因素。今年，一家来自中国的公司彩云科技，在国际机器学习领域的顶级会议 ICML(国际机器学习大会) 上发表了一篇高分论文，介绍了其最新研发的 DCFormer 模型架构，该模型通过改进 Transformer 核心机制——多头注意力模块（MHA），实现了对 Transformer 模型 1.7-2 倍的性能提升。
在人工智能领域，模型的计算效率和性能一直是推动行业发展的关键因素。今年，一家来自中国的公司彩云科技，在国际机器学习领域的顶级会议 ICML(国际机器学习大会) 上发表了一篇高分论文，介绍了其最新研发的 DCFormer 模型架构，该模型通过改进 Transformer 核心机制——多头注意力模块（MHA），实现了对 Transformer 模型 1.7-2 倍的性能提升。
云锦天章问世，DCFormer 引领 AI 小说续写新纪元
近日，彩云科技 DCFormer 模型架构又有了新的动作。彩云科技在北京总部举办了一场主题为「From Paper to App」的媒体沟通会。会上，彩云科技 CEO 袁行远正式公布了首款基于 DCFormer 架构开发的通用大模型云锦天章，彩云科技旗下 AI 小说续写平台彩云小梦，也成为首款基于 DCFormer 模型架构开发的 AI 产品。
据彩云科技 CEO 袁行远介绍，云锦天章可以实现在虚构世界观的基础上，赋予小说人物编程、数学等基础能力，可以高速针对大量文字进行扩写、缩写，针对文章风格进行大容量更换，同时兼具其他模型的问答、数学、编程等基础能力，是目前世界最强的小说续写通用模型。
在实际应用中，全新通用模型架构 DCFormer 也展现出了惊人的性能。随着通用大模型云锦天章的推出，拥有四百万用户的彩云小梦也迎来了基于全新 DCFormer 模型架构的 V3.5 版本。这一升级使得彩云小梦在整体性能上实现了显著飞跃，逻辑创意通顺度提升了 20%，支持前文长度由 2000 字提升至 10000 字，故事背景设定长度更是达到了 10000 字。毫无疑问，DCFormer 的应用使得彩云小梦 V3.5 能够创作出更长、更专业的故事内容。
与其他 AI 小说续写产品不同，彩云小梦 V3.5 在深度交互过程中展现了显著的优势，它能够确保人物性格的一致性，避免出现前后矛盾的情况，同时增强了故事的逻辑性和连贯性。袁行远表示，彩云小梦自推出之日起，就致力于为用户打造指尖伴侣定制梦境。在用户单次使用时长和累计使用时长方面，彩云小梦在同类产品中均遥遥领先，显示出其在用户心中的非凡地位和广泛的受欢迎程度。
DCFormer 技术革新：AI 时代的能源瓶颈解决方案
随着 AI 的发展和普及，AI 在能源消耗中的占比正逐年攀升，逐渐成为一个不容忽视的问题。众所周知，AI 的能耗主要来自于数据中心和服务器的电力需求，这些设施支撑着 AI 模型的训练和运行。据国际能源署的报告预测，到 2026 年，全球数据中心的电力耗用将超过 1 万亿千瓦时，相当于日本目前全年的用电量。特别是在生成式人工智能的驱动下，如大型语言模型，这些技术带来的电力消耗更是惊人。
在彩云科技看来，通过改进底层模型，提高模型的运行效率，是改变 AI 能源困局的最佳策略。彩云科技发布的全新通用模型结构 DCFormer，其效率是传统 Transformer 的两倍。彩云科技的这一技术突破，意味着在处理大规模数据和复杂任务时，DCFormer 不仅能够提升大型模型的计算效率，还降低了能耗和成本。
对此，袁行远还特别提出了两个核心要点，首先，专注于特定领域的深入研究至关重要。以 Open AI 为例，假设它拥有 3 万张 A100 卡，但只有其中十分之一，也就是 3000 张卡用于故事创作。如果我们通过采用 DCFormer 模型架构实现了 2 倍的训练效率提升，那么只需 1500 张卡就能达到与 Open AI 相同的效果。其次，模型结构的优化同样关键。在相同的算力条件下，DCFormer 模型架构能够提供 2 到 4 倍的加速效果。这意味着，只需要 3000 张卡的四分之一，即 750 张卡就能达到原本 3000 张卡的效果。简而言之，通过模型架构的持续优化，我们可以用更少的硬件资源实现更强的 AI 性能，同时也能降低 AI 大模型的能耗。
DCFormer 模型架构的高效率不仅为 AI 行业当前面临的能源和成本挑战提供了切实可行的解决方案，也为企业在 AI 项目上的投入带来了更经济实惠的选择，推动了 AI 技术的普及和应用。
此外，彩云科技已经将 DCFormer 模型架构的代码、模型和训练数据集开源，这一行动旨在与全球计算机科学界和产业界携手并进，共同推动 AI 技术的创新与进步。彩云科技这种开放的姿态不仅彰显了其对技术创新的坚定承诺，也为整个行业提供了宝贵的资源共享和合作机遇。
彩云科技以其宏伟的愿景为指引，致力于普惠高阶认知，希望通过优秀的人工智能产品让所有人都能掌握高阶认知能力，让生活更美好，让世界更美好。相信随着 DCFormer 模型架构的广泛应用和持续优化，彩云科技的技术革新将为 AI 大模型的创新探索提供关键驱动力。展望未来，我们期待 AI 技术在各领域的突破性进展，它将以更低的成本和更高的效率服务于社会，为人类带来更多的可能性。
来源：互联网
