度小满即将发布「轩辕」大模型 2.0 版本金融理解、对话等能力大幅提升

8 月 23 日, 在北大光华-度小满金融大模型技术与应用论坛上, 度小满数据智能部总经理杨青透露, 度小满轩辕大模型 2.0 版本将在 10 月份发布。

据悉, 轩辕大模型 2.0 版本相较 1.0 版本, 在金融理解、对话能力等多方面迎来了全方位提升。在增量预训练和指令微调阶段, 加入了大量的金融相关数据, 使其能够对金融问题提供更加专业、准确的答案, 金融理解能力提升明显;在对话能力上,「轩辕 2.0」的上下文长度扩充至 8k, 能够处理更长的金融报告、研究和分析。研究人员尝试利用轩辕大模型 2.0 版本详解某银行的非利息收入增长趋势, 收获了令人满意的效果。

今年 5 月, 度小满宣布正式开源国内首个千亿级中文金融大模型「轩辕」, 该模型基于实际业务场景积累的海量金融数据中训练得出。在金融场景中的任务评测中,「轩辕 1.0」全面超越了市场上的主流开源大模型, 赢得了 150 次回答中 63.33% 的胜率。