硅基流动 TokenPlus 上线首月:单日 Token 消耗突破 6000 亿!

摘要

近日,硅基流动公布旗下 Token 智能调度平台 TokenPlus 词元优选的上线首月数据:平台单日 Token 消耗峰值达到 6069 亿,模型 API 首月累计调用超过 2.7 亿次。

近日,硅基流动公布旗下 Token 智能调度平台 TokenPlus 词元优选的上线首月数据:平台单日 Token 消耗峰值达到 6069 亿,模型 API 首月累计调用超过 2.7 亿次。

TokenPlus 于 10 月 10 日正式上线,面向开发者和企业提供多模型接入、多服务商智能路由及用量管理等服务。随着大模型应用逐步进入实际业务,模型选择、调用稳定性和成本管理成为开发者需要同时考虑的问题。

首月模型用量与请求次数榜单公布

从 TokenPlus 公布的首月模型使用数据来看,不同模型在 Token 用量和请求次数上的排名有所区别。

按 Token 用量统计,GLM-5.3 以 33.16% 的占比位居第一;DeepSeek-V4.1-Flash-1017 和 DeepSeek-V4.1-Flash 分别占 32.21% 和 9.5%。三款模型合计贡献了平台首月超过七成的 Token 消耗。

按请求次数统计,DeepSeek-V3.2 以 24.35% 的占比位居第一;DeepSeek-V4-Flash 和 DeepSeek-V4.1-Flash-1017 分别以 15.79% 和 15.12% 位列第二、第三。

智能比价与预算管理,帮助控制调用成本

随着调用量增长,不同服务商之间的价格差异,也可能逐渐累积为业务成本。TokenPlus 接入多家模型服务商,支持用户在平台内比较和调用模型服务。根据官方公布的信息,平台目前部分热门模型提供优惠:GLM-5.3、DeepSeek-V4.1-Flash-1017 均为 4.2 折起,DeepSeek-V4-Pro-0813 为 5.5 折起。具体价格和适用范围以平台实时展示为准。

在调用过程中,TokenPlus 支持 Session 亲和性路由,让连续请求尽可能保持在同一服务商,以增加缓存命中的机会,帮助用户优化调用成本。

对于团队使用场景,TokenPlus 还提供项目与 API Key 限额管理功能。团队可以为不同项目、API Key 分别设置日限额或周限额,并为自动化流水线、持续运行的 Agent 等任务分配独立的 API Key 和额度,降低单个任务异常消耗对整个账户的影响。结合成员权限与用量管理,团队也可以查看不同项目的使用情况和费用去向。

多服务商接入,降低单一线路波动影响

在模型调用进入日常工作和业务流程后,服务稳定性也成为开发者关注的问题。一次限流或服务波动,可能打断正在运行的任务,影响应用体验。TokenPlus 为同一模型接入多家服务商。当某家服务商出现限流或服务异常时,平台可通过智能路由,将请求切换至其他可用服务商,减少单一线路波动对业务的影响。

据 TokenPlus 公布的监测数据,以 DeepSeek V4.1 Flash 1017 为例,11 月 7 日,平台整体可用性为 100%,单个服务商的平均可用性为 95.39%,个别服务商在部分时段的可用性降至 0%。上述数据反映的是特定模型在指定日期内的监测情况。通过多服务商接入,当单条线路出现波动时,平台可以尝试将请求切换至其他可用线路。

TokenPlus 表示,上线首月收到了不少关于模型上新、价格展示、路由策略和产品体验的反馈,相关建议正被持续纳入产品迭代。目前,平台已上线 Web Search 能力,并在优化模型价格展示,希望让不同服务商的价格信息更清楚、更便于比较。更灵活的路由配置、视频生成模型接入等能力也在后续规划中。

此外,TokenPlus 双十一活动计划于 11 月 11 日上午 8 点开始,具体活动内容与规则以平台公告为准。

来源:互联网

最新文章

极客公园

用极客视角,追踪你不可错过的科技圈.

极客之选

新鲜、有趣的硬件产品,第一时间为你呈现。

张鹏科技商业观察

聊科技,谈商业。