兼容 OpenAI 接口，通过内网调用开源大模型，无需 API 密钥，不按 Token 计费
兼容 OpenAI 接口，通过内网调用开源大模型，无需 API 密钥，不按 Token 计费
新加坡 VPS 云服务商 Ready Server 今日宣布推出 ReadyServer LLM API。这是一项兼容 OpenAI 标准的私有 AI 推理接口，所有 ReadyServer VPS 套餐用户均可免费使用，无需额外付费。
开发者、数字营销机构和科技企业可直接在现有的 ReadyServer VPS 上构建 AI 智能体、聊天机器人、RAG（检索增强生成）应用和编程智能体。整个过程无需管理 API 密钥，也不按 Token 计费。
这一服务针对的是 AI 开发中日益突出的成本问题。单个 Token 的价格看似不高，但当应用从简单对话升级为自主运行的智能体时，调用量会迅速攀升。研究机构 Gartner 预测，到 2028 年，每个智能体工作流的 AI 推理成本将增长五倍以上。
为了避开按量计费的 API，不少团队转而租用独立 GPU 服务器。但对于只需周期性运行推理任务的小型团队来说，这意味着每月为大部分时间闲置的硬件支付高昂费用。
ReadyServer LLM API 采用了不同的模式。Ready Server 不为每位用户单独分配 GPU，而是搭建共享的 AI 推理基础设施，所有 ReadyServer VPS 用户都可通过内网访问。请求从用户的 VPS 直接发送到 Ready Server 的推理服务器，全程不经过公网。
"用 AI 做开发，不应该每运行一次智能体，账单就跟着上涨。我们的许多客户都是精干的小团队，他们在打造真正的产品，需要放手去尝试、去迭代，而不是时刻盯着 Token 用量。我们把私有 LLM API 直接内置到每一台 ReadyServer VPS 中，就是为了让本地区的开发者以可预期、可负担的成本用好 AI，而且就在他们已经部署在我们平台上的应用旁边。"
——Alan Woo，Ready Server 董事
面向开发者，兼容现有工具
由于接口遵循 OpenAI 标准，开发者只需修改 Base URL，即可将现有代码、SDK 和框架接入 ReadyServer。该服务支持 curl、官方 Python 及 Node.js OpenAI SDK、AI 智能体框架、聊天界面、编程智能体以及其他兼容 OpenAI 的工具，无需额外安装任何软件。
目前平台基于 vLLM 提供两款开源模型：
• Qwen3.6-27B-FP8：主打快速直接响应，上下文窗口为 131,072 个 Token
• Qwen3.8-27B-FP8：具备深度思考能力的推理模型，上下文窗口为 262,144 个 Token
两款模型均支持工具调用、结构化 JSON 输出和图像输入，适用于文档检索、内容摘要、分类、数据提取及工作流自动化等场景。Ready Server 计划后续上线更多模型。
公平共享机制，成本清晰可控
ReadyServer LLM API 不按 Token 计量，而是采用公平共享机制，避免单一任务占用过多资源。高峰时段请求将进入排队，Token 用量较少的用户优先获得响应。
上线信息
ReadyServer LLM API 现已向所有 ReadyServer VPS 用户免费开放。技术文档和快速入门指南请访问 readyserver.ai。
关于 Ready Server
Ready Server 成立于 2015 年，是亚太地区领先的新加坡 VPS 云服务商。公司提供高性能、企业级的基础设施，数据中心网络覆盖新加坡、香港和东京，以低延迟网络连接和不限流量带宽支撑高要求的数字化业务。凭借灵活的按小时计费模式，Ready Server 帮助开发者和企业在亚洲主要枢纽快速扩展业务，享受稳定可靠、连接顺畅、简单易用的服务。
来源：互联网
