Token 分发 · TaaS Platform

一个接口,
接入所有模型

Token as a Service — 统一 OpenAI 兼容 API
聚合自有产能与第三方模型供应商,智能路由 · 精确计量 · 可观测风控

100+
接入模型数
OpenAI 兼容
零改造迁移
多维路由
价格 · 时延 · 配额 · 合规
Token 级
精确计量与对账
平台能力

三大核心能力

从 API 统一到智能路由,从精确计量到实时风控,覆盖 Token 分发的全生命周期

Unified API

统一 API

一套接口,接入所有模型供应商。零改造迁移,OpenAI SDK 直接复用。

  • OpenAI / Anthropic 兼容协议适配
  • SSE 流式转发,低延迟首 token
  • Function calling · Tool use
  • 结构化输出 · JSON Mode
  • 多模态 · Embedding · Rerank
Smart Routing

智能路由

多维策略引擎,自动将请求调度到最优后端,兼顾成本、体验与合规。

  • 价格 · 时延 · 成功率多维评分
  • 配额管理与合规区域约束
  • 灰度发布与权重分流
  • 故障探测与自动 failover
  • 降级策略与熔断保护
Metering & Billing

计量计费

Token 级精确计量,完整覆盖各类计费场景,实时可查,账单透明。

  • 缓存命中 · 推理 token · 多模态计费
  • 实时用量统计与用量告警
  • 预付 / 后付双模式
  • 阶梯定价与批量折扣
  • 账单出账与自动对账
开发者体验

接入简单,管控全面

从控制台到 SDK,为开发者与平台管理员提供完整的工具链

控制台

可视化管理与实时监控,所有关键指标一屏掌握

用量看板
Token 消耗趋势与成本分析
日志检索
全量请求日志,秒级查询
Playground
在线调试,快速验证接入
密钥管理
API Key 创建与限速配置

开发者工具

完善的 SDK 与权限体系,让团队协作更高效

SDK 与文档
Python · Node.js · Go 官方 SDK,交互式 API 文档,接入示例与最佳实践,5 分钟完成首次调用
组织 · 项目 · 权限体系
多组织隔离,项目级 API Key,细粒度模型权限与限速策略,满足企业级多团队协作场景
限速 · 配额配置
按 Key / 项目 / 模型设置 RPM、TPM 上限,超限自动拒绝或排队,防止突发流量冲击下游
可观测与风控

全链路可见,
风险提前感知

每一次调用都有迹可查。从请求入口到模型返回,全链路 trace 确保异常可溯源;内容合规与滥用检测在流量层拦截风险,保障平台健康运营。

了解风控方案
全链路 Trace
每次请求生成唯一 trace ID,完整记录路由决策、上游响应时延与 token 消耗,毫秒级定位异常
指标与告警
实时监控 QPS、错误率、P95/P99 时延、token 吞吐等关键指标,阈值告警推送钉钉 / 企微 / Webhook
异常调用与滥用检测
基于行为模式识别爬取、刷量、凭证共享等滥用行为,自动封禁或降级,保障正常用户体验
内容合规接入
可插拔合规过滤层,支持对接自有或第三方内容安全服务,输入输出双向检测,满足监管要求
审计日志
不可篡改的操作与调用审计日志,支持长期归档,满足企业内控与监管审查需求
极速接入

兼容 OpenAI,5 分钟上线

只需替换 base_url 和 API Key,存量代码无需任何修改

quickstart.py
# 仅需替换两处配置,其余代码保持不变
from openai import OpenAI

client = OpenAI(
    base_url="https://api.xkcloud.ai/v1",   # XK TaaS 端点
    api_key="xk-xxxxxxxxxxxxxxxx",         # 你的 API Key
)

response = client.chat.completions.create(
    model="deepseek-v3",               # 按名称指定模型,路由自动选优
    messages=[{"role": "user", "content": "你好"}],
    stream=True,
)

for chunk in response:
    print(chunk.choices[0].delta.content or "", end="")
立即开始

开始接入 TaaS 平台

一个接口,接入所有模型。联系我们获取内测资格与专属接入方案