指南
速率限制
了解 TokiAI 的速率限制策略及如何有效应对。
概述
TokiAI 会根据账号、API Key、模型、套餐和系统负载实施请求限制,以保障服务稳定性。具体限制可能因所选套餐、模型及运营策略而有所不同。请始终以 TokiAI 控制台和 API 响应为准。
如何确认限制
可通过以下途径查看当前限制和使用情况:
- 查看产品中心或套餐说明中的限制规则。
- 查看 API Key 是否设置了额度上限或有效期。
- 在调用失败时读取错误响应中的
error.message。 - 联系 TokiAI 商务或支持渠道,以获取更高并发或企业级访问权限。
处理限制响应
当请求过于频繁或额度不足时,API 可能返回错误响应。常见情况包括:
{
"error": {
"code": "rate_limit_exceeded",
"message": "您已超出速率限制,请在 30 秒后重试。"
}
}是否返回速率限制响应头、响应头名称以及错误码细节,以当前服务端实现为准。客户端应优先根据 HTTP 状态码和错误体进行处理。
推荐的重试策略
采用带有抖动的指数退避重试:
async function requestWithRetry(fn: () => Promise<Response>, maxRetries = 3) {
for (let i = 0; i < maxRetries; i++) {
const response = await fn();
if (response.status !== 429) return response;
const baseDelay = Math.pow(2, i) * 1000;
const jitter = Math.random() * 1000;
await new Promise((r) => setTimeout(r, baseDelay + jitter));
}
throw new Error('超出最大重试次数');
}如需更高的速率限制、更高的并发或企业级使用,请联系 TokiAI 商务或运营支持。