一次请求的费用
- 单价按模型设定。部分模型按上下文长度分档定价:根据这次请求的完整输入长度(含缓存)选中一档,输入和输出都按这一档的价格计算。
- 倍率由分组决定,见下文。
- 失败的请求不收费。
倍率
每个分组都有一个计费倍率,在创建密钥、选择分组时就能看到:1.50x这样的单个数字:这个分组的所有请求都按这个倍率计费。1.00x~2.00x这样的范围:倍率取决于请求实际走的哪条线路,每次请求的实际倍率可以在费用构成里看到。- 倍率正好是
1.00x时不显示标签。
预留与结算
每个请求开始时,TokenHub 会先从可用余额里预留一笔额度(目前每个请求 1 美元),请求结束后按实际费用扣费,并释放这笔预留。 这意味着:- 可用余额不足 1 美元时,新请求会被拒绝(
402)。 - 同时进行的请求越多,预留占用的额度越多。比如同时跑 5 个请求,就需要至少 5 美元可用余额。
- 预留只是暂扣,不是实际费用。余额页的「预留金额」就是正在进行的请求占用的部分。
各种上限
一个请求要同时满足下面所有设置了的上限:
密钥、设备和成员的「累计用量」都可以手动重置,重置后上限从头计算。「本月消费」按自然月(北京时间)统计,不能重置。