12 小时提示词缓存是一项重要的成本优化功能。通过延长缓存时间,即使 API 请求之间存在较长间隔,用户仍能受益于较低的缓存输入价格。这对于重复使用相同指令或上下文的长时运行任务(例如批处理、长期监控等)尤其有用。虽然 12 小时缓存写入的成本是输入令牌价格的 2.5 倍,但在许多场景下,长期来看仍能显著降低总体成本。
API 新增 12 小时提示词缓存
ChatGPT 的价格/额度有变化,留意你的套餐用量和账单。
ChatGPT 的价格/额度有变化,留意你的套餐用量和账单。
12 小时提示词缓存是一项重要的成本优化功能。通过延长缓存时间,即使 API 请求之间存在较长间隔,用户仍能受益于较低的缓存输入价格。这对于重复使用相同指令或上下文的长时运行任务(例如批处理、长期监控等)尤其有用。虽然 12 小时缓存写入的成本是输入令牌价格的 2.5 倍,但在许多场景下,长期来看仍能显著降低总体成本。