此功能允许开发者选择 12 小时提示词缓存,即使请求之间间隔数小时,也能利用更长时间的缓存来获得更低的缓存输入价格。12 小时缓存写入的成本为输入令牌价格的 2.5 倍,但能有效降低重复提示的长期成本。
OpenAI API 引入 12 小时提示词缓存,大幅降低长期请求成本
ChatGPT 的价格/额度有变化,留意你的套餐用量和账单。
ChatGPT 的价格/额度有变化,留意你的套餐用量和账单。
此功能允许开发者选择 12 小时提示词缓存,即使请求之间间隔数小时,也能利用更长时间的缓存来获得更低的缓存输入价格。12 小时缓存写入的成本为输入令牌价格的 2.5 倍,但能有效降低重复提示的长期成本。