跳到正文
热点事件持续更新

在 Amazon Bedrock 上使用 OpenAI 模型的提示词缓存模式:让 AI 智能体不再重复读上下文

1 篇报道1 个报道来源23 小时前更新

先了解这件事

事实说明

针对 AI 智能体每轮都要重发全部工具定义、指令和历史导致重复计费的问题,Amazon Bedrock 的提示词缓存可保存并复用输入前缀,只对新增内容按全价计费。

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. AWS Machine Learning Blog
    在 Amazon Bedrock 上使用 OpenAI 模型的提示词缓存模式:让 AI 智能体不再重复读上下文

    针对 AI 智能体每轮都要重发全部工具定义、指令和历史导致重复计费的问题,Amazon Bedrock 的提示词缓存可保存并复用输入前缀,只对新增内容按全价计费。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。