Amazon Bedrock 推理成本实战优化四个定价套餐怎么选批量推理叡 50%、提示缓存省 90% 的具体操作大模型推理的账单越来越厚这可能是很多团队面临的现实问题。我们团队在 Amazon Bedrock 上跑了几个月的推理任务从标准按需模式到批量推理、再到跨区域推理和提示缓存把几种省钱方式都试了一遍。整理一下实际操作和效果。Bedrock 的四个定价套餐根据亚马逊云科技官方定价页面Amazon Bedrock 目前有四个服务套餐1. 标准套餐Standard按需付费不需要预先承诺。文本模型按输入/输出 token 计费图像模型按生成的图片数计费。适合日常开发测试和中小规模生产环境。2. 优先级套餐Priority在标准套餐基础上提供优先计算资源分配。官方数据对于大多数支持的模型输出 token 每秒延迟OTPS比标准套餐缩短最多 25%。适合对延迟敏感的生产环境比如实时对话应用。定价高于标准套餐。3. 弹性套餐Elastic用即时处理换成本——非紧急任务走弹性通道享受折扣定价。适合对响应时间不敏感的后台任务比如内容审核、数据标注、日报生成。4. 批量模式Batch把一组提示打包成一个输入文件一次性提交响应存到 S3。核心数据批量推理价格比按需推理低 50%官方数据。实擮批量推理批量推理适合的场景数据标注、批量内容生成、大规模分类任务——只要不需要实时响应的都行。importboto3importjson bedrockboto3.client(bedrock,region_nameus-east-1)# 1. 准备输入文件JSONL 格式# 每行一个请汃input_data[{recordId:001,modelInput:{messages:[{role:user,content:用一句话总结云计算的核心价值是什么}]}},{recordId:002,modelInput:{messages:[{role:user,content:用一句话总结Serverless 架构的优势是什么}]}}]# 写入 JSONL 文件withopen(batch_input.jsonl,w)asf:foritemininput_data:f.write(json.dumps(item,ensure_asciiFalse)\n)# 2. 上传到 S3s3boto3.client(s3)s3.upload_file(batch_input.jsonl,my-bedrock-bucket,batch/input.jsonl)# 3. 创建批量推理任务responsebedrock.create_model_invocation_job(jobNamebatch-summary-v1,modelIdamazon.nova-lite-v1:0,roleArnarn:aws:iam::123456789012:role/BedrockBatchRole,inputDataConfig{s3InputDataConfig:{s3Uri:s3://my-bedrock-bucket/batch/input.jsonl}},outputDataConfig{s3OutputDataConfig:{s3Uri:s3://my-bedrock-bucket/batch/output/}})print(fJob ARN:{response[jobArn]})任务提交后Bedrock 在后台处理完成后结果写到 S3。不阻塞其他任务。实擮提示缓存如果你的请求有大量重复的前缀系统提示、few-shot 示例、长文档上下文提示缓存能大幅降低成本。官方数据缓存 token 享受最高 90% 折扣延迟改善最高 85%。缓存有效期 5 分钟。在高频调用场景下效果最明显。bedrock_runtimeboto3.client(bedrock-runtime,region_nameus-east-1)# 系统提示这部分每次请求都重复system_prompt你是一个客户反馈分类系统。 将用户反馈分类到以下类别之一 - 产品质量 - 客户服务 - 物流配送 - 价格相关 - 功能建议 返回 JSON 格式{category: ..., confidence: 0.0-1.0} # 使用缓存点标记responsebedrock_runtime.converse(modelIdanthropic.claude-sonnet-4-20250514-v1:0,messages[{role:user,content:[{text:包装太简陋了收到的时候已经变形了}]}],system[{text:system_prompt,cachePoint:{type:default}# 标记缓存点}])第一次请求正常计费后续 5 分钟内的匹配请求缓存部分的 token 按折扣价计费。实擮跨区域推理如果你的请求量大、偶尔遇到配额限制或高峰排队跨区域推理能帮你分流。Amazon Bedrock 提供两种跨区域推理配置类型路由范围适用场景地理区域Geographic同地理区域内如 US、EU、APAC有数据驻留合规要求全球Global全球所有支持的商业区域追求吞吐量无合规限制使用方式是通过推理配置文件Inference Profile。不需要改代码只需要在调用时指定 profile IDresponsebedrock_runtime.converse(modelIdus.anthropic.claude-sonnet-4-20250514-v1:0,# US 地理区域 profilemessages[{role:user,content:[{text:解释量子计算的基本原理}]}])把 model ID 换成带地理前缀的 profile ID如us.、eu.请求会自动路由到该地理区域内负载最低的节点。四种方式怎么组合场景推荐方案预期效果实时对话客服/聊天标准套餐 提示缓存 跨区域缓存省 token 费 跨区域保证可用性批量内容生成批量模式直接省 50%后台数据处理弹性套餐折扣定价高并发生产环境优先级套餐 跨区域低延迟 高可用混合工作负载实时用标准缓存非实时用批量分层优化总结Bedrock 成本优化的核心思路按任务紧急程度分层处理。需要实时响应 → 标准/优先级 提示缓存可以等 → 弹性套餐可以批量 → 批量模式省 50%有重复上下文 → 提示缓存省最高 90%量大遇配额 → 跨区域分流不是用一种方式打天下而是根据业务场景组合使用。 Amazon Bedrock 定价https://aws.amazon.com/cn/bedrock/pricing/ 跨区域推理https://docs.aws.amazon.com/bedrock/latest/userguide/cross-region-inference.html Amazon Bedrockhttps://aws.amazon.com/cn/bedrock/