Anthropic 为 Claude API 新增 effort 调节功能,开发者可中途改变模型努力程度

Anthropic 为 Claude API 新增一项 Beta 功能,开发者可以在对话中途调整模型的 effort 档位。effort 决定模型回答时投入多少资源,帮助开发者在回答充分程度、响应速度和使用成本之间做取舍,影响范围包括思考、调用工具和组织回答等环节。操作方面,用户在消息序列中插入一条内容为空的 system 消息,并通过新的 output_config.effort 设置目标等级即可,无需改动顶层配置,提示缓存仍可命中。该设置不会修改已生成内容,将从下一条带有新输入的用户消息起作用于后续回答。实际场景中,一段对话前半部分用于简单问答、后半部分转向复杂分析时,开发者可在任务切换处设置新的努力等级,灵活平衡回答质量与使用成本。

推广DomoAI
文中提及的 AI 工具

评论

正在加载评论…