条件性假设
推理深度 → 改变 → 成功任务成本
较低推理深度可能通过错误、重试和人工复核改变成功任务成本,变化方向取决于任务表现:单次调用更便宜,不足以证明每个验收通过任务的成本更低。该指标是作者提出的评估方法,并非实测结果。
查看关系证据
如果较低推理深度在某类任务上带来更多错误、重试或人工复核,单次调用的节省就可能被抵消;如果它能保持相同的业务通过率,则可能是更合适的配置。建议把“成功任务成本”定义为模型、工具调用、运行资源和人工复核的总成本,除以通过业务验收的任务数,失败尝试也计入总成本。这是评估方法,不是来源报告的实测结果。
文章推理使用的背景来源:[S5] Alibaba Cloud
阅读完整研究