小林的培训快开始时,服务台花很久“思考最优回答”,体验并不会更好。反过来,为了省钱而始终选最轻的模型,若连房间、连接方式和任务状态都识别不稳,后续错误检索和重复建单会造成更大代价。企业 Agent 的优化对象不是单次模型调用价格,而是任务在可接受时间内、安全地推进到正确结果的总成本。本篇沿着小林的投屏求助,讨论怎样度量端到端延迟、裁剪上下文、选择合适的模型与工具,以及在模型或业务接口不可用时给出可靠降级。价格和模型能力会变化,文中不写固定报价,也不假设某个模型永远适合某类任务;路由策略应以本企业的评测数据为依据。文章目录员工等待的是结果,不是某次模型响应预算与降级的流程图用代码保存任务级预算减少无价值的调用用评测决定路由与降级总结员工等待的是结果,不是某次模型响应小林从输入问题到看到可用答复,经历身份读取、任务状态恢复、模型决策、文档检索、答案组织和页面传输。只优化模型接口耗时,可能看不见知识库排队或工单系统超时。服务台应记录完整请求的 P50、P95,以及各阶段耗时,结合任务成功率一起看。阶段可能的延迟来源可以先做的改进读取任务卡远程存储、会话定位用任务 ID 精确查询,避免扫描全部历史构造上下文长对话与大量文档只取当前任务事实和少量相关片段模型决策模型排队、输出过长小协议、动作枚举、合理超时知识检索索引膨胀、权限过滤先筛选有效范围,再做相关性排序工具调用外部系统慢或重试过多独立超时、有界重试与失败分类员工反馈等待员工离开页面暂停任务,不保持模型循环运行