Agent产出的内容效果可以通过哪些方式评测？

## 作用 - 判断 Agent 是否真正完成任务，而不只是输出“听起来合理”的内容。 - 衡量 Agent 在多步工具调用、错误恢复、状态变更和最终目标达成上的能力。 - 弥补传统 LLM 静态评测和单次函数调用评测的不足：单次调用正确，不代表前置检查、后续更新或完整业务流程正确。 ## 原理与评测方式 - **从单次输出评测转向完整任务评测**：Agent 会在多轮中调用工具、观察结果、处理异常，因此不能只评估一个回复字符串，而要评估整条执行链。 - **函数/工具调用评测**： - 可参考 BFCL 一类基准，评估函数选择是否正确、参数是否准确，覆盖单轮和多轮场景。 - 但调用准确率只是必要条件，不是充分条件；例如 `issue_refund` 调用格式正确，不代表退款所需检查和状态更新都已完成。 - **执行轨迹的过程层评分（step-level process scoring）**：检查每一步的工具选择、参数、调用顺序和中间结果，定位执行链在什么位置断裂。 - **端到端结果评分（end-to-end outcome scoring）**：在可执行环境中验证最终环境状态是否符合任务目标，而不是仅比较参考回复。 - **有状态环境验证**：通过可执行环境持续跟踪多步工具调用造成的状态变化，优先使用可执行检查，而不是单纯依赖 reference-based 或 LLM-as-a-judge。 - **分层指标汇总**：按 benchmark、trial、task、turn、step 的层级汇总结果；指标需要成对报告，例如成功率与一致性范围，同时关注准确性、冗长程度和成本等维度。 - **保证基准可比性**：比较不同 Agent 或模型时，要明确任务复杂度、环境是否有状态、验证方法等条件。 - **面向真实业务的领域评测**：企业落地时应基于真实工单、真实 API 和业务目标构建评测集，并以环境状态是否正确作为上线门槛，而不是只看孤立调用的准确率。

## 作用 Agent 评测用于衡量 Agent 是否能稳定完成任务，而不只是判断“回答得好不好”。它可以覆盖以下方面： - **任务结果（Outcome）**：检查最终目标是否完成、产出是否正确、文件或系统状态是否符合预期。 - **执行过程（Trace / Trajectory）**：追踪 Agent 的理解、规划、工具调用、文件读写、状态修改和反思调整过程。 - **工具与 Skill 使用能力**：验证 Agent 是否能正确选择并调用 Tool 或 Skill，参数是否正确，异常时能否恢复。 - **短程问答质量**：评估单轮或短链路任务中的回答准确性、相关性、完整性和格式。 - **长程任务能力**：评估多步骤、长周期任务中的规划、持续执行、上下文保持、状态管理和纠错能力。 - **系统稳定性与可回归性**：把 Agent 当作可观测、可测试、可回归的软件系统，持续验证版本迭代是否带来能力退化。 ## 原理 ### 1. 评测对象从 Response 扩展到完整任务系统 传统大模型评测主要关注文本回答；Agent 评测则需要同时关注： - **Task**：用户目标是否被完成。 - **Response**：最终输出是否清晰、准确、符合要求。 - **Trace**：完整执行链路是否可追踪、可复盘。 - **Trajectory**：中间决策路径和动作序列是否合理。 - **Outcome**：最终结果及系统状态是否正确。 ### 2. 通过 Trace 追踪执行过程 Agent 执行任务时会产生完整链路记录，包括： - 任务理解结果； - 计划拆解； - Tool / Skill 调用； - 输入参数与返回结果； - 文件读写或系统状态变更； - 根据反馈进行的下一步调整。 Trace 可以帮助定位问题发生在规划、工具调用、结果解析、状态更新还是最终总结阶段。 ### 3. 评估 Trajectory 是否合理 不仅要看最后是否成功，还要判断过程是否合理，例如： - 是否选择了正确的工具或 Skill； - 是否出现多余、重复或错误调用； - 是否能根据工具返回结果修正行为； - 是否在失败后进行有效重试或换路； - 是否遵守权限、边界和安全要求。 ### 4. 使用自动化沙箱执行任务 对于会读写文件、访问系统或修改状态的 Agent，应在隔离的沙箱环境中运行测试： - 预置任务所需文件、依赖和初始状态； - 让 Agent 在沙箱内执行真实操作； - 检查最终文件、命令结果、系统状态或服务输出； - 降低真实环境风险，并支持反复回归测试。 ### 5. 结合规则、脚本与 LLM as Judge 评测方式可以包括： - **确定性断言**：用脚本检查文件是否生成、字段是否正确、命令是否成功。 - **轨迹检查**：判断是否调用指定工具、调用顺序是否正确、是否存在违禁操作。 - **人工评审**：适合评估复杂任务质量、创造性内容和过程合理性。 - **LLM as Judge**：让大模型依据评分标准分析结果和执行轨迹，适合处理开放式、难以用固定规则判断的内容，但需要明确评分 Rubric，并通过抽样人工复核控制偏差。 ### 6. 区分短程 Agent 与长程 Agent - **短程 Agent**：链路短、反馈快，通常重点评估单轮回答、单次工具调用和简单任务完成率。 - **长程 Agent**：步骤多、上下文长、状态变化复杂，需要重点评估长期规划、跨步骤记忆、错误恢复、任务推进能力，以及完整 Trace 的一致性。 ### 7. 建设可持续的评测平台 将评测固化为工程体系，通常需要： - 标准任务集和测试数据； - 可复现的沙箱环境； - Trace 采集与回放能力； - 自动化评分与失败归因； - 版本对比和回归测试； - 人工评审与自动评测结合的质量闭环。