【注】本篇内容基本来自于：【九天Hector的个人空间-哔哩哔哩】 https://b23.tv/md9rjFS，如侵删。
1. 如何通过微调提升Agent性能？
总的来说，高效微调和强化学习微调都能很好的用于基座模型Agent性能微调。
如果选择高效微调方法，我们需要围绕当前企业Agent执行的特定任务，构造工具调用的微调数据集。同时考虑到当前大模型往往还具备多工具并行调用以及多步调用工具的能力，我们还需要创建多工具并行调用的训练样本以及链式调用工具的数据集，才能让模型学会在同一对话中合理组合多个内置工具，并学会围绕一个问题能正确、稳定、多步地调用工具。
除了常规的指令微调，更进一步的方法是借助强化学习来全面增强Agent的性能。例如PPO、GRPO、GSPO等算法能让模型在真实环境中不断试错和优化，从而提升Agent性能。例如我们可以将工具调用的准确率、任务完成率、调用链条的合理性作为奖励函数，引导模型学会更高质量的交互。
例如，当Agent成功完成一个复杂的多步任务，奖励模型就会给出更高的分数；反之，如果中途调用失败或逻辑错误，奖励分数就会降低。通过不断迭代训练，模型会逐渐形成一种”最优调用策略“。这类强化学习方法的优势在于，它不仅优化了单词调用工具的准确性，还能提升Agent在长链路任务中的稳定性与鲁棒性。
2. 高效微调提升Agent工具调用能力的关键是什么？
核心在于数据质量与覆盖度。
要提升模型Agent性能不能单纯依靠扩大数据量，而是要确保训练样本能覆盖目标场景下的各类工具调用模式。此外，还需要注意数据的多样性，避免出现模型只能固定模仿数据集的运行模式，而在实际运行过程中泛化能力不足的问题。
3. 在借助强化学习微调Agent性能的过程中，奖励函数该如何设计?
奖励函数的设定决定了训练的方向。针对Agent场景，常见做法是分层设计：
- 第一层关注工具调用是否正确（参数、顺序是否无误）；
- 第二层关注任务是否完成（例如最终答案是否正确）；
- 第三层则关注调用链条是否高效（是否多余调用、逻辑冗余）。
通过分层奖励，模型技能学会调用准确性，又能优化调用效率。
4. 为什么强化学习比纯指令微调更适合提升 Agent 的性能?
因为指令微调只能让模型“模仿”已有数据，而强化学习则能让模型在动态环境中“自我优化”。
Agent的场景往往存在高度不确定性，这些情况在训练数据里很难全部覆盖。而强化学习可以让模型在模拟环境中面对这些挑战，通过试错获得反馈，从而学到更鲁棒的调用策略。