HERA: Harness-Environment Co-Evolution for Reliable Agentic Abstention· HERA：提升LLM可靠弃权的框架
Large language model (LLM) agents are increasingly capable of acting in complex tool-use environments, yet they often fail to recognize when tasks are infeasible and no valid solution exists. Recent work has formalized this reliability gap as the problem of agentic abstention, and existing approaches typically optimize a model or agent harness against a fixed set of tasks, leading to limited generalization to unseen failure modes. We introduce HERA, a framework for harness-environment co-evolution for agentic abstention. HERA consists of (i) a pipeline to automatically construct verifiable pairs of feasible and infeasible tasks by applying controlled environment mutations that transform solvable tasks into cases requiring abstention, and (ii) a co-evolution procedure in which performance f
HERA 框架通过环境和代理共同进化提高 LLM 在不可行任务上的可靠性弃权。
- 核心方法
- HERA 通过自动构建可验证的可行与不可行任务对，并采用环境和代理共同进化的方法来优化模型，提高其在未见任务上的泛化能力。
- 适合谁读
- 研究者、工程师
- 要解决的问题
- 现有的 LLM 代理在复杂环境中难以识别不可行任务，导致可靠性不足。
- 关键实验
- 通过一系列实验验证了 HERA 在不同任务环境中对 LLM 代理弃权性能的提升，具体数据未提供。
- 主要贡献
- 提出了一种新的共同进化框架 HERA，能够有效提升 LLM 代理在不可行任务上的识别与弃权能力。
- 意义与局限
- HERA 有助于提高 LLM 代理在实际应用中的可靠性和安全性，但可能存在对特定任务效果有限的局限性。