Beyond Top-K: Replacing Black-Box Retrieval with Interpretable Agentic Operations· 超越Top-K：用可解释性代理操作替代黑盒检索
Retrieval-augmented generation over long documents is dominated by one design: chunk the text, embed the chunks, and surface the top-k nearest neighbours of the query. We argue that for an important class of documents -- financial statements, audit reports, regulatory returns -- this design is structurally unsound, and we make the argument measurable. On a 780-page government financial report, 86.8% of content lines are table rows, thousands of near-identical figures compete in one embedding space, and a figure inherits its unit from a header a median of 13 lines above it -- so a chunk boundary routinely separates a number from whether it is in lakh or crore, an error of two orders of magnitude. A table-aware chunker built as a steelman fixes the unit problem but leaves 27-30% of numeric c
提出用可解释性代理操作替代黑盒检索，以改善长文档生成中的结构性问题。
- 核心方法
- 作者设计了表意识的代理操作，通过可解释性方法来优化长文档的切分和检索，避免数值单位分离等错误。
- 适合谁读
- 研究者和工程师，特别是关注长文档处理和可解释性的AI研究者
- 要解决的问题
- 现有Top-K检索方法在处理财务报表等长文档时存在大量结构性问题，如数值单位分离和相似内容竞争。
- 关键实验
- 在780页的政府财务报告上进行了实验，显示了新方法在处理表数据和单位问题上的有效性和优势。
- 主要贡献
- 提出了一种新的代理操作方法，提高了长文档检索的准确性和可解释性，特别是在财务文档中。
- 意义与局限
- 该方法有助于提高长文档生成的可靠性，特别是在金融和法律领域，但通用性仍有待验证。