ai.hackcv
论文精选 65arXiv

GRIP: Grounded Reasoning via Information-Restricted Premises· GRIP:基于信息限制前提的推理

High-capacity encoders in retrieval-augmented generation (RAG) can let the query dominate the latent state, leaving retrieved evidence functionally irrelevant. We call this failure mode query dominance. To address it, we introduce \textbf{GRIP} (Grounded Reasoning via Information-Restricted Premises), which imposes capacity asymmetry: the decoder keeps full-dimensional access to the query, while retrieved evidence passes through a severe stochastic bottleneck. This forces the evidence channel to encode only the residual information unavailable from the query. Across five reasoning benchmarks, GRIP outperforms strong iterative baselines, cuts a query--latent mutual-information diagnostic by roughly 30$\times$ (14.8 $\to$ 0.47 bits), and reduces hallucination by 73\%. Residual-alignment anal

AI 解读论文

GRIP 通过限制解码器对检索证据的访问来减少查询主导问题,提高推理可靠性。

核心方法
GRIP 引入了容量不对称设计,解码器可以完全访问查询,但检索的证据通过一个严重的随机瓶颈,从而只保留查询无法获取的残余信息。
适合谁读
适合 AI 研究者和工程师,特别是关注检索增强生成模型和推理任务的人员。
要解决的问题
在检索增强生成(RAG)系统中,高容量编码器可能导致查询主导问题,使得检索的证据变得无关紧要。
关键实验
GRIP 在五个推理基准上进行了实验,相比强基线模型,减少了查询-潜在信息诊断值约 30 倍,并减少了 73% 的幻觉率。
主要贡献
GRIP 在五个推理基准上表现优于迭代基线模型,显著减少了查询-潜在信息的诊断值和幻觉率。
意义与局限
GRIP 的设计提高了检索证据在推理中的重要性,减少了模型依赖查询导致的信息冗余和幻觉问题,但其应用可能受限于特定的推理任务和数据集。
领域:cs.AI作者:Lirui Teng
相关推荐

本站内容由 LLM 精选聚合,原文版权归 arXiv 所有 · 摘录仅供参考