GRIP: Grounded Reasoning via Information-Restricted Premises· GRIP:基于信息限制前提的推理
High-capacity encoders in retrieval-augmented generation (RAG) can let the query dominate the latent state, leaving retrieved evidence functionally irrelevant. We call this failure mode query dominance. To address it, we introduce \textbf{GRIP} (Grounded Reasoning via Information-Restricted Premises), which imposes capacity asymmetry: the decoder keeps full-dimensional access to the query, while retrieved evidence passes through a severe stochastic bottleneck. This forces the evidence channel to encode only the residual information unavailable from the query. Across five reasoning benchmarks, GRIP outperforms strong iterative baselines, cuts a query--latent mutual-information diagnostic by roughly 30$\times$ (14.8 $\to$ 0.47 bits), and reduces hallucination by 73\%. Residual-alignment anal
GRIP 通过限制解码器对检索证据的访问来减少查询主导问题,提高推理可靠性。
- 核心方法
- GRIP 引入了容量不对称设计,解码器可以完全访问查询,但检索的证据通过一个严重的随机瓶颈,从而只保留查询无法获取的残余信息。
- 适合谁读
- 适合 AI 研究者和工程师,特别是关注检索增强生成模型和推理任务的人员。
- 要解决的问题
- 在检索增强生成(RAG)系统中,高容量编码器可能导致查询主导问题,使得检索的证据变得无关紧要。
- 关键实验
- GRIP 在五个推理基准上进行了实验,相比强基线模型,减少了查询-潜在信息诊断值约 30 倍,并减少了 73% 的幻觉率。
- 主要贡献
- GRIP 在五个推理基准上表现优于迭代基线模型,显著减少了查询-潜在信息的诊断值和幻觉率。
- 意义与局限
- GRIP 的设计提高了检索证据在推理中的重要性,减少了模型依赖查询导致的信息冗余和幻觉问题,但其应用可能受限于特定的推理任务和数据集。