Not All Thinking is Created Equal: Latent Reasoning Discovers a Recurrent Search Algorithm for Depth Generalization· 并非所有思考都平等：隐含推理发现递归搜索算法
Large Language Models can perform multi-step reasoning and improve task performance through different forms of intermediate computation, from token-based traces to computation carried out in latent space. However, a question remains open: do these different forms of thinking rely on the same underlying mechanism? To address this, we train and compare five variants of the same GPTNeoX backbone from scratch on an extended multi-hop reasoning task (ProsQA-Ext): a vanilla model, a Chain-of-Thought (CoT) model, a Pause Token model, and two latent-reasoning models that are optimized end-to-end without intermediate reasoning traces. We find that, strong in-distribution (ID) performance does not guarantee depth generalization. Vanilla, CoT, and Pause Token models solve ID problems well, but rely l
探讨不同推理方式在深度泛化中的表现差异。
- 核心方法
- 训练和比较了五种基于GPTNeoX的不同推理模型，包括基础模型、链式思维模型、暂停标记模型和两种端到端优化的隐式推理模型，通过扩展的多跳推理任务（ProsQA-Ext）评估它们的性能。
- 适合谁读
- 研究者、工程师
- 要解决的问题
- 研究大型语言模型在执行多步推理时，不同形式的中间计算（显式推理与隐式推理）是否基于相同机制，以及它们在深度泛化任务中的表现。
- 关键实验
- 关键实验包括在ProsQA-Ext任务上的训练和测试，比较了五种模型在同分布问题和不同深度泛化任务上的表现。
- 主要贡献
- 揭示了不同推理方式在解决特定问题时的有效性差异，特别是对于深度泛化任务；提出了端到端优化的隐式推理模型。
- 意义与局限
- 该研究对理解大型语言模型的推理能力及其泛化性能具有重要意义，为开发更有效的推理模型提供了新思路。局限性在于研究仅基于特定任务和模型变体，结果可能不完全适用于其他场景。