Enhancing Small Language Models Reasoning through Knowledge Graph Grounding· 通过知识图谱增强小型语言模型推理
Although large language models (LLMs) have set benchmarks for zero-shot reasoning, their deployment remains cost-prohibitive and environmentally taxing. Small Language Models (SLMs) offer a sustainable alternative, but prone to errors, on tasks requiring complex, multi-hop logical grounding. We investigate a neuro-symbolic agentic framework to enhance the reasoning capabilities of SLMs, specifically Gemma 3 (1B, 4B) and Llama 3.2 (3B), using the CLUTRR kinship benchmark. Our approach transforms the SLM into a minimalist agent utilizing two specialized tool calls: extract_facts for symbolic tri
通过知识图谱增强小型语言模型推理能力,降低错误率。
- 核心方法
- 采用神经-符号代理框架,使用extract_facts和ground_logic两个专用工具调用,通过知识图谱增强推理能力。
- 适合谁读
- 研究者 / 工程师
- 要解决的问题
- 小型语言模型在复杂逻辑推理任务上容易出错。
- 关键实验
- 实验使用CLUTRR亲缘关系基准,评估了Gemma 3 (1B, 4B) 和 Llama 3.2 (3B) 两个小型语言模型。
- 主要贡献
- 提出了一种有效增强小型语言模型推理能力的方法,减少了多跳逻辑推理任务中的错误。
- 意义与局限
- 该方法为小型语言模型提供了更高效、更环保的推理解决方案,但其适用范围和泛化能力仍需进一步验证。