MidTool: Mid-training Data Synthesis for Agentic Tool Use· MidTool: 大模型中训数据合成
Mid-training is increasingly recognized as a critical stage for shaping the capabilities of large language models. Recent work has shown that targeted mid-training can strengthen reasoning-intensive abilities such as math and science, and can also improve agentic capabilities in software-engineering settings. In this work, we study the parallel but less explored agentic capability: general tool use. We present MidTool, an open corpus construction pipeline for agentic tool-use mid-training that combines large-scale web, PDF, and code data with synthesized supervision from real-world tool APIs, MCP skills, and document-grounded workflows. MidTool is designed to teach models how to recognize tool affordances, ground arguments from context, compose tool call workflow, and recover from incomple
中训数据合成工具增强模型的普遍工具使用能力。
- 核心方法
- 提出 MidTool 开源数据合成管道，结合大规模网络、PDF 和代码数据，以及来自真实工具 API、MCP 技能和文档支持的工作流程的合成监督，用于增强模型的工具使用能力。
- 适合谁读
- 适合语言模型研究者和工程师阅读，尤其是关注模型工具使用能力提升的团队。
- 要解决的问题
- 现有大语言模型缺乏有效的普遍工具使用能力，特别是在识别工具功能、情境论证、工具调用流程组合和错误恢复方面。
- 关键实验
- 展示了模型在识别工具功能、情境论证、工具调用流程组合和错误恢复等方面的能力提升，但具体实验数据未详细说明。
- 主要贡献
- 提供了一种有效的中训数据合成方法，特别是针对大语言模型的普遍工具使用能力进行优化。
- 意义与局限
- 对于需要工具使用能力的语言模型有重要影响，但目前的应用场景和局限性尚需进一步研究。