Nanbeige4.2-3B：探索通用Agent小模型

本文介绍了Nanbeige4.2-3B模型，旨在探索通用Agent小模型在降低成本的同时保持高性能。背景方面，随着大模型参数激增（如2T+级模型），Agent任务因需数十次调用模型而导致推理成本高昂，小模型成为关键解决方案，但面临知识、推理、工具调用等多能力整合的挑战。研究目的旨在在3B参数约束下，通过系统工作使模型同时掌握代码智能体、办公智能体、复杂工具调用和通用推理。结论显示，Nanbeige4.2-3B在General Agent与Code Agent评测上稳定超过Qwen3.5-9B和Gemma4-12B等更大模型，并在推理评测上取得同规模最佳。其成功主要基于三项创新：Looped Transformer架构通过权重复用提升有效容量；Agent数据Pipeline通过环境与任务联合Scaling构建可执行轨迹；后训练方法兼顾推理与Agent能力，包括错误上下文保留和分阶段强化学习。模型在本地个人助手等应用中表现突出，但仍有进步空间，未来将继续迭代模型架构和数据训练方法。