ICLR 2026 | 800条数据治愈“过度思考”，大模型CoT减半还更准

本文介绍了一项被ICLR 2026接收的研究成果，该研究由中科大团队提出，旨在解决大型推理模型（LRMs）在推理时存在的“过度思考”问题，即模型在回答简单问题时输出冗长的推理链，导致计算成本高、速度慢且易出错。研究背景基于当前大模型在数学、编程等任务中虽然性能优异，但存在不必要的长篇推理现象。研究目的是探索在模型已有的生成空间中是否存在既短又准确的推理路径，以及如何通过极少的训练数据引导模型采用该路径。为此，团队提出了LCPO（长度控制偏好优化）方法。该方法首先筛选出模型已完全掌握的简单问题（Easy类），并将其最短的正确回答作为正面样本、最长的回答作为负面样本进行偏好学习；同时，针对现有偏好优化方法中负对数似然损失对长度偏好学习的干扰，LCPO通过数学形式直接平衡了该影响，无需超参数调优。实验表明，仅需800条训练数据和50步训练，即可将模型的推理长度减半以上，并在多个基准测试中保持甚至提升准确率。结论指出，大型推理模型的生成空间中已蕴含高效推理路径，通过精巧的引导信号而非大规模改造，即可实现低成本、高效率的行为对齐，为未来大模型的轻量化优化提供了新思路。