AAAI 2026 | 别再盲目采样了!OptScale实现概率最优停止,token消耗减半

PaperWeekly 2026-01-08 13:10
文章摘要
本文背景是当前大模型推理时普遍采用增加采样次数(Inference-time Scaling)来提升性能,但缺乏理论指导来确定最优采样数量。研究目的是提出一个统一的概率框架OptScale,将推理缩放转化为一个可计算的最优停止问题,旨在以最少采样达到目标性能置信度。结论表明,OptScale算法能在多种数学推理基准上,显著减少token消耗(最高达50%以上)的同时保持或提升准确率,实现了从经验主义到概率最优性的范式转移。
AAAI 2026 | 别再盲目采样了!OptScale实现概率最优停止,token消耗减半
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者速来电或来函联系。
PaperWeekly
最新文章
热门类别
相关文章
联系我们:info@booksci.cn Book学术提供免费学术资源搜索服务,方便国内外学者检索中英文文献。致力于提供最便捷和优质的服务体验。 Copyright © 2023 布克学术 All rights reserved.
京ICP备2023020795号-1
ghs 京公网安备 11010802042870号
Book学术文献互助
Book学术文献互助群
群 号:604180095
Book学术官方微信