MIT新研究:大模型加噪声就能替代GRPO/PPO调参

机器学习算法与自然语言处理 2026-03-17 08:03
文章摘要
背景:传统上,专家模型需要通过梯度下降或强化学习等复杂调参方法训练获得。研究目的:MIT研究提出,预训练模型权重空间周围密集存在大量“专家模型”(神经丛林现象),无需复杂调参,通过简单随机扰动和集成即可获得高性能。结论:基于此提出RandOpt算法,通过添加高斯噪声、选择最佳扰动模型并集成投票,在多项任务上达到或超越GRPO/PPO等传统方法性能,且模型越大效果越显著,但依赖优质预训练且目前适用于有明确答案的任务。
MIT新研究:大模型加噪声就能替代GRPO/PPO调参
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者速来电或来函联系。
机器学习算法与自然语言处理
最新文章
热门类别
相关文章
联系我们:info@booksci.cn Book学术提供免费学术资源搜索服务,方便国内外学者检索中英文文献。致力于提供最便捷和优质的服务体验。 Copyright © 2023 布克学术 All rights reserved.
京ICP备2023020795号-1
ghs 京公网安备 11010802042870号
Book学术文献互助
Book学术文献互助群
群 号:604180095
Book学术官方微信