AAAI 2026 | 不再盲从弱标签！让强模型自主选择，阿里通义探索超级对齐新范式

本文针对超级对齐问题，提出了一种基于选择的弱监督对齐强模型方法。背景是未来超人模型在某些领域超越人类能力，人类只能提供弱监督信号，这会影响AI系统的安全性。研究目的是挑战现有弱监督到强泛化方法一直利用弱标签的假设，通过训练一个二分类器P（IK）来预测大模型是否知道问题答案，从而自主选择是否利用弱标签，并结合图平滑算法优化必要弱标签。结论表明，该方法在OpenAI的弱监督到强泛化数据集上取得了更好的对齐效果，验证了自主选择利用弱标签的有效性，为未来超级对齐提供了新范式。