大模型“想太多”也能成攻击？浙大阿里揭示推理模型DoS新风险

近年来，以DeepSeek-R1为代表的大语言推理模型在数学求解、代码生成等复杂任务中展现出强大能力，但其推理过程中的“过度思考”脆弱性被揭示为一种新型安全风险。当输入问题存在逻辑缺陷或条件缺失时，模型可能陷入反复推理、自我修正的循环，显著增加输出token数、推理延迟和能源消耗，形成资源耗尽攻击。浙江大学与阿里安全联合提出HGA（层次化遗传算法）方法，通过黑盒方式自动扰动问题的逻辑结构，诱导模型生成超长冗余推理。实验表明，HGA在多个主流推理模型和基准上均能显著放大输出长度，在MATH数据集上最高实现26.1倍增长，且攻击样本具有跨模型迁移性。该研究揭示了推理模型的计算安全弱点，为设计鲁棒防御策略提供了新思路。