图片越糊越危险？西湖大学发现多模态大模型「攻击舒适区」

背景：随着多模态大模型（MLLMs）越来越多地通过视觉通道处理文本（如将文本压缩为图像），其安全对齐机制面临新的挑战。研究目的：西湖大学的研究团队旨在探究当有害文本被渲染成低清、模糊或带噪图片时，多模态大模型的安全防线是否会受到影响。结论：研究发现存在一个“攻击舒适区”（ACZ），即图像处于“刚好能看清但识别费力”的特定清晰度区间时，模型的安全机制反而最脆弱。其机制归因于“视觉认知过载”，即模型将主要计算资源用于辨认退化文字，导致安全审查延迟。该现象在多种视觉退化（模糊、噪声、扭曲等）及中英文场景中均存在。研究提出了“结构化认知卸载”防御策略，通过“先转写、后审查、再回答”的串行流程，能显著降低ACZ下的攻击成功率，但会带来额外的计算开销。