ACL 2026 | 7000种语言怎么教?清华阿里找准语义瓶颈,通关多语言安全

机器学习算法与自然语言处理 2026-05-27 07:45
文章摘要
本文针对大语言模型在多语言场景下安全表现不均衡的问题,提出基于语义瓶颈层的语言无关对齐方法LASA。研究背景显示,现有安全对齐方案对低资源语言覆盖不足,而人类的安全理解可自然跨语言泛化。研究目的旨在揭示大模型表征空间中语义与语言的分离机制,并利用该机制实现安全能力的跨语言迁移。通过逐层Silhouette分数分析,研究团队发现模型中间层(相对深度43%-68%)存在语义瓶颈层,该层不同语言的相同语义表征自然聚拢,语言身份干扰最小。基于此,LASA框架三步实现对齐:定位瓶颈层、训练轻量安全语义解释器(SSI)提取安全信号、通过条件注入将语义信号映射为生成行为。实验在Llama-3.1-8B、Qwen2.5/3系列(7B-32B)上验证,在MultiJail和HarmBench_translated基准上,LASA显著降低攻击成功率(如Llama-3.1-8B平均ASR从24.7%降至2.8%),且不损害通用能力。结论表明,LASA通过锚定语义瓶颈层实现了跨语言安全对齐的自然泛化,无需为每种语言收集安全数据,为多语言大模型安全提供了高效新范式。
ACL 2026 | 7000种语言怎么教?清华阿里找准语义瓶颈,通关多语言安全
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者速来电或来函联系。
机器学习算法与自然语言处理
GPT-5.6泄露了!
GPT-5.6泄露了!. 19小时前
最新文章
热门类别
相关文章
联系我们:info@booksci.cn Book学术提供免费学术资源搜索服务,方便国内外学者检索中英文文献。致力于提供最便捷和优质的服务体验。 Copyright © 2023 布克学术 All rights reserved.
京ICP备2023020795号-1
ghs 京公网安备 11010802042870号
Book学术文献互助
Book学术文献互助群
群 号:604180095
Book学术官方微信
小红书