大语言模型如何编码心智：一个稀疏参数模式研究实例

背景：心智理论（ToM）是人类理解自我和他人心理状态的能力，近年来大语言模型在部分心智测试中展现出超越人类的表现。研究目的：探讨大语言模型心智能力的内部产生机制，特别是参数在其中扮演的角色。结论：研究发现大语言模型的心智能力依赖于仅占0.001%的稀疏参数模式，这些参数集中于位置编码模块，调控注意力分配机制，扰动该模式会导致心智能力显著下降25%以上，揭示了心智能力的结构化基础而非参数堆叠的涌现现象。