Cell Discovery丨陈盛泉/陈洛南团队合作揭示单细胞预训练模型中潜在的安全风险：后门威胁

南开大学陈盛泉副教授团队与中国科学院分子细胞科学卓越创新中心陈洛南研究员合作，在Cell Discovery发表文章，揭示了单细胞预训练模型中潜在的后门攻击风险。研究提出了后门攻击策略scBackdoor，并在scGPT、GeneFormer、scBERT等多个模型上验证了其攻击成功率接近100%。后门攻击通过恶意篡改训练数据或模型，使模型在特定触发条件下输出攻击者指定结果，严重威胁模型的安全性和研究的可信度。研究还提出了多种防御策略，包括数据或模型完整性验证、数据质量控制等，以降低后门攻击的风险。该研究对生物医学研究的准确性和可靠性提出了严峻挑战，未来需要探索更有效的防御方法。