AI安全≠科幻危机！人工智能安全需“接地气” | Nature Machine Intelligence

本文探讨了人工智能（AI）安全的核心挑战，指出公众对AI安全的误解主要集中在科幻式的“存在性风险”上，而实际上AI安全更应关注现实中的技术问题，如系统漏洞、数据偏见和对抗攻击。研究通过对全球383篇论文的系统分析，发现仅有4.2%的论文涉及存在性风险，而超过75%的研究集中在现实挑战上。文章强调AI安全应被视为技术安全工程的延伸，并提出构建“包容性安全框架”的建议，包括技术、治理和社会层面的改进。未来，AI安全需要在短期和长期内分别解决模型监控工具开发和价值观对齐机制等问题。