AI会灭绝人类吗——全世界都在为AI狂欢，是什么让AI教父夜不能寐？

背景：人工智能（AI）技术，特别是深度学习，近年来取得了突破性进展，如ChatGPT的问世，引发了全球关注。然而，AI的快速发展也带来了潜在风险。研究目的：文章基于对图灵奖得主Yoshua Bengio的采访，探讨AI可能对人类构成的威胁，包括技术失灵、恶意使用和系统性风险，并讨论如何构建安全的AI系统。结论：Bengio指出，AI的恶意使用（如深度伪造）已是现实风险，但最令人担忧的是AI可能导致人类灭绝的存在主义威胁。他提出通过技术“护栏”和监管来降低风险，并介绍了“Scientist AI”等内置安全性的设计理念。尽管挑战严峻，Bengio对构建不伤害人类的AI表示乐观，并强调政治决策在确保AI造福全人类中的关键作用。