刚刚，图灵奖得主Yoshua Bengio官宣LawZero：保护人类的快乐和努力

背景：图灵奖得主Yoshua Bengio宣布成立非营利组织LawZero，旨在开发一种“设计安全”的人工智能系统，以防止AI系统欺骗或伤害人类。研究目的：LawZero的核心目标是保护人类的快乐和努力，通过开发非agent的Scientist AI系统，该系统能够理解和预测不良行为，并作为其他AI系统的安全护栏。结论：Bengio希望通过LawZero证明其方法的可行性，并说服政府或公司支持更大规模的开发，以确保AI的安全性和可控性。