AI公司为何把哲学家请进实验室？

本文探讨了人工智能公司邀请哲学家进入实验室的现象，背景是AI技术快速发展带来的伦理与对齐挑战。研究目的旨在分析Google DeepMind、Anthropic等公司如何通过哲学研究解决AI对齐问题，即如何让AI系统的目标与人类价值观保持一致。文章从教宗利奥十四世发布关于AI的通谕切入，指出技术公司面临的核心困境：人类自身在道德问题上缺乏共识，导致AI对齐不仅是技术问题，更是哲学问题。DeepMind的伦理团队由哲学家Iason Gabriel领导，主张构建能获得全球反思性认同的对齐原则；Anthropic的哲学家Amanda Askell则主导制定Claude的“宪法”，以美德伦理为基础培养模型的道德判断力。然而，OpenAI超级对齐团队的解体反映了商业利益与伦理研究的冲突。结论指出，哲学家在AI公司的作用日益重要，但伦理承诺与商业现实之间的张力仍需时间检验，AI对人类社会的影响可能比普通技术革命更为深远。