AI教父联名OpenAI、DeepMind、Anthropic：警惕CoT！

本文探讨了AI推理模型中的思维链(CoT)技术及其在AI安全领域的应用。背景方面，随着AI代理能力的提升，CoT成为控制其行为的重要方法。研究目的旨在呼吁对CoT监控技术进行深入研究，以保持AI模型的透明度。结论指出，虽然CoT监控为AI安全提供了独特机会，但其可监控性可能随着训练方式和模型设计的演变而减弱，因此需要开发新的评估方案和监控技术。文章还提出了保护和利用CoT可监控性的具体建议，并强调需要多层监控来确保AI代理的安全。