与AI讨论“真理”？

本文探讨了大语言模型（LLMs）与真理之间的关系。背景是AI回答常被用作参考，但其准确性存疑。研究目的旨在分析大语言模型如何运作、如何评估自身答案的置信度，以及其校准性。文章指出，大语言模型通过预训练学习文本统计模式，但可能延续训练数据中的错误；随后通过监督微调（SFT）和基于人类反馈的强化学习（RLHF）等方法提高准确性。结论显示，大语言模型总体上具有良好的校准性，能较准确评估自身置信度，但无法完全揭示其内部不确定性，未来需通过改进自我反思机制来增强可信度。