信息论的历程：从经典到现代

本文系统梳理了信息论从经典到现代的演进历程。经典信息论由香农创立，以概率论为基础，通过信息熵、互信息、信道容量和率失真函数等核心概念，以及三大编码定理，奠定了现代通信的理论基础，并指导了从1G到5G的移动通信发展。信息熵的概念与物理学中的热力学熵、量子信息等深刻联系，揭示了信息作为描述世界基本属性的潜力。面对移动通信面临的发展瓶颈，文章介绍了语义信息论的创新框架。该框架通过引入“同义映射”作为沟通语法与语义的桥梁，建立了语义熵、语义互信息、语义信道容量和语义率失真函数等新的度量体系，并证明了三大语义编码定理。语义信息论在数学上兼容经典信息论，并从原理上解释了语义通信能超越经典通信性能极限、实现更高效“达意”传输的根本原因。文章最后展望了语义信息论与人工智能、任务导向通信等前沿领域的融合，旨在推动构建智能、高效、可理解的未来信息网络。