信息论理论基础教程

前言1 信息论概述 1．1 信息 1．2 信息论 1．3 信息论的形成和发展 1．4 信息论的主要研究成果 本章重点及小结2 信息的度量 2．1 信息量 2．2 信息熵 2．3 离散集的平均互信息量 本章重点及小结 习题3 离散信源 3．1 信源的数学模型及分类 3．2 离散无记忆的扩展信源 3．3离散平稳信源 3．4 马尔可夫信源 3．5 信源的相关性和剩余度 本章重点及小结 习题4 离散信道及其容量 4．1 信道的数学模型及其分类 4．2 离散无记忆信道 4．3 信道的组合 4．4 信道容量 4．5 信源和信道的匹配 本章重点及小结 习题5 无失真信源编码 5．1 编码的定义 5．2 定长编码定理 5. 3 变长码定理 5．4 最佳编码 本章重点及小结 习题6 有噪信道编码定理 6．1 错误概率和译码规则 6．2 错误概率与编码方法 6．3 有噪信道编码定理 本章重点及小结 习题7 限失真信源编码 7．1 失真测度 7．2 信息失真函数 7. 3 限失真信源编码定理和逆定理 7．4 信息率失真的函数的计算 本章重点及小结 习题8 纠错编码 8．1 纠错编码的基本概念 8．2 纠错编码分类 8. 3 线性分组码 8．4 循环码 本章重点及小结 习题参考文献

杜玉华、李永全主编的《信息论理论基础教程》 为普通高等教育“十二五”规划教材。 《信息论理论基础教程》共分8章，主要内容包 括信息论概述、信息的度量、离散信源、离散信道及 其容量、无失真信源编码、有噪信道编码定理、限失 真信源编码、纠错编码等。为了便于教学和读者自学 ，每章后都有本章重点及小结、习题。在内容编排上 由浅人深，表述简洁，注重可读性，以最易接受的方 式介绍信息理论的基本内容及其应用，既保证理论的 完整性及系统性，又注意形成理论研究面向应用的特 点。 本书可作为普通高等院校信息科学与信息技术等 专业的教材用书，也可作为从事通信、雷达、导航、 计算机、系统工程、生物工程、管理工程等相关领域 的科研和工程技术人员的参考用书。

杜玉华、李永全主编的《信息论理论基础教程》基本覆盖了信息论的主要内容。首先介绍信息的统计度量、离散信源、离散信道和信道容量；然后介绍无失真信源编码、有噪信道编码及限失真信源编码。这些内容是香农信息论的核心部分。本书将摒弃连续信源的信息测度、波形信道的信道容量，主要针对信息理论的基础理论部分作为主要学习内容，使得本书可作为更多相关专业有关信息理论方面的普及教材。