本书是一部系统论述信息论基础与编码理论基础的立体化教程（教学课件、习题、实验指导书）。全书分为两部分共9章。第一部分为信息论基础（第1章～第6章），介绍了单符号离散信源与信道，包括信源的数学模型、信息度量、信息熵的性质、信道模型、平均互信息、信道容量；多符号离散信源与信道，包括扩展信源、马尔可夫信源、信源极限熵、各类扩展信道及其容量等；单维连续信源与信道，包括连续信源的相对熵、相对熵的数学特性、最大相对熵定理、熵功率与信息变差、相对熵的变换、连续信道与平均交互信息量、平均交互信息量的不变性、连续信道的信道容量、高斯加性信道的信道容量；多维连续信源与信道，包括随机过程的离散化、多维连续信源的相对熵、最大多维相对熵定理、多维连续信道、香农公式等。第二部分为编码理论基础（第7章～第9章），介绍了无失真信源编码，包括信源编码器、唯一可译码和即时码、无失真变长信源编码定理（香农第一定理）、香农编码、霍夫曼编码、费诺编码、游程编码、数字传真编码、算术编码、字典码等；有噪信道编码，包括错误概率和译码规则、有噪信道编码定理（香农第二定理）、线性分组码、循环码、卷积码、交织码、级联码、Turbo码等；限失真信源编码，包括失真测度、信息率失真函数、信息率失真函数的定义域、限失真信源编码定理（香农第三定理）、R（D）函数的计算、数据压缩、现代静态图像编码技术等。
本书可作为通信工程、电子信息工程、信息工程等专业高年级本科生教材，也可作为研究生参考用书。

第一部分 信息论基础
第1章 绪论
1.1 信息的概念
1.1.1 什么是信息
1.1.2 如何度量信息
1.2 信息传输系统
1.3 信息论的研究内容
1.3.1 狭义信息论（经典信息论）
1.3.2 一般信息论（工程信息论）
1.3.3 广义信息论
第2章 单符号离散信源
2.1 单符号离散信源的数学模型
2.2 信源符号的自信息量
2.3 信源的信息熵
2.4 信息熵的性质
2.4.1 联合熵与条件熵
2.4.2 相对熵
2.4.3 Jensen不等式及其结果
2.4.4 信息熵的基本性质
本章要点
第3章 单符号离散信道
3.1 信道的数学模型
3.2 信道的交互信息量
3.3 条件互信息量
3.4 平均交互信息量
3.5 平均交互信息量的性质
3.6 信道容量及其一般算法
3.6.1 信道容量的定义
3.6.2 信道容量的一般算法
3.7 几种特殊结构的信道容量计算
3.7.1 无噪无损信道
3.7.2 有噪无损信道
3.7.3 无噪有损信道
3.7.4 对称离散信道的信道容量
3.7.5 准对称信道的信道容量
3.8 信道容量的迭代计算
3.9 平均交互信息量的不增性
本章要点
第4章 多符号离散信源与信道
4.1 离散平稳信源的数学模型
4.1.1 离散平稳信源的数学定义
4.1.2 离散平稳信源的数学模型
4.2 离散平稳无记忆信源的信息熵
4.3 离散平稳有记忆信源的信息熵
4.3.1 二维离散平稳信源的条件熵
4.3.2 （m+1）维离散平稳信源
4.3.3 二维离散平稳信源的平均符号熵
4.4 离散平稳有记忆信源的极限熵
4.5 马尔可夫信源的极限熵
4.5.1 有限状态马尔可夫链
4.5.2 马尔可夫信源
4.6 信源的剩余度
4.7 扩展信道及其数学模型
4.8 无记忆扩展信道
4.9 扩展信道的平均交互信息量
4.10 无记忆扩展信道的信道容量
4.11 独立并联信道的信道容量
本章要点
第5章 单维连续信源与信道
5.1 单维连续信源
5.1.1 连续信源的相对熵
5.1.2 几种连续信源的相对熵
5.1.3 相对熵的数学特性
5.1.4 最大相对熵定理
5.1.5 熵功率与信息变差
5.1.6 相对熵的变换
5.2 单维连续信道
5.2.1 连续信道与平均交互信息量
5.2.2 平均交互信息量的不变性
5.2.3 连续信道的信道容量
5.2.4 高斯加性信道的信道容量
本章要点
第6章 多维连续信源与信道
6.1 多维连续信源
6.1.1 随机过程的离散化
6.1.2 多维连续信源的相对熵
6.1 |3最大多维相对熵定理
6.1.4 多维相对熵的变换
6.2 多维连续信道
6.2.1 无记忆信道的平均交互信息量
6.2.2 高斯白噪声加性信道的信道容量
6.2.3 香农公式讨论
本章要点
第二部分 编码理论基础
第7章 无失真信源编码
7.1 信源编码器概述
7.1.1 信源编码的基本概念
7.1.2 信源编码的分类
7.1.3 唯一可译码和即时码
7.1.4 编码效率
7.2 无失真信源编码定理
7.2.1 无失真定长信源编码定理
7.2.2 无失真变长信源编码定理
7.3 常见的无失真信源编码方法
7.3.1 香农编码
7.3.2 霍夫曼编码
7.3.3 费诺编码
7.4 实用编码方法
7.4.1 游程编码
7.4.2 数字传真编码
7.4.3 算术编码
7.4.4 字典码
本章要点
第8章 有噪信道编码
8.1 错误概率和译码规则
8.1.1 错误概率与编码方法
8.1.2 错误概率和译码规则
8.2 有噪信道编码定理
8.2.1 香农第二定理
8.2.2 联合信源信道编码定理
8.3 线性分组码
8.3.1 向量空间
8.3.2 向量子空间
8.3.3 （6，3）线性分组码举例
8.3.4 生成矩阵
8.3.5 系统线性分组码
8.3.6 监督矩阵
8.3.7 伴随式检验
8.3.8 纠错
8.3.9 译码器的实现
8.4 检错和纠错能力
8.4.1 二进制向量的重量和距离
8.4.2 线性码的最小距离
8.4.3 检错和纠错
8.4.4 6元组空间的视网
8.5 标准阵的用途
8.5.1 估码能力
8.5.2 （n，k）码的一个例子
8.5.3 （8，2）码的设计
8.5.4 检错和纠错的权衡
8.5.5 标准阵列的进一步说明
8.6 信道编码的基本数学知识
8.6.1 群、环和域的基本概念
8.6.2 有限域上的多项式
8.6.3 多项式同余类环
8.6.4 有限域的结构
8.6.5 线性空间
8.7 循环码
8.7.1 循环码的代数结构
8.7.