赵蓉，叶茵编著的这本《信息论基础》共分7章。第1章为概论，介绍了信息的基本概念和定义、信息论研究的内容；第2章为信源和信源熵，详细地讨论了信息的度量方法，介绍熵的概念、性质、定理和信源冗余度的问题；第3章为信道和信道容量，描述和分析了各种不同类型信道的模型和特性，并介绍了几种特殊信道信道容量的计算方法；第4章为信源编码，核心内容是香农的无失真信源编码定理，介绍了无失真编码的基本概念和定理的基本内容；第5章为信道编码，介绍了信道编码的基本概念及香农的有噪信道编码定理；第6章为信息率失真函数，介绍了信息率失真函数的概念、计算、应用及保真度准则下的信源编码定理；第7章为信息理论在现代通信中的应用，介绍了熵概念在密码学中的应用和MIMO信道的容量。

赵蓉，叶茵编著的这本《信息论基础》系统论述了香农信息论，以香农三个编码定理为中心，重点讲述了相关的基本概念、基本原理和基本方法。本书针对本科教学的特点，力求深入浅出，在保持一定理论深度的基础上尽可能地简化数学分析过程，以通俗、生动的语言强化物理概念的描述。为了便于教学和读者自学，部分章节配有习题。

《信息论基础》可作为高等院校通信、电子、计算机专业本科生的教材，也可作为相关专业人员的参考书。

第1章 概论

 1.1 信息的一般概念

 1.2 信息论研究的对象、目的和内容

第2章 信源和信源熵

 2.1 信源的描述与分类

2.1.1 离散信源与连续信源

2.1.2 离散无记忆信源和离散有记忆信源

 2.2 离散信源的信息熵

2.2.1 自信息

2.2.2 信息熵

 2.3 信源熵的基本特性和定理

 2.4 离散无记忆的扩展信源

2.4.1 最简单的离散信源

2.4.2 N次扩展信源

2.4.3 N次扩展信源的熵

 2.5 离散平稳信源

2.5.1 离散平稳信源的数学定义

2.5.2 二维平稳信源及其信息熵

2.5.3 离散平稳信源的信源熵和极限熵

 2.6 马尔可夫信源

2.6.1 马尔可夫信源的定义

2.6.2 马尔可夫信源的熵

 2.7 信源的相关性和剩余度

 2.8 连续信源

2.8.1 连续信源的熵

2.8.2 几种特殊连续信源的熵

2.8.3 最大连续熵定理

 习题

第3章 信道和信道容量

 3.1 信道的数学模型和分类

3.1.1 信道的分类

3.1.2 离散信道的数学模型

3.1.3 单符号离散信道的数学模型

3.1.4 多符号离散信道的数学模型

 3.2 信道疑义度及平均互信息

3.2.1 信道疑义度

3.2.2 平均互信息

3.2.3 平均条件互信息

 3.3 平均互信息的特征

3.3.1 平均互信息I(X；Y)的基本特性

3.3.2 关于平均互信息I(X；Y)是凸函数的两个定理

 3.4 离散信道的信道容量

3.4.1 信道容量的定义

3.4.2 离散无噪信道的信道容量

3.4.3 对称离散信道的信道容量

3.4.4 一般离散信道的信道容量

 3.5 离散无记忆n次扩展信道的信道容量

 3.6 组合信道的信道容量

3.6.1 并联信道的信道容量

3.6.2 级联信道的信道容量

 3.7 连续信道和波形信道的信道容量

3.7.1 连续信道与波形信道

3.7.2 连续信道的信道容量

3.7.3 限带高斯白噪声加性波形信道的信道容量

3.7.4 香农公式的重要指导意义

 习题

第4章 信源编码

 4.1 编码器

 4.2 等长码和等长信源编码定理

 4.3 变长码

4.3.1 唯一可译变长码与即时码

4.3.2 即时码的树图构造法

4.3.3 克拉夫特(L.G.Kraft)不等式

4.3.4 唯一可译码的判别准则

 4.4 变长信源编码定理

4.4.1 紧致码

4.4.2 变长无失真信源编码定理(香农第一定理)

 4.5 变长码的编码方法

4.5.1 香农编码

4.5.2 霍夫曼编码

4.5.3 费诺编码

4.5.4 游程编码

4.5.5 冗余位编码

 习题

第5章 信道编码

 5.1 错误概率和译码准则

5.1.1 译码准则

5.1.2 误码率与信道疑义度的关系——费诺不等式

 5.2 错误概率与编码方法

5.2.1 简单重复编码

5.2.2 香农第二定理的提示

5.2.3 汉明距离与抗干扰性的关系

 5.3 有噪信道编码定理及其逆定理

5.3.1 有噪信道编码定理

5.3.2 有噪信道编码定理的逆定理

5.3.3 错误概率的上界

 习题

第6章 信息率失真函数

 6.1 基本概念

6.1.1 失真函数

6.1.2 平均失真度

 6.2 信息率失真函数

6.2.1 D允许信道(试验信道)

6.2.2 信息率失真函数的定义

6.2.3 信息率失真函数的性质

 6.3 离散信源和连续信源信息率失真函数的计算

6.3.1 离散信源的信息率失真函数的参量表达式

6.3.2 二元离散等概率信源的信息率失真函数

6.3.3 连续信源的信息率失真函数

 6.4 保真度准则下的信源编码定理

6.4.1 限失真信源编码定理

6.4.2 限失真信源编码定理的逆定理

6.4.3 限失真信源编码定理的意义

 习题

第7章 信息理论在现代通信中的应用

 7.1 密码学中的熵概念

 7.2 MIMO信道的容量

7.2.1 确定性MIMO信道的容量

7.2.2 衰落MIMO信道的容量

参考文献