前言
第 1章 绪论 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 1
11 数字通信系统的模型 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 1
12 信源编码问题 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 2
13 信道编码问题 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 3
第 2章 信息论基础 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 6
21 信源数学模型 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 6
22 信息量和信息熵 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 8
221 信息量 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 8
222 信息熵 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 12
23 无失真信源编码定理 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 16
24 限失真信源编码定理 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 21
241 信息率失真函数 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 22
242 限失真信源编码定理 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 28
25 信道模型和信道容量 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 28
251 信道的数学模型和分类 !!!!!!!!!!!!!!!!!!!!!!!!!!!!! 29
252 信道容量 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 31
26 有噪信道编码定理 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 37
261 错误概率与译码规则 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 37
262 有噪信道编码定理 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 38
27 习题 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 39
第 3章 信源编码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 44
31 无失真信源编码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 44
311 霍夫曼码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 44
312 香农编码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 50
313 费诺编码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 53
314 香农 -费诺 -埃利斯码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!! 55
315 游程编码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 59
316 算术编码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 62
Ⅳ
317 Lempel-Ziv算法 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 67
32 限失真信源编码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 68
321 模拟信源的数字化 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 69
322 预测编码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 75
323 变换编码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 76
33 习题 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 80
第 4章 线性分组码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 82
41 数字通信中的编码信道 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 82
42 差错控制系统的基本概念 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 83
421 差错控制的方式 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 83
422 信道编码的分类 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 84
423 分组码的基本概念 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 85
424 分组码的译码准则 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 86
425 简单的分组码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 86
426 编码增益的概念 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 88
43 线性分组码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 89
431 向量空间 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 90
432 线性分组码的结构 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 90
433 生成矩阵 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 92
434 系统线性分组码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 93
435 监督矩阵 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 94
436 伴随式校验 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 96
437 错误纠正 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 97
438 译码器电路 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 100
44 线性分组码的检错和纠错能力 !!!!!!!!!!!!!!!!!!!!!!!!!!! 102
45 循环码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 106
451 循环码的定义与基本性质 !!!!!!!!!!!!!!!!!!!!!!!!!!! 106
452 循环码的生成多项式 !!!!!!!!!!!!!!!!!!!!!!!!!!!!! 108
453 循环码的监督多项式 !!!!!!!!!!!!!!!!!!!!!!!!!!!!! 110
454 循环码的生成矩阵 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 111
455 截短循环码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 112
456 系统循环码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 112
457 循环码的编码器 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 115
458 循环码的译码器 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 117
459 循环码实例 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 123
Ⅴ
目 录
46 习题 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 124
第 5章 BCH码和 RS码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 128
51 有限域 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 128
511 有限域的定义 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 128
512 域的特征和基域 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 129
513 有限域上的多项式 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 129
514 扩展域的结构 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 130
515 本原元素和本原多项式 !!!!!!!!!!!!!!!!!!!!!!!!!!!! 131
516 最小多项式和共轭元素 !!!!!!!!!!!!!!!!!!!!!!!!!!!! 134
52 BCH码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 135
521 BCH码的结构 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 135
522 BCH码的生成多项式 !!!!!!!!!!!!!!!!!!!!!!!!!!!!! 136
523 BCH码的译码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 137
524 BCH码的 Berlekamp-Massey译码算法 !!!!!!!!!!!!!!!!!!!!!! 139
53 RS码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 141
531 RS码的生成多项式 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 142
532 RS码的系统编码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 143
533 RS码的译码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 143
54 习题 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 148
第 6章 卷积码!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 151
61 卷积码概述 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 151
62 卷积码编码器 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 152
621 连接图表示 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 152
622 离散卷积表示 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 154
623 矩阵表示 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 155
624 转移函数表示 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 160
625 状态图表示 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 163
626 树状图表示 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 167
627 网格图表示 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 170
63 卷积码译码器 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 171
631 优选似然译码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 171
632 维特比译码算法 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 172
633 译码器的实现 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 176
64 卷积码的特性 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 178
641 卷积码的距离特性 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 178
Ⅵ
信息与编码理论
642 系统卷积码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 181
643 卷积码中的灾难性错误传播 !!!!!!!!!!!!!!!!!!!!!!!!!! 182
644 卷积码的性能界限 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 183
65 Turbo码 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 184
651 Turbo码基本概念 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 184
652 Turbo码编码器 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 184
653 Turbo码译码器 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 186
66 小结 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 188
67 习题 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 189
参考文献 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! 193