信息论与编码理论(普通高等教育十一五国家级规划教材)

本书主要分为四个部分：第一部分主要介绍信息论产生的背景及信息的基本概念。第二部分从无失真和限失真的角度介绍信源编码定理和一些信源编码方法。第三部分介绍信道编码定理及各种信道编码技术。第四部分介绍蓬勃发展的多用户信息论。本书力图反映信息论产生近60年来的发展历程，使学生了解信息论对我们人类社会信息化产生的巨大影响。在每一章后附有习题和相关的参考文献。本书的特色是紧密结合信息论在通信中的应用，对shannon基本理论以及信源编码、信道编码的最新进展做了全面的介绍，通过结合介绍shannon理论在实际通信技术中的应用，使读者能深入体会shannon信息论的内涵。本书可以作为电子信息、通信类专业高年级本科生和研究生的教材和参考书。

第1章 引论
1.1 通信系统模型
1.2 Shannon信息论的中心问题
1.3 Shannon信息论的局限性
1.4 信息的广义性
第2章 信息量和熵
2.1 离散变量的非平均信息量
2.1.1 非平均互信息
2.1.2 条件互信息与联合事件的互信息
2.1.3 离散变量的非平均自信息量
2.2 离散集的平均自信息量――熵
2.2.1 熵和条件熵
2.2.2 熵的性质
2.3 熵的唯一性定理
2.4 离散集的平均互信息量
2.5 连续随机变量的互信息和微分熵
2.5.1 连续随机变量的互信息
2.5.2 连续随机变量的熵
2.5.3 微分熵的极大化
2.6 凸函数与互信息的凸性
2.6.1 凸函数概念及其性质
2.6.2 互信息的凸性
2.7 随机过程的信息量和熵
小结
习题
第3章 信源编码――离散信源无失真编码
3.1 信源及其分类
3.2 离散无记忆信源的等长编码
3.3 离散无记忆信源的不等长编码
3.4 最佳不等长编码
3.4.1 Huffman编码
3.4.2 算术编码
3.4.3 LZ编码
3.5 平稳源编码
3.6 马尔可夫源
小结
习题
第4章 信道及其容量
4.1 信道分类
4.2 离散无记忆信道
4.2.1 有关DMC的容量定理
4.2.2 对称DMC容量的计算
4.2.3 一般DMC容量的计算
4.3 离散无记忆信道容量的迭代算法
4.4 离散有记忆信道
4.5 信道的组合
4.6 时间离散的无记忆连续信道
4.6.1 可加噪声信道
4.6.2 平均功率受限可加噪声信道
4.6.3 平行可加高斯噪声信道
4.7 波形信道
小结
习题
第5章 信道编码定理
5.1 信道编码和译码
5.1.1 信道编码
5.1.2 译码准则
5.1.3离散序列的译码
5.1.4 连续序列的译码
5.2 Fano不等式和信道编码逆定理
5.3 联合典型序列及信道编码定理
5.4 错误概率上限
5.4.1 并集限
5.4.2 Bhattachaiyya(巴塔恰亚)限
5.4.3 Gallagei(加拉格)限
5.4.4 随机码集合平均错误概率上限
5.4.5 DMC的译码错误概率上限
5.4.6 时间离散连续信道错误概率上限
5.5 等能量正交编码信号
小结
习题
第6章 线性分组码
6.1 Galois域
6.1.1 域运算
6.1.2 GF(pm)的构造
6.1.3 有限域的特征和元素的级
6.1.4 最小多项式
6.2 线性分组码
6.3 线性分组码的生成矩阵和校验矩阵
6.3.1 生成矩阵
6.3.2 校验矩阵
6.3.3 码的扩展和缩短
6.4 一些特殊的线性分组码
6.4.1 Hamming(汉明)码
6.4.2 Hadamard码
6.4.3 Golay码
6.5 伴随式和最小汉明距离译码
6.5.1 分组码的标准阵译码
6.5.2 最小距离与纠错能力
6.6 循环码
6.6.1 循环码的数学描述
6.6.2 循环码的译码
6.7 BCH码
6.7.1 BCH码的定义和性质
6.7.2 BCH码的译码
6.8 Reed-Solomon码
6.9 分组码的性能限
6.10 线性分组码的性能限
小结
习题
第7章 卷积码
7.1 卷积码的基本概念
7.2 Viterbi译码
7.3 序列译码
7.4 卷积码集合平均错误概率限
7.5 级联码
小结
习题
第8章 接近Shannon极限的编码
8.1 Turbo码的构造
8.1.1 递归系统卷积码(RSC)
8.1.2 Turbo码的距离谱
8.1.3 Turbo码交织器的设计
8.2 Turbo码的译码
8.2.1 APP译码器
8.2.2 MAP译码算法
8.2.3 SOVA译码算法
8.2.4 Turbo码的迭代译码特性
8.3 Turbo码的性能限
8.4 低密度校验码的定义
8.4.1 LDPC码的定义
8.4.2 LDPC码的Tanner图表示
8.4.3 LDPC码的构造
8.5 低密度校验码的译码
8.5.1 硬判决译码
8.5.2 最佳APP译码
8.5.3 LDPC译码的和积算法
8.5.4 对数域和积算法
8.5.5 最小和算法
8.6 低密度校验码的性能
小结
习题
第9章 信源编码――无记忆信源的有失真编码
9.1 一般概念与定义
9.2 率失真函数的基本性质与有失真时的逆信源编码定理
9.2.1 基本性质
9.2.2 有失真时的逆信源编码定理
9.3 无记忆信源R(D)的计算
9.4 R(D)上、下限的估计
9.4.1 R(D)的下限
9.4.2 R(D)的上限
9.5 有失真时的离散无记忆信源编码定理
9.6 连续幅度无记忆信源
小结
习题
第10章 多用户信息论
10.1 多用户通信及多用户信道的分类
10.2 相关信源独立编码
10.3 相关源协同编码
10.4 多元接入信道(MAC)
10.5 广播信道
小结
习题
参考文献