信息论与编码基础

1 (p1): 第1章 绪论
1 (p1-1): 1.1 信息的概念
3 (p1-2): 1.2 信息论的形成和发展
4 (p1-3): 1.3 信息论的研究范畴
5 (p1-4): 1.4 通信系统模型
7 (p1-5): 1.5 习题
8 (p2): 第2章 信源和信息熵
8 (p2-1): 2.1 信源的特性和分类
11 (p2-2): 2.2 离散信源的信息度量
11 (p2-2-1): 2.2.1 信息量的定义
12 (p2-2-2): 2.2.2 自信息量
15 (p2-2-3): 2.2.3 联合信息量与条件自信息量
16 (p2-3): 2.3 互信息量
16 (p2-3-1): 2.3.1 互信息量的定义
17 (p2-3-2): 2.3.2 互信息的性质
18 (p2-3-3): 2.3.3 条件互信息和联合互信息
20 (p2-4): 2.4 信源熵
21 (p2-5): 2.5 条件熵和联合熵
23 (p2-6): 2.6 熵函数的数学特性
27 (p2-7): 2.7 加权熵
31 (p2-8): 2.8 平均互信息量
40 (p2-9): 2.9 信息不增性原理
42 (p2-10): 2.10 平稳离散信源
43 (p2-10-1): 2.10.1 离散平稳无记性信源的扩展信源
45 (p2-10-2): 2.10.2 离散平稳信源的熵
49 (p2-10-3): 2.10.3 马尔可夫信源
54 (p2-10-4): 2.10.4 信源的冗余度
56 (p2-11): 2.11 连续信源
57 (p2-11-1): 2.11.1 连续随机变量的熵
60 (p2-11-2): 2.11.2 最大相对熵
62 (p2-11-3): 2.11.3 熵功率
64 (p2-12): 2.12 习题
67 (p3): 第3章 信道及信道容量
67 (p3-1): 3.1 信道的数学模型和分类
67 (p3-1-1): 3.1.1 信道的分类
68 (p3-1-2): 3.1.2 单符号离散信道的数学模型
69 (p3-2): 3.2 单符号离散信道中的熵速率与信道容量
69 (p3-2-1): 3.2.1 离散无噪声信道的熵速率和信道容量
70 (p3-2-2): 3.2.2 几种特殊离散信道的容量
72 (p3-2-3): 3.2.3 对称离散信道的信道容量
76 (p3-2-4): 3.2.4 离散信道容量的一般计算方法
81 (p3-3): 3.3 多符号离散信道及其信道容量
84 (p3-4): 3.4 组合信道的信道容量
85 (p3-4-1): 3.4.1 串联信道及其信道容量
87 (p3-4-2): 3.4.2 独立并联信道的信道容量
87 (p3-5): 3.5 网络信息理论
87 (p3-5-1): 3.5.1 多址接入信道
89 (p3-5-2): 3.5.2 广播信道
89 (p3-5-3): 3.5.3 相关信源的多用户信道
90 (p3-6): 3.6 连续信道及其信道容量
90 (p3-6-1): 3.6.1 连续信道的平均互信息量
91 (p3-6-2): 3.6.2 连续信道的熵速率与信道容量
93 (p3-6-3): 3.6.3 连续信源的香农公式与噪声
95 (p3-7): 3.7 信道编码定理
96 (p3-8): 3.8 习题
98 (p4): 第4章 信源编码
99 (p4-1): 4.1 编码的定义
99 (p4-2): 4.2 码的分类
103 (p4-3): 4.3 离散无失真信源编码定理
107 (p4-4): 4.4 离散信源编码
107 (p4-4-1): 4.4.1 香农编码
108 (p4-4-2): 4.4.2 费诺编码
109 (p4-4-3): 4.4.3 赫夫曼编码
114 (p4-4-4): 4.4.4 游程编码
117 (p4-4-5): 4.4.5 冗余位编码
119 (p4-4-6): 4.4.6 Lempel-Ziv编码
121 (p4-4-7): 4.4.7 算术编码
124 (p4-5): 4.5 习题
127 (p5): 第5章 信道编码
127 (p5-1): 5.1 数字通信系统
128 (p5-2): 5.2 信道编码及编码定理
129 (p5-3): 5.3 信道模型
129 (p5-3-1): 5.3.1 二进制对称信道
130 (p5-3-2): 5.3.2 离散无记忆信道
130 (p5-3-3): 5.3.3 离散输入、连续输出信道
131 (p5-3-4): 5.3.4 波形信道
132 (p5-4): 5.4 差错控制方式
133 (p5-5): 5.5 信道编码的分类及其基本概念
133…