信息论基础及应用PDF|Epub|txt|kindle电子书版本网盘下载

信息论基础及应用PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

第1章 绪论1

1.1信息的基本概念1

1.1.1信息的不同定义1

1.1.2信息的特征4

1.1.3信息的性质4

1.1.4信息的分类5

1.1.5信息科学6

1.2信息论的起源、发展及研究内容7

1.2.1信息论的起源7

1.2.2信息技术的发展7

1.2.3信息论研究的主要内容9

1.2.4信息论的应用9

1.3编码理论概述11

1.3.1编码理论的基本概念11

1.3.2编码理论的发展13

1.3.3编码理论研究的内容和目的13

习题15

第2章 信息论的数学基础16

2.1概率论基本知识16

2.1.1随机事件与概率16

2.1.2随机变量及其分布23

2.1.3多维随机变量及其分布32

2.1.4数学期望与方差37

2.2随机过程基本知识40

2.2.1随机过程及其统计描述40

2.2.2随机过程的数字特征42

2.3马尔可夫链43

2.3.1马尔可夫过程及其概率分布43

2.3.2多步转移概率的确定46

2.3.3遍历性48

2.4抽象代数基本知识50

2.4.1群的基本概念51

2.4.2环的基本概念52

2.4.3域的基本概念及域上多项式54

第3章 信源与信源熵59

3.1单符号离散信源59

3.1.1单符号离散信源的数学模型59

3.1.2概率知识基础60

3.1.3单符号离散信源的信息量60

3.1.4互信息量和条件互信息量63

3.1.5单符号离散信源的信源熵66

3.1.6信源熵的基本性质和定理68

3.1.7平均互信息量72

3.1.8各种熵之间的关系80

3.2多符号离散平稳信源81

3.2.1离散无记忆扩展信源82

3.2.2离散平稳信源的数学定义84

3.2.3离散平稳信源的信源熵和极限熵85

3.3马尔可夫信源88

3.3.1马尔可夫（Markov）链88

3.3.2马尔可夫信源89

3.3.3马尔可夫信源熵91

3.4连续信源94

3.4.1连续信源的熵95

3.4.2几种特殊连续信源的熵97

3.4.3连续熵的性质及最大连续熵定理99

习题101

第4章 无失真信源编码105

4.1信源编码概述106

4.1.1信源编码的定义106

4.1.2克拉夫特（Kraft）不等式109

4.2定长编码112

4.2.1定长编码定理112

4.2.2定长编码方法113

4.3变长编码116

4.3.1变长编码定理116

4.3.2变长编码方法117

4.4几种实用的无失真信源编码120

4.4.1香农编码120

4.4.2费诺编码121

4.4.3哈夫曼编码123

4.4.4游程编码131

4.4.5 冗余位编码134

4.4.6算数编码136

4.4.7字典编码138

习题142

第5章 限失真信源编码144

5.1失真测度与信息率失真函数144

5.1.1平均失真度145

5.1.2信息率失真函数的定义148

5.1.3信息率失真函数的性质150

5.2信息率失真函数的计算154

5.2.1离散信源的率失真函数的计算154

5.2.2连续信源的率失真函数162

5.3限失真信源编码定理167

5.4限失真信源编码简介168

5.4.1语音信号的预测编码168

5.4.2图像与视频信号的预测编码173

习题180

第6章 信道及信道容量182

6.1信道模型和分类182

6.1.1一般信道的数学模型182

6.1.2信道的分类182

6.1.3信道容量的定义183

6.2特殊的单符号离散信道的信道容量184

6.2.1离散无噪信道的信道容量184

6.2.2强对称离散信道的信道容量186

6.2.3对称信道的信道容量188

6.2.4准对称离散信道的信道容量190

6.2.5一般离散信道的信道容量191

6.3多符号离散信道194

6.3.1多符号离散信道的数学模型194

6.3.2离散无记忆信道的信道容量195

6.4多用户信道及连续信道199

6.4.1多用户信道199

6.4.2连续信道201

习题206

第7章 信道编码211

7.1信道编码的基本概念211

7.1.1信道编码的意义211

7.1.2信道编码的分类211

7.1.3信道编码的基本原理212

7.2信道编码定理213

7.2.1译码规则及错误概率213

7.2.2信道编码定理215

7.2.3检错与纠错原理215

7.2.4检错与纠错方式和能力217

7.3线性分组码219

7.3.1概述219

7.3.2线性分组码的生成矩阵和一致校验矩阵220

7.3.3线性码的纠错能力223

7.3.4线性分组码的译码223

7.3.5汉明码228

7.4循环码230

7.4.1循环码的定义及多项式表示230

7.4.2循环码的生成矩阵和一致校验矩阵232

7.4.3循环码的编码234

7.4.4循环码的译码235

第8章 信息论方法的应用238

8.1信息论在统计中的应用238

8.1.1 EM算法238

8.1.2互熵与Fisher矩阵241

8.2组合投资决策（Portfolio）中的应用244

8.2.1组合投资决策问题244

8.2.2量优组合投资决策的计算245

8.3最大熵原理在经济学中的应用247

8.3.1最大熵建模基本原理247

8.3.2最大熵统计模型的优缺点249

8.3.3封闭经济体中货币量的分布249

8.3.4封闭经济体中财富的分布250

8.4在自然语言中应用251

8.4.1英语信源的熵和剩余度251

8.4.2汉语信源的熵和剩余度253

附录：模拟试题254

模拟试题一254

模拟试题一答案256

模拟试题二259

模拟试题二答案261

模拟试题三265

模拟试题三答案267

模拟试题四272

模拟试题四答案274

参考文献278