统计推断：面向工程和数据科学 pdf下载

本书对现代统计推断的基本概念进行了严谨而全面的阐述，对基本概念进行了清晰的阐述。具体内容包括：二项假设检验、多元假设检验、复合假设检验、信号检测、凸统计距离、假设检验的性能界限、假设检验的大偏差和误差指数、随机过程检测、贝叶斯参数估计、z大似然估计、信号估计等。本书的一个显著特点是大量精心构造的例子，有助于读者理解和吸收这些概念。由于除了概率论，不需要任何特定领域的专门知识，所以这本书应该能够被广大读者广泛阅读。

译者序
前言
缩写词
第1章引言1
11背景1
12记号1
121概率分布2
122条件概率分布2
123期望和条件期望2
124统一记号3
125一般随机变量3
13统计推断4
131统计模型4
132一些常见的估计问题5
133一些常见的检测问题6
14性能分析6
15统计决策理论7
151条件风险和优决策法则8
152贝叶斯方法8
153极小化极大方法9
154其他非贝叶斯决策法则10
16贝叶斯决策法则的推导10
17极小化极大决策理论与贝叶斯
决策理论之间的联系12
171对偶概念12
172博弈论13
173鞍点13
174随机决策法则14
练习16
参考文献18
第一部分假设检验
第2章二元假设检验20
21一般框架20
22贝叶斯二元假设检验21
221似然比检验22
222一致成本22
223例22
23二元极小化极大假设检验26
231对等法则27
232贝叶斯风险线与贝叶斯小
风险曲线28
233可微的V(π0)28
234不可微的V(π0)29
235随机LRT30
236例31
24奈曼皮尔逊假设检验33
241NP优化问题的解33
242NP法则35
243受试者操作特征曲线35
244例36
245凸优化38
练习38
第3章多元假设检验44
31一般框架44
32贝叶斯假设检验45
321优决策域45
322高斯三元假设检验47
33极小化极大假设检验47
34广义NP检测51
35多重二元检验51
351Bonferroni校正52
352错误发现率53
353BenjaminiHochberg方法53
354与贝叶斯决策理论的联系54
练习55
参考文献58
第4章复合假设检验59
41引言59
42随机参数Θ60
421对每个假设都是同样的
成本60
422有不同成本的假设63
43一致大功效检验64
431例64
432单调似然比定理66
433双复合假设67
44局部大功效检验68
45广义似然比检验69
451高斯假设检验的GLRT70
452柯西假设检验的GLRT72
46随机与非随机的θ72
47非受控检验74
48复合m维假设检验75
481随机参数Θ76
482非受控检验76
483mGLRT77
49稳健假设检验77
491条件独立观测值的稳健
检测80
492ε污染族81
练习83
参考文献86
第5章信号检测87
51引言87
52问题描述88
53带独立噪声的已知信号检测88
531iid高斯噪声下的信号89
532iid拉普拉斯噪声下的
信号90
533iid柯西噪声下的信号91
534近似NP检验92
54带相关高斯噪声的已知信号
检测92
541转化为iid情形下的噪声
检测问题93
542性能分析95
55多元信号检测96
551贝叶斯分类法则96
552性能分析96
56信号选择97
561iid噪声97
562带相关性的噪声98
57高斯噪声下的高斯信号检测99
571在高斯白噪声中检测高斯
信号100
572iid零均值高斯信号的
检测101
573信号协方差矩阵的对角化102
574性能分析102
575非零均值的高斯信号104
58弱信号的检测105
59高斯白噪声下带有未知参数的
信号检测106
591一般方法107
592线性高斯模型107
593非线性高斯模型108
594离散参数集109
510高斯噪声下非高斯信号的基于
偏差的检测112
练习114
参考文献118
第6章凸统计距离119
61KullbackLeibler散度119
62熵与互信息121
63切尔诺夫散度、切尔诺夫信息和
巴塔恰里亚距离122
64AliSilvey距离123
65一些有用的不等式127
练习128
参考文献130
第7章假设检验的性能界132
71条件错误概率的简单下界132
72错误概率的简单下界133
73切尔诺夫界134
731矩母函数和累积量生成
函数134
732切尔诺夫界135
74切尔诺夫界在二元假设检验中的
应用138
741PF和PM上的指数形式
上界138
742贝叶斯错误概率140
743ROC的下界142
744例142
75分类错误概率的界143
751由每对错误概率得到的
上、下界143
752Bonferroni不等式145
753广义Fano不等式145
76附录：定理74的证明147
练习149
参考文献151
第8章假设检验的大偏差和错误
指数152
81引言152
82iid随机变量求和的切尔诺
夫界153
821克莱姆定理153
822为什么中心极限定理在此处
不适用154
83带iid观测值的假设检验154
831带iid观测值的贝叶斯
假设检验155
832带iid观测值的奈曼
皮尔逊假设检验156
833Hoeffding问题156
834例158
84精细的大偏差160
841指数倾斜方法160
842iid随机变量的和161
843大偏差概率的下界163
844二元假设检验的精细
渐近性165
845随机变量不是iid的
情形166
85附录：引理81的证明168
练习169
参考文献171
第9章序贯检测与速变检测173
91序贯检测173
911问题阐述173
912停时和决策法则173
913序贯假设检验问题的两种
阐述174
914 序贯概率比检验174
......

前言
统计推断在许多具有工程背景的领域有着广泛而普遍的应用, 例如信号处理、通信以及控制等 从历史角度看, 统计推断理论最著名的应用当属雷达系统的开发, 这在第二次世界大战中是一个重要的转折点 在随后的几十年中, 该理论得到了广泛推广, 也为许多技术性问题提供了令人惊叹的解决方法, 包括: 对诸如无线电与电视信号、水下信号、语音信号进行可靠性检测、鉴别以及发现，在点对点链接和信号网络上建立可靠的通信数据，以及种植控制 在过去的几十年, 该理论达到的高度不断提升, 在生物学、安保 (威胁监测)以及大数据分析上的应用也得到了开发
广义上讲, 统计推断理论解决了检测和估计的问题 由于提供了 (在性能限制条件下的)黄金准则, 这使得统计推断的基本理论成为机器学习和数据科学的基础 在有些情况下, 黄金准则可以通过学习算法求得近似. 而要对机器学习中缺少数据的先验统计模型进行深入理解, 首先需要对基于模型的统计推断进行理解, 这正是本书的主要目的
本书旨在为工程与数据科学人员提供有关统计推断的统一观点及基本理解，可作为教材或研究人员、实践人员的参考书 本书介绍了统计推断的核心原则, 并通过不同领域的人员都能理解的大量实例进行说明，不需要依赖专业领域知识.这些实例旨在强调理论的关键特征和所作假设(例如，假设的先验分布及成本函数) 的含义, 以及应用该理论时应注意的细节
在引言之后, 本书分为两个主要部分 第一部分 (第2章至第10章) 主要内容为假设检验, 其中要求推断的量 (或状态) 属于有限集; 第二部分 (第11章至第15章) 主要内容为估计, 在这一部分，我们不将状态限制为有限集 各章的摘要如下:
 第1章首先通过实例引入假设检验和估计问题, 然后建立统计决策理论的一般框架. 在本章中，我们定义并比较了解决统计决策问题的各种方法 (如贝叶斯方法、极小化极大方法) 本章还对书中将要使用的符号进行了定义
 第2章主要介绍二元假设检验, 它的状态取两个可能值中的一个 我们介绍了二元假设检验问题的三种基本理论, 即贝叶斯理论、极小化极大理论和奈曼皮尔逊（NP）理论，并分别给出了实例
 第3章将第2章中的方法推广到m（m>2）元假设检验的情形 本章还讨论了同时对m个二元检验进行检验(而不是对每个二元检验单独进行检验)并获得性能保障的问题.
 第4章讨论了复合假设检验问题, 其中每个假设可能有不止一个概率分布 我们引入一致最大功效 (UMP)检验、局部最大功效 (LMP)检验、广义似然比 (GLR)检验、非受控检验和稳健检验等方法来处理这类假设的复合性质
 第5章将前几章中建立的理论应用于检测含噪声的有限观察值序列的信号问题. 我们考虑了信号和噪声的各种模型, 并讨论了最优检验的框架.
 第6章介绍了两个分布之间的距离的各种表示及其关系. 事实证明这些距离度量在推导假设检验问题的检验性能的界时是非常有用的. 这一章也应该是其他领域的研究人员非常感兴趣的, 他们应该能为本章中的距离度量找到其他应用.
 第7章推导了已经得到的假设检验能解析处理的性能界， 其中最重要的是最优检验的误差概率的上、下界. 在推导这些界时，我们用到的关键工具是切尔诺夫（Chernoff）界, 本章将对其作详细介绍.
 第8章应用以第7章中介绍的切尔诺夫界为基础的大偏差理论推导有大量独立同分布（iid）观测值的假设检验的性能界. 我们还研究了这些方法的渐近性, 并给出了具有指数倾斜分布形式的紧近似.
 第9章讨论了在做出决定之前允许选择何时停止观察的假设检验问题在本章中，速变检测的相关问题也被讨论，在这类问题中，观测值会在某个未知时刻发生分布变化, 其目标是在满足虚警约束 (falsealarm constraint)的条件下尽可能快地检测到变化
 第10章讨论了假设检验的观测值是某个随机过程的路径的情形 我们引入了KullbackLeibler和切尔诺夫散度率的概念, 并介绍了基于随机过程的两个分布之间的RadonNikodym导数的概念, 并将其用于建立检测方法.
 第11章讨论了参数估计的贝叶斯方法, 其中未知参数是随机的 我们分别讨论了标量值和向量值参数估计的情形, 以强调这两种情形的异同.
 第12章介绍了当未知参数的先验概率模型不能得到时, 构建好的估计量的几种方法 我们定义了无偏估计、最小方差无偏估计以及充分统计量和完备性的概念, 并详细介绍了指数族.
 第13章讨论了标量值和向量值参数的信息不等式. 当将这个基本不等式应用于无偏估计量时, 会得到方差的强大的CramérRao下界 (CRLB).
 第14章的重点是参数估计的最大似然 (ML) 估计方法. 我们讨论了当观测值的个数趋于无穷时，ML估计量的渐近性质. 并讨论了计算 (近似) ML估计量的递归方法, 以及在实际中很有用的期望最大化 (EM) 算法.
 第15章从参数估计转向讨论利用信号的含噪声观测值估计离散时间的随机信号问题 我们详细介绍了著名的卡尔曼滤波以及非线性滤波的一些推广. 在本章的最后，我们讨论了有限字母的隐马尔可夫......