文章目录
文章目录
1. 切比雪夫不等式
2. 依概率收敛
3. 切比雪夫大数定理
4. 弱大数定理(辛钦大数定理)
5. 伯努利大数定理
1. 切比雪夫不等式
定理
设随机变量具有数学期望,方差,则对于任意正数,不等式
成立,这一不等式称为「切比雪夫(Chebyshev)不等式」 . 该不等式也可写作
❝
证明
对于离散型有
对于连续型有
❞理解
首先 ,表示随便变量,落在以数学期望为中心,范围以外的概率,用数轴简单表示如下

切比雪夫不等式描述了随机变量取值落在图中阴影部分的概率值上限为 ,其中为方差,表示随机变量偏离期望的程度
当固定,方差越小,说明随机变量取值越多的集中在期望附近,则落在阴影区域内的概率就会变小,对应到切比雪夫不等式,表现为概率上限变小。反之方差越大,随机变量偏离期望的程度越大,则落在阴影区域内的概率就会增大,对应到对应到切比雪夫不等式,表现为概率上限变大
当方差 固定, 越小, 则说明阴影区域越靠近期望 ,如图中的,很明显以为范围的阴影区域,要大于以为范围的阴影区域,此时对应到切比雪夫不等式,表现为概率上限变大
意义
切比雪夫不等式给出了随机变量的分布未知,只知道期数学期望和方差的情况下,的概率界限。根据切比雪夫不等式
当 时, 当 时, 当 时, 当 时,
2. 依概率收敛
定义
设 是一个随机变量序列, 是一个常数,若对于任意正数 有
则称序列 依概率收敛于 ,记做
理解
我们知道,事件发生的概率为,并不代表该事件为必然事件。所以这里的依概率收敛,可以按这个思路来理解,整体是向逼近,但是可能出现个别的离散点偏离较远,但是不影响大趋势。这也是区别于收敛的地方,收敛要求满足特定条件后,所有点均逼近 .
3. 切比雪夫大数定理
定理内容
设 是两两互不相关的随机变量序列,数学期望和方差都存在,且存在常数,使得,则对于任意的 有
❝
证明
因为 相互独立,因此有
根据切比雪夫不等式可知
当 时 ,且根据概率定义,必然有 成立.
❞
推论
设 是独立同分布的随机变量序列,数学期望和方差都存在,则对于任意的 有
4. 弱大数定理(辛钦大数定理)
定义
设是独立同分布的随机变量序列,且具有数学期望 作前个变量的算术平均,则对于任意,有
❝
相比切比雪夫不等式,辛钦大数定理没有要求随机变量的方差存在。如果随机变量方差存在,则利用切比雪夫不等式很容易证得,至于方差不存在时,暂不会证明。
❞
5. 伯努利大数定理
定义
设 是次独立重复试验中事件发生的次数,是事件在每次试验中发生的概率,则对于任意正数,有
或
❝
分析
设
则
对于重伯努利试验,有数学期望
由辛钦大数定理可知有
即
❞❝
该定理表明,当试验次数足够大时,可以用事件发生的频率代替事件的概率
❞