当前位置:首页 >> 建筑/土木 >>

第四章 大数定律和中心极限定理


第五章

大数定律和中心极限定理 大数定律和中心极限定理

Chapter Five Large Number Law and Central Limit Theorem

内 容 提 要 本章主要讲述契比雪夫不等式,契比雪夫大数定律,贝努里大数定律和中心 极限定理等内容.

重 点 1、 了解切比雪

夫不等式、切比雪夫定理和伯努利定理。 2、 了解独立同分布的中心极限定理和棣莫佛—拉普拉斯定理。 分 析

难 点 1、切比雪夫定理。 2、独立同分布的中心极限定理。 分 析

§5.1

大数定律(Large number law) 大数定律

人们在长期的实践中发现, 事件发生的频率具有稳定性, 也就是说随着试验次数的增多, 事件发生的频率将稳定与一个确定的常数。对某个随机变量 X 进行大量的重复观测,所得 到的大批观测数据的算术平均值也具有稳定性, 由于这类稳定性都是在对随机现象进行大量 重复试验的条件下呈现出来的,因而反映这方面规律的定理我们就统称为大数定律。 契比雪夫不等式( 一、 契比雪夫不等式(Chebyshev inequality) )

Theorem 5.1 设随机变量 X 的均值 E ( X ) 及方差 D ( X ) 存在,则对于任意正数 ε ,有 不等式

P{| X ? E ( X ) |≥ ε } ≤

D( X )

ε2
D( X )

P{| X ? E ( X ) |< ε } ≥ 1 ?


ε2

成立。 for

(If the mean E ( X ) and variance D ( X ) of the random variable X are known,then any value

ε >0
P{| X ? E ( X ) |≥ ε } ≤ D( X )

ε2
D( X )

or

P{| X ? E ( X ) |< ε } ≥ 1 ?

ε2

我们称该不等式为契比雪夫(Chebyshev)不等式。 契比雪夫( ) Proof: ( 我 们 仅 对 连 续 性 的 随 机 变 量 进 行 证 明 ) 设 f ( x ) 为 X 的 密 度 函 数 , 记

E ( X ) = ? , D( X ) = σ 2

P{| X ? E ( X ) |≥ ε } =


x ? ? ≥ε

∫ f ( x)dx ≤ ∫ ?
1

(x ? ?)2

x ? ≥ε

ε2
ε2

f ( x)dx



1

ε

2



+∞

?∞

( x ? ? ) 2 f ( x)dx ≤

ε

2

×σ 2 =

D( X )

从定理中看出,如果 D ( X ) 越小,那么随机变量 X 取值于开区间 ( E ( X ) ? ε , E ( X ) + ε ) 中 的概率就越大,这就说明方差是一个反映随机变量的概率分布对其分布中心 分布中心(distribution 分布中心 center) E ( X ) 的集中程度的数量指标。 利用契比雪夫不等式,我们可以在随机变量 X 的分布未知的情况下估算事件

{ X ? E ( X ) < ε } 的概率。
Example 5.1 设 随 机 变 量 X 的 数 学 期 望 E ( X ) = 10 , 方 差 D ( X ) = 0.04 , 估 计

P {9.2 < X < 11} 的大小。
Solution

P{9.2 < X < 11} = P{? 0.8 < X ? 10 < 1} ≥ P{ X ? 10 < 0.8} ≥ 1 ?
因而 P {9.2 < X < 11} 不会小于 0.9375 .

0.04 = 0.9375 (0.8) 2

二、 契比雪夫大数定律(Chebyshev Law of Large Number) 契比雪夫大数定律( ) Theorem 5.2 设相互独立的随机变量 X 1 , X 2 ,L , X n ,L 分别具有均值 E ( X 1 ), E ( X 2 ),

L , E ( X n ),L 及方差 D( X 1 ), D( X 2 ),L , D( X n ),L ,若存在常数 C ,使 D ( X k ) ≤ C ,
(k = 1, 2,L) ,则对于任意正整数 ε ,有

?1 n ? 1 n lim P ? ∑ X k ? ∑ E ( X k ) < ε ? = 1 n →∞ n k =1 ? n k =1 ?
(Let X 1 , X 2 ,L , X n ,L be a sequence of independent random variables with the mean

E ( X 1 ), E ( X 2 ), L , E ( X n ),L and variance D ( X 1 ), D ( X 2 ),L , D ( X n ),L ,suppose there
exists a constant C , such that D ( X k ) ≤ C , ( k = 1, 2,L) ,then for any value ε > 0 ,

?1 n ? 1 n lim P ? ∑ X k ? ∑ E ( X k ) < ε ? = 1 ). n →∞ n k =1 ? n k =1 ?
Proof: 由于 X 1 , X 2 ,L , X n ,L 相互独立,那么对于任意的 n > 1 , X 1 , X 2 ,L , X n ,L : 相互独立。于是

D(

1 n 1 ∑ X k ) = n2 n k =1

∑ D( X
k =1

n

k

)≤

C n

令 yn =

1 n 契比雪夫不等式(Chebyshev inequality)有 契比雪夫 ( ) ∑ X k ,则由契比雪夫 n k =1

1 ≥ P{Yn ? E (Yn ) < ε } ≥ 1 ?
令 n → ∞ , 则有

D(Yn )

ε

2

≥ 1?

C nε 2

lim P{Yn ? E (Yn ) < ε } = 1
n →∞



?1 n ? 1 n lim P ? ∑ X k ? ∑ E ( X k ) < ε ? = 1 . n →∞ n k =1 ? n k =1 ?
Corollary 5.1 设 相 互 独 立 的 随 机 变 量 X 1 , X 2 ,L , X n ,L 有 相 同 的 分 布 , 且

E ( X k ) = ? , D( X k ) ≤ σ 2 , (k = 1, 2,L) 存 在 , 则 对 于 任 意 正 整 数 ε , 有

?1 n ? lim P ? ∑ X k ? ? < ε ? = 1 . (Let X 1 , X 2 ,L , X n ,L be a sequence of independent and n →∞ ? n k =1 ?

identically distributed random variables,and E ( X k ) = ? , D ( X k ) ≤ σ , ( k = 1, 2,L)
2

exist ,then,for any value ε > 0 , lim P ?
n →∞

?1 n ? ∑ X k ? ? < ε ? = 1.) ? n k =1 ?

定理 5.2 我们称之为契比雪夫大数定理(Chebyshev Law of Large Number) 契比雪夫大数定理( ,推论 5.1 契比雪夫大数定理 ) ,

?1 n ? 是它的特殊情况,该推论表明,当 n 很大时,事件 ? ∑ X k ? ? < ε ? 的概率接近于 1。一 ? n k =1 ?
般地,我们称概率接近于 1 的事件为大概率事件 大概率事件(large probability event),而称概率接近于 大概率事件 0 的事件为小概率事件 小概率事件(small probability event),在一次试验中大概率事件几乎肯定要发生, 小概率事件 而小概率事件几乎不可能发生,这一规律我们称之为实际推断原理 实际推断原理(fact infer principle)。 实际推断原理 。 贝努里大数定律( 三、 贝努里大数定律(Bernoulli Law of Large Number) ) Theorem 5.3 设 m 是 n 次独立重复试验中事件 A 发生的次数,p 是事件 A 在每次试验 中发生的概率, 则对于任意正整数 ε , 有

?m ? lim P ? ? p < ε ? = 1 . (Let m represents the n →∞ ?n ?

events A that occur in each trials, then for any value ε > 0 , lim P ?
n →∞

Proof: 令 X k = ? :

第k次试验A发生 ?1 (k = 1, 2,L) , X 1 , X 2 ,L , X n ,L 是 n 个 ?0 第k次试验A不发生

相互独立的随机变量,且 E ( X i ) = p, D ( X i ) = pq .又 m = X 1 + X 2 + L + X k ,因而由推论 5.1 有

?m ? lim P ? ? p < ε ? = 1 n →∞ ?n ? n ?1 ? lim P ? ∑ X k ? p < ε ? = 1 n →∞ ? n k =1 ?
定理 5.3 我们称之为贝努利大数定律 Bernoulli Law of Large Number) 它表明事件 A , 贝努利大数定律 ( ) 发生的频率 m n 依概率收敛于事件 A 的概率 p ,也就是说当 n 很大时事件发生的频率与概 率有较大偏差的可能性很小。根据实际推断原理,当试验次数很大时,就可以利用事件发生 的频率来近似地代替事件的概率。

§5.2 中心极限定理(Central Limit Theorem) 5 中心极限定理(Central
中心极限定理(Central Limit Theorem)是研究在适当的条件下独立随机变量的部

n

number of events A that occur in the

independent trials, p represents the probability of

?m ? ? p < ε ? = 1 .) ?n ?

分和

∑X
K =1

n

K

的分布收敛于正态分布的问题。

Theorem 5.4 设相互独立的随机变量 X 1 , X 2 ,L , X n , 服从同一分布,且 E ( X k ) = ? ,

D ( X k ) ≤ σ ≠ 0 , (k = 1, 2,L , n) 则对于任意 x ,随机变量 Yn =
2

∑X
k =1

n

k

? n?
的分布函数



Fn ( x) 趋于标准正态分布函数,即有

? n ? t2 ? ∑ X k ? n? ? x 1 ?2 ? k =1 ? lim Fn ( x) = lim P ? ≤ x? = ∫ e dt ?∞ n →∞ n →∞ 2π nσ ? ? ? ? ? ?
(Let X 1 , X 2 ,L , X n ,L be a sequence of independent and identically distributed random variables,and E ( X k ) = ? , D ( X k ) ≤ σ ≠ 0 , ( k = 1, 2,L) exist , then, for any x ,the
2

distribution function Fn ( x ) of random variable Yn =

∑X
k =1

n

k

? n?
tends to the standard



? ? ? normal distribution, lim Fn ( x ) = lim ?Yn = n →∞ n →∞ ? ? ?

∑X
k =1

n

k

? n?



? 2 ? x 1 ? t2 ? e dt .) ≤ x? = ∫ ?∞ 2π ? ? ?

定理的证明从略。 该定理我们通常称之为林德贝格 勒维 林德贝格-勒维 林德贝格 勒维(Lindeberg-Levy)定理。 Corollary 5.2 设相互独立的随机变量 X 1 , X 2 ,L , X n 服从同一分布,已知均值为 ? ,方 差为 σ > 0 .单分布函数未知,当 n 充分大时, X =
2

∑X
K =1

n

k

近似服从正态分布

N (n? , (σ n ) 2 ) . (Let X 1 , X 2 ,L , X n ,L be a sequence of independent and identically
distributed random variables,with mean ? and variance σ > 0 .While the distribution
2

function is unknown,and

n is large,then X = ∑ X k is a normal approximation
K =1

n

2 distribution N ( n? , (σ n ) ) .)

Corollary 5.3 设相互独立的随机变量 X 1 , X 2 ,L , X n 服从同一分布,已知均值为 ? , 方差为 σ > 0 .单分布函数未知,当 n 充分大时, X =
2

1 n ∑ X k 近似服从正态分布 n K =1

N (? , (

σ
n

)2 ) .

(Let X 1 , X 2 ,L , X n ,L be a sequence of independent and identically distributed random variables,with mean

? and variance σ 2 > 0 .While the distribution function is unknown,and σ 1 n ∑1 X k is a normal approximation distribution N ( ? , ( n )2 ) .) n K=

n is large, then X =

由推论 5.3 知,无论 X 1 , X 2 ,L , X n 是什么样的分布函数,他的平均数 X 当 n 充分大时 总是近似地服从正态分布。 Example 5.2 某单位内部有 260 部电话分机,每个分机有 4%的时间要与外线通话, 可以认为每个电话分机用不同的外线是相互独立的,问总机需备多少条外线才能 95%满足 每个分机在用外线时不用等候? Solution 令 X k = ?

?1 ?0

第k 个分机要用外线 (k =1,2, , 260),X 1 , X 2 ,L , X 260 L 第k 个分机不要用外线

是 260 个相互独立的随机变量,且 E ( X i ) = 0.04 , m = X 1 + X 2 + L X 260 表示同时使用外 线的分机数,根据题意应确定最小的 x 使 P {m < x} ≥ 95% 成立。由上面定理,有

? m ? 260 p ? P{m < x} = P ? ≤ ? 260 p (1 ? p ) ?

t ? b 1 ?2 ? e dt ?≈∫ 260 p (1 ? p ) ? ?∞ 2π ?

x ? 260 p

2

查得 Φ (1.65) = 0.9505 > 0.95 ,故,取 b = 1.65 ,于是

x = b 260 p(1 ? p) + 260 p = 1.65 × 260 × 0.04 × 0.96 + 260 × 0.04 ≈ 15.61
也就是说,至少需要 16 条外线才能 95%满足每个分机在用外线时不用等候。 Example 5.3 用机器包装味精,每袋净重为随机变量,期望值为 100 克,标准差为 10 克,一箱内装 200 袋味精,求一箱味精净重大于 20500 克的概率。 Solution 设一箱味精净重为 X 克,箱中第 k 袋味精的净重为 X k 克, k = 1, 2,L , 200 .

X 1 , X 2 ,L , X 200 是 200 个相互独立的随机变量,且 E ( X k ) = 100, D ( X k ) = 100 ,

E ( X ) = E ( X 1 + X 2 + L + X 200 ) = 20000, D( X ) = 20000, D( X ) = 100 2

因而有 P ({ X > 20500} = 1 ? P ({ X < 20500}

500 ? ? X ? 20000 = 1 ? P? ≤ ? ≈ 1 ? Φ(3.54) = 0.0002 100 2 ? ? 100 2
Theorem 5.5 (德莫佛—拉普拉斯定理 DeMovire-Laplace Theorem)设 m A 表示 n 次 德莫佛— 德莫佛

独立重复试验中事件 A 发生的次数, p 是事件 A 在每次试验中发生的概率。则对于任意区 间 (a, b] ,恒有
t ? ? b mn ? np 1 ?2 ? ? lim P ?a < ≤ b? = ∫ e dt n →∞ np (1 ? p ) ? ? a 2π ? ?
2

(Let m A represents the number of events A that occur in the n independent trials,

p represents the probability of events A that occur in each trials, then for any interal (a, b] ,
That is
t ? ? b mn ? np 1 ?2 ? ? lim P ?a < ≤ b? = ∫ e dt n →∞ np (1 ? p ) ? ? a 2π ? ? .)
2

这两个定理表明二项分布的极限分布是正态分布。一般来说,当 n 较大时,二项分布的 概率计算起来非常复杂,这是我们就可以用正态分布来近似地计算二项分布。

k = n1

∑C

n2

k n

p k (1 ? p) n ?k = P{n1 ≤ mn ≤ n2 } = P{
≈ Φ( n 2 ? np np (1 ? p ) ) ? Φ(

n1 ? np np(1 ? p)
n1 ? np np (1 ? p )



mn ? np np(1 ? p)



n2 ? np np(1 ? p)

}

)

Example 5.4 设随机变量 X 服从 B (100, 0.8) ,求 P {80 ≤ X ≤ 100} . Solution

P {80 ≤ X ≤ 100} ≈ Φ (

100 ? 80 80 ? 80 ) ? Φ( ) n × 0.8 × 0.2 n × 0.8 × 0.2

= Φ (5) ? Φ (0) = 1 ? 0.5 = 0.5
Example 5.5 设电路共电网中内有 10000 盏灯,夜间每一盏灯开着的概率为 0.7,假设 各灯的开关彼此独立,计算同时开着的灯数在 6800 与 7200 之间的概率。 Solution 记同时开着的灯数为 X ,它服从二项分布 B (10000, 0.7) ,于是

P{6800 ≤ X ≤ 7200} ≈ Φ (

7200 ? 7000 10000 × 0.7 × 0.3

) ? Φ(

6800 ? 7000 10000 × 0.7 × 0.3

)

= 2Φ (

200 ) ? 1 = 2Φ ( 4.36) ? 1 = 0.99999 ≈ 1 45.83

第五章小结(Summary of Chapter Five) 章小结(
本章介绍了大数定律和中心极限定理。 要求了解契比雪夫不等式、 契比雪夫定理和伯努 利定理;了解独立同分布的中心极限定理和德莫佛—拉普拉斯定理。


相关文章:
第四章 大数定律与中心极限定理答案
第四章 大数定律与中心极限定理答案_理学_高等教育_教育专区。概率论期末试卷第四章 大数定律与中心极限定理答案 一、单项选择 1. 设 ?(x) 为标准正态分布函...
第四章 大数定律和中心极限定理
第五章 大数定律和中心极限定理 大数定律和中心极限定理 Chapter Five Large Number Law and Central Limit Theorem 内容提要 本章主要讲述契比雪夫不等式,契比雪夫...
第四章大数定律和中心极限定理
第四章 大数定律和中心极限定理 教学内容:本章主要讲述契比雪夫不等式,契比雪夫大数定律,贝努里大数定律和中心 极限定理等内容. 教学重点:讲清大数定律的条件、结...
第四章 大数定律与中心极限定理
第四章 大数定律与中心极限定理_理学_高等教育_教育专区。概率论与数理统计教案word版第四章 大数定律与中心极限定理 第四章一、教学要求 大数定律与中心极限定理...
第四章 大数定律与中心极限定理
第四章 大数定律与中心极限定理_理学_高等教育_教育专区。经济数学中非常重要的大数定理和中心极限定理第四章 大数定律与中心极限定理第一节 大数定律一、历史简...
第四章 大数定律与中心极限定理
第四章 大数定律与中心极限定理_高二数学_数学_高中教育_教育专区。高中数学课件第四章 大数定律与中心极限定理 4.1 设 D (x) 为退化分布: ?1 x > 0 D(...
第四章 大数定律与中心极限定理
如要投诉违规内容,请到百度文库投诉中心;如要提出功能问题或意见建议,请点击此处进行反馈。 第四章 大数定律与中心极限定理 经济数学—概率论与数理统计经济数学—...
概率论与数理统计教程习题(第四章大数定律与中心极限定理)
如要投诉违规内容,请到百度文库投诉中心;如要提出功能问题或意见建议,请点击此处进行反馈。 概率论与数理统计教程习题(第四章大数定律与中心极限定理) 概率论与数理...
第4章 大数定律和中心极限定理
大数定律和中心极限定理 第四章 大数定律和中心极限定理 内容 提要 本章主要讲述契比雪夫不等式,契比雪夫大数定律,贝努里大数定律和中心 极限定理等内容. 重点 分...
概率论与数理统计答案 第四章 大数定律与中心极限定理
如要投诉违规内容,请到百度文库投诉中心;如要提出功能问题或意见建议,请点击此处进行反馈。 概率论与数理统计答案 第四章 大数定律与中心极限定理 概率论与数理统计...
更多相关标签:
中心极限定理 | 中心极限定理的应用 | 中心极限定理的意义 | 中心极限定理证明 | 中心极限定理公式 | 中心极限定理的证明 | 拉普拉斯中心极限定理 | 中心极限定理 知乎 |