当前位置:首页 >> 数学 >>

高一必修3“最小二乘法公式推导”


高一必修 3:最小二乘法公式推导
高中必修 3 变量间的相关关系一节中,回归直线方程的求解过程省略了推导过程,先推倒如下:
2 求Q (a、b 为变量)的最小值 ( a ,b )? ( y bx a ) i? i? i ? 1

?

n

思路:用配方法求 Q(a,b) 的最小值.
2 Q ( a ,b )? ( y bx a ) ? i? i? i ? 1 n n

?

? ?
n

n

i ?1

y i ? ? x i ? b 2 ? n? a2 ? 2? xi yi ? b ? 2 ? y i ? a ? 2? xi ? ab
2 2 i ?1 n i ?1 n i ?1 i ?1

n

n

n

?

i ?1

n x?ab y i ? ? x i ? b 2 ? n? a2 ? 2? xi yi ? b ? 2ny ? a ?2
2 2 i ?1 i ?1 n 2 n

2 ? n ? [ a ? 2 ( y ? b x ) a ] ? ? x i ? b 2 ? 2? xi yi ? b ?

i ?1

i ?1

?

n

i ?1

) y i (将 a 视作“主元”
n n

2

2 2 ? n ? [ a ? 2 ( y ? b x ) a ? ( y ? b x ) ] n (y? b x )2 ? 2? xi yi ? b ? ? ? xi ? b 2 ?

n

2

i ?1

i ?1

?

i ?1

yi

2

2 2 ? n ? [ a ? ( y ? b x )] ?(? x x )?b ?2 ( x n xy )?b? (?yi ? ny ) ? i ?n iy i ?

n

2

2

n

n

2

2

i? 1

i? 1

i? 1

(完成对“主元” a 的配方后,再着手对剩余的 b 配方)

? ? n 2 2 2 ? n ? [ a ? ( y ? b x )] ?(?xi ?nx ) ? ? b ? ? i? 1 ? ?
n

? xi yi ? n x y ? ? i ?1 ? n 2 ? 2 xi ? n x ? ? i ?1 ?
n

2

? (?yi ? ny ) ?
2 2 i? 1

(? xi y i ? n x y ) 2
i ?1

n

?x
i ?1

n

2 i

? nx

2

? ? n 2 2 2 ? n ? [ a ? ( y ? b x )] ?(?xi ?nx ) ? ? b ? ? i? 1 ? ?

? xi yi ? n x y ? ? i ?1 ? n 2 ? 2 xi ? n x ? ? i ?1 ?
n

2

第 1 页 共 2 页

由于

(xi ?x)2 ?0,所以上式取最小值当且仅当 ? xi ? n x ? ?
2 2 i ?1 i? 1

n

n

n ? xiyi ? n x y ? ? i?1 ? ?b ? n 2 , 2 ? xi ? n x ? ? i?1 ? ? ?a ? y ? b x

这就是要得到的公式. 拓展推广: 上 述 公 式 推 导 过 程 关 注 的 是 Q(a,b) “ 何 时 ” 取 最 小 值 , 而 这 个 “ 最 小 值 ”

(? yi ? n y ) ?
2 2 i ?1

n

(? xi y i ? n x y ) 2
i ?1

n

?x
i ?1

n

似乎无关紧要,果真如此吗?我们知道,刻画两个变量的线
2 i

? nx

2

性相关问题,除了回归方程外,还要考虑线性相关的程度,即“最小值”占 (
n

?y
i ?1

n

2

i

? n y ) 的比

2

例.因此,将这个“最小值”除以 (

?y
i ?1

2

i

? n y ) ,就可以得到

2

i? 1 , 其中 r ? . 1? n ?1?r (﹡) n n n 2 2 2 2 2 2 2 2 (? x n x )( y ny ) (?xi ?nx )( ? i ? i ? ?yi ?ny )

(? x n xy )2 iy i ?
i? 1

n

2

?x y ?nxy
i i i? 1

n

i? 1

i? 1

i? 1

由Q , ( a , b ) ? ( y bx a )? 0 i? i?
2 i ? 1

?

n

?r2 ?0,所 (yi ? y)2 ?0,知1 ? y i ? n y ??
2 2 i ?1 i? 1

n

n

以有 r ? 1 ,且 r 越大, (﹡)式越接近于 0 , x 、 y 的线性相关性越强,这个 r 便是用来刻画 x 、

y 线性相关程度的重要参数,即教材“阅读材料”中所说的相关系数.

第 2 页 共 2 页


相关文章:
使用最小二乘法法进行系统辨识的两种方法
u(k ? 1) ? 0.5u(k ? 2) ? w(k ) 递推最小二乘法推导公式如...3 到 55 z(k)=1.5*z(k-1)-0.7*z(k-2)+u(k-1)+0.5*u(k-2)...
更多相关标签: