高斯马尔可夫定理

高斯—马尔可夫定理:

若一元线性模型满足计量经济基本假设，则参数的最小二乘估计(OLS)是最小方差的线性无偏估计。（BLUE)

最小二乘法估计量OLS的性质（高斯—马尔可夫定理的初步证明）

1．线性性：??0和??1都是yi的线性函数

证明：

n?(xi?x)yin????i?1(xi?x)1n?nyi?(x2?i?1x)2j?x)?(xj? ；

j?1j?1k(xi?x)i?n令

?(x2j?x)

j?1n则有??

1??kiyii?1 ，且有

?ki?0，

?kixi?1?k21i?n?x)2

(xi?i?1从而??1是yi的线性函数；

同理，

n?1?y?0＝y???1x?n?i?x?kiyi???1?xk?i?1?ni?y?i，

令wi?1n?x?ki，则有：

???0?wyi，即?0也是

?yi的线

性函数。

另有：

?wi?1，?wixi?0

2. 无偏性：??0和??1都是?0、?1的无偏估计量；

??? ???, E? 即有：E?1100??? 证明：先证E?11??n???????? 1?ki?1iiyi??k??i0??1xi?ui?，

又????1n?k?0，?kixi?1

i0?ki?1iyi??k??i??1xi?ui??0?ki+?1?kixi???kuii

=?1??kui

? E?1??0?(因为:

???ki??1?kixi??kE?u???ii1

?ki?0，?kixi?1)

同理，利用

????,wi?1和?wixi?0可证得E?00

??3. 最优性或最小方差性：在所有的线性无偏估计中，??0和??1分别是?0、?1的方差最小的有效估计量 证明：

若?1是原值?1的一个线性无偏估计（方差条件不限），且记?1?~~?ciyi（∵

线性估计），再根据无偏估计的特性，有：

再记P??~11?ci?0,?cixi?1。

????1??ci~?ki?yi~，则有?1?P???1

?,P???)D?1?Cov?1,?1?Cov(P??11?,??)?2Cov(??,P)?D(P)?D(??)?2Cov(P,??)?Cov(P,P)?Cov(?11111

如果能证明Cov(P,??1)?0，则利用方差不小于0的性质，判定

~?)?D(??)，??即为所有无偏的线性估计中方差最小的。 D(?1)?D(P)?D(?111??~?~?∵

?)?Cov(Cov(P,??(ci?ki)yi,?kiyi)1?(?(ci?ki)ki)??u?(?ciki?又∵

2?ki)?u22

ki?(xi?x)n?j?1(xj?x)2

且有：

?ki?0，?kixi?1，?nki?21n?(xi?1i?x)2

ni?cck?所以

iixi??ci?1ix?n??k2i?i?1n1?0?x)2?(xj?1j?x)2?(xj?1，

j?)?0, Cov(P,?1有：

?)?D(??)D(?1)?D(P)?D(?11，命题得证。

~（此处利用了?ci?0,?cixi?1）。