Анализ вариации результативного признака. Статистические свойства МНК-оценок. Лекция 3

1. Анализ вариации результативного признака. Статистические свойства МНК-оценок.

2. Статистические свойства оценок коэффициентов, полученных МНК

Слайд №1
Статистические свойства оценок коэффициентов,
полученных МНК
bМНК b ( X T X ) 1 X T Y
b ( X T X ) 1 X T Y ( X T X ) 1 X T ( X ) ( X T X ) 1 X T .
1) МНК – оценка b является несмещенной оценкой вектора
b ( X T X ) 1 X T Y ( X T X ) 1 X T ( X ) ( X T X ) 1 X T
Mb M ( ( X T X ) 1 X T ) ( X T X ) 1 X T M
2) Свойство состоятельности в данном случае определяется
структурой матрицы Х: наименьшее собственное число матрицы
X T X стремится к , при n .
3) Оценки
считаются
эффективными,
если
они
характеризуются наименьшей дисперсией. Эффективность МНКоценок доказывается в предположении о нормальности
регрессионных остатков ММП.

3. Оптимальность МНК-оценок КЛММР

Слайд №2
Оптимальность МНК-оценок КЛММР

4.

Продолжение слайда №2

5. Теорема Гаусса-Маркова

Слайд №3
Теорема Гаусса-Маркова

6. Доказательство

Продолжение слайда №3
Доказательство

7. Свойства оценок нормальной КЛММР

Слайд №4
Свойства оценок нормальной КЛММР

8. Ковариационная матрица вектора оценок коэффициентов

Слайд №5
Оценим ковариационную матрицу случайного вектора b , при
условии выполнения 1, 3, 4, 5 условий Гаусса-Маркова
T
T
1 T
T
1 T T
M
[(
b
M
b
)(
b
M
b
)
]
M
[((
X
X
)
X
)((
X
X
)
X ) )]
b
M [( X T X ) 1 X T T X ( X T X ) 1 ] ( X T X ) 1 X T M ( T ) X ( X T X ) 1
( X T X ) 1 X T 2 n X ( X T X ) 1 2 ( X T X ) 1
Откуда, в частности,
Dbj 2 [( X T X ) 1 ] jj
Несмещенная оценка для 2
Sˆ 2
1
(Y Xb ) T (Y Xb )
n k 1
ˆ b Sˆî2ñò ( Õ Ò Õ ) 1

9.

Слайд №6
Анализ вариации результативного признака
В качестве характеристики степени рассеивания случайной величины
Y относительно функции регрессии используется в случае нелинейной связи
корреляционное отношение:
M (Y f Y ( X 1 , X 2 ,..., X k )) 2 M ( f Y ( X 1 , X 2 ,..., X k ) MY ) 2
2
Y / X1 ,..., X k 1
,
2
2
Y
Y
которое характеризует качество подгонки функции регрессии под
выборочные данные. В случае линейной регрессии Y2 / X1 ,..., X k называется
коэффициентом детерминации RY2 / X1 ,..., X k R 2 .
Коэффициент детерминации строится из тех соображений, что общая
дисперсия результативного признака складывается из факторной и
остаточной дисперсий:
2
2
Y2 факт
ост
,
где Y2 – дисперсия результативного признака;
2
факт
М ( f Y ( X 1 ,..., X k ) MY ) 2 – факторная дисперсия;
2
ост
М (Y f Y ( X 1 ,..., X k )) 2 – остаточная дисперсия.

10. Выборочный коэффициент детерминации

Слайд №7
Выборочный коэффициент детерминации
Оценка коэффициента детерминации рассчитывается по формуле:
n
Rˆ y2 / x1 ,..., x n
Qô àêò
Qî áù
1
Qî ñò
1
Q î áù
ei2
n
i 1
( yi Y ) 2
i 1
n
Qô àêò ( yˆi Y ) 2
i 1
n
n
Qî ñò ( yi yˆ i ) ei2 , где ei yi yˆ i - оценка регрессионного
2
i 1
i 1
остатка для i-го наблюдения.
Несмещенная оценка коэффициента детерминации имеет вид:
n 1
Rˆ *y2/ x ,..., x 1 (1 Rˆ y2 / x ,..., x )
n k 1
1
n
1
n