Виды автокорреляции
Пример влияния автокорреляции на случайную выборку
Пример влияния автокорреляции на случайную выборку
Пример влияния автокорреляции на случайную выборку
Пример влияния автокорреляции на случайную выборку
Пример влияния автокорреляции на случайную выборку
Пример влияния автокорреляции на случайную выборку
Пример влияния автокорреляции на случайную выборку
Пример влияния автокорреляции на случайную выборку
Пример влияния автокорреляции на случайную выборку
Пример влияния автокорреляции на случайную выборку
Пример влияния автокорреляции на случайную выборку
Пример влияния автокорреляции на случайную выборку
Пример влияния автокорреляции на случайную выборку
Пример влияния автокорреляции на случайную выборку
Пример влияния автокорреляции на случайную выборку
Пример влияния автокорреляции на случайную выборку
Автокорреляция первого порядка
Автокорреляция первого порядка
Обнаружение автокорреляции
Обнаружение автокорреляции
Рекламная пауза
Дополнительные тесты Тест серий (Runs test [Geary test])
Тест серий
Тест серий (пример реализации)
Дополнительные тесты Общий тест Бройша-Годфри
Общий тест Бройша-Годфри
Методы устранения автокорреляции
Методы устранения автокорреляции
Методы устранения автокорреляции
Методы устранения автокорреляции
Методы устранения автокорреляции
Точечный прогноз для условного среднего и индивидуального значений результативного признака
1.49M

Обобщенная линейная модель множественной регрессии с автокоррелированными остатками. (Лекция 5)

1.

Обобщенная линейная модель
множественной регрессии с
автокоррелированными остатками

2.

Автокорреляция
регрессионных остатков – корреляционная
зависимость текущих и предыдущих значений регрессионных остатков.
Линейная модель множественной регрессии
Y X ,
для которой нарушено 5 условие
Гаусса-Маркова называется
обобщенной линейной моделью множественной регрессии (ОЛММР) с
автокоррелированными остатками, а именно:
1) х1,…,хк – детерминированные переменные;
2) ранг матрицы Х равен "к+1" – среди признаков нет линейно
зависимых;
3) M i 0 , i 1, n - нет систематических ошибок в измерении у;
4) D i M i2 2 , i 1, n
5) cov( i , j ) M ( i j ) 0 , i j , i 1, n j 1, n
T
4') M 2 0
дисперсии.
( i2 2j ), т.е. на диагонали стоят равные

3. Виды автокорреляции

Рис. 1 Положительная автокорреляция
Рис. 2 Отрицательная автокорреляция

4. Пример влияния автокорреляции на случайную выборку

Рассмотрим выборку из 50 независимых
нормально распределенных с нулевым
средним значений i.
С целью ознакомления с влиянием
автокорреляции будем вводить в нее
положительную, а затем отрицательную
автокорреляцию.

5. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.0ut 1 t

6. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.1ut 1 t

7. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.2ut 1 t

8. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.3ut 1 t

9. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.4ut 1 t

10. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.5ut 1 t

11. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.6ut 1 t

12. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.7 ut 1 t

13. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.8ut 1 t

14. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.9ut 1 t

15. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.95ut 1 t

16. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.0ut 1 t

17. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.3ut 1 t

18. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.6ut 1 t

19. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.9ut 1 t

20. Автокорреляция первого порядка

21. Автокорреляция первого порядка

1
2
1
2
0 2
1
2
1
...
...
...
n 1 n 2 n 3
... n 1
n 2
...
... n 3 ,
... ...
... 1
0
1
2
1
1
1
2
0
0
1
1 2
...
...
...
0
0
0
... 0
... 0
... 0
... ...
... 1

22. Обнаружение автокорреляции

1. Графический анализ статистической информации

23. Обнаружение автокорреляции

2. Статистика Дарбина-Уотсона
Н0: 0 (нет явления автокорреляции)
Н1: 0 (есть явление автокорреляции)
n
DW
2
(
e
e
)
i i 1
i 2
n 1
.
2
e
i
i 1
Так как
n
(e e
i 2
i
i 1
n
n
n
n
i 2
i 2
) (e 2ei ei 1 e ) e 2 ei ei 1 e
2
i 2
2
i
DW
2
i 1
i 2
2
i
2 ei2 ei ei 1
2
e
i
2
i 1
2 1 r
ei ei 1
n
n
2 e 2 ei ei 1
i 2
2
i
i 2

24.

1. d в < DW <4- dв , то гипотеза об отсутствии автокорреляции
принимается.
2. d н < DW < dв или 4- dв < DW <4- d н , область неопределенности
критерия (вопрос об отвержении или принятии гипотезы остается
открытым).
3. 0< DW < d н , то принимается альтернативная гипотеза о
положительной автокорреляции.
4. 4- d н < DW <4, то принимается альтернативная гипотеза об
отрицательной автокорреляции.

25.

Пример
исследования
регрессионных
остатков на автокорреляции
На основе наблюдений по десяти семьям
требуется
исследовать
зависимость
между
ежегодным потреблением бананов и годовым
семейным доходом.
Результативный признак:
Y – Потребление бананов в год (в фунтах)
Факторный признак:
X – Семейный доход (в 10000 $)

26.

Исходные данные

27.

Оценка функции регрессии
y 5,089 0,734 x
1, 23
Fнабл 13,786
0.198
2
R 0,637
Fkp 0,05;1;8 5,317

28.

График разброса наблюдённых значений
относительно линии регрессии

29.

30.

Вычисление статистики Дарбина-Уотсона
N
D
e e
i 2
i 1
i
N
2
e
i 1
2
i
Dнабл 0,866
DL 1,08
DU 1,36

31. Рекламная пауза

Контрольная работа
У группы Р06-201 – 30 марта
У группы Р06-203-204 – 25 марта
У группы Р06-205 – 6 апреля
У группы Р06-206 – 30 марта

32. Дополнительные тесты Тест серий (Runs test [Geary test])

Серия

последовательность
подряд
идущих
регрессионных остатков одного знака (даже единичной
длины). Длина серии – количество элементов серии.
Количество серий являтся случайной величиной со своим
математическим ожиданием (средним числом серий) и
дисперсией.
При отрицательной автокорреляции количество серий
будет велико, а при положительной – слишком мало.

33. Тест серий

Для уровня
значимости 0,05
Анализируем U
U<-1.96
положительная автокорреляция
-1.96<U<1.96
нет автокорреляции
U>1.96
отрицательная автокорреляция

34. Тест серий (пример реализации)

6
8
2
1
! Число серий K=5
значительно меньше
среднего числа серий =11
2 N N N
N
3
2 N N 2 N N N
N 2 N 1
U<-1.96 –
положительная автокорреляция

35. Дополнительные тесты Общий тест Бройша-Годфри

36. Общий тест Бройша-Годфри

Шаг 1 Находим МНК-оценки исходной модели,
оценки регрессионных остатков и Qost1
Шаг 2 Оцениваем
регрессию
p
k
ei 0 j X i , j l ei ,l i , t ~ iid N (0; 2 )
j 1
l 1
Находим оценку R^2 и Qost2
Делаем выводы
Шаг 3а Используем статистику
Qost1 Qost 2
F
Qost 2
Тест множителей Лагранжа
(LM-тест)
p
n (k 1) p
p F ~
Шаг 3б Используем статистику
2
p
2
(n p) R ~ p2

37. Методы устранения автокорреляции

Процедура Кохрейна-Оркатта

38. Методы устранения автокорреляции

автокорреляции
Методы
устранения
одим оценку модели регрессии: Y X мнк ;
Процедура
Кохрейна-Оркатта
льзуя построенную
оценку модели
регрессии, находим оценку ве
ионных остатков:
e Y Y Y X мнк
одим оценку неизвестного параметра из оценки моде
ррелированными остатками:
еi еi 1 i , i 2,3,...n
1
е1
е2
...
е
п 1
Т
е1
е2
...
е
п 1
1
е1
е2
...
е
п 1
Т
е2
е3
...
е
п
n
е e
i
i 2
n 1
2
e
i
i 1
i 1

39. Методы устранения автокорреляции

Процедура Кохрейна-Оркатта

40. Методы устранения автокорреляции

Процедура Кохрейна-Оркатта

41. Методы устранения автокорреляции

Процедура Кохрейна-Оркатта
1) находим оценку модели регрессии: Y X мнк ;
2) используя построенную оценку модели регрессии, находим оценку вектора
регрессионных остатков:
e Y Y Y X мнк
3) находим оценку неизвестного параметра из оценки модели с
автокоррелированными остатками:
еi еi 1 i , i 2,3,...n
1
е1 Т е1
е2 е 2
... ...
е е
п 1 п 1
1
е1
е2
...
е
п 1
Т
е2
е3
...
е
п
n
е e
i 1
i
i 2
n 1
e
i 1
2
i

42.

4) Определяем
1
0
1 (1) (1) 2 ... (1) п 1
(1)
(1)
(1) п 2
1
...
..........
........
(1) п 1 (1) п 2 ... 1
5) Находим оценку
1
1
Используя вектор омнк , находим оценку e Y Y Y X oмнк
Далее рассчитывается второе приближение и т.д., пока два
соседних приближения не совпадут с определенной степенью
точности.
(1) 1
T
омнк X ( 0 ) X
1
(1) 1
X ( 0 ) Y .
T

43. Точечный прогноз для условного среднего и индивидуального значений результативного признака

44.

При работе с пространственной статистической
информацией, наличие автокоррелированных
регрессионных остатков, как правило, обусловлено
неправильной спецификацией модели.
Поэтому в некоторых практических задачах методом
устранения автокорреляции является изменение
спецификации (вида функции) регрессионной модели

45.

Изменение спецификации модели как метод
устранения автокорреляции
Построим функцию регрессии в следующей форме
b1
~
y b0
x
y 12,08 10,08 z
0,05
0.12
1
zi
xi
2
R 0,998
English     Русский Правила