Типовые задачи

1. Статистическая проверка гипотез

2. Определения

На разных стадиях обработки информации возникает необходимость в
формулировке и проверке некоторых предположительных утверждений
(называемых гипотезами) относительно появления каких-то событий или величин
неизвестных параметров. Процедура обоснования высказанной гипотезы с
имеющимися в нашем распоряжении данными x1, x2, ..., xn производится с
помощью того или иного (специальным образом сконструированного)
статистического критерия ξ = f(x1, x2, ..., xn) (правила, рецепта) и называется
статистической проверкой гипотез. Часто функцию f(x1, x2, ..., xn) называют
статистикой. Проверка гипотез осуществляется с помощью, так называемых,
критериев согласия (случайных величин с известными законами распределения).
Искусство статистической проверки гипотез заключается в умении построить из
набора выборочных данных случайную величину ξ , распределение вероятностей
F(ξ ) либо плотность распределения вероятностей р(ξ ) которой было бы заведомо
известно (точно известны параметры распределения).

3. Определения

Знание закона распределения случайной величины ξ позволяет вычислить
вероятность Pd (a ≤ ξ ≤ b) попадания этой величины в некоторый интервал [a, b].
Интервал и соответствующая этому интервалу вероятность называются
доверительным интервалом и доверительной вероятностью Pd.
Общая схема проверки статистической гипотезы сводится к следующим действиям:
1. Выдвигается некоторое предположение (гипотеза). Эта гипотеза обычно
называется нулевой гипотезой.
2. На основе данных, полученных в результате опыта, вычисляется значение
статистического критерия ξэкс (распределение вероятностей критерия должно
быть заведомо известно – параметры распределения должны быть известны).

4. Определения

3. В зависимости от степени риска при анализе решения той или иной задачи
задается доверительная вероятность Pd (или уровень значимости α = 1 – Pd ),
которая определяет доверительный интервал – интервал допустимых значений
критерия. Если вычисленное значение критерия ξэкс попадает в доверительный
интервал [a, b], то говорят, что гипотеза не противоречит опытным данным и
принимается с заданным уровнем значимости. Если вычисленное значение
критерия ξэкс не попадает в доверительный интервал (попадает в критическую
область), то говорят, что гипотеза противоречит опытным данным и отвергается с
заданным уровнем значимости.
Результат статистической проверки гипотезы может быть либо отрицательным
(то есть данные наблюдений противоречат высказанной гипотезе и, следовательно,
от этой гипотезы следует отказаться), либо неотрицательным (то есть данные
наблюдений не противоречат высказанной гипотезе и, следовательно, ее можно
принять в качестве одного из допустимых решений). Однако (и это следует всегда
помнить) неотрицательный результат вовсе не означает, что проверяемая гипотеза
является наилучшей и единственно верной: просто эта гипотеза не противоречит
имеющимся у нас выборочным данным.

5. Определения

Возможно, таким же свойством (не противоречить опытным данным) обладают и
другие гипотезы. Таким образом, даже статистически проверенную гипотезу
следует расценивать не как раз и навсегда установленный факт, а лишь достаточно
правдоподобное, не противоречащее опытным данным утверждение. Как легко
видеть, в результате проверки гипотезы, утверждения: «гипотеза верна» или
«гипотеза неверна» - будут некорректны. Корректными будут высказывания:
- «гипотеза не противоречит опытным данным»,
- «гипотеза противоречит опытным данным».
При проверке статистической гипотезы возможны ошибки двух родов.
Ошибка первого рода состоит в том, что в результате проверки отвергается
правильная гипотеза в то время, когда она в действительности верна (значение
критерия не попало в доверительный интервал). Вероятность совершить ошибку
первого рода и называют уровнем значимости.
Ошибка второго рода – состоит в том, что в результате будет принята
проверяемая гипотеза в то время, когда она неверна, а на самом деле справедлива
гипотеза, конкурирующая с проверяемой гипотезой.

6. Определения

Уменьшение доверительной вероятности Pd (увеличение уровня значимости α)
увеличивает вероятность ошибок первого рода, но уменьшает вероятность
ошибок второго рода. Поэтому нет единого оптимального выбора доверительной
вероятности. И выбирать ее нужно для каждого конкретного случая на основании
априорной информации, чтобы минимизировать величину ущерба от ошибок
первого и второго рода. Так например, в медицине традиционно принята
величина доверительной вероятности равная Pd = 95% (соответствующий
уровень значимости α = 0.05).

7. Проверка гипотезы о виде распределения выборки

В качестве примера рассмотрим процедуру проверки гипотезы о принадлежности
выборки x1, x2, ..., xN нормальному распределению с помощью критерия
.
Возьмем выборку случайных чисел объема N = 100, подчиняющихся
N 100 m 5 X rpois( N, m)
распределению Пуассона со средним m = 5
и построим гистограмму частот H повторения случайных величин в этой выборке.
Значения случайной величины будем рассматривать в диапазоне [-0.5, mахХ + 0.5]
с шагом, равным 1.
0 1 2 3 4 5 6 7 8 9 10 11 12
i
0.. max( X)
j
1 inti
0.. max( X)
H
0.5
i
T
int = 0 -0.5 0.5 1.5 2.5 3.5 4.5 5.5 6.5 7.5 8.5 9.5 10.5 11.5
hist( int , X)
T
0
H =
00
1
4
2
7
3 4 5 6 7 8 9 10 11 12
18 14 17 10 12 10 4 1 2 1
20
H 10
j
0
0
2
4
6
j
8
10
12

8. Проверка гипотезы о виде распределения выборки

Процедура проверки нулевой гипотезы, по существу, основана на сравнении
эмпирических частот mi (в нашем случае Hi) и теоретических (предполагаемых)
частот ti. Очевидно, что чем ближе друг к другу значения mi и ti, тем
обоснованнее наше предположение о виде проверяемого закона. При этом в
качестве статистического критерия проверки нулевой гипотезы о виде закона
распределения генеральной совокупности необходимо использовать случайную
величину, которая служила бы количественной мерой близости значений mi и ti , и
распределение которой было бы заведомо известно. Для сравнения меры близости
случайных величин на практике широко используется 2 - распределение. По
определению, случайная величина 2 строится следующим образом
где случайные величины ξi распределены нормально со средним значением
равным 0 и дисперсией равной 1. Величина k в этой формуле равна числу
независимых слагаемых. В том случае, когда в сумме участвуют зависимые
слагаемые, число степеней свободы определяется как число слагаемых минус
число уравнений, связывающих эти слагаемые.

9. Проверка гипотезы о виде распределения выборки

Чтобы использовать 2 - распределение в нашем случае необходимо с помощью
случайных величин mi и теоретических значений ti сконструировать случайную
величину со средним значением равным 0 и дисперсией равной 1. Например,
величину
. Строго говоря, при фиксированном объеме выборки N
каждая эмпирическая частота mi представляет собой случайную величину,
подчиняющуюся биномиальному распределению. Однако при средних значениях
величин mi больших или равных 10 биномиальное распределение хорошо
описывается нормальным распределением (работа «Некоторые виды
распределений случайных величин»). В качестве параметров нормального
распределения возьмем оценку среднего ti и дисперсии ti (1- ti /N) биномиального
распределения. Таким образом, если среднее значение mi равно ti ,тогда
статистика
будет подчиняться распределению 2, так как
каждое слагаемое распределено нормально со средним 0 и дисперсией 1 (при
условии, что все mi независимы).

10. Проверка гипотезы о виде распределения выборки

Разобьем диапазон [-0.5, махХ+0.5] на К интервалов разной длины таким образом,
чтобы в каждом из них было не менее 10 событий и построим гистограмму частот
H1 для этих интервалов.
0.5
H1
2.5
K
hist( int1, X)
6
k
3
4
0.. K
1
3.5
int1
25
4.5
5.5
20
7.5
H1
k
11.5
15
10
0
1
2
5
k
Чтобы определить параметры нормального распределения вычислим выборочные
значения среднего и несмещенной оценки дисперсии для нашей выборки.
N
1
Xc
i= 0
Xi
N
N 1
Xc = 5.17
Dx
i= 0
Xi
Xc
N 1
2
Dx = 5.738

11. Проверка гипотезы о виде распределения выборки

Для проверки гипотезы о том, что наша выборка подчиняется нормальному
распределению с параметрами Xc = 5.17 и Dx = 5.738 вычислим теоретические
значения вероятностей попадания случайной величины в выбранные интервалы.
Pteork
pnorm int1k
1
, Xc , Dx
pnorm int1k , Xc , Dx
T
Pteor = ( 0.124 0.11 0.147 0.165 0.28 0.161 )
Сравним на графике теоретические и экспериментальные значения частот
попадания случайной величины в заданные интервалы.
30
H1
k
Pteor . N
k
20
10
0
1
2
3
k
4
5

12. Проверка гипотезы о виде распределения выборки

Проверим нашу гипотезу, используя χ2 – распределение для К-3 степеней свободы
(критерий χ2). Запишем меру χexp отклонения частот H1i от теоретических
K 1
2
H1i Pteori. N
значений Pteori ·N.
exp
i= 0
Pteori. N. 1 Pteori
exp = 7.004
В том случае, когда средние значения величин H1i равны Pteori ·N, отношения
H1 Pteor N
i
i
будут подчиняться нормальному распределению с
Pteor N 1 Pteor
i
i
параметрами N(0, 1). Следовательно, по определению, случайная величина χexp
должна подчиняться χ2 – распределению с К-3 степенями свободы. Число степеней
свободы определяется как разность числа переменных и уравнений связи. В нашем
K 1
случае мы имеем К величин H1i, которые подчиняются условию H1i N 100 и
i 0
получены в результате сортировки элементов выборки Хi.
Кроме того, величины Pteori также были получены с использованием расчетных
значений выборочного среднего Хс и несмещенной оценки дисперсии Dx:
N
1
Xc
i= 0
Xi
N
N
1
Dx
i= 0
Xi
Xc
N
1
2

13. Проверка гипотезы о виде распределения выборки

Таким образом, мы имеем К переменных H1i и три уравнения связи. Поэтому
число степеней свободы равно К – 3.
Вычислим область допустимых значений для нашего критерия (доверительный
kr = 6.251
интервал [0, χkr] ) для Pd = 0.9 . kr qchisq( 0.9, K 3)
exp = 7.004
Вывод: Наша гипотеза противоречит экспериментальным данным с уровнем
значимости 0.1, так как экспериментальное значение χexp больше критического
значения χkr. При этом значение χexp не принадлежит области допустимых
значений (попадает в критическую область).

14. Типовые задачи проверки гипотез

1.Определение достоверности различий дисперсий
А. Определение достоверности отличия выборочной
дисперсии от ожидаемого значения.
Пусть по результатам N независимых измерений случайной величины Х
получена выборка Xi (i = 1 .. N) и получены оценки
N
X
i
N
1
Xc
D
N
1
N 1
i 1
i
X Xc
2
i 1
Разделим обе части равенства для несмещенной оценки дисперсии на
ожидаемое значение дисперсии :
D
1
2
N 1
N
i 1
i
X Xc
2
2
, обозначим
N
2
i
X Xc
i 1
2
2
. Тогда
D ( N 1)
2
2
Далее проверяем гипотезу D ( N 1) < cr или
2
<
.
2
= N 1 .

15. Типовые задачи проверки гипотез

1.Определение достоверности различий дисперсий
А. Определение достоверности отличия выборочной
дисперсии от ожидаемого значения.
Рассмотрим пример:
T
X
0
Пусть задана выборка объема N = 10
0
1
2
3
4
5
8.683
7.962
8.58
7.146
4.943 10.131
6
7
8
9
9.638 11.669 16.575 12.426
Вычислим Xc 9.775 и D 10.353 . Выберем ожидаемое значение
=9
(проверяем гипотезу σ > 3 ).
Тогда D ( N 1) 10.353 . Определим доверительную вероятность как Pd = 0.9.
При этом
2
= qchisq(Pd N 1) 14.684 . Гипотеза не противоречит данным.
Проверим гипотезу σ > 2. Получим
D ( N 1)
2
23.294 .
=
min = 6.35 .
Значит, истинное (генеральное) значение σ лежит в диапазоне σ > σmin = 2.52 .

16. Типовые задачи проверки гипотез 1.Определение достоверности различий дисперсий B. Определение достоверности отличия двух

выборочных оценок дисперсии.
2
D ( N 1)
Как было показано выше случайная величина
подчиняется
2
распределению с N-1 степенью свободы.
Пусть оценка D1 получена с использованием выборки объема N, а оценка D2
получена с использованием выборки объема M. Тогда отношение
2
2
D1/D2 = ( 1 (M-1)) /( 2 (N-1)) будет подчиняться распределению
Фишера (распределению Снедекора) со степенями свободы М-1 и N-1.
dF( x d1 d2)
Проверка гипотезы о равенстве двух
выборочных оценок дисперсии
производится по стандартной методике.

17. Типовые задачи проверки гипотез 1.Определение достоверности различий дисперсий B. Определение достоверности отличия двух

выборочных оценок дисперсии.
Рассмотрим пример:
0
T
X1
T
X2
0
1
8.683 7.962
0
1
2
Пусть заданы две выборки объема N = 10 и М = 15.
2
3
8.58
7.146
3
4
4
5
4.943 10.131
5
6
6
7
8
9
9.638 11.669 16.575 12.426
7
8
9
10
11
12
13
14
0 0.031 6.696 -2.666 4.504 6.653 10.863 0.084 3.462 6.905 5.745 5.784 7.082 8.292 8.726 8.589
Вычислим Xc1 10.861 , Xc2 5.768 и D1 11.664 , D2 14.068 .
D1
0.829 . Зададим доверительную вероятность Pd = 0.9.
Получим r =
D2
Определим доверительный интервал для величины r r1 = qF( 0.05 9 14) 0.331
r2 = qF( 0.95 9 14) 2.646 .
В нашем случае гипотеза о равенстве двух
выборочных оценок дисперсии не
противоречит выборочным данным,
так как r1 < r < r2 .

18. Типовые задачи проверки гипотез 2.Определение достоверности различий средних А. Проверка гипотезы о равенстве ожидаемого

значения
генеральному среднему на основе выборочных данных.
Пусть на основе выборочных данных Хi (i = 1.. N) получены оценки среднего Хс и
Xc m
выборочной дисперсии среднего Dc. Тогда случайная величина t
будет подчиняться распределению Стъюдента с N-1 степенями свободы, Dc
где m – генеральное среднее.
Проверку гипотезы о равенстве ожидаемого значения Z генеральному среднему
m можно проводить двумя способами:
1. Определив доверительную вероятность Pd, рассчитать доверительный
интервал для величины t (- t0 < t < t0 ), а затем и для величины m
1 Pd N 1
Хс – t0 Dc < m <Xc + t0 Dc , где t0 = qt
. Гипотеза не противоречит
2
данным, если величина Z попадает в указанный интервал.
Xc Z
2. Рассчитать вероятность Рz появления величины
tz =
Dc
Рz = pt ( tz N 1) . Гипотеза не противоречит данным, если
вероятность Рz < 1 Pd .
2

19. Типовые задачи проверки гипотез 2.Определение достоверности различий средних А. Проверка гипотезы о равенстве ожидаемого

значения
генеральному среднему на основе выборочных данных.
Xc Z
3. Проверить принадлежит ли значение величины tz =
интервалу
Dc
(- t0 < t < t0 ). Гипотеза не противоречит данным, если
- t0 < tz < t0 .
Пример:
0
1
2
3
4
5
6
7
8
9
Пусть дана выборка XT
0 9.122 8.641 9.053 8.097 6.629 10.087 9.759 11.113 14.384 11.617
Вычислим Xc 9.85
и Dc 0.46 . Установим доверительную вероятность Рd = 0.9. Пусть Z = 12.
Рассчитаем t0 = qt 1 Pd N 1 = 1.833. Найдем доверительный интервал
2
0.5
0.5
Xc
t0
Dc
11.094
Xc
t0
Dc
8.607
1.
1 Pd
2. Pz = pt ( tz N 1) = 0.994 >
= 0.95 .
3. Вычислим Xc Z = tz = 3.169 2
Dc
Во всех случаях гипотеза противоречит данным

20. Типовые задачи проверки гипотез 2.Определение достоверности различий средних В. Проверка гипотезы о равенстве двух выборочных

средних.
Проверку гипотезы рассмотрим на следующем примере:
Имеем две выборки Х и Х1 объемом N=10 и N1=15.
0
T
X
0 11.078 10.437
0
T
X1
0
1
1
2
9.44 13.519 11.215
2
3
4
5
6
7
10.81
7.688
7.79
7.793
9.185
7.373
4.319 12.552
3
4
5
6
7
8
9
9.593
9.926 11.961 12.064
8
9
10
12.53 12.983 12.477 10.631
11
12
13
8.77 14.823 13.943
14
9.688
Вычислим Xc 8.903 , X1c 11.571 , Dc 0.571 , D1c 0.227 .
Xc X1c
tsum
Величина
будет подчиняться распределению Стъюдента,
Dc D1c
число степеней свободы выберем наименьшее N-1, чтобы избежать завышения
точности (чем меньше степеней свободы, тем шире распределение Стъюдента).
1 Pd
В нашем случае tsum = -2.986 . При этом t0 =qt
N 1 1.761 , для Pd=0.9
2
Таким образом, гипотеза о равенстве двух выборочных
средних
противоречит
данным, так как величина tsum не принадлежит диапазону (- t0 , t0 ).