Статистичні методи створення математичних моделей. (Лекція 4-5)

1. ІДЕНТИФІКАЦІЯ ТА МОДЕЛЮВАННЯ ТЕХНОЛОГІЧНИХ ОБ’ЄКТІВ

Лекція 4 - 5
СТАТИСТИЧНІ МЕТОДИ СТВОРЕННЯ
МАТЕМАТИЧНИХ МОДЕЛЕЙ
Основи регресійного аналізу
Основи кореляційного аналізу
Лінійна і квадратична
інтерполяція
Інтерполяційні поліноми
Ньютона і Лагранжа
Метод найменших квадратів
Вступ до планування експерименту
Повний факторний експеримент

2. Словник термінів

Апроксимація
Інтерполяція
Екстраполяція
МНК
Матриця
ПФЕ
Дрібна репліка
Знаходження даних таблиці між її вузлами
за допомогою інтерполяційних поліномів
або рівнянь.
Знаходження даних таблиці між її вузлами.
Знаходження даних таблиці поза її межами.
Метод пошуку коефіцієнтів поліному за
умовою мінімізації суми квадратів
відхилень даних отриманих за допомогою
рівняння від табличних даних.
Упорядкована система (m x n) чисел, які
знаходяться в прямокутній таблиці, що має
m рядків та n стовпців.
Повний факторний експеримент, що
включає всі можливі комбінації
досліджуваних факторів при обраному
числі рівнів (2-х, 3-x, 4-х рівнів).
Зменшення дослідів у ПФЕ у 2, 4, 8 і
більше разів при визначенні лінійної
регресії без втрати ефективності
експерименту.

3. Методи обробки експериментальних даних

Апроксимація
табличних даних
Методи
інтерполяції (вар. б)
Метод найменших
квадратів (вар. а)

4. Основи регресійного аналізу (1)

Багаторазові виміри динамічної в'язкості чистого розчину цукру
при температурі 45 оС і вмісту цукру 45 %, 10-3, Па с
№ виміру
Значення yi
№ виміру
Значення yi
1
6,665
7
6,615
2
6,755
8
6,395
3
6,565
9
6,485
4
6,585
10
6,675
5
6,525
11
6,635
6
6,525
12
6,555
Діапазон можливих змін значень цих величин лежить від 6,395 до
6,755 10 –3; Па с. Ці дані можуть характеризуватися середнім
арифметичним значенням , яке дорівнює:
yi
79,08
y
6,59
y
, Підрахуємо
12
n
де: n кількість вимірів значень уі, а і номер виміру; і = 1, 2,..,n.

5. Основи регресійного аналізу (2)

Інша характеристика багаторазових вимірів це середньоквадратична похибка:
y
i 1
y
2
n
i
y
,
y
0,0991
0,094916
12 1
n 1
Середньо-квадратична похибка, яка піднесена до квадрату називається
дисперсією у2.
Ще однією статистичною величиною буде коефіцієнт відносної
похибки kу, який визначається у відсотках:
ky
y
y
100%
ky
0,094916
100% 1,44%
6,59

6.

Основи регресійного аналізу (3)
Діапазон можливих змін значень виміряних величин 6,395 6,755 розіб`ємо на 6
рівних інтервалів, які знаходяться між числами: 6,395; 6,455; 6,515; 6,575; 6,635; 6,695;
6,755. Підрахуємо скільки значень виміряних величин уі на кожному інтервалі.
і
Значення yi
y
i
y
2
Кількість
вимірювань
Границі інтервалу
Верхня
1
6,395
0,038025
1
6,395 6,455
2
6,485
0,011025
1
6,455 6,515
3
6,525
0,004225
4
6,555
0,001225
3
6,515 6,575
5
6,565
0,000625
6
6,585
0,000025
7
6,615
0,000625
4
6,575 6,635
8
6,625
0,001225
9
6,535
0,002025
10
6,665
0,005625
2
6,635 6,695
11
6,675
0,007225
12
6,755
0,027225
1
6,695 6,755
Сума
79,08
0,0991
Нижня

7.

Основи регресійного аналізу (4)
По даних таблиці побудуємо криву розподілу даних, яка показує форму
кривої даних навколо середньоарифметичного значення.
Крива, яка симетрична і має форму дзвона називається кривою
нормального розподілу даних або густиною нормального розподілу і
описується рівнянням.
f ( y)
1
y 2
e
( y y)2
2 2y

8.

Основи регресійного аналізу (5)
Максимальне значення кривої в точці y 6,59
f ( y)
1
y 2
дорівнює:
1
4,2
0,0949 6,28
При нормальному розподілі даних діапазон в межах повинен
охоплювати приблизно 68 % від загальної кількості вимірів. В
нашому випадку в діапазон 6,59 – 0,095 y 6,59 + 0,095 попадає
9 вимірів, що складає 75% вимірів. Діапазон охоплює приблизно
95% вимірів, а при використанні 3 у охоплюється 99,7% вимірів.
Значення які виходять за межі 3 у вважаються
практично неможливими (помилковими). На даному прикладі
помилкою будуть величини, які менші ніж 6,59 – 0,095 3 = 6,305 і
більші за 6,56 + 0,095 3 = 6,845.

9. Основи кореляційного аналізу (1)

Щоб визначити математичну залежність між параметрами моделі по
дослідним табличним даним слід в першу чергу оцінити тісноту
зв’язку між ними, перевірити гіпотезу кореляції змінних, які
досліджуються, виявити існування лінійного або нелінійного зв’язку.
Тіснота зв’язку між двома параметрами визначається
коефіцієнтом парної кореляції rxy.
Для невеликої
вибірки даних
n
Для великої
вибірки даних
n
1 n
x i x yi y
n i 1
rxy
x y
1 n
x i y i xy
n i 1
rxy
x y
де
середньоарифметичні значення хі, уі і добутку хі на
x, y, xy
уі; х, у середньо-квадратичні похибки по х і у.

10. Основи кореляційного аналізу (2)

Коефіцієнт
кореляції приймає значення від –1 до +1. Якщо |rxy| = 0, то
х і у некорельовані величини. При |rxy| = 1 між х і у існує точна лінійна
функціональна залежність виду у = а0 + а1х. Некорельовані величини х
і у можуть бути і незалежними і залежними, але в останньому випадку
зв’язок між ними матиме нелінійний характер.
Щоб виявити, що лінійна залежність між х і у не існує, треба
перевірити виконання нерівності:
t
rxy n
1 rxy
2
t
де t критерій Ст’юдента при k = , рівень значущості, який вказує
на долю хибних дослідів. . При значенні = 0,01 значення t = 2,576, а
при значенні = 0,05 значення t = 1,96.
Якщо нерівність виконується то у (1 )100 відсотків випадків
кореляційний зв’язок відсутній. У цьому випадку зв’язок між х і у
шукаємо в нелінійній формі.

11. Використання інтерполяції

Коли функціональна залежності між параметрами моделі приведена
у вигляді таблиці, а дані таблиці отримані з високою точністю, їх
розрахунок в математичних моделях виконується з використанням
методів інтерполяції.
При визначенні значень функції, які знаходяться в межах зміни
параметрів таблиці, цю процедуру називають інтерполяцією, якщо
за межами екстраполяцією.
Загальним методом обробки табличних даних є інтерполяційний
поліномом. Формула n вимірного поліному така:
у = a0 + a1x + a2x2 + a3x3 + … + anxn
Ця формула може описати таблицю з n+1-шою точкою кривою, що
проходить через всі точки таблиці.
Простіші варіанти інтерполяції – це лінійна і квадратична
інтерполяції, для яких необхідно мати дві або три точки табличних
даних.

12. Лінійна інтерполяція

В лінійній інтерполяції використовується
дві сусідні точки таблиці, між якими знаходиться шукане значення функції. Це можна
описати рівнянням:
yл = b0 + b1(x x0)
Коефіцієнти цього рівняння визначаються з подібності двох трикутників
(див. рис.) гіпотенузою яких є лінія, що з’єднує нульову і першу точки між
собою. Відношення сторін трикутників рівне:
звідки
Таким чином:
а

13. Квадратична інтерполяція

Через три точки можна провести параболу.
Рівняння параболи має вид: у = a0 + a1x + a2x2
Квадратичний поліном для трьох точок можна
записати у вигляді рівняння:
yк = b0 + b1(x x0) + b2(x x0)(x x1)
Розкриємо дужки в рівнянні і отримаємо:
ук = b0 + b1x b1x0 + b2x2 b2x x1 b2x x0 + b2x0x1
Звідки a0 = b0 b1x0 + b2x0x1, a1 = b1 b2x0 b2x1, a2 = b2
Визначимо коефіцієнти квадратичного полінома. Для цього в рівняння
підставимо значення х = х1. Тоді у0 = yк , а b0 = у0.
При х = х1, у1 = yк ,
а
При х = х1, у2 = yк
y 2 y1 y1 y0
x 2 x1 x1 x0
b2
x 2 x0

14. Приклад квадратичної інтерполяції

Для прикладу використаємо відому функцію у=е-х. Порахуємо її значення
на діапазоні х від –1 до 3-х і запишемо результати в таблицю:
хі
-1
0
1
3
yi
2.7183
1
0.3679
0.0499
Використовуючи першу і третю точки таблиці за допомогою рівняння
лінійної інтерполяції порахуємо значення функції в точці х = 0.
При х0= –1, у0 = 2,7183, х1= 1, у1 = 0,3679
y л (0) y 0
y1 y 0
0,3679 2,7183
( x x 0 ) 2,7183
(0 ( 1)) 1,5431
x1 x 0
1 ( 1)
Використовуючи рівняння квадратичної інтерполяції по першій, третій і четвертій
точці таблиці при х0= –1, у0 = 2,7183, х1= 1, у1 = 0,3679, х2= 3, у2 = 0,0499.
y к (0) y л b 2 (x x 0 )( x x1 ) 1,5431 0,25405(0 ( 1))(0 1) 1,28905
Відносні похибки k л 1 1,5431 100% 54,31%
1
рівні:
і
kк
1 1,28905
1
100% 28,9%

15. Інтерполяційний поліном Ньютона

Загальний вигляд n-вимірного інтерполяційного полінома Ньютона для n + 1
точки таблиці має вигляд:
Ун = b0 + (x x0)+… + bn(x x0) (x x1)… (x xn-1)
При цьому: b0 = f(х0); b1 = f(x0,x1);b2 = f(x0,x1,x2);… bn = f(x0,x1,x2,…,xn);
Значення вказаних вище функцій називаються різницями першого,
другого і т. д. порядків. Їх можна записати як:
f ( xi ) f ( x j )
f ( xi , x j ) f ( x j , xk )
f ( xi , x j )
f ( xi , x j , xk )
xi x j
x x
i
Різниці першого,
другого,
і
xi, yi
1
х0, f(х0)
f(х0,x1)
f(х0,x1, x2)
2
x1, f(х1)
f(х1,x2)
f(х1,x2,x3)
3
х2, f(х2)
f(х2,x3)
4
х3, f(х3)
k
третього порядків
f(х0,x1,x2,x3)
Схема послідовності обчислень різниць різних порядків

16.

Схема алгоритму інтерполяції за
допомогою полінома Ньютона
ПОЧАТОК
5
1
8
Введенн
я
N, xн
P=1
F0 = R1, 1
2
9
i = 1, N
k = 1, N 1
3
Вводим
о
10
P = P (xн xk 1)
xi-1, yi-1
4
11
Ri, 1 = yi-1
Fk = Fk 1+P R1, k+1
5
j = 2, N
6
i = 1, N j +1
12
8
yн = Fk 1
13
Виводимо
хн, ун
7
Ri+1, j 1 Ri, j 1
Ri, j =
xi+j 2 xi 1
КІНЕЦЬ

17.

Інтерполяційний поліном Лагранжа
Загальний вигляд n-вимірного інтерполяційного полінома Лагранжа такий:
n 1
yL ( x) (
i 0
n 1
j 0 , j i
x xj
xi x j
) yi
де n – кількість точок таблиці, в якій нумерація починається з нуля. Використаємо
поліном Лагранжа для розв’язання попередньої задачі з використанням трьох
точок таблиці Тоді рівняння розкладеться в трьохчленний ряд:
y L ( 0)
( x x 0 )( x x 2 )
( x x 0 )( x x1 )
( x x1 )( x x 2 )
y0
y1
y2
( x 0 x1 )( x 0 x 2 )
( x1 x 0 )( x1 x 2 )
( x 2 x 0 )( x 2 x1 )
(0 1)( 0 3)
(0 ( 1))( 0 3)
(0 ( 1))( 0 1)
2,7183
0,3679
0,0499 1,28905
( 1 1)( 1 3)
(1 ( 1))(1 3)
(3 ( 1))( 3 1)
Результат буде таким самим і з такою ж похибкою, як і при розв’язанні цієї ж
задачі за допомогою полінома Ньютона.

18.

Схема алгоритму інтерполяції за
допомогою полінома Лагранжа
ПОЧАТОК
6
1
Введен
ня
N, xL
7
j = 0, N 1
2
так
8
i=j
i = 0,
N-1
3
Вводим
о
ні
9
xL xj
P = P
xi xj
xi, yi
10
4
yL = yL +Pyi
yL = 0
5
i = 0,
N-1
11
Виводимо
xL, уL
6
P=1
7
КІНЕЦЬ

19. Метод найменших квадратів

Варіанти вибору
методу пошуку
коефіцієнтів поліному

20. Знаходження методом НК коефіцієнтів лінійного рівняння

Критерій
мінімізації
Похідні по а0 і
а1
Знаходження
сум
Знаходження
коефіцієнтів

21. Приклад розрахунку коефіцієнтів лінійного рівняння

22. Квадратична апроксимація методом НК з використанням MathCad

Середньоквадратична
похибка
Формування
масивів
Обчислення
коефіцієнтів

23. Знаходження коефіцієнтів нелінійних рівнянь (Таблиця замін змінних в рівняннях)

Вид
рівняння
регресії
Заміна
змінних
b
y b0 1
x
1
u
x
y b0 b0 e x
u e x
y b 0 b 0 ln( x)
u ln( x )
y
y
1
b
b0 1
x
1
1
u ; v
x
y
1
1
x
x u e ; v
b0 b0 e
y
Вид
рівняння
після заміни
Вид
рівняння
регресії
y b 0 b1 u
y b0 x
y b 0 b1 u
y b 0 b1 u
v b 0 b1 u
y b0 e
u ln( x ); v ln( y)
b1
v ln( y); b0 ln( b0 )
u
b1
x
1
; v ln( y)
x
b0 ln( b 0 )
v b0 b1 x
v b0 b1 u
y b 0 x b1 e b2 x u ln( x ); v ln( y)
b0 ln( b 0 )
v b 0 b1 u
v b0 b1 u
b0 ln( b 0 )
b1 x
y b0 e
Вид
рівняння
після заміни
Заміна
змінних
y b 0 e b1 x b2 x
2
v b 0 b1 u b 2 x
v ln( y); b0 ln( b0 )
v b0 b1 x b 2 x 2

24. Приклад знаходження коефіцієнтів нелінійного рівняння методом НК

T
G ( 0.5 1.0 1.5 2.0 2.5 3.0 )
N 5
T
Z ( 12.2 18.6 22.2 23.1 23.9 24.9 )
U ln( Z)
V
6
AA
V
i 0 N
1
G
BB
V
2
V
1
b AA BB
U
i
Ui Vi
3.358
0.428
b
b0 28.733
b1
J1 ( x) b0 e
x
N
SK1
i 0
b0
b0 e
Zi J1 Gi 2
N
SK1 0.31
Графік експоненційної
залежності J1(p) = b0e(b1/p)
і дослідних даних

25. Методи проведення експериментів

Види експериментів
Пасивний
Активний
Однофакторний
Багатофакторний
Повний факторний
експеримент 1-го порядку
Експеримент з дрібною
реплікою
Факторний експеримент
другого порядку
Експеримент по ортогональному
плану
Експеримент по ротатабельному
плану

26. Фактори і їх рівні

Фактор 1, оС
Фактор 2,%
Фактор 3,хв.
Рівні факторів
z1
x1
z2
x2
z3
x3
Нижній рівень
60
1
0,2
1
6
1
Нульовий
рівень
75
0
0,3
0
11
0
Верхній рівень
90
+1
0,4
+1
16
+1
Інтервал
варіювання
15
1
0,1
1
5
1

27. Геометричне зображення 2-х і 3-х факторних планів ПФЕ

28. Збільшення кількості дослідів у двохрівневому плані

Кількість
факторів k:
два
три
чотири
п'ять
шість
сім
N = 2k
4
8
16
32
64
128
N – кількість дослідів, М – кількість повторних дослідів, L – кількість
значимих коефіцієнтів рівнянь, k – кількість факторів

29. План 3-х факторного експерименту

30.

Рандомизація дослідів
Фрагмент таблиці
випадкових чисел
56 66 25 32 38 64
26 27 67 77 40 04
63 98 99 89 31 16
90 50 28 96 88 40
02 29 82 …
Параметри змінної стану
70
34
12
52
Приклад використання
функції випадкових чисел
в MathCad
y1
y2
y3
4
16
12
2
21
3
23
7
14
15
8
22
17
9
13
1
20
11
24
18
19
5
6
10

31. Властивість ортогональності плану експерименту

32. Однорідність дослідних даних

№ досліду
1
2
Середнє ysi
4.84
Дисперсія
Si2 104
16
5
6
7
4.62 3.20 4.15
3.55
3.65
2.16 2.51
9
6.2
9
30.2 20.2
Розрахований
критерій Кохрена
3
36
4
20.3
8
Табличний
критерій Кохрена
- дисперсія
досліду
- рівень
значущості
= 0,05
- сума
дисперсій
- cтупені волі
f1 = M - 1
- критерій
Кохрена
- умова
f2 = N
однорідності
Gр < G т

33. Таблиця для розрахунку коефіцієнтів моделі ПФЕ

34. Обчислення коефіцієнтів рівняння

Обчислення
коефіцієнтів
Перевірка
значущості
коефіцієнтів
- коефіцієнти лінійної моделі:
- табличний
критерій
Стьюдента
- коефіцієнти парної
взаємодії
- дисперія
відтворення
- інтервал
надійності

35. Адекватність рівняння регресії

Вид рівняння регресії для 3-х факторів:
yp = a0+a1x1+a2x2+a3x3+a12x1 x2+a13x1 x3 +a23x2 x3+a123x1 x2 x3
Розрахований
критерій Фішера
- дисперсія адекватності
Табличний критерій
Фішера
- рівень
значущості
- cтупені волі
- критерій Фішера
- умова
адекватності
= 0,05
fад = N L
fвід = N (M 1)
Fр < Fт

36. Контрольні запитання

Яка відміна між абсолютною і відносною похибкою?
Чому дорівнює середньоарифметична похибка ?
Що визначає закон розподілу випадкових величин ?
Які причини пояснюють широке використання нормального закону
розподілу випадкових величин, і які параметри характеризують?
Чому дорівнює середньоквадратична похибка середнього
значення ?
Що таке довірчий інтервал ?
Яка різниця між розподілом Стьюдента і Гауса ?
Як знайти довірчий інтервал використовуючи коефіцієнт
Стьюдента ?
Що визначає коефіцієнт парної кореляції?
Коли між параметрами існує лінійна залежність?
Чому для знаходження коефіцієнтів рівнянь вибрана умова
мінімізації суми квадратів відхилень розрахованих значень від
табличних, а не сума відхилень, або сума модулів відхилень?
Коефіцієнти яких рівнянь знаходять методом НК?
Чи можна знаходити методом НК коефіцієнти нелінійних рівнянь?
Якщо так, то як?

37. Контрольні запитання

По якій умові вибирають метод НК для оброблення дослідних
даних?
Чим відрізняється інтерполяція від екстраполяції дослідних даних?
Чому метод найменших квадратів має таку назву?
Чим відрізняється рівняння середньоквадратичної похибки від
рівняння дисперсії математичної моделі?
Коли виконується активний, а коли пасивний експеримент?
Що таке повний факторний експеримент, експеримент з дрібною
реплікою?
3.Коли вибирається дворівневий план експерименту і як
вибираються рівні факторів ?
Для чого потрібна рандомізація дослідів ?
Як визначається помилка дослідів ?
Що таке інтервал надійності і яке він має відношення до
коефіцієнтів моделі ?
Як визначається дисперсія адекватності моделі ?
На що вказує рівень значущості дослідних даних ?