Нейронна мережа Джордана

1. Нейронна мережа Джордана

НЕЙРОННА МЕРЕЖА
ДЖОРДАНА
Виконали
Студенти групи ІК-52с
Гузь Д.А
Дерюга А.В
Улізко Л.О

2.

Машинне навчання та добування даних

3. Рекурентні нейронні мере́жі

• Рекуре́нтні нейро́нні мере́жі — це тип нейронних
мереж, в яких є зворотний зв'язок. При цьому під
зворотним зв'язком мається на увазі зв'язок від логічно
найвіддаленішого елементу до менш віддаленого.
Наявність зворотних зв'язків дозволяє запам'ятовувати
і відтворювати цілі послідовності реакцій на один
стимул.

4.

• З точки зору програмування в таких мережах з'являється
аналог циклічного виконання, а з точки зору систем — така
мережа еквівалентна скінченному автомату. Такі особливості
потенційно надають безліч можливостей для моделювання
біологічних нейронних мереж. Але, на жаль, більшість
можливостей в цей час погано вивчені у зв'язку з можливістю
побудови всілякої архітектури і складністю їх аналізу.

5. Перцептрон Розенблатта

• Перші ідеї про нейронні мережі із зворотними зв'язками
описав Ф.Розенблатт на закінчення своєї книги про
перцептрони в 1962 році.Ф.Розенблатт дав якісний опис
декількох видів перцептронів з зворотним зв'язко.Перша
група перцептронів була призначена для вироблення
вибіркової уваги, а друга для вчення послідовності реакцій.

6. Нейронна мережа Елмана

• Нейронна мережа Елмана — один з видів рекурентних мереж, яка так
само як і мережа Джордана отримується з багатошарового перцептрона
введенням зворотних зв'язків, тільки зв'язки йдуть не від виходу мережі, а
від виходів внутрішніх нейронів. Це дозволяє врахувати передісторію
процесів, що спостерігаються і накопичувати інформацію для вироблення
правильної стратегії управління. Ці мережі можуть застосовуються в
системах управління рухомими об'єктами, тому що їх головною
особливістю є запам'ятовування послідовностей.

7. Нейронна мережа Джордана

• Мережа Джордана — вид рекурентних нейронних
мереж, яка отримується з багатошарового
перцептрону, якщо на його вхід подати крім вхідного
вектора вихідний із затримкою на один або кілька
тактів.

8. Нейронна мережа Джордана

• У перших рекурентних мережах головною ідеєю було дати
мережі бачити свій вихідний образ на попередньому кроці.
У такої мережі тільки частина рецепторів приймає сигнали з
навколишнього світу, на інші рецептори приходить вихідний
образ з попереднього моменту часу. Розглянемо
проходження послідовності сигналів через мережу. Сигнал
надходить на групу рецепторів сполучених із зовнішнім
світом (INPUT) і проходить у прихований шар (HIDDEN).
Перетворений прихованим шаром сигнал піде на вихідний
шар (OUTPUT) і вийде з мережі, а його копія потрапить на
затримку. Далі в мережу, на рецептори, що сприймають
зовнішні сигнали, надходить наступний образ, а на
контекстну групу рецепторів (CONTEXT) — вихідний образ
з попереднього кроку з затримки. Далі з усіх рецепторів
сигнал піде в прихований шар, потім на вихідний.

9. Нейронна мережа Джордана