Свёрточные нейронные сети. Часть 1: Основные понятия, архитектура

1. Свёрточные нейронные сети

Часть 1: Основные понятия, архитектура

2. План

• Туториалы и домашнее задание
• Мотивация
• Свёртки, Stride, Padding
• Свёрточный слой
• CNN
• AlexNet

3. TensorFlow tutorials

4. Kaggle

5. Домашка

6. Мотивация

Из книги
Ф. Розенблата
«Основы
нейродинамики»

7. Архитектура(зрительной коры)

8. Архитектура(многослойный перцептрон)

9. AlexNet

10. Как выглядят наши данные?

• Существует много разных типов данных, но все они, вообще
говоря, представляют собой некоторый многомерный массив
«тензор»
• Данные, как правило, имеют определённую структуру.
Направления по осям неравнозначные (напр. шкала времени)

11. Как выглядят наши данные?

Главный представитель для нас – изображения. В данном случае изображение
цветное, поэтому каждый пиксель это три числа, соответствующие своим
каналам RGB, т.е. цветное изображение RGB это трёхмерные «тензоры»

12. Как выглядят наши данные?

В данном случае
изображения чёрно-белые и
задаются матрицами
интенсивностей, т. е.
представляют собой
двухмерные «тензоры»

13. Свёртка(интуиция)

• Распознавание объектов на изображении должно осуществляться
безотносительно их положения
• Нужно использовать наши знания о структуре и топологии
данных(в обычных полносвязных сетях этого нет)

14. Свёртка 2D

gif was stolen from Wiki

15. Свёртка 3D

Слайд из презентации
Andrew Ng

16. Padding

17. Stride

18.

19. Свёрточный слой

20. Свёрточный слой

21. Свёрточный слой

22. Свёрточный слой

• Сколько параметров в свёрточном слое с 10
фильтрами размером 3 х 3 х 3?
• Ответ 280

23. CNN это

• Свёрточные слои
• FC-слои
• Pooling-слои

24. Pooling layer

• Max Pooling
• Average Pooling

25. AlexNet

26. AlexNet

27. AlexNet

28. Интересные факты