Свёрточные нейронные сети (CНС)(ред.2) — копия

1. Свёрточные нейронные сети (CНС)

Ярослав Антонович Меркулов
Группа НПИбд-03-24
РУДН
1/23

2. Типы СНС по архитектуре

• Традиционные СНС
• Полностью свёрточные сети
• Сети пространственных трансформаций
2/23

3. Минимальная структура «классической» СНС

• свёрточный слой
• пулинг
• полносвязный слой
3/23

4. Преобразование изображения в 3D тензор

Изображение
состоит 3
массивов.
Каждый отвечает
за свой цвет:
красный, синий,
зелёный
4/23

5. Работа свёрточного слоя

5/23

6. Примеры свёртки

6/23

7. Пулинг

Максимальное объединение (пулинг)
также выполняет функцию
шумоподавления. Оно полностью
отбрасывает зашумленные
активации, а также устраняет шум
вместе с уменьшением размерности.
С другой стороны, среднее
объединение для подавления шума
просто снижает размерность. Значит,
можно сказать, что максимальное
объединение работает намного лучше
среднего объединения.
Виды пулинга
7/23

8. Полносвязный слой

Цели полносвязного слоя:
Преобразовать
низкоуровневые
признаки (карты
признаков) в
высокоуровневое
представление,
подходящее для
принятия решений о
классе изображения.
Связать отдельные части
признаков вместе,
формируя общее
понимание всей картины.
8/23

9. Структура полностью свёрточной сети

9/23

10. Способ улучшить сегментацию

10/23

11. Сети пространственных трансформаций

11/23

12. Использование свёрточных нейронных сетей

• распознавание рукописных букв и
цифр в письмах и других
документах;
• классификация документов,
например паспортов или СНИЛС;
• распознавание раковых опухолей и
других аномалий по снимкам.
Ещё одно популярное направление —
генеративное искусство.
Человек формирует запрос, а
нейросеть создаёт по нему
изображение. За преображение текста
отвечают различные алгоритмы, а за
генерацию картинки — свёрточная
нейросеть.
Самые популярные модели для
генерации изображений —
Midjourney, Stable Diffusion,
Dream, DALL-E 2 и ruDALL-E.
12/23

13. VGG16 – архитектура

13/23

14. VGG16 – сравнение с другими сетями

14/23

15. Недостатки VGG16

1. Очень медленная скорость
обучения
2. Сама архитектура сети весит
слишком много (появляются
проблемы с диском и пропускной
способностью)
15/23

16. GoogLeNet

16/23

17. GoogLeNet

Сеть состоит из 9 inception-блоков
17/23

18. LeNet-5

Архитектура LeNet-5
18/23

19. Сравнения полносвязной сети LeNet-5 (1)

Полносвязная нейронная сеть
Тип слоя
Размер вывода
Количество
параметров
Входной
400
0
Скрытый
300
120 300
Выходной
10
3 010
Функция активации после скрытого слоя – ReLu
Функция активации после выходного слоя – сигмоид
19/23

20. Сравнения полносвязной сети LeNet-5 (2)

Тип слоя
Размер вывода
Количество
параметров
Свертка
28, 28, 6
156
Средний пулинг
14, 14, 6
0
Свертка
10, 10, 16
2 416
Средний пулинг
5, 5, 16
0
Свертка
1, 1, 120
48 120
Полносвязный
84
10 164
Полносвязный
10
850
Функция активации – гиперболический тангенс (tanh)
20/23

21. Сравнения полносвязной сети LeNet-5 (3)

Модель
Время
обучения, с
Время
вывода, с
Точность, %
Потери
Полносвязная 562,74
0,009
93,5
0,123
LeNet-5
0,006
98,5
0,043
122,72
21/23

22. Выводы

• Свёрточные нейронные сети доказали свою
эффективность в широком спектре задач,
связанных с обработкой изображений.
• Свёрточные нейронные сети плохо подходят
для анализа глобального контекста, например
смысла текстов
• Свёрточные нейронные сети имеют большой
потенциал для развития
22/23

23. Список использованных источников

1.
https://habr.com/ru/articles/309508/
2.
https://neerc.ifmo.ru/wiki/index.php?title=%D0%A1%D0%B2%D0%B5%D1
%80%D1%82%D0%BE%D1%87%D0%BD%D1%8B%D0%B5_%D0%BD%D0
%B5%D0%B9%D1%80%D0%BE%D0%BD%D0%BD%D1%8B%D0%B5_%D
1%81%D0%B5%D1%82%D0%B8#Inception_module
3.
https://habr.com/ru/companies/skillfactory/articles/565232/
4.
https://practicum.yandex.ru/blog/svertochnye-neyronnye-seti/#struktura
5.
https://habr.com/ru/companies/beelinekz/articles/646485/
6.
https://blog.skillfactory.ru/gayd-po-rabote-svertochnyh-neyronnyh-setey/
7.
https://deepmachinelearning.ru/docs/Neural-networks/MLP/Multilayerperceptron
23/23