Основы генерация

1.

1
НА УЛИЦЕ
ШЕЛ СИЛЬНЫЙ …

2.

2
НА УЛИЦЕ
ШЕЛ СИЛЬНЫЙ
ДОЖДЬ

3.

3
НА УЛИЦЕ
ШЕЛ СИЛЬНЫЙ СНЕГ

4.

4
НА УЛИЦЕ
ШЕЛ СИЛЬНЫЙ СЛОН

5.

5
НА УЛИЦЕ
ШЕЛ СИЛЬНЫЙ
ОДУВАНЧИК

6.

Что будем делать
Уже больше полувека мы хотим
научить компьютер говорить…
…и пообщаться с ним

7.

Зависимость понимания значения от контекста
Из-под земли
бил ключ…
Жизнь бьет
ключом…
Вася
нарисовал
скрипичный
ключ…
В двери
повернули
ключ…

8.

Сложность задачи
В современном
языке
миллионы
текстов
В этих текстах
на разные
тысячи слов,
темы
переплетенных
десятками
различных
контекстов

9.

Современные возможности
Языковые модели 20 лет назад
Современные языковые модели

10.

Генеративные состязательные сети
Дискриминация и генерация
Отличать объекты разных классов — задача дискриминации
Порождать новые объекты — задача генерации
Задача генерации принципиально сложнее задачи
дискриминации и долгое время относилась к категории сильного
искусственного интеллекта

11.

Генеративные состязательные сети
Задача дискриминации
Сначала соберем выборку

12.

Генеративные состязательные сети
Задача дискриминации
Изображения в каждом классе как-то распределены.
Задача дискриминации состоит в том, чтобы разделить два этих
распределения

13.

Генеративные состязательные сети
Генеративные состязательные сети (GANы)
Две модели:
Первая (генератор) пытается создавать новые объекты (изображения)
Вторая (дискриминатор) пытается отличать настоящие объекты от
сгенерированных

14.

Генеративные состязательные сети
Задача генерации
(в идеале) генератор после нескольких итераций научится
воспроизводить то самое распределение целевых объектов,
которое есть в выборке настоящих

15.

Генеративные состязательные сети
Что умеет ИИ: создавать новое
Алгоритмы создают новые изображения
Алгоритмы создают тексты песен
Алгоритмы создают музыку
Алгоритмы синтезируют человеческую речь
Алгоритмы синтезируют формулы новых лекарств
…

16.

Генеративные состязательные сети
Не GANы
Идея использовать вторую сеть для контроля качества очень
сильная, но в некоторых задачах можно обойтись и без нее
Что еще бывает
вариационные кодировщики
трансформеры и модели с памятью
вероятностные модели

17.

Генеративные состязательные сети
Увеличение разрешения
Инструмент: SRGAN

18.

Генеративные состязательные сети
Генерация по наброскам
Инструмент: GauGAN / SPADE

19.

Генеративные состязательные сети
Зачем еще нужны GANы
Больше данных для обучения моделей
Дискриминаторы хорошо дискриминируют
Сохранение приватности данных
Борьба с adversarial attacks (повышение устойчивости
классификации)