Моральные дилеммы цифровой эпохи

1. Моральные дилеммы цифровой эпохи

Моральное осуждение
в цифровую эпоху
Возможна ли
моральная дилемма
при моральном
поведении?
Убили бы вы толстяка?
Универсальны ли
законы робототехники?
За что осуждает
цифровая эпоха?

2. Х. Ванштейн и К. Спейси: моральное осуждение или 10 дней, чтобы уничтожить карьеру

• 5 октября 2017 года разгорелся скандал с
участием продюсера Х. Вайнштейна. 28 октября –
83 обвинения. В итоге от Вайнштейна ушла жена,
и его уволили.
• 22 октября - расследование в отношении Дж.
Тобака. Агент Тобака разорвал с ним контракт
• 30 октября актёр Энтони Рэпп рассказал изданию
BuzzFeed о приставаниях 30-летней давности. В
течение недели последовало ещё 14 подобных
заявлений в прессе и соц. сетях…. Представители
«Эмми» отказались вручать награду Кевину
Спейси.

3. Субъект морального осуждения

Субъектом морального
осуждения выступает общество
Цифровая эпоха приобщила к
моральному осуждению как
причастных событию, так и
непричастных

4. «Объект» морального осуждения

Моральное осуждение не
знает сроков давности
Для морального
осуждения нет больше
«неприкасаемых»

5. Социальные сети и моральное осуждение: горячо или холодно?

Комментарий к новостным постам или «с
места событий» интенсифицирует словесную
коммуникацию
Пишущий получает возможность
эмоциональной включённости в
сопереживающую общность
Соц. сети становятся сферой
морализаторства и морального осуждения
(но лишь для выражения эмоций)
Моральное осуждение в соц. сетях
исключает осуждаемого из привычного
образа жизни

6. Моральная дилемма

7. Когда моральная дилемма возможна?

Деонтологическая этика
Консеквенционализм
Жизнь сложнее
рационализации. Следование
моральным принципам не
исключает выбора между
«злом» и «злом»
Если всегда поступать
правильно, ситуация моральной
дилеммы не возникнет. Если
человек перед ней оказался, он
проанализировал не все
варианты развития событий

8. Можно ли обосновать универсальную мораль?

С точки зрения формы, моральная
рациональность = абсолютная
беспристрастность. С точки зрения
содержания, моральное суждение
предполагает равенство всех перед
Абсолютом (моральный долг – это
обязанность учитывать интересы любого)
• Бог
• Общественное благо…
• Внутренний моральный долг

9. И. Кант: Имеет ли человек право лгать из человеколюбия?

10. Рационализация или сравнительное обоснование морали

УДОВОЛЬСТВИЕ
(ГЕДОНИЗМ)
СЧАСТЬЕ
(ЭВДЕМОНИЗМ)
СОВЕРШЕНСТВОВАНИЕ
(ПЕРФЕКЦИОНИЗМ)
ПОЛЬЗА
(ПРАГМАТИЗМ)

11. Радикальный эмпиризм и прагматизм

Человек – творец Истины
Философия должна заниматься на абстрактными проблемами, а реальной
помощью в различных жизненных ситуациях
Моральное решение зависит от обстоятельств (ситуация)
Мораль десакрализуется (выбор становится повседневным актом)
Сущее корректирует должное, а не наоборот
Радикальный эмпиризм и прагматизм

12. Дискриминация сегодня – это переплата или неоплата за лишний вес? (П. Сингер)

Нужен ли весовой расчёт стоимости
билета и установление нормы веса?

13. Видовой шовинизм

Почему одни равнее других?

14. Выбор смерти

Доктрина двойного эффекта: два врача совершают одно
и то же действие, прописывая морфин для облегчения и
зная о побочных эффектах. Тот, кто хочет облегчить боль,
следует мед. правилам, тот, кто хочет сократить жизнь,
нарушает закон.

15. Переезд в цифровую эпоху

16. Машина-доносчица

17. Проблема вагонетки №1

Филиппа Фут

18. Проблема вагонетки №2

Джудит Томпсон

19. Решение и тестирование

• Как выглядит решение с точки зрения И.
Канта?
Решение и
тестирование
• Как решать дилемму с позиции
утилитаристов?
• Результаты тестирования 1:9 (перевести
стрелку)
• Результаты тестирования 5:5 (сбросить
толстяка)
• Результаты эксперимента 5:5 (перенаправить
ток на одну мышь)

20. Почему об этом нужно говорить сегодня?

21. Три закона робототехники и беспилотные автомобили

• Робот не может причинить
вред человеку или своим
бездействием допустить,
чтобы человеку был
причинён вред.
• Робот должен повиноваться
всем приказам, которые даёт
человек, кроме тех случаев,
когда эти приказы
противоречат Первому
Закону.
• Робот должен заботиться о
своей безопасности в той
мере, в которой это не
противоречит Первому или
Второму Законам.

22. Что должно быть учтено?

«Дискриминации
в свободном обществе
быть не может, а потому
возраст, пол и прочее
робот учитывать
не будет. Надо
прикидывать только
число потенциальных
жертв»
(из доклада
правительственной
комиссии Германии по
изучению этики
беспилотных
автомобилей, 2017).

23. Цифровизация и гуманизация войны

Боевой дрон стоит в несколько десятков раз
дешевле истребителя.
Боевой дрон эффективнее истребителя
Пилот боевого дрона находится в
безопасности

24. Когда жертва – мишень и точка…

Задачи «это обеспечение в реальном режиме
времени потоковой передачи визуальной
информации, отслеживание передвижений
противника, определение его сил и средств;
локализация и уничтожение тайников с оружием;
управление и воздушное прикрытие наземных
сил; обеспечение безопасности передвижения
войск; слежение за боевиками и/или их
уничтожение, поддержка самолетов ВВС при
выполнении ими боевого задания; оценка
нанесенного противнику урона
Для психологического облегчения задачи,
программа подсказывает оператору решение

25. Игра «12 сентября»

Стрелять или не стрелять?

26. Улыбаться (вопреки настроению) или не улыбаться (и оказаться человеком второго сорта)!

Быть грустным и необщительным завтра- это
всё равно что курить, толстеть и опохмеляться
сегодня, быть геем вчера, афроамериканцем
или женщиной позавчера
(Ю. Сапрыкин)

27. Некоторые книги, которые читают люди по этому поводу

• Гринбаум А. Машина-доносчица. Как
избавить искусственный интеллект от зла
• Сингер П. О вещах действительно важных
• Кант И. О мнимом праве лгать из
человеколюбия
• Маклюэн М. Понимание медиа. Внешние
расширения человека
• Парфит Д. О том, что имеет значение
• Грин Дж. Мудрость психопатов
• Д. Эдмонс Убили бы вы толстяка?

28. Moral machine

http://moralmachine.mit.edu