Черникова - 8ГМ81 - TA_беспилотные автомобили

1. Российские беспилотные автомобили: Cognitive Technologies в контексте Technology Assessment

Философские и методологические проблемы науки и техники
РОССИЙСКИЕ БЕСПИЛОТНЫЕ
АВТОМОБИЛИ: COGNITIVE
TECHNOLOGIES
В КОНТЕКСТЕ TECHNOLOGY
ASSESSMENT
Группа 8ГМ81
Черникова Н.В, Лихачева М.Г.

2. Российские беспилотные автомобили

РОССИЙСКИЕ БЕСПИЛОТНЫЕ АВТОМОБИЛИ
В России - компания Cognitive Technologies.
Технологии для беспилотного транспорта уже
вовсю тестируются на российских полигонах.
Технология виртуального туннеля (оценка и
прогноз ИИ)
2

3. Распоряжение от 8 января 2018 года №1-р. Стратегией провозглашается стремление к нулевой смертности на дорогах к 2030 году. В

РАСПОРЯЖЕНИЕ ОТ 8 ЯНВАРЯ 2018 ГОДА №1-Р. СТРАТЕГИЕЙ
ПРОВОЗГЛАШАЕТСЯ СТРЕМЛЕНИЕ К НУЛЕВОЙ СМЕРТНОСТИ НА ДОРОГАХ К
2030 ГОДУ. В КАЧЕСТВЕ ЦЕЛЕВОГО ОРИЕНТИРА НА 2024 ГОД УСТАНОВЛЕН
ПОКАЗАТЕЛЬ СОЦИАЛЬНОГО РИСКА, СОСТАВЛЯЮЩИЙ НЕ БОЛЕЕ ЧЕТЫРЁХ
ПОГИБШИХ НА 100 ТЫСЯЧ НАСЕЛЕНИЯ.
Основные тезисы Стратегии:
- изменение поведения участников дорожного движения с целью
безусловного соблюдения норм и правил дорожного движения;
- повышение защищённости от дорожно-транспортных
происшествий и их последствий наиболее уязвимых участников
дорожного движения, прежде всего детей и пешеходов;
- совершенствование улично-дорожной сети по условиям
безопасности дорожного движения, включая развитие
организации дорожного движения;
- совершенствование организационно-правовых механизмов
допуска транспортных средств и их водителей к участию в
дорожном движении;
- совершенствование системы управления безопасностью
дорожного движения;
- развитие системы оказания помощи и спасения пострадавших в
результате дорожно-транспортных происшествий.
Стратегию планируется реализовать в два этапа: первый этап –
2018–2020 годы; второй – 2021–2024 годы.
3

4. Постановка задачи и структурирование

ПОСТАНОВКА ЗАДАЧИ И СТРУКТУРИРОВАНИЕ
ПРОБЛЕМА:
СМЕРТНОСТЬ НА ДОРОГЕ
Вспомогательная: «еще немного, и города навечно встанут в бесконечных
пробках, не помогут даже многоэтажные дороги и развязки»
КРУГ ПОРЕБИТЕЛЕЙ:
государство, компании по извозу людей, профессионалы, грузоперевозки,
пассажиры общественного транспорта, частные лица
ОПРЕДЕЛЕНИЕ КРУГА
ВОЗМОЖНЫХ ОГРАНИЧЕНИЙ ПРИМЕНЕНИЯ ТЕХНОЛОГИИ
несвоевременный ремонт дорог,
отсутствие знаков, разметки,
трудные погодные условия,
неадекватность участников ДД,
стоимость,
моральные установки
….
4

5. приоритетные вопросы и возможные ответы:

ПРИОРИТЕТНЫЕ ВОПРОСЫ И
ВОЗМОЖНЫЕ ОТВЕТЫ:
Каковы основные элементы социально-технической системы?
Свободные дороги, быстрая доставка, безопасность, комфорт
Кто является основными заинтересованными сторонами в реализации
проекта?
Государство, общество
Каковы основные требования к внедрению и распространению
технической системы среди круга потребителей?
Безопасность, экологичность, комфорт
Каковы ожидания, страхи и мнения у потребителей в отношении внедрения
технологии?
На данном этапе эти технологии могут работать только в тепличных условиях
в отсутствии реального трафика и человеческого фактора
Как обрабатывать информацию о дорогах с плохой разметкой и большими
вертикальными колебаниями в неблагоприятных погодных условиях?
использование прогнозирования (технология виртуального туннеля);
нескольких вариантов приема данных (камеры, радары и т.д.);
технология фовеального (центрального) зрения;
функция гиппокампа - моделирования человеческой кратковременной памяти;
самообучающегося ИИ ;
5
разработка механизмов, обеспечивающих для ИИ «работу над ошибками»

6. Резонансные вопросы

РЕЗОНАНСНЫЕ ВОПРОСЫ
Готовы ли вы пожертвовать своим здоровьем ради
других?
Все люди равны, но некоторые равнее других?
Это вообще безопасно?
Кто будет определять правила движения беспилотников?
Кто будет нести юридическую ответственность за аварии
на дороге?
Зачем все это современным автопроизводителям?
Почему люди должны покупать беспилотники?
Разве можно сейчас ездить машинам без водителей?
А водить люди не разучатся?
Будут ли люди чаще использовать автомобили?
Станет ли машина офисом?
Как государство будет регулировать беспилотные
автомобили?
6

7. Анализ и оценка последствий

АНАЛИЗ И ОЦЕНКА ПОСЛЕДСТВИЙ
Критерии оценки проекта:
Политические: государство ЗА и финансирует.
Экономические: на данном этапе это очень дорого,
возможно долгая окупаемость проекта и рост
стоимости услуг.
Экологические:
позволит
решить
проблему
загазованности в больших городах.
Социальные:
«+» повышение безопасности на дорогах страны,
обеспечение прав и потребностей пользователей в
отношении общественного транспорта, повышение
мобильности для людей с ограниченными
возможностями.
«-» реакция «неадекватных» личностей на ИИ на
дорогах, реакция религиозных институтов.
«+/-» какой уровень безопасности можно считать
достаточным?
7

8. Моральные проблемы беспилотных автомобилей не имеют универсального решения

МОРАЛЬНЫЕ ПРОБЛЕМЫ БЕСПИЛОТНЫХ АВТОМОБИЛЕЙ НЕ
ИМЕЮТ УНИВЕРСАЛЬНОГО РЕШЕНИЯ
Чтобы оценить перспективы создания
универсального «морального кода» для
самоуправляемых машин, международная
команда социологов, психологов и
специалистов по искусственному интеллекту
во главе с Иядом Рахваном из Массачусетского
технологического института запустила сетевой
проект Moral Machine.
В ходе эксперимента Moral Machine были
собраны мнения 2,3 млн людей из 233 стран
о том, какими моральными принципами должны
руководствоваться самоуправляемые автомобили
в аварийных ситуациях, когда человеческих
жертв избежать невозможно и нужно выбрать
меньшее из зол.
Респонденты из разных стран разошлись во мнениях
по многим пунктам, таким как необходимость
заботиться в первую очередь о спасении детей,
женщин или тех, кто соблюдает правила дорожного
движения.
Выявленные
различия
коррелируют
с известными экономическими и культурными
особенностями стран и регионов.
Исследование показало, что разработать
универсальный «моральный закон» для
самоуправляемых машин будет непросто.
8

9.

Персонажи, участвующие в дилеммах, различаются по полу, возрасту
(младенцы в колясках, дети, взрослые, пожилые), физической форме (люди
с избыточным весом, обычные люди и спортсмены), социальному статусу
(бездомные, обычные люди и начальники) и видовой принадлежности (кроме
людей, среди персонажей встречаются собаки и кошки). Программа
генерирует дилеммы на основе алгоритма, позволяющего при анализе
ответов по отдельности оценить влияние следующих девяти факторов:
1) действие или
бездействие (продолжать
движение по прямой или
свернуть),
2) пассажиры или
пешеходы (кого из них
спасать),
3) пол жертв (спасать
мужчин или женщин),
4) физическая форма
(спасать толстяков, обычных
людей или спортсменов),
5) социальный статус
(спасать бездомных,
простых людей или
начальников),
6) соблюдение правил
(спасать ли тех, кто
переходит дорогу на
красный свет),
7) возраст (спасать
молодых или старых),
8) число жертв (спасать
большую или меньшую из
двух групп),
9) видовая
принадлежность (спасать
людей или домашних
животных).
Усредненные предпочтения участников опроса.
Длина синих полосок показывает, насколько
вероятность выбора в пользу правого варианта
превышает (при усреднении всех остальных 9
факторов) вероятность выбора в пользу левого
варианта.

10. Обнаружились интересные закономерности в распределении этических предпочтений по странам. В анализе было учтено 130 стран

ОБНАРУЖИЛИСЬ ИНТЕРЕСНЫЕ ЗАКОНОМЕРНОСТИ В РАСПРЕДЕЛЕНИИ ЭТИЧЕСКИХ ПРЕДПОЧТЕНИЙ ПО
СТРАНАМ. В АНАЛИЗЕ БЫЛО УЧТЕНО 130 СТРАН С ЧИСЛОМ РЕСПОНДЕНТОВ НЕ МЕНЕЕ 100.
Дендрограмма сходства 130 стран по
этическим предпочтениям, на которой
выделяются три кластера: Западный,
Восточный и Южный. Три круговые
диаграммы показывают этические
предпочтения, характерные для
каждого из трех кластеров, то есть
степень важности девяти
исследованных факторов при решении
моральных дилемм. Видны
контрастные различия между
кластерами. Например, в странах
Южного кластера сильны установки,
требующие спасать в первую очередь
женщин, детей и высокостатусных
людей, тогда как жители стран
Восточного кластера скорее отдадут
предпочтение законопослушным.
a — склонность спасать большие группы людей, жертвуя меньшими, положительно
коррелирует с индивидуализмом (в странах с сильными коллективистскими
традициями этот фактор менее значим); на врезке: индивидуализм положительно
коррелирует с идеей о важности спасения детей (коллективистским странам более
свойственна забота о старших).
b — идея о том, что безопасность людей, соблюдающих правила, должна стоять выше
безопасности нарушителей, более характерна для богатых и законопослушных стран,
чем для бедных и беззаконных.
c — положительная корреляция между тем, насколько сильно страна отличается от
США по своей морали (согласно данным Всемирного обзора ценностей), и тем,
насколько сильно та же страна отличается от США по результатам опроса Moral
Machine (это аргумент в пользу осмысленности и неслучайности результатов Moral
Machine).
d — уровень экономического неравенства (коэффициент Джини) положительно
коррелирует с тенденцией отдавать предпочтение высокостатусным людям (спасать
начальников, жертвовать бездомными).
e — слабая положительная корреляция между тенденцией спасать преимущественно
10
женщин и тем, насколько хорошо живется женщинам по сравнению с мужчинами (это
оценивалось по тому, насколько ожидаемая продолжительность жизни женщин выше,
чем у мужчин, и по соотношению полов у новорожденных, смещение которого в пользу
мальчиков указывает на инфантицид девочек или избирательные аборты)

11. Оценка проекта

ОЦЕНКА ПРОЕКТА
ПЛЮСЫ
МИНУСЫ
Реализация стратегии государства в Как быть с имеющимся
части безопасности
транспортом: переделка?
утилизация?
Дороги и обочины сильно
разгрузятся
Возрастание стоимости услуг
Устранение «человеческого
фактора»
Неустранимость «человеческого
фактора»
Скорость выполнения задачи по
перемещению. Исчезновение
«опозданий по маршруту»
Упразднение профессий
Продление срока службы
дорожного полотна
Решит ли это вопрос общей
дорожной обстановки, повысится
ли «вежливость на дорогах»?
Методическое обеспечение исследования для анализа
каналов: прогнозы, социальные опросы, реакция СМИ
11

12. Сценарий № 1 - УТОПИЧЕСКИЙ

СЦЕНАРИЙ № 1 - УТОПИЧЕСКИЙ
Автопарк дешёвых
и доступных БА
предложит людям
совершать поездки
с помощью одного
нажатия на экран
Города будут
меньше
разрастаться
Использование
электрических БА снизит
потребление
органического топлива и
уровень загрязнения
воздуха
БА обычное
явление
У
Т
О
П
И
Я
Беспилотных автомобилей
(БА) более чем достаточно
Дорожные
аварии уйдут в
прошлое
Дорога на работу
перестанет быть
стрессовой и станет
более продуктивной
Просвещённая политика
правительства приведёт к
уменьшению количества пробок на
дорогах и проблем с парковкой
12

13. Сценарий № 2 - АНТИУТОПИЧЕСКИЙ

СЦЕНАРИЙ № 2 - АНТИУТОПИЧЕСКИЙ
Люди станут
намного больше
зависеть от
автомобилей
Появится ещё один
показатель
неравенства
Поездки станут более
продуктивными
люди начнут
покупать дома
подальше от работы,
рост городов
А
Н
Т
И
У
Т
О
П
И
Я
Неожиданные
сбои в ПО
приведут к
повсеместным
проблемам на
дорогах
Увеличится :
*количество пробок
*потребление энергии
* уровень загрязнения
ОС
БА будут ещё одной
каплей в чаше
мирового горя
13

14. Сценарий № 3 - КИБЕРПАНК

СЦЕНАРИЙ № 3 - КИБЕРПАНК
КРАЙНЕ
МАЛО
ВЕРОЯТНО,
НО НЕ
ИСКЛЮЧЕНО
Киберпа́нк — жанр научной фантастики, отражающий
упадок человеческой культуры на фоне технологического
прогресса в компьютерную эпоху.
14

15. Формирование решений

ФОРМИРОВАНИЕ РЕШЕНИЙ
Факторы влияния:
Политические: адаптация законодательной базы
Экономические: финансирование, рынок труда,
субсидирование
Технические: обработка огромных массивов данных
(тестирование и реальность – разные вещи)
Социальные: мнение общественности, разработка
стратегии к повышению культуры всех участников
дорожного движения
Адаптивные: не получится сразу убрать старое и
заменить на новое. С чего начать?
Риски: безопасность, страховки
15
и т.п.

16.

ПРИНЯТИЕ РЕШЕНИЙ
Поддержка государства – заинтересованность в
реализации СТРАТЕГИИ.
Методическое обеспечение исследования для анализа
каналов:
Реклама,
Социальные проекты,
СМИ
16

17. Рекомендации о внедрении технологии (обязательно должна быть внедрена, т.к. или не может быть внедрена т.к., или технология

РЕКОМЕНДАЦИИ О ВНЕДРЕНИИ ТЕХНОЛОГИИ
(ОБЯЗАТЕЛЬНО ДОЛЖНА БЫТЬ ВНЕДРЕНА, Т.К.
ИЛИ НЕ МОЖЕТ БЫТЬ ВНЕДРЕНА Т.К., ИЛИ
ТЕХНОЛОГИЯ МОЖЕТ БЫТЬ ВНЕДРЕНА СО
СЛЕДУЮЩИМИ ОГРАНИЧЕНИЯМИ:.., ИЛИ
ТЕХНОЛОГИЯ МОЖЕТ БЫТЬ ВНЕДРЕНА ПРИ
ВЫПОЛНЕНИИ СЛЕДУЮЩИХ УСЛОВИЙ…
Поддержка государства – заинтересованность в
реализации СТРАТЕГИИ.
17

18. Благодарим за внимание!

БЛАГОДАРИМ ЗА ВНИМАНИЕ!
18