Робототехника и её законы

1.

Тема урока: «Робототехника и её законы.»

2.

Робототехника – это (от робот и техника;
англ. robotics) прикладная наука,
занимающаяся разработкой
автоматизированных технических систем.
Робототехника опирается на такие
дисциплины, как электроника, механика,
информатика, радиотехника и
электротехника.

3.

4.

Айзек Азимов родился 2 января 1920 года
в России. Он был американским писателем,
специализирующимся на жанре научной
фантастики.
Азимов был профессором биохимии в
Бостонском университете, на его щету более
500 опубликованных научных работ.
Азимов - это признанный во всем мире
писатель-фантаст, один величайших мастеров в
этой сфере.

5.

Литературная карьера Азимова началась,
когда начали публиковаться его работы в
научно-фантастических журналах в 1939 году.

6.

7.

Какие законы
робототехники
предложил Азимов?
«Три закона робототехники» впервые
появились из под пера Айзека Азимова в
рассказе «Хоровод», опубликованном в
мартовском выпуске журнала «Потрясающая
научная фантастика» 1942 года под редакцией
Джона В. Кэмпбелла.

8.

Сейчас мы детально рассмотрим 3 закона
робототехники Азимова, а также
расскажем, что о них думают некоторые из
современных ученых.

9.

Закон первый:
Робот не может причинить вред человеку
или своим бездействием допустить, чтобы
человеку был причинён вред.
Когда мы рассматриваем угрозу человечеству,
на что ссылается первый закон робототехники
стоит вспомнить о несчастных случаев на производстве.
Применим ли такой закон?

10.

11.

Закон второй:
Робот должен повиноваться всем
приказам, которые даёт человек, кроме тех
случаев, когда эти приказы противоречат
Первому Закону.
Роботы очень хорошо выполняют
приказы, которые им отдают, и можно
утверждать, что это «наносит вред» людям.
Причиняет ущерб не физическая травма, а
экономическая составляющая.

12.

13.

Закон третий:
Робот должен заботиться о своей
безопасности в той мере, в которой это не
противоречит Первому и Второму Законам.
Может ли робот защитить свое
существование, если он не знает, что он
существует?
Машины могут казаться людьми и даже
способны к очевидным социальным
взаимодействиям, но могут ли они когданибудь стать сознательными?

14.

15.

Эти законы созданы исключительно для того,
чтобы людям не был нанесен вред.
Точно так же ставят предохранители на
электроприборы и оснащают безопасными
рукоятками различные инструменты, устанавливают
стоп-краны и прочие защиты.
Законы робототехники - это не правила, а в
большей степени человеческие инстинкты и
сформулированы они в таком виде именно для
людей. Для роботов законы - не постулаты, а
модель поведения.

16.

Противоречия
в 3 законах робототехники
Законы Азимова ставятся под сомнение при
рассмотрении вопроса о разработке управляемых
человеком военных беспилотников, предназначенных
для убийства других людей.
Как это ни парадоксально, если оператор
направляет робота, чтобы спасти жизни своих
сограждан, убивая нападающих на них людей, можно
сказать, что он следует как первому закону Азимова,
так и нарушает его.

17.

18.

Уже сегодня созданы роботы-медики, которые
не только напоминают пациентам о приеме лекарств,
но принимают самостоятельные решения о дозах
препаратов, руководствуясь собственными
представлениями о благополучии пациента.
Робот может принимать лучшие этические
решения, чем человек.
Люди по природе пристрастны и часто
действуют по наитию, неалгоритмично. Робот
сможет избежать таких ошибок и даже в какой-то
мере может стать более человечным, чем сам
человек

19.

В 2004 году SIAI (Институт сингулярности
искусственного интеллекта, США) был открыт сайт
www.asimovlaws.com, созданный для обсуждения
этики искусственного интеллекта (ИИ) и возможных
последствий принятия законов в реальной жизни.
Эксперты считают, что законы робототехники
Азимова небезопасны, поскольку, могут побудить ИИ
захватить власть на Земле, чтобы «защитить» людей
от вреда

20.

В марте 2007 г. Правительство Южной Кореи
начало разработку законодательного акта,
призванного нормировать этические и этнические
взаимоотношения между людьми и роботами –
«Устав этических норм для роботов»
(Robot Ethics Charter) для разработчиков и
пользователей

21.

В марте 2012 г. робототехники США призвали
мировое научное сообщество начать разработку
«Этического кодекса роботов», который будет
регулировать деятельность как бытовых, так и
боевых роботов.

22.

Также реальность и то, что поведение робота
зависит от того, как именно программист заложил
Три Закона.
Роботы сами по себе не могут быть ни
хорошими, ни плохими. Пока робот воспринимается
нами как вещь, которую можно купить, разобрать или
отключить. Но, скорее всего, уже в ближайшие
десятилетия революция в создании ИИ может
поставить человечеству вопрос: будут ли сами роботы
считать себя вещами и творениями человека или
станут воспринимать себя равными нам
личностями?

23.

Новые законы робототехники
Ученый-компьютерщик Робин Мерфи
из Техасского университета A&M и Дэвид
Вудс, профессор когнитивных систем в
Университете штата Огайо, пересмотрели три
закона Азимова, пытаясь исправить
неясности в выражениях.

24.

1. Человек не может создать робота без рабочей
системы «человек-робот», отвечаю-щей самым
высоким юридическим и профессиональным
стандартам безопасности и этики.
Каким бы умным ни был робот, это продукт, а не
человек. Производители и люди, внедряющие его,
должны нести ответственность за его действия.

25.

2. Второй допускает ограниченную способность
роботов понимать приказы людей и реагировать на
набор команд от строго заданного количества
человек.
Робот должен отвечать людям в зависимости от
их роли. Необдуманные инструкции могут вызвать
хаос, не нарушая ни одного из трех законов.

26.

3. Робот обязан соблюдать достаточную автономию
для защиты своего существования, если такая защита
обеспечивает плавную передачу контроля другим
агентам в соответствии с Первым и Вторым законами.
Независимо от обстоятельств, люди всегда
должны иметь возможность установить управление
над роботом, если в этом есть необходимость.

27.

28.

Должны ли роботы иметь такие же права, как вы
или я?
Какими правами пользуемся мы с вами благодаря
нашему интеллектуальному, самосознательному статусу?
Эти вопросы сложны, но они, безусловно, будут
иметь последствия для роботов в какой-то момент в
недалеком будущем. Если роботы достигнут уровня
самосознания и проявят подлинный интеллект, мы
должны быть готовы относиться к ним как к разумным
существам и уважать их желания, нужды, как мы уважаем
их в нашем человеческом обществе.

29.

30.

СПАСИБО ЗА ВН ИМАНИЕ!