Искусственный интеллект как правовая проблема (тема 3)

1.

Искусственный интеллект и
право
1. Место искусственного интеллекта среди
элементов состава правоотношений
2. Искусственный интеллект как субъект
права
3. Искусственный интеллект как объект
правового регулирования
4. Актуальные направления правового
регулирования искусственного интеллекта

2.

Искусственный интеллект –
это самоорганизующаяся система,
обладающая искусственными
средствами для взаимодействия с
окружающей средой, принимающая
решения на основании информации и в
соответствии со способностями и
возможностями

3.

Легальное определение является
широким, так как преследует цель
охватить обширный круг возможных
достижений в развитии искусственного
интеллекта путем перечисления сфер
потенциальной применимости
технологии искусственного интеллекта

4.

Основные свойства ИИ
понимание языка
обучение
способность мыслить
действовать

5.

Отличительные признаки искусственного
интеллекта
1. наличие технического устройства (киберфизической
системы), способной воспринимать информацию и ее
передавать
2. определенная степень автономной работы без участия
человека (субъектность)
3. способность к анализу, обобщению информации, выработке
интеллектуальных решений на основе изученных данных
(мышление), самосознанию
4. способность к обучению, самостоятельному поиску
информации и принятию на основе этой информации решений

6.

Признаки «искусственного интеллекта»
- технологичность, т.е. наличие технического
устройства – носителя программного
обеспечения;
- интеллектуальность, т.е. способность решения
задач высокого уровня сложности с
использованием когнитивных функций,
сопоставимых с интеллектуальной
деятельностью человеческого мозга;
- результативность, т.е. способность к
автономной работе и самостоятельному
принятию решения

7.

• Цель развития искусственного интеллекта обеспечение роста благосостояния и качества
жизни населения.
• Способ достижения поставленной цели постепенное применение технологий
искусственного интеллекта в разные сферы
жизнедеятельности общества.
Безопасному и безболезненному внедрению
новых технологий должно предшествовать
создание необходимой правовой основы.

8.

• В правовой литературе термин ИИ
рассматривается через такие смежные
категории, как робот, роботизированный агент
(робот-агент), роботизированная система,
киберфизическая система с искусственным
интеллектом и др.
• Ключевой вопрос - определение места
искусственного интеллекта среди элементов
состава правоотношения, так как смешение
правовых категорий (например, «робот» или
«киберфизическая система») объясняется
отнесением искусственного интеллекта одними
авторами к субъектам права, а другими авторами
– к объектам правового регулирования

9.

Общие проблемы систем ИИ
• Гаджиев Г.А. «создатели ИИ ответить на
вопрос , насколько велики риски, связанные с
созданием ИИ, способного самообучению»
• Соменков С.А. «если наука и техника сумеют
приблизиться к созданию реально мыслящего
ИИ, аналогичного человеческому разуму,
возможно, понадобятся временные
ограничения на разработку таких систем,
аналогичному тому, как это сейчас сделано в
отношении клонирования человека, до тех пор
пока общество не будет готово разумно
взаимодействовать с ИИ»

10.

• Москвин В.А. указывает на отсутствие в
мире качественных разработок сильного
искусственного интеллекта. Возможны
ситуации существенного превышения
предела возможностей системы со слабым
ИИ. Системы со слабым ИИ недостаточно
согласованы между собой и не могут
полноценно заменить человеческий
интеллект при возникновении сложных
ситуаций»

11.

Правовые проблемы в сфере ИИ не менее
значимы, их игнорирование препятствует
интеграции ИИ в различные сферы
общественных отношений
• Минбалеев А.В. «неопределенность правовой
природы роботов, их сложная
организационная структура обусловливают
выработки единых правовых понятий в сфере
ИИ и решения этических проблем»

12.

• Понкин И.В. И Редькина видят проблемный характер в
определении понятия и признаков ИИ,
персонификации и квалификации ответственности ИИ
• Васильев А.А. сводит правовые проблемы к
отсутствию юридической дефиниции «искусственный
интеллект», что сдерживает решение иных
юридических вопросов – о правосубъектности ИИ,
ответственности за вред
• Морхат П.М. среди проблем выделяет отсутствие
единого правового понимания и объяснения феномена
ИИ, ответственность за последствия действий
(бездействий) юнитов ИИ
Вышеизложенное свидетельствует, что обозначенные
правовые проблемы сводятся к необходимости :
- определения правового положения систем ИИ и, как
следствие, возможности их самостоятельного
опосредованного участия в гражданском обороте в
договорных и внедоговорных обязательствах;
- отнесения к субъектам или объектам права

13.

Место искусственного интеллекта среди
элементов состава правоотношений
Правоотношения – это
урегулированные правом и находящиеся
под охраной государства общественные
отношения, участники которых
выступают в качестве носителей
взаимно корреспондирующих друг другу
юридических прав и обязанностей.

14.

Структура и содержание правоотношений
Элементы состава правоотношения:
1)
2)
3)
4)
5)
объект,
субъект,
субъективное право,
юридическая обязанность,
юридические факты.
В любом отношении выделяются:
• фактическое содержание (экономическое, политическое и др.)
• юридическое содержание (субъективные права и обязанности
участников правоотношения)
• волевое содержание (воля государства и воля самих субъектов).

15.

Содержание правоотношения
• Субъективное право и юридическая
обязанность
Субъективное право это гарантируемые законом
вид и мера возможного или дозволенного
поведения лица
Юридическая обязанность – вид и мера должного
или требуемого поведения.
• Носитель права называется управомоченным,
носитель обязанности – правообязанным.
• Субъективные права и юридические
обязанности находятся в тесной взаимосвязи,
взаимозависимости, обусловлены друг другом.

16.

Правоотношение – это связь между
субъектами, которые имеют субъективные
права и юридические обязанности.
!Если кто-либо имеет субъективное право, то
неизбежно на ком-то другом лежит
юридическая обязанность.
!И наоборот, если лицо несет юридическую
обязанность, то другое лицо, которое обладает
правом, может требовать исполнения этой
обязанности.

17.

• Правоотношении в зависимости от функций права:
- правоохранительные
- регулятивные
• По степени конкретизации и субъектному составу
правоотношения подразделяются на:
- абсолютные (точно определена лишь одна сторона
правоотношения, все остальные субъекты обязаны
соблюдать его право)
- относительные (строго определены обе стороны)
• По количеству участником правоотношения различают:
- простые (между двумя субъектами)
- сложные (между несколькими или даже неограниченным
числом)

18.

Подходы к определению понятия
«искусственный интеллект»
ИИ как инновационное
техническое средство
объект правового
регулирования, на
которые воздействует
право
ИИ как технология, имеющая
способность к автономным действиям
и самосовершенствованию
субъект права,
способный
реализовывать
субъективные права и
осуществлять
юридические
обязанности

19.

Модель правового регулирования
искусственного интеллекта напрямую зависит
от определения места искусственного
интеллекта среди элементов правоотношения.
Проблема отнесения искусственного
интеллекта к субъекту или объекту
правоотношения является дискуссионной в
юридической науке

20.

Искусственный интеллект как объект
правового регулирования
Объекты правоотношений – это то, на что
направлены субъективные права и юридические
обязанности его участников, иными словами то, ради
чего возникает само правоотношение.
Объект правового регулирования - материальные и
духовные блага, предоставлением и использованием
которых удовлетворяются интересы управомоченной
стороны правоотношения.
• Перечень объектов гражданского права отражен в
ст. 128 Гражданского кодекса РБ об объектах
гражданских прав.
• В правовой науке отсутствует единство мнений по
поводу отнесения искусственного интеллекта к той
или иной разновидности объектов права

21.

Объекты правоотношений столь разнообразны,
сколь многообразны регулируемые правом
общественные отношения, т.е. сама жизнь.
В зависимости от характера и видов
правоотношений можно выделить следующие
объекты:
- материальные блага;
- нематериальные личные блага;
- поведение, действия субъектов, разного рода
услуги и их результаты;
- продукты духовного творчества;
- ценные бумаги, официальные документы.

22.

Правовые режимы ИИ как объекта
1) к технологии, закрепленной на материальном
носителе и вовлеченной в гражданский товарооборот
(роботы, беспилотные автомобили, дроны), можно
применять правовой режим вещи.
• Вещь является одним из основных объектов
гражданских прав. В связи с тем, что законодатель
не дает легального определения «вещи», то ее
можно толковать расширительно, в частности
считать вещами все телесные материальные блага.
• С этой точки зрения искусственный интеллект –
индивидуально-определенная вещь с присущим
уникальным производственным кодом и
регистрационным номером
(обязательная сертификация, аттестация и государственная регистрация
беспилотных летательных аппаратов (дронов))

23.

Правовые режимы ИИ как объекта
2) искусственный интеллект может быть определен
как источник повышенной опасности.
• ответственность за деятельность, связанную с
применением искусственного интеллекта, должны
нести лица, использующие искусственный
интеллект;
• в случае встроенного дефекта или
программирования с ошибкой в коде
ответственность в порядке регресса может быть
возложена на производителя или разработчика
искусственного интеллекта соответственно.

24.

Правовые режимы ИИ как объекта
3) в научной литературе нередко освещается
идея отнесения искусственного интеллекта к
объектам правового регулирования по
аналогии
с
правовым
режимом,
предусмотренным для животных

25.

Правовые режимы ИИ как объекта
4) искусственный интеллект выступает охраняемым
результатом интеллектуальной деятельности.
• В связи с чем, искусственный интеллект может быть
отнесен к разновидности компьютерной
программы/программы для
электронновычислительных машин либо к
разновидности мультимедийной продукции (от лат.
«Multum» («много») «Medium» «центр,
средоточие»).
• Отнесение искусственного интеллекта к
разновидности программ для электронновычислительных машин является традиционным
правовым подходом.

26.

Правовые режимы ИИ как объекта
4) ввиду того, что современный
искусственный интеллект является сложным
объектом, одновременно сочетающем в себе
компьютерные технологии и несколько
информационных сред: графику, текст, видео,
фотографию, анимацию, звуковые эффекты,
высококачественное звуковое сопровождение
– попытка его отнесения к разновидности
мультимедийной продукции также является
небезосновательной

27.

Таким образом, вопрос о правовой
квалификации искусственного интеллекта
должен разрешаться с учетом обстоятельств,
связанных с технической реализацией каждой
конкретной компьютерной программы. В этой
связи, искусственный интеллект может
выступать, в зависимости от ситуации,
вещью, источником повышенной опасности,
программой для электронновычислительных машин, сложным объектом
или даже базой данных

28.

Вывод
• Искусственный интеллект по состоянию на
сегодняшний день следует относить к
объектам правового регулирования.
• Учитываю специфику данного объекта
правового регулирования, в условиях
действующего законодательства, видится, что
правовое регулирование использования
искусственного интеллекта должно носить
комплексный характер и быть сосредоточено
на нормах о вещном праве, о причинении
вреда источником повышенной опасности, а
также нормах об авторском праве

29.

Искусственный интеллект как субъект
права
Субъекты правоотношения - это лица (субъекты
права), выступающие в качестве носителей
предусмотренных в законе прав и обязанностей.
Субъектами права являются лица или организации, за которыми
признано законом особое юридическое свойство (качество)
правосубъектности, дающее возможность участвовать в различных
правоотношениях с другими лицами и организациями.
Правосубъектность - юридическая категория, под
которой понимается способность физического или
юридического лица иметь и осуществлять,
непосредственно или через своих представителей,
юридические права и обязанности, то есть выступать
субъектом правоотношений

30.

• Правоспособность — способность лица
иметь гражданские права и нести
обязанности
• Дееспособность — это способность
гражданина своими действиями приобретать
и осуществлять гражданские права, создавать
для себя гражданские обязанности и
исполнять их.
• Деликтоспособность — способность нести
гражданско-правовую ответственность за
вред, причиненный его противоправным
действием либо бездействием

31.

Несмотря на то, что признание искусственного
интеллекта субъектом права посягает на
исключительный статус человека, в зарубежной
литературе предлагается использовать
компромиссные концепции, или статус «на
полпути», примером которой является немецкая
концепция Teilrechtsfähigkeit (частичная
правоспособность).

32.

ИИ как субъект права
«электронное лицо»
«квази-субъект»
• Искусственный интеллект по
аналогии с юридическими лицами
• субъект права, не обладающий
может обладать некоторыми
признаками субъекта права.
полноценной
Например:
правосубъектностью
- иметь регистрацию и учетный
• разновидности квазиномер,
субъектов:
- обладать производственнопублично-правовые образования,
хозяйственной компетенцией,
соответствующей целям его
выступающие в
деятельности;
правоотношениях в лице
- обладать материальной
государственных органов. Однако
ценностью;
даже для квази-субъектов права
- его можно привлечь к
характерно наличие такого
юридической ответственности
качества правосубъектности как
(например, в виде
принудительного отключения или воля, которой искусственный
доработки программы, а также
интеллект не обладает
утилизации).

33.

Понятие «электронное лицо»:
• электронное лицо должно быть ограничено по
правовому статусу, т.е. обладать статусом,
сопоставимым с юридическим лицом, который
позволяет ему подавать в суд или быть
судимым;
• электронное лицо - комплекс юридических
прав и обязанностей, которые определяются
действиями носителя искусственного
интеллекта.
• предложено считать электронное лицо
носителем искусственного интеллекта,
обладающим способностью принимать вне
заложенного алгоритма решения.

34.

Резолюция Парламента Европейского союза
№ 2015/2013
• Сложным автономным роботам предложено
придать статус электронных личностей
• Морхат П.М. «Концепт правосубъектности
«электронное лицо» может быть в
перспективе внедрен, но пока для весьма
ограниченного числа случаев сложных
роботизированных систем с ИИ»

35.

ИИ - «электронное лицо» («преимущества»)
• Во-первых, указанная позиция поддерживает
интересы разработчиков искусственного
интеллекта, освобождая их от социальной и
юридической ответственности за последствия своих
разработок;
• Во-вторых, в отличие от нематериального
юридического лица, искусственный интеллект
материален (если речь идет о роботах, беспилотных
автомобилях) или закреплен на материальных
носителях – компьютерах (если речь идет о
программах);
• В-третьих, действия юридических лиц всегда
восходят к действиям индивида или группы людей.

36.

Таким образом, определение термина «электронное
лицо» зависит от нескольких факторов:
• возможности правосубъектности,
• степени автономности,
• а также формализации образа и целеполагания
производства, что сопоставимо с возможностями
и способностями юнита общего искусственного
интеллекта.
Электронным лицом может быть признан
персонифицированный юнит, обладающий (общим)
«сильным» искусственным интеллектом, имеющий
зафиксированную обособленность от человека,
зависящую от функционально-целевого назначения
и возможностей такого юнита.

37.

Элементы автономности юнита
искусственного интеллекта

38.

Вывод
• способность к самообучению и автономной деятельности не является
достаточным основанием для наделения искусственного интеллекта
правосубъектностью;
• с позиции гражданского законодательства к животным применяются
общие правила об имуществе, несмотря на их высокие когнитивные
способности, возможности самообучения и самосовершенствования.
Таким образом, искусственные нейронные сети являются максимально
упрощенной моделью созданного миллионами лет эволюции
человеческого мозга.
• попытки сравнения искусственного интеллекта с физическими лицами
не выдерживают критики с точки зрения физиологии; когнитивные
способности искусственного интеллекта весьма ограничены в сравнении
с человеческими функциями мозга;
• обученная под конкретную задачу, искусственная нейросеть может легко
превзойти способности человека;
• бесспорным преимуществом искусственного интеллекта является
способность молниеносной обработки неограниченного числа данных,
техника превращения этих данных в цифру, обработка этой цифры
методами статистики и дискретной вычислительной математики и
получение ответа в интуитивно понятном для человека виде

39.

• несмотря на мощный когнитивный потенциал и
способность самостоятельно принимать решения,
искусственный интеллект обладает лишь той частью
свободы воли, возможность обладания которой
запрограммирована производителем технологии, и
поэтому не является самостоятельным носителем
правосубъектности и полноценным субъектом права;
• искусственный интеллект не является носителем
критически важных составляющих личности (души,
свободного сознания, чувств, интенциональности, личных
интересов);
• несмотря на сверхмощную скорость обработки
информации, в разы превосходящую возможности
человека, искусственный интеллект остается программой
с привязанным к ней материально техническим
обеспечением;
• отнесение искусственного интеллекта к субъектам права
является преждевременным и нецелесообразным

40.

Тезаурус в области правового регулирования
применения искусственного интеллекта
Термины:
• «электронное лицо»
• «юнит искусственного интеллекта»
• «носитель» искусственного интеллекта

41.

• Юнит искусственного интеллекта - это
носитель искусственного интеллекта,
обладающий искусственными средствами для
взаимодействия с окружающей средой и
автономностью принятия решения на основании
информации и в соответствии со способностями
и возможностями, определяемыми человеком.
• Из понятия "юнит искусственного интеллекта"
вытекает еще одно - широко обсуждаемое в
научной литературе "электронное лицо".
• Наибольшую дискуссию вызывает в юридической
науке возможность перехода юнита
искусственного интеллекта от статуса "объект" к
статусу "субъект", или, по-другому, возможность
его правосубъектности.

42.

Для понимания термина «искусственный интеллект»
важно соотношение его с понятием «машинное
обучение», определяемым как процесс получения и
обработки информации, и понятием «нейронная сеть»,
означающим способ реализации искусственного
интеллекта.
Именно процесс и способ реализации обусловили
разделение юнитов на носителей узкого и общего
искусственного интеллекта, так как электронным
лицом может стать только юнит общего
искусственного интеллекта в силу своих
возможностей и способностей.

43.

• Стремительное развитие и усовершенствование
искусственного интеллекта не гарантирует
продолжительное существование указанной
точки зрения. Вместе с тем, видится, что даже
сверхмощный и усовершенствованный
искусственный разум в обозримом будущем не
сможет занять место самостоятельного субъекта
права.
• Таким образом, обосновывается новый подход к
правовой природе новейших компьютерных
программ, который позволяет упростить
правовое регулирование данного предмета как
юридического целого, составленного из
множества разных частей (кода, текста, дизайна,
изображений и т.д.)

44.

Наиболее совершенные искусственные нейронные сети
имеют пять-шесть слоев. Человеческий мозг содержит
миллиарды нейронов с миллиардным количеством
связей. Также в искусственных нейросетях слои
нейронов срабатывают по очереди, последовательно; в
человеческом мозге обмен информацией между
нейронами идет параллельно и асинхронно.
Таким образом, попытки полноценного замещения
человеческого мозга искусственным интеллектом
несостоятельны по причине того, что искусственная
нейросеть всегда будет подобием, не способным
повторить оригинал

45.

Экспериментальные правовые режимы
Позволяют своевременно и эффективно
внедрять разработки в обход избыточных
административных процедур, не учитывающих
их специфику, и без корректировки всего
применимого законодательства, с обеспечением
необходимого уровня безопасности, защиты
прав граждан и контролируемости со стороны
государственных органов

46.

заключение
1. Правовое регулирование общественных
отношений, связанных с системами ИИ, находится
на стадии становления и развития
2. Постановка проблемы определения
правосубъектности систем ИИ не является
преждевременной. Объективно необходим поиск
эффективных моделей активизации в гражданский
оборот «умных роботов» и систем ИИ, решение
проблем гражданско-правовой ответственности
3. Сегодня системы ИИ могут рассматриваться как
объекты гражданских прав (имущество)

47.

Научные и исследовательские центры в
области искусственного интеллекта
• Соединённые Штаты Америки
– Массачусетский технологический институт
– Исследовательский институт машинного интеллекта
• Германия
– Немецкий исследовательский центр по искусственному
интеллекту
• Япония
– Национальный институт современной промышленной
науки и технологии (AIST)
• Россия
– Научный совет по методологии искусственного
интеллекта Российской академии наук
– Центр искусственного интеллекта НИУ ВШЭ
• Индия
– Индийский технологический институт в Мадрасе

48.

Искусственный интеллект и
право