Юридические аспекты использования ИИ

1.

Юридические аспекты
использования ИИ
Курс «Искусственный интеллект»
Лекция 12 из 17
К.т.н. Вылегжанина А.В.

2.

План лекции
• Искусственный интеллект и право
• Национальная стратегия развития ИИ
• Темы правового регулирования
• Проблема авторского права
2

3.

ДТП с участием беспилотного
автотранспорта
Кто виноват?
Кто должен ответить?
3

4.

Задача с вагонеткой
Когда допустимо переключить?
Если ДТП непреодолимо, то кем пожертвовать?
Пассажиром, пешеходом, лицом с меньшим
социальным рейтингом?
4

5.

Искусственный интеллект и право
Применение технологии распространяет свое
влияние практически на все сферы общественной
жизни: медицину, транспорт, экономику,
образование и т.д.
Развитие искусственного интеллекта диктует
необходимость поиска новых решений правового
регулирования технологии.
5

6.

Искусственный интеллект и право
Федеральный закон от 27 июля 2006 г. N 152-ФЗ
«О персональных данных»
Федеральный закон от 24 апреля 2020 г. N 123-ФЗ
"О проведении эксперимента по установлению
специального регулирования в целях создания
необходимых условий для разработки и внедрения
технологий искусственного интеллекта в субъекте
Российской Федерации - городе федерального
значения Москве и внесении изменений в статьи 6 и
10 Федерального закона "О персональных данных"
6

7.

Искусственный интеллект и право
Впервые понятие искусственный интеллект сформулировано на
подзаконном уровне Указом Президента РФ от 10 октября 2019 г.
№ 490 «О развитии искусственного интеллекта в Российской
Федерации»
Искусственный интеллект - комплекс технологических
решений, позволяющий имитировать когнитивные функции
человека (включая самообучение и поиск решений без
заранее заданного алгоритма) и получать при выполнении
конкретных задач результаты, сопоставимые, как минимум,
с результатами интеллектуальной деятельности человека.
Комплекс технологических решений включает в себя
информационно-коммуникационную инфраструктуру,
программное обеспечение (в том числе в котором
используются методы машинного обучения), процессы и
сервисы по обработке данных и поиску решений;
7

8.

Искусственный интеллект и право
Определение в полной мере охватывает доступные
на данный момент виды искусственного интеллекта в
широком понимании:
• искусственный интеллект, работающий на основе
заранее определенных задач (имеющихся знаний),
• искусственный интеллект, работающий автономно,
то есть технология, которая для выполнения задач
может потенциально полностью заменить человека.
8

9.

Искусственный интеллект и право
С технической точки зрения определение несколько
спорно:
• понятие "имитация когнитивных функций" человека
допускает различные интерпретации;
• если учитывать способность машины к
самообучению и решению задач "без алгоритмов",
как предлагает определение, то нужно учитывать
множество нюансов, чтобы термин имел четкий
смысл.
9

10.

План лекции
• Искусственный интеллект и право
• Национальная стратегия развития ИИ
• Темы правового регулирования
• Проблема авторского права
10

11.

Национальная стратегия развития ИИ
Указом Президента Российской Федерации от 10
октября 2019 года № 490 «О развитии искусственного
интеллекта в Российской Федерации» утверждена
«Национальная стратегия развития
искусственного интеллекта на период до
2030 года»
11

12.

Цели Стратегии
Целями Стратегии являются:
- обеспечение ускоренного развития искусственного
интеллекта для вхождения России в группу мировых
лидеров глобального рынка искусственного
интеллекта;
- создание возможностей для доминирования на
рынке и получения долгосрочных конкурентных
преимуществ;
- сохранение технологической независимости и
конкурентоспособности страны.
12

13.

Принципы развития и
использования технологий ИИ
Основные принципы развития и использования технологий
искусственного интеллекта, соблюдение которых обязательно
при реализации Стратегии (пункт 19) (1/3):
1. Защита прав и свобод человека: обеспечение защиты
гарантированных российским и международным
законодательством прав и свобод человека, в том числе права
на труд, и предоставление гражданам возможности получать
знания и приобретать навыки для успешной адаптации к
условиям цифровой экономики.
2. Безопасность: недопустимость использования
искусственного интеллекта в целях умышленного причинения
вреда гражданам и юридическим лицам, а также
предупреждение и минимизация рисков возникновения
негативных последствий использования технологий
искусственного интеллекта.
13

14.

Принципы развития и
использования технологий ИИ
Основные принципы развития и использования технологий
искусственного интеллекта, соблюдение которых обязательно
при реализации Стратегии (пункт 19) (2/3):
3. Прозрачность: объяснимость работы искусственного
интеллекта и процесса достижения им результатов,
недискриминационный доступ пользователей продуктов,
которые созданы с использованием технологий
искусственного интеллекта, к информации о применяемых в
этих продуктах алгоритмах работы искусственного интеллекта.
4. Технологический суверенитет: обеспечение необходимого
уровня самостоятельности Российской Федерации в области
искусственного интеллекта, в том числе посредством
преимущественного использования отечественных технологий
искусственного интеллекта и технологических решений,
разработанных на основе искусственного интеллекта.
14

15.

Принципы развития и
использования технологий ИИ
Основные принципы развития и использования технологий
искусственного интеллекта, соблюдение которых обязательно
при реализации Стратегии (пункт 19) (3/3):
5. Целостность инновационного цикла: обеспечение тесного
взаимодействия научных исследований и разработок в
области искусственного интеллекта с реальным сектором
экономики.
6. Разумная бережливость: осуществление и адаптация в
приоритетном порядке существующих мер, направленных на
реализацию государственной политики в научно-технической
и других областях.
7. Поддержка конкуренции: развитие рыночных отношений и
недопустимость действий, направленных на ограничение
конкуренции между российскими организациями,
осуществляющими деятельность в области искусственного
интеллекта.
15

16.

Принципы развития и
использования технологий ИИ
Использование искусственного интеллекта в
экономике носит «сквозной» характер и способствует
повышению эффективности производства и
формированию новых направлений деятельности, а в
социальной сфере позволяет создать условия для
повышения уровня жизни людей.
16

17.

Промежуточный итог
Законодательство в сфере ИИ несовершенно,
причем нигде в мире, и только начинает
складываться в отдельную область права.
17

18.

План лекции
• Искусственный интеллект и право
• Национальная стратегия развития ИИ
• Темы правового регулирования
• Проблема авторского права
18

19.

Темы правового регулирования
Среди горячих тем, возникающих в связи с
использованием технологии искусственного
интеллекта, выделяют следующие:
конфиденциальность данных;
безопасность и ответственность;
функционирование технологии "больших данных" (big data);
интеллектуальная собственность;
этика.
19

20.

Конфиденциальность данных
Основной составляющей искусственного интеллекта
являются данные, при этом именно их большое
количество позволяет системе обучаться, развиваться
и учиться самостоятельно принимать решения. По
этой причине следует отдельно проанализировать
Закон № 152-ФЗ на предмет соответствия
законодательству о персональных данных.
20

21.

Особые условия обработки ПД
Обработка персональных данных, то есть любые
действия (операции), совершаемые с персональными
данными (с использованием средств автоматизации или
без использования таких средств), для
исследовательских целей осуществляется только с
условием обязательного их обезличивания.
Особые условия обработки специальных категорий
персональных данных (касающихся расовой,
национальной принадлежности, политических взглядов,
религиозных или философских убеждений, состояния
здоровья, интимной жизни).
Специальные категории персональных данных, обладают
особым правовым статусом ввиду потенциальной
возможности наступления особо негативных последствий
для субъекта при нарушении условий их обработки.
21

22.

Особые условия обработки ПД
Сегодня обработка персональных данных,
касающихся состояния здоровья, полученных в
результате обезличивания персональных данных,
допускается в целях повышения эффективности
государственного или муниципального управления.
22

23.

Безопасность и ответственность
На сегодняшний день нет единого мнения по вопросу
юридической ответственности искусственного
интеллекта за причиненный вред жизни и здоровью
человека.
В ряде зарубежных стран имели место случаи
соответствующих ситуаций, что только подогрело
дискуссию о необходимости правового
регулирования ответственности искусственного
интеллекта.
23

24.

Безопасность и ответственность
В ряде случаев ставится вопрос о том, в каких сферах
применение искусственного интеллекта в целом
недопустимо или допустимо с соблюдением строгого
контроля за его деятельностью, что противоречит
сути функционирования искусственного интеллекта.
24

25.

Безопасность и ответственность
• Основной проблемой правового регулирования в
сфере искусственного интеллекта является
распределение ответственности за вред,
причиненный действиями робота.
• По современному законодательству не всегда
непосредственный причинитель ущерба несет
ответственность.
25

26.

Подходы к правовому регулированию
искусственного интеллекта в мире
К настоящему моменту в мире сложились два
основных подхода в этой области:
• Юридический или легалистский – Legalistic Approach
• Технологический – предусматривает «движение» от
технологических изменений: появления
беспилотников, роботов – личных помощников,
экзоскелетов и т.д.
26

27.

Юридический подход
состоит в том, чтобы исходить из существующей
правовой системы и формулировать перечни
проблемных вопросов, возникающих из-за
использования роботов и связанных с
ответственностью, конфиденциальностью,
кибербезопасностью.
27

28.

Технологический подход
Сторонники технологического подхода настаивают на
вторичности права.
Примером такого подхода может служить Стратегия в
области искусственного интеллекта, предложенная
французским синдикатом Syntec Numérique, (около 80%
продаж цифрового сектора):
• искусственный интеллект не требует специальной
правовой базы;
• он проникнет во многие сферы, поэтому не стоит
принимать общего закона, так как технологий много;
• они различаются в транспортной сфере, в медицине и
т.д. и в каждой области нужно свое регулирование
28

29.

Технологический подход
По мнению сторонников технологического подхода,
достаточным будет страхование ответственности
роботов за их действия, когда от экономического
эффекта при использовании робота в специальный
фонд должен отчисляться процент, из чего
покрывается нанесенный роботом ущерб.
29

30.

Комбинированный подход
В итоге ни юридический, ни технологический подход
пока не доминируют – на практике реализуется
комбинированный подход.
И тот на сегодня остается предметом исследований в
области права.
30

31.

План лекции
• Искусственный интеллект и право
• Национальная стратегия развития ИИ
• Темы правового регулирования
• Проблема авторского права
31

32.

Проблема авторского права
Вопросы правового регулирования интеллектуальной
собственности, созданной с использованием
искусственного интеллекта:
• На данный момент проблема интеллектуальной
собственности не может быть решена на уровне
государственных органов РФ.
• Основная проблема заключается в отсутствии
общего подхода к регулированию интеллектуальной
собственности в сфере искусственного интеллекта
не только в Российской Федерации, но в
зарубежных странах.
32

33.

Проблема авторского права
ИИ сгенерировал изображение человека. Кому
принадлежат исключительные авторские права на
это изображение?
• Владельцу ИИ
• Оператору, использовавшему публичный доступ к
интерфейсу ИИ
• Самому ИИ
• Кому-то другому? Кому?
33

34.

Проблема авторского права
В 2016 году программы The Next Rembrandt
разрушило представление людей о том, что ИИ не
может творить. Данная программа проводит анализ
картин Рембрандта и на основе полученных данных
создаёт собственные картины, которые невозможно
отличить от кисти великого мастера.
Кому принадлежит исключительное право на эти
картины?
34

35.

Международный опыт в решении
проблемы авторского права ИИ
В соответствии с Законом об авторском праве
Великобритании, автором считается лицо,
использующее какой-либо инструмент для
достижения поставленной цели.
Американское законодательство базируется на том,
что автором произведения науки или искусства
может быть человек. Верховный суд США указывает
на то, что не может быть объектом авторского права
произведение, в котором отсутствует минимальный
творческий вклад сознания автора. Сознанием ИИ не
обладает, поэтому получается, что автором может
быть только человек.
35

36.

Опыт РФ в решении проблемы
авторского права ИИ
Анализируя пункт 1 статьи 1228 Гражданского кодекса
Российской Федерации (далее – ГК РФ) можно сделать вывод,
что автором произведения науки или искусства также может
быть только физическое лицо.
Исходя из буквального толкования статьи 1228 ГК РФ,
приходим к выводу о том, что не может быть признано
автором произведения науки и искусства лицо, которое
разработало программу, создавшую это произведение,
поскольку «не признаются авторами результата
интеллектуальной деятельности граждане, не внесшие
личного творческого вклада в создание такого результата».
По этому поводу приведём высказывание А.А. Семёновой:
«С учетом этого целесообразно было бы признать авторство
на работу «умной машины» за лицом, создавшим программу»
36

37.

Опыт РФ в решении проблемы
авторского права ИИ
Подходит к этой позиции и статья 136 ГК РФ, в
которой говорится, что право собственности на
плоды, продукцию, доходы принадлежат
собственнику вещи.
Но здесь стоит отметить, что в соответствии с пунктом
3 ст. 1227 ГК РФ к интеллектуальным правам не
применяются положения о праве собственности и
других вещных правах.
Таким образом, вопрос об авторстве находится как
бы в «подвешенном» состоянии.
37

38.

Что в итоге…
В статье 12 Конвенции ООН «Об использовании
электронных сообщений в международных
договорах» (2005 год).
Суть данной нормы заключается в том, что
операции, которые были совершены
компьютером, можно рассматривать как действия
физических или юридических лиц, от имени
которых используется компьютер. Ввиду
отсутствия судебной практики эту норму косвенно
можно связать непосредственно с действиями
ИИ.
38

39.

Что в итоге…
На вопрос о том, может ли ИИ быть признан автором
следует ответить – нет, на данный момент не может.
Российское законодательство не имеет специальных
норм, регулирующих деятельность ИИ, поэтому
вопрос о том, кого считать автором произведения,
созданного ИИ, остаётся открытым.
На данный момент в российском законодательстве
имеется очевидный пробел, дающий возможность
создания произведения без автора, а значит
созданное ИИ произведение будет считаться
общественным достоянием.
39