ai_international_law_presentation_extended

1.

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ
И ЦИФРОВИЗАЦИЯ
Новые вызовы для международно-правовой культуры
Научный доклад • Международная конференция • Санкт-Петербург
НАУЧНЫЙ ДОКЛАД • ИИ И МЕЖДУНАРОДНО-ПРАВОВАЯ КУЛЬТУРА
01

2.

Проблема и актуальность исследования
Цифровые технологии становятся фактором международных отношений и правового развития
ТРАНСГРАНИЧНОСТЬ
МАСШТАБ ВОЗДЕЙСТВИЯ
НОВЫЕ РИСКИ
Данные, цифровые платформы и
алгоритмические сервисы
действуют одновременно в
нескольких юрисдикциях.
Автоматизированные решения
способны затрагивать большие
группы людей и влиять на доступ
к правам.
Непрозрачность алгоритмов,
дискриминация,
информационные манипуляции
и размывание ответственности.
Ключевая
проблема
Как обеспечить технологическое развитие, не снижая
уровень международных гарантий прав человека и
верховенства права?
НАУЧНЫЙ ДОКЛАД • ИИ И МЕЖДУНАРОДНО-ПРАВОВАЯ КУЛЬТУРА
02

3.

Исследовательская рамка
Основные элементы научного подхода
ЦЕЛЬ
Определить, как ИИ и цифровизация трансформируют международно-правовую
культуру.
ОБЪЕКТ
Общественные отношения, складывающиеся в процессе международного
взаимодействия в цифровой среде.
ПРЕДМЕТ
Международно-правовые нормы, принципы и механизмы регулирования ИИ.
МЕТОДЫ
Формально-юридический, сравнительно-правовой, системный и аналитический
методы.
ГИПОТЕЗА
Устойчивое регулирование требует сочетания универсальных правовых принципов и
гибких механизмов управления рисками.
НАУЧНЫЙ ДОКЛАД • ИИ И МЕЖДУНАРОДНО-ПРАВОВАЯ КУЛЬТУРА
03

4.

Центральный тезис исследования
ИИ меняет не только предмет регулирования, но и саму международно-правовую среду
Искусственный интеллект трансформирует способы:
01
РЕАЛИЗАЦИИ
прав и свобод человека
02
ОСУЩЕСТВЛЕНИЯ
государственного суверенитета
03
ВЗАИМОДЕЙСТВИЯ
государств и международных организаций
04
ОПРЕДЕЛЕНИЯ
юридической ответственности
НАУЧНЫЙ ДОКЛАД • ИИ И МЕЖДУНАРОДНО-ПРАВОВАЯ КУЛЬТУРА
04

5.

Международно-правовая культура: что меняется?
Это не только совокупность норм, но и практика их понимания, применения и соблюдения
НОРМАТИВНОЕ ИЗМЕРЕНИЕ
ИНСТИТУЦИОНАЛЬНОЕ ИЗМЕРЕНИЕ
Появляются новые стандарты прозрачности,
безопасности, контроля и защиты данных.
Меняются функции государств, международных
организаций, судов и надзорных органов.
ПРАВОПРИМЕНИТЕЛЬНОЕ ИЗМЕРЕНИЕ
ЦЕННОСТНОЕ ИЗМЕРЕНИЕ
Возникают вопросы доказательств, объяснимости
решений и доступа к эффективному средству
защиты.
Технологический прогресс соотносится с
достоинством личности, равенством и
справедливостью.
НАУЧНЫЙ ДОКЛАД • ИИ И МЕЖДУНАРОДНО-ПРАВОВАЯ КУЛЬТУРА
05

6.

Международные подходы к регулированию ИИ
Формируется многоуровневая нормативная система
ООН
Резолюция ГА ООН 78/265 (2024): безопасные и надёжные системы ИИ;
Глобальный цифровой договор (2024).
ЮНЕСКО
Рекомендация об этических аспектах ИИ (2021): права человека,
справедливость, прозрачность, оценка воздействия.
СОВЕТ ЕВРОПЫ
Рамочная конвенция CETS No. 225: ИИ, права человека, демократия и
верховенство права.
ЕВРОПЕЙСКИЙ СОЮЗ
AI Act — Регламент (ЕС) 2024/1689: регулирование на основе уровней риска.
Юридическое различие: международный договор ≠ рекомендация «мягкого права» ≠ акт права ЕС.
Документы: A/RES/78/265; A/RES/79/1; UNESCO Recommendation (2021); CETS No. 225; Regulation (EU) 2024/1689.
НАУЧНЫЙ ДОКЛАД • ИИ И МЕЖДУНАРОДНО-ПРАВОВАЯ КУЛЬТУРА
06

7.

Права человека — центральный критерий регулирования
Технологическая эффективность не отменяет международных гарантий
01
ЧАСТНАЯ ЖИЗНЬ
Массовый сбор, анализ и трансграничная передача персональных
данных.
02
РАВЕНСТВО И
НЕДИСКРИМИНАЦИЯ
Предвзятые обучающие данные и алгоритмически
воспроизводимое неравенство.
03
СВОБОДА ВЫРАЖЕНИЯ
Автоматическая модерация, фильтрация контента и
информационные манипуляции.
04
СПРАВЕДЛИВАЯ ПРОЦЕДУРА
Автоматизированные решения, право знать основания и
возможность обжалования.
Базовый ориентир: Международный пакт о гражданских и политических правах 1966 года.
НАУЧНЫЙ ДОКЛАД • ИИ И МЕЖДУНАРОДНО-ПРАВОВАЯ КУЛЬТУРА
07

8.

Ответственность за последствия применения ИИ
Цифровая система не должна становиться «зоной безответственности»
РАЗРАБОТЧИК
архитектура, обучение,
тестирование
ПОСТАВЩИК
→
интеграция,
обновления,
документация
ОПЕРАТОР
→
контекст применения,
человеческий надзор
ГОСУДАРСТВО
→
правила, надзор,
эффективные гарантии
ИИ не признаётся общим самостоятельным субъектом международной юридической
ответственности.
Ответственность определяется применительно к государствам, организациям и физическим лицам — с
учётом применимых норм и конкретной роли.
НАУЧНЫЙ ДОКЛАД • ИИ И МЕЖДУНАРОДНО-ПРАВОВАЯ КУЛЬТУРА
08

9.

ИИ, международная безопасность и гуманитарное право
Особую остроту проблема приобретает в контексте вооружённых конфликтов
Автономные и полуавтономные системы вооружений
Возникает вопрос о пределах делегирования машине функций выбора и поражения целей.
Принцип различения
Необходимо отличать комбатантов и военные объекты от гражданских лиц и объектов.
Принцип соразмерности
Ожидаемый сопутствующий вред гражданским лицам не должен быть чрезмерным.
Меры предосторожности
Требуются проверка системы, оценка условий применения и возможность отмены решения.
Человеческий контроль остаётся ключевым условием соблюдения международного гуманитарного права.
Нормативный ориентир: Дополнительный протокол I к Женевским конвенциям 1977 года.
НАУЧНЫЙ ДОКЛАД • ИИ И МЕЖДУНАРОДНО-ПРАВОВАЯ КУЛЬТУРА
09

10.

Российский правовой контекст
Национальное регулирование развивается через стратегические, отраслевые и экспериментальные механизмы
УКАЗ ПРЕЗИДЕНТА РФ № 490 (2019)
Национальная стратегия развития искусственного интеллекта на период
до 2030 года.
УКАЗ ПРЕЗИДЕНТА РФ № 124 (2024)
Изменения в стратегические ориентиры развития ИИ.
ФЕДЕРАЛЬНЫЙ ЗАКОН № 152-ФЗ
Защита персональных данных при их обработке.
ФЕДЕРАЛЬНЫЙ ЗАКОН № 149-ФЗ
Общие основы регулирования информации и информационных
технологий.
ФЕДЕРАЛЬНЫЙ ЗАКОН № 123-ФЗ (2020)
Экспериментальный правовой режим в Москве; не является всеобщим
законом об ИИ.
Нормативные акты РФ: официальные публикации на pravo.gov.ru.
НАУЧНЫЙ ДОКЛАД • ИИ И МЕЖДУНАРОДНО-ПРАВОВАЯ КУЛЬТУРА
10

11.

Цифровой суверенитет и международное сотрудничество
Задача — согласовать национальную автономию с трансграничной природой цифровой среды
ЦИФРОВОЙ СУВЕРЕНИТЕТ
МЕЖДУНАРОДНАЯ СОВМЕСТИМОСТЬ
Контроль над критической инфраструктурой,
данными, технологическими зависимостями и
национальной безопасностью.
Обмен информацией, совместимые стандарты,
предотвращение правовых коллизий и
трансграничное сотрудничество.
Баланс
Защита национальных интересов не должна превращаться в
фрагментацию глобального цифрового пространства.
НАУЧНЫЙ ДОКЛАД • ИИ И МЕЖДУНАРОДНО-ПРАВОВАЯ КУЛЬТУРА
11

12.

Авторская модель ответственного ИИ
Семь взаимосвязанных принципов международно-правовой культуры
01
Приоритет человеческого достоинства и
прав человека
02
03
Прозрачность и объяснимость соразмерно
риску
04
05
07
Недискриминация и справедливость
06
Содержательный человеческий контроль
Подотчётность и прослеживаемость
решений
Соразмерность и управление рисками
Международная совместимость и
солидарность
НАУЧНЫЙ ДОКЛАД • ИИ И МЕЖДУНАРОДНО-ПРАВОВАЯ КУЛЬТУРА
12

13.

Практическое предложение: оценка воздействия ИИ
Проверка до внедрения и периодически на протяжении жизненного цикла системы
01
Определить цель, контекст и правовое основание
применения.
02
Установить, какие права и группы лиц могут быть
затронуты.
03
Оценить вероятность и тяжесть возможного
вреда.
04
Проверить качество данных, модель и
устойчивость результатов.
05
Назначить ответственных и определить границы
человеческого контроля.
06
Обеспечить мониторинг, механизм жалоб и
реагирование на инциденты.
НАУЧНЫЙ ДОКЛАД • ИИ И МЕЖДУНАРОДНО-ПРАВОВАЯ КУЛЬТУРА
13

14.

Основные выводы
1.
ИИ трансформирует международно-правовую культуру, а не только создаёт новый объект
регулирования.
2.
Универсальные права человека должны оставаться пределом технологической автономии.
3.
Ответственность должна распределяться по реальным ролям участников жизненного цикла ИИ.
4.
Эффективное регулирование требует сочетания международных стандартов и национальных
механизмов.
5.
Оценка воздействия ИИ и содержательный человеческий контроль способны стать
практическими гарантиями.
НАУЧНЫЙ ДОКЛАД • ИИ И МЕЖДУНАРОДНО-ПРАВОВАЯ КУЛЬТУРА
14

15.

Основные международные источники
Нормативная и концептуальная основа исследования
1.
Международный пакт о гражданских и политических правах. 1966.
2.
Дополнительный протокол I к Женевским конвенциям. 1977.
3.
UNESCO. Recommendation on the Ethics of Artificial Intelligence. 2021.
4.
UN General Assembly. A/RES/78/265. 2024.
5.
UN General Assembly. A/RES/79/1 — Pact for the Future, включая Global Digital Compact. 2024.
6.
Council of Europe Framework Convention on AI, Human Rights, Democracy and the Rule of Law. CETS No. 225. 2024.
7.
Regulation (EU) 2024/1689 — Artificial Intelligence Act.
Примечание: правовой статус документов различается; рекомендации и резолюции не следует автоматически приравнивать к международным
договорам.
НАУЧНЫЙ ДОКЛАД • ИИ И МЕЖДУНАРОДНО-ПРАВОВАЯ КУЛЬТУРА
15