Преза

1.

Конфиденциальность
и защита
персональных
данных
в эпоху ИИ: подходы к
обеспечению приватности
Докладчик: Эдилов
Станислав Валидович
01

2.

Введение
Актуальность проблемы
— ИИ обрабатывает анкеты, фото, голос,
переписки и историю действий
— чем больше данных, тем точнее сервис,
но выше риск утечки и слежки
— пользователь часто не понимает, какие
сведения попали в модель
— приватность нужна до обучения, во
время эксплуатации и после внедрения
Приватность — это контроль над всем жизненным циклом данных.
02

3.

Базовые понятия
Что считается персональными
данными
— это сведения, по которым можно прямо
или косвенно узнать человека
— ИИ соединяет признаки: лицо, голос,
геолокацию, тексты и покупки
— даже обезличенные данные могут
раскрываться при объединении источников
— важно учитывать не только отдельное
поле, но и весь цифровой профиль
Формула риска: данные → модель → выводы о человеке → последствия.
03

4.

Базовые понятия
Категории данных в ИИ-системах
— идентификаторы: ФИО, номер телефона,
почта, аккаунты и устройства
— поведенческие данные: клики, маршруты,
покупки и поисковые запросы
— биометрия и медицина относятся к
наиболее чувствительным категориям
— риск возрастает, когда разные источники
связываются в единый профиль
ИИ ценен именно тем, что видит связи между разными типами сведений.
04

5.

Жизненный цикл данных
Жизненный цикл персональных
данных
— сбор начинается с формы, приложения,
датчика или внешнего источника
— хранение требует сроков, целей и
ограниченного доступа
— обучение и применение модели создают
новые выводы о человеке
— мониторинг нужен до удаления данных или
вывода системы из эксплуатации
Защита должна сопровождать данные на каждом этапе, а не только в базе хранения.
05

6.

Риски приватности
Основные риски приватности
— избыточный сбор данных без понятной
цели обработки
— формальное согласие, когда
пользователь не понимает условий
— передача данных партнёрам, облачным
сервисам и подрядчикам
— утечка обучающих данных через
модель, запросы или доступы
Риск возникает не в одной точке, а во всей цепочке обработки.
06

7.

Риски приватности
Профилирование и скрытые выводы
— модель может предсказывать интересы,
привычки, доход, здоровье или вероятность
отказа
— такие выводы часто не видны
пользователю и не вводятся им напрямую
— персонализация может превращаться в
наблюдение и манипуляцию поведением
— особенно опасны решения, влияющие на
цены, доступ и возможности человека
ИИ работает не только с данными о человеке, но и с выводами о его будущем поведении.
07

8.

Риски приватности
Утечки и вторичное использование
данных
— данные могут попасть к подрядчику, в
облачную среду или во внешний сервис
— одна база часто используется повторно
для новых целей, о которых пользователь не
знает
— утечка может раскрыть не только исходные
записи, но и связанный профиль
— риск повышается при слабом контроле
доступа и длинном сроке хранения
Чем больше копий и связей у данных, тем сложнее контролировать их судьбу.
08

9.

Правовая основа
Согласие и законная цель обработки
— перед сбором данных должна быть
понятная цель обработки
— пользователь должен видеть, какие
данные обязательны, а какие можно не
передавать
— согласие должно быть осознанным, а не
скрытым в длинном тексте
— при изменении цели обработки
требуется новая оценка рисков
Согласие не защищает само по себе, если цель и последствия обработки непонятны.
09

10.

Правовая основа
Права пользователя
— человек должен знать, кто и зачем
использует его данные
— важны права доступа, исправления,
удаления и отзыва согласия
— пользователь должен иметь
возможность оспорить значимое
автоматизированное решение
— организации обязаны объяснять логику
обработки в понятной форме
Приватность невозможна без реального контроля пользователя над своими данными.
10

11.

Правовая основа
Документы и ответственность
организации
— нужно фиксировать цели, категории
данных, сроки хранения и круг доступа
— для рискованных ИИ-систем важны аудит,
журналирование и контроль решений
— ответственность должна быть
распределена между владельцем данных,
разработчиком и оператором
— документация помогает доказать, что
защита не была формальной
Закон задаёт рамки, но защита зависит от реализации системы.
11

12.

Принципы защиты
Минимизация данных
— собирать только те данные, которые
нужны для функции сервиса
— не хранить сведения «на всякий случай»
без понятного назначения
— отделять обязательные поля от
необязательных сведений
— регулярно удалять устаревшие записи и
временные копии
Лучшие данные для защиты — те, которые система не собирает.
12

13.

Принципы защиты
Приватность по умолчанию
— настройки сервиса должны быть
безопасными уже при первом запуске
— лишние разрешения, широкая
видимость и автосбор данных нужно
отключать заранее
— пользователь не должен искать защиту
в сложных меню
— проектирование начинается с вопроса:
какие данные можно вообще не трогать
Безопасная настройка по умолчанию снижает риск ещё до первого действия пользователя.
13

14.

Принципы защиты
Приватность при проектировании
— защита закладывается в архитектуру, а не
добавляется после запуска
— на каждом этапе фиксируются цель, объём
данных и срок хранения
— доступ выдаётся только тем, кому он
действительно необходим
— после внедрения система должна
мониториться и регулярно проверяться
Приватность должна быть встроена в архитектуру ИИ-системы.
14

15.

Обезличивание
Обезличивание и повторная
идентификация
— удаление ФИО не гарантирует полную
анонимность человека
— дата рождения, район, покупки и
устройство могут снова указать на
личность
— чем больше баз объединяется, тем
выше риск раскрытия профиля
— анонимизацию нужно проверять на
повторную идентификацию
Анонимизация работает только вместе с проверкой риска повторной идентификации.
15

16.

Обезличивание
Псевдонимизация и разделение
данных
— идентификаторы можно заменить
техническими кодами или токенами
— таблицы с ключами соответствия нужно
хранить отдельно и защищать сильнее
— псевдонимизация снижает риск, но не
делает данные полностью анонимными
— доступ к связке «код → человек» должен
быть строго ограничен
Псевдонимизация полезна, когда системе нужны данные, но не нужна личность человека.
16

17.

Чувствительные данные
Биометрия, здоровье и поведение
— лицо, голос, медицинские показатели и
маршруты требуют повышенной защиты
— такие данные трудно заменить после
утечки: пароль можно сменить, лицо — нет
— ИИ может выявлять скрытые признаки
здоровья или состояния человека
— доступ к чувствительным данным должен
быть минимальным и обоснованным
Чем чувствительнее данные, тем строже должны быть цель, доступ и срок хранения.
17

18.

Техническая защита
Контроль доступа и роли
— каждый сотрудник и сервис должны
получать только нужный минимум прав
— важны отдельные роли для
разработчиков, аналитиков, операторов и
администраторов
— доступ к данным должен
подтверждаться, логироваться и регулярно
пересматриваться
— лишние права часто становятся
причиной утечек и злоупотреблений
Контроль доступа — это практическое воплощение принципа минимальных привилегий.
18

19.

Техническая защита
Шифрование и безопасная передача
— шифрование защищает данные при
хранении и передаче
— ключи шифрования должны храниться
отдельно от самих данных
— защищённые каналы уменьшают риск
перехвата между сервисами
— резервные копии и журналы тоже
требуют шифрования
Шифрование снижает ущерб от утечки, но не заменяет контроль доступа и целей обработки.
19

20.

Техническая защита
Дифференциальная приватность
— метод добавляет контролируемый шум к
статистике и результатам анализа
— отдельная запись становится менее
заметной в общем наборе данных
— подход полезен для отчётов, аналитики
и обучения на чувствительных данных
— важно подбирать баланс между
приватностью и точностью результата
Дифференциальная приватность помогает получать статистику без раскрытия конкретного
человека.
20

21.

Техническая защита
Федеративное обучение
— модель обучается на устройствах или
локальных серверах без передачи сырых
данных
— в центр отправляются обновления модели,
а не исходные записи пользователя
— это снижает риск централизованной
утечки, но не отменяет защиту обновлений
— метод полезен для медицины, мобильных
сервисов и распределённых организаций
Федеративное обучение уменьшает передачу данных, но требует защиты модели и каналов
связи.
21

22.

Техническая защита
Атаки на приватность модели
— модель может непреднамеренно
раскрывать сведения из обучающей выборки
— атакующий пытается понять, была ли
запись конкретного человека в данных
обучения
— генеративные модели могут
воспроизводить фрагменты чувствительной
информации
— защита требует фильтрации данных,
ограничений доступа и тестирования на
утечки
Приватность нужно проверять не только в базе данных, но и в самой модели.
22

23.

Процессы контроля
Аудит, журналы и мониторинг
— журналы доступа показывают, кто и
когда работал с персональными данными
— мониторинг помогает заметить
необычные запросы, массовые выгрузки и
сбои
— аудит проверяет соответствие целей,
прав доступа и фактической обработки
— результаты проверок нужно превращать
в конкретный план исправлений
Без мониторинга организация узнаёт о проблеме слишком поздно.
23

24.

Процессы контроля
Реагирование на инциденты
— заранее должен быть план действий при
утечке, ошибке модели или
несанкционированном доступе
— важно быстро остановить
распространение данных и сохранить
доказательства
— команда должна понимать роли: техника,
юристы, руководство и коммуникации
— после инцидента нужно устранить причину,
а не только восстановить сервис
Хорошая защита включает не только профилактику, но и готовность к сбою.
24

25.

Выводы
Итог
— ИИ усиливает ценность персональных
данных и риски их потери
— защита начинается с минимизации и
понятного контроля пользователя
— технические, правовые и организационные
меры должны работать вместе
— доверие к ИИ строится на прозрачности,
ответственности и уважении к человеку
Приватный ИИ решает задачу без лишнего вмешательства в жизнь человека.
25