гум аспекты 3 през

1.

ИНФОРМАЦИОННАЯ БЕЗОПАСНОСТЬ / ДОКЛАД
Когнитивные аспекты
информационной
безопасности
Как мышление, логика и ИИ влияют на решения о
безопасности
КОГНИТИВНЫЕ ИСКАЖЕНИЯ
ГЕНЕРАТИВНЫЙ ИИ
ПРАКТИКИ ЗАЩИТЫ
1

2.

ЧЕЛОВЕЧЕСКИЙ ФАКТОР
Человек — часть контура безопасности
Манипуляция часто начинается не с техники, а с того, как мы читаем и оцениваем сообщение.
01
02
03
Предвзятость
подтверждения
Авторитет и
социальное доказательство
Эмоциональный
импульс
Замечаем сведения, которые
поддерживают прежнее мнение, и
легче отбрасываем противоречия.
Должность, известное имя, просмотры
и репосты создают ощущение
надёжности, но не доказывают
утверждение.
Страх или возмущение подталкивают
открыть ссылку и переслать пост до
проверки фактов.
ПАУЗА
→
ПРОВЕРКА АВТОРА
→
Источник: ENISA, Cybersecurity Culture Guidelines: Behavioural Aspects of Cybersecurity (2019).
ПЕРВОИСТОЧНИК
Популярность и эмоция — повод проверить, а не доказательство.
2

3.

ЛОГИКА АРГУМЕНТАЦИИ
Логические ошибки: как нас убеждают
01
Ложная дилемма
«Установите сейчас — или потеряете данные». Игнорируются другие, безопасные варианты.
ПРОВЕРЬ СВЯЗЬ
Довод
02
Поспешное обобщение
Один неверный ответ нейросети не доказывает, что все модели бесполезны.
↓
Доказательство
↓
03
Ложная причинно-следственная связь
Вывод
Компьютер замедлился после установки программы — но это ещё не доказывает причину.
Убедительность формулировки не заменяет доказательств.
Источник: Texas A&M University Writing Center, Fallacies: виды ошибок аргументации.
3

4.

ГЕНЕРАТИВНЫЙ ИИ
Убедительный текст — ещё не достоверный ответ
КАЧЕСТВО ИЗЛОЖЕНИЯ
ИИ может писать
грамотно и уверенно
PROMPT INJECTION
Внешний контент пытается управлять
ассистентом
Документ или веб-страница
Но связность ответа и деловой тон не
гарантируют фактическую точность.
↓
Скрытая / замаскированная инструкция
↓
Утечка данных или нежелательное действие
Ответ ИИ ≠ независимая экспертная проверка
Разделяй инструкции и данные • ограничивай доступы • подтверждай
рискованные действия
Источники: OWASP, Top 10 for LLM Applications (2025) [3]; Microsoft Learn, Prompt Injection (Direct / Indirect) [4].
4

5.

НОВЫЕ ПОВЕРХНОСТИ АТАКИ
Новые интерфейсы меняют условия доверия
VR / AR
НЕЙРОТЕХНОЛОГИИ
Виртуальная и
дополненная реальность
Поддельный аватар или элемент интерфейса может
имитировать службу поддержки и побуждать к опасному
действию.
297
Чувствительные данные требуют
особой защиты
Приоритеты
информированное согласие
контроль доступа
участников исследования 2026 года
ментальная приватность и автономия
Защитное поведение связывали с восприятием угрозы,
осведомлённостью и опасениями о приватности.
Риск приватности ≠ «чтение мыслей»
Источники: Alsharida R. et al., Technology in Society, 86 (2026); OECD, Neurotechnology.
5

6.

ПРАКТИЧЕСКИЙ АЛГОРИТМ
Как проверить спорное сообщение
1
2
3
4
Что утверждается?
Какие есть доказательства?
Следует ли вывод?
Кто подтверждает?
Выдели конкретный тезис
Найди данные и первоисточник
Проверь логику аргумента
Сверь с независимыми источниками
МЕТОД SIFT
Четыре действия для проверки информации
S
Stop
I
Investigate
F
Find
T
Trace
Остановись
Изучи источник
Найди лучшее освещение
Проследи до оригинала
Не делись сообщением на
эмоциях.
Проверь, кто и с какой целью
опубликовал.
Сравни с более надёжными
материалами.
Верни цитату или утверждение в
контекст.
Источник: Mike Caulfield, SIFT: The Four Moves (2019).
6

7.

ИТОГ
Устойчивая защита — это несколько уровней
01
02
Когнитивный
Организационный
03
Технический
Делай паузу перед срочным действием
Тренируйся на практических сценариях
Ограничивай права приложений и ИИ
Проверяй источник и доказательства
Сообщай о подозрительных материалах
Разделяй инструкции и внешний контент
Отделяй факт от интерпретации
Подтверждай важные изменения
отдельно
Подтверждай рискованные действия
Не недоверие ко всему подряд, а привычка проверять источник, доказательства и логику вывода.
Источники: ENISA, Cybersecurity Culture Guidelines (2019); OWASP, Top 10 for LLM Applications (2025); Microsoft Learn.
7