ИИ в ИБ — презентация

1.

ИНДИВИДУАЛЬНЫЙ ПРОЕКТ · ИНФОРМАЦИОННАЯ БЕЗОПАСНОСТЬ
ИИ в
информационной
безопасности
03:00
Failed password for root 203.0.113.3
03:00
Invalid user git 198.51.100.56
03:01
Failed password for root 192.0.2.109
03:01
Invalid user test 203.0.113.162
03:02
Failed password for root 198.51.100.215
03:02
Invalid user admin 192.0.2.18
03:03
Failed password for root 203.0.113.71
03:03
Invalid user guest 198.51.100.124
anomaly-net: окно 03:04 — аномалия
03:04
Invalid user support 203.0.113.230
03:05
Failed password for root 198.51.100.33
03:05
Invalid user deploy 192.0.2.86
03:06
Failed password for root 203.0.113.139
03:06
Invalid user git 198.51.100.192
03:07
Failed password for root 192.0.2.245
03:07
Invalid user test 203.0.113.48
03:08
Failed password for root 198.51.100.101
anomaly-net: окно 03:08 — аномалия
Защита, атаки и мой детектор аномалий на
автоэнкодере
Константин · [класс / группа]
Руководитель: [ФИО] · 2026
03:09
Failed password for root 203.0.113.207
03:09
Invalid user guest 198.51.100.10
03:10
Failed password for root 192.0.2.63
03:10
Invalid user support 203.0.113.116
03:11
Failed password for root 198.51.100.169
03:11
Invalid user deploy 192.0.2.222
03:12
Failed password for root 203.0.113.25
03:12
Invalid user git 198.51.100.78
anomaly-net: окно 03:13 — аномалия
03:13
Invalid user test 203.0.113.184

2.

МОЙ СЕРВЕР · ОДНИ СУТКИ
15 000
неудачных попыток входа по SSH. Это боты перебирают пароли на
всех серверах подряд.
Вопрос проекта: может ли нейросеть понять, что для сервера «нормально», — и заметить
настоящую атаку в этом шуме?

3.

Цель и задачи
Цель: разобраться, как ИИ используют для защиты и для атак, и проверить на своём детекторе, насколько
хорошо автоэнкодер находит аномалии в логах сервера.
01
02
03
Проследить путь от сигнатур к
ИИ-агентам
Найти реальные атаки с
использованием ИИ
Найти реальные системы защиты
на ИИ
04
05
06
Создать и обучить свой детектор
аномалий
Сравнить его с аналогами и
простым методом
Понять, где справится человек, а
где нужен ИИ

4.

Как менялась защита
1990-е
2000-е
2017–2018
2023+
Сигнатуры
Машинное
обучение
Глубокое обучение
LLM-агенты
Базы «отпечатков» известных
угроз. Новое не видят.
Модели учатся на примерах:
спам, вредные файлы.
DeepLog, Kitsune: нейросети
ищут аномалии в логах и
трафике.
ИИ сам запускает инструменты
— и атакует, и защищает.
Правила ловят известное, модели — необычное. Сегодня работают оба слоя вместе.

5.

ЧАСТЬ 1
Атака
ИИ не придумал новые атаки. Он сделал старые быстрее, дешевле и
массовее.

6.

Реальные случаи атак с ИИ
$25 млн
80–90%
Arup, Гонконг · 2024
Кампания GTG-1002 · 2025
Сотрудник перевёл деньги после видеозвонка, где
«финдиректор» и коллеги были дипфейками.
Столько работы шпионской атаки ИИ-агент выполнил сам.
Атакующим мешали его «галлюцинации».
PromptLock
APT28
Шифровальщик · 2025
Малварь с запросами к LLM · 2025
Генерировал вредный код через языковую модель прямо во
время работы. Оказался учебным прототипом.
Отправляла запросы к открытой модели и выполняла команды,
которые та присылала.
Источники: Anthropic, MIT Technology Review, Abnormal AI, Deepwatch

7.

Обмануть можно и сам ИИ
≈90%
из 384 вредоносных файлов ИИ-антивирус
Cylance пропустил как безопасные (2019)
Вредоносный файл
+
строки из популярной игры, которой модель доверяла
Вердикт модели: «безопасно»
Понял, на что смотрит модель, — сможешь её обмануть. Сегодня так работает prompt injection.

8.

ЧАСТЬ 2
Защита
Те же технологии находят уязвимости раньше
злоумышленников и замечают то, что люди пропустят.

9.

Реальные системы защиты на ИИ
CVE-2025-6965
77%
Google Big Sleep · 2025
DARPA AI Cyber Challenge · 2025
ИИ-агент нашёл уязвимость в SQLite, о которой знали только
злоумышленники. Её закрыли до атаки.
Столько заложенных организаторами уязвимостей лучшая ИИсистема нашла сама.
с 2018
Raspberry Pi
Google FACADE
Kitsune · 2018
Ищет аномальное поведение сотрудников по миллиардам
событий — внутренние угрозы.
Ансамбль автоэнкодеров ловит сетевые атаки даже на миникомпьютере. Ближайший аналог моего проекта.
Источники: Google, International AI Safety Report 2026, NDSS 2018

10.

ЧАСТЬ 3 · МОЙ ПРОЕКТ ANOMALY-NET
Как работает автоэнкодер
вход: 6
сжатие: 3
выход: 6
Ошибка восстановления
попытки входа
уникальные IP
Норму сеть восстанавливает точно, а
необычное — плохо. Чем больше
ошибка, тем страннее окно.
несуществующие логины
энтропия логинов
Ошибка выше порога →
сообщение в Telegram
новые IP
доля самого активного IP
порог
ошибка
выше порога → тревога
Окна по 5 минут · проверка каждые 15
минут через cron

11.

Детектор в работе
Иллюстрация на смоделированных данных: поток ошибки восстановления и момент тревоги
ошибка восстановления
аномалия
anomaly-net · окно 03:45
перебор с одного IP · ошибка выше порога
порог
время → окна по 5 минут
окно — 5 минут
проверка — каждые 15 минут
тревога — сообщение в Telegram

12.

Результаты на моём сервере (SSH)
1345 17
100%
пятиминутных окон в реальном логе
вставленных тестовых атак найдено:
перебор с одного IP и ботнет из 200
адресов
окон модель отметила как
аномальные — 1,3%
Честно: часть тревог ложные (тихие окна с одним новым IP), а размеченных реальных атак в логе нет — настоящую
полноту ещё предстоит измерить.

13.

Нейросеть против простого метода
Модель веб-трафика · синтетические данные · у обоих 1% ложных тревог
Автоэнкодер
100%
Сканирование портов
26%
100%
Перебор паролей
Всплеск трафика
100%
100%
16%
100%
Сканирование путей
72%
100%
Подстановка паролей
Медленная утечка
Все сценарии
Изолирующий лес
100%
80%
12%
97%
55%

14.

Чем мой детектор отличается
Решение
Как работает
Чем отличается anomaly-net
fail2ban
Бан после N неудач за M минут
Нет ручных порогов: норма — по истории сервера
CrowdSec
Правила + общая база плохих IP
Работает офлайн, ничего не отправляет
Kitsune
Ансамбль автоэнкодеров по трафику
Логи вместо пакетов: 6 признаков, а не 115
DeepLog
Нейросеть LSTM по порядку событий
Проще: статистика окна, а не последовательность
Darktrace
Платная «норма» сети для компаний
Открытый код, установка одной командой
Моё место: лёгкий детектор для небольших серверов, который учится на конкретной машине. Минус —
пока только предупреждает, а не блокирует.

15.

Плюсы и минусы ИИ в ИБ
Сильные стороны
Слабые стороны
Обрабатывает миллионы событий круглосуточно
Ложные тревоги — есть и у моего детектора
Замечает атаки, для которых нет сигнатур
Находит уязвимости в огромном коде
Нужны данные; модель плохо переносится на другой
сервер
Учитывает много признаков одновременно
Те же возможности есть у атакующих
Даёт маленьким командам анализ уровня корпораций
Модель можно обмануть (Cylance, prompt injection)
«Чёрный ящик» и «галлюцинации» LLM
Вывод: ИИ — не замена правилам и людям, а дополнительный слой защиты.

16.

Человек или ИИ?
Человек справится за 5 минут
Без ИИ уже не обойтись
Увидеть в 300 строках лога, что один IP перебирает пароли
Разобрать 15 000 неудачных входов в сутки и найти необычное
Настроить fail2ban: 5 неудач за минуту — бан
Поймать медленный перебор с сотен IP, каждый ниже порога
Распознать фишинг с ошибками и странной ссылкой
Отличить письмо, написанное LLM, и дипфейк-голос
Проверить один файл через VirusTotal
Узнать вирус, который меняет код при каждом запуске
Понять контекст: «админ зашёл ночью из командировки»
Проверить миллионы строк кода на уязвимости

17.

Выводы
1
Атакующие уже используют ИИ: дипфейки, фишинг без ошибок, агенты, которые делают 80–90% работы.
2
Защитники — тоже: ИИ находит уязвимости раньше злоумышленников и замечает аномалии.
3
Сам ИИ уязвим, поэтому нужны правила и человек, который решает спорные случаи.
4
Мой автоэнкодер работает: 97% против 55% на синтетике. Следующий шаг — проверка на реальных серверах и
автоблокировка IP.
github.com/loar32/anomaly-net

18.

Спасибо!
Готов ответить на вопросы
github.com/loar32/anomaly-net
Константин · [класс / группа]