RAG

1. RAG

Командная работа из 3 участников
Для РТК ИТ · 2025

2. повестка

2
ПОВЕСТКА
Проблема «галлюцинации» и устаревшие знания LLM
Что такое RAG?
Как это работает технически?
Ключевые преимущества RAG-систем
Как это работает уже сейчас

3. Почему умная модель говорит неправду?

ПОЧЕМУ УМНАЯ МОДЕЛЬ ГОВОРИТ
НЕПРАВДУ?
LLM – это энциклопедисты, которые не
помнят источник своих знаний.
• Галлюцинации – модель может уверенно
генерировать ложную или выдуманную
информацию.
• Устаревшие знания – модель не знает о
событиях и данных, созданных после её
последнего обучения.
• Нет доступа к личным/корпоративным
данным – модель не может работать с
вашими внутренними данными.

4. Решение: что такое RAG?

РЕШЕНИЕ: ЧТО
ТАКОЕ RAG?
Дайте модели «шпаргалку» модели!
• RAG = Извлечение (Retrieval) +
Дополнение (Augmentation) + Генерация
(Generation)
Принцип работы:
• Поступает запрос пользователя.
• Система RAG ищет в ваших документах
наиболее релевантные отрывки.
• Найденные отрывки передаются LLM с
исходным вопросом как контекст.
• LLM генерирует ответ, основываясь

5. Ключевые преимущества RAG-систем

5
КЛЮЧЕВЫЕ
ПРЕИМУЩЕСТВА
RAG-СИСТЕМ
Повышенная точность
Актуальность информации
Прозрачность и доверие
Контроль и безопасность
Экономичная эффективность

6. Как это работает технически?

6
КАК ЭТО РАБОТАЕТ
ТЕХНИЧЕСКИ?
Retrieval – документы разбиваются на чанки и
преобразуются в эмбеддинги. Вопрос тоже
преобразуется в вектор. Система ищет в базе данных
самые близкие по смыслу фрагменты.
Augmented – Полученные фрагменты добавляются в
шаблон запроса к LLM
Generation – LLM синтезирует связанный и точный ответ
на основе полученных данных.

7. Анализ текущих проблем

7
АНАЛИЗ ТЕКУЩИХ
ПРОБЛЕМ
Были проанализированы ответы модели,
протестированы промпты и выявлены проблемы
чанкирования, ретривера и генератора.

8. Как это работает уже сейчас

8
КАК ЭТО РАБОТАЕТ УЖЕ
СЕЙЧАС
Нативный RAG:
RAG с плавающим окном:
• Разделение документов
на чанки
фиксированной длины с
перекрытием.
• Разделение документов
на предложения с
сохранением иерархии.
• Комбинация
лексического и
семантического поиска.
• Использование
реранкера для
дополнительной оценки
чанков.
• Поиск «якорных»
предложений и
определение размера
динамического окна.
• Гибридный поиск.
• Многоуровневая
система реранкинга.

9. Планы на будущее

9
ПЛАНЫ НА БУДУЩЕЕ
Интеграция с ИИ-Агентами
Масштабирование проекта
Последовательное дообучение эмбеддинговой модели
Оптимизация расходов
Автоматизация создания базы данных
Создание RAG-систем для всех информационных
систем

10. Благодарю за внимание!

БЛАГОДАРЮ ЗА
ВНИМАНИЕ!
Капустин Валерий,
Нечепорук Максим,
Алейкина Анастасия,
4 ИС