Похожие презентации:
ИИ ассистент
1.
Информационно-техническое сообществоИИ Ассистент
2.
Как работает (RAG-pipeline)Система построена по принципу RAG:
Вопрос
Embedding
Поиск в pgvector
Фильтрация
Ответ
• Embeddings: intfloat/multilingual-e5-base (семантика, русский язык)
• Поиск: оператор pgvector <=> (nearest neighbors по смыслу)
• Режим: строгий — ответ только из базы знаний, без фантазий
3.
Векторная база знанийМы внедрили централизованное хранилище embeddings на базе
PostgreSQL + pgvector. Теперь семантический поиск выполняется на
уровне базы данных, а не в оперативной памяти приложения. Это
повышает устойчивость системы при росте базы знаний и упрощает
эксплуатацию: данные можно обновлять и переиндексировать
контролируемо.
Технически:
embeddings хранятся как
vector
поиск top-k выполняется
SQL-запросом с <=>
возможна индексация
(ivfflat/hnsw) при
масштабировании
4.
Что улучшили в качествеМы повысили точность поиска и снизили “мимо ответы” за счёт трёх вещей:
Чанкинг
Длинные тексты разбиваются на смысловые блоки 1500
символов с overlap 200, чтобы поиск попадал именно в
нужный фрагмент, а не “в середину страницы”.
Морфология
русского языка
(стемминг)
Добавлен SnowballStemmer (NLTK): система корректно
сопоставляет формы слов и падежи. Пример:
«общежитие / общежитию / общежитиях» → считается
одной сущностью.
Единый интерфейс
retrieve()
Вся система перешла на единый контракт поиска:
retrieve(query) → context + top_matches. Это уменьшает
технический долг и делает развитие предсказуемым.
5.
Демонстрация работы6.
Стратегическое развитиеДообучение на внутренних
документах
Интеграция в MAX
Интеграция в сайт
Интеграция в мобильные сервисы