32.92M

ИИ ассистент

1.

Информационно-техническое сообщество
ИИ Ассистент

2.

Как работает (RAG-pipeline)
Система построена по принципу RAG:
Вопрос
Embedding
Поиск в pgvector
Фильтрация
Ответ
• Embeddings: intfloat/multilingual-e5-base (семантика, русский язык)
• Поиск: оператор pgvector <=> (nearest neighbors по смыслу)
• Режим: строгий — ответ только из базы знаний, без фантазий

3.

Векторная база знаний
Мы внедрили централизованное хранилище embeddings на базе
PostgreSQL + pgvector. Теперь семантический поиск выполняется на
уровне базы данных, а не в оперативной памяти приложения. Это
повышает устойчивость системы при росте базы знаний и упрощает
эксплуатацию: данные можно обновлять и переиндексировать
контролируемо.
Технически:
embeddings хранятся как
vector
поиск top-k выполняется
SQL-запросом с <=>
возможна индексация
(ivfflat/hnsw) при
масштабировании

4.

Что улучшили в качестве
Мы повысили точность поиска и снизили “мимо ответы” за счёт трёх вещей:
Чанкинг
Длинные тексты разбиваются на смысловые блоки 1500
символов с overlap 200, чтобы поиск попадал именно в
нужный фрагмент, а не “в середину страницы”.
Морфология
русского языка
(стемминг)
Добавлен SnowballStemmer (NLTK): система корректно
сопоставляет формы слов и падежи. Пример:
«общежитие / общежитию / общежитиях» → считается
одной сущностью.
Единый интерфейс
retrieve()
Вся система перешла на единый контракт поиска:
retrieve(query) → context + top_matches. Это уменьшает
технический долг и делает развитие предсказуемым.

5.

Демонстрация работы

6.

Стратегическое развитие
Дообучение на внутренних
документах
Интеграция в MAX
Интеграция в сайт
Интеграция в мобильные сервисы
English     Русский Правила