Платформа "Цифровой алфавит"

1.

www.vittecon.ru
Платформа
ЦИФРОВОЙ АЛФАВИТ
2019

2.

Что такое платформа
«Цифровой алфавит»
СЕРВИСЫ РАБОТЫ С ДАННЫМИ
платформа для реализации сервисов сбора, хранения, обработки и управления данными
СОБЫТИЙНАЯ ЛОГИКА
использует событийно ориентированную парадигму работы
ИНТЕГРАЦИЯ ДАННЫХ
предназначена для одновременной работы с множеством источников и потребителей данных
ПЛАТФОРМА ДЛЯ РЕАЛИЗАЦИИ РЕШЕНИЙ
позволяет создавать решения в соответствии со спецификой различных отраслей и
особенностями деятельности Заказчика за счет собственных возможностей и интеграции с
другими решениями.

3.

Российское ПО
ПЛАТФОРМА ПРОШЛА
ГОСУДАРСТВЕННУЮ РЕГИСТРАЦИЮ
C R EAT I V E
SLIDE
Прошла государственную регистрацию в качестве
программы для ЭВМ. Правообладатель - ООО «Витте
Консалтинг» (ГК «Ай-Теко»).
ПЛАТФОРМА ВКЛЮЧЕНА В ЕДИНЫЙ РЕЕСТР
РОССИЙСКИХ ПРОГРАММ
Включена в Единый реестр российских программ для
электронных вычислительных машин и баз данных в
следующих классах:
• Информационные системы для решения
специфических отраслевых задач
• Системы сбора, хранения, обработки, анализа,
моделирования и визуализации массивов данных
ОПЫТ ИСПОЛЬЗОВАНИЯ В ГОССЕКТОРЕ
Успешный опыт применение для задач управление
данными:
- ДИТ г. Москвы
- Аналитический Центр при Правительстве РФ
Professionally morph ethical

4.

Соответствие требованиям к современной платформе
Модульность
Микросервисная архитектура.
Механизмы расширения функционала системы.
Неограниченное
горизонтальное
масштабирование
Использование технологических компонентов распределенного хранения
и обработки информации.
Работа в условиях
высокой нагруженности
Актуальные технологические решения BIG Data
Эффективная обработка
разнородных данных
Встроенный гибко настраиваемый функционал фильтрации, обработки и
хранения (в т.ч. Hadoop)
Высокий уровень
надежности и хранения
Распределенное избыточное хранение с использованием
соответствующих технологических компонентов
Большие объемы хранения
Свободное расширение объемов и технологий хранения данных
Визуализация данных
Гибкие возможности по визуализации данных

5.

AKKA
инструментарий с открытым исходным кодом и
среда выполнения, упрощающая создание
параллельных и распределенных приложений на
JVM.
KAFKA
распределённый программный брокер
сообщений, проект с открытым исходным
кодом.
HADOOP
набор инструментария и фреймворк для
распределённых приложений
Современное ПО
в составе
платформы
CASSANDR A
распределённая система управления базами
данных, относящаяся к классу NoSQL-систем и
рассчитанная на создание высокомасштабируемых
и надёжных хранилищ огромных массивов данных,
представленных в виде хэша.

6.

Классы решений на базе Платформы
• Интеграция данных и решения по обработке данных класса ETL
• Системы управления данными (качество данных, управление мета,
мастер данными)
• Организация «Озер данных»
• Аналитика Больших данных, включая предиктивную аналитику
• Промышленный интернет вещей (IIoT)
• Управления сложными событиями в реальном режиме времени

7.

Технологические
компоненты и архитектура
платформы «Цифровой
Алфавит»

8.

ОБЩАЯ АРХИТЕКТУРА ЯДРА ПЛАТФОРМЫ

9.

КЕЙС

10.

Обработка данных
в платформе
«Цифровой Алфавит»

11.

ПОТОКИ ОБРАБОТКИ
Operation
Operation
Operation
Plugin
Operation
Operation
Operation
Plugin
Operation
Plugin
Filter/Switch
Start
Filter

12.

ОРКЕСТРАЦИЯ ПОТОКОВ ДАННЫХ
Flow 1
OK
Y
Flow A2
Flow A3
Flow A4
N
Flow B2
Flow B3
Flow B4
Filter

13.

КОНТРОЛЬ КАЧЕСТВА ДАННЫХ
Реализация процесса контроля качества данных из различных систем-источников

14.

Создание приложений на
базе платформы
«Цифровой Алфавит»

15.

СОЗДАНИЕ ПРИЛОЖЕНИЙ НА БАЗЕ ПЛАТФОРМЫ
Реализация прикладных решений с
разделением объектов и данных среди
множества
областей
данных
и приложений-потребителей

16.

ПРИМЕР ПРИЛОЖЕНИЯ НА БАЗЕ ЦИФРОВОГО АЛФАВИТА: «ПРЕДСКАЗАТЕЛЬНАЯ АНАЛИТИКА».
ЦЕЛИ И ЗАДАЧИ
Предсказательная аналитика на базе платформы
ЦИФРОВОЙ АЛФАВИТ
ЦЕЛИ:
Сбор данных
Предоставление инструмента для реализации анализа
данных с помощью технологии предсказательной
аналитики
Исследовательский
анализ данных
ЗАДАЧИ:
— обследование данных для выявления
закономерностей;
— разработка модели для проверки гипотез на
основании данных;
— обучение модели для получения достоверных
выводов;
— верификация модели для подтверждения
правильного обучения модели.
Основные
компоненты
предсказательной
аналитики
Предсказательное
моделирование
Верификация модели

17.

МОДУЛЬ ПРЕДИКТИВНОЙ АНАЛИТИКИ

18.

ПРИЛОЖЕНИЕ «ПРЕДСКАЗАТЕЛЬНАЯ АНАЛИТИКА». АНАЛИЗ ДАННЫХ
АНАЛИЗ БИЗНЕС-ПРОБЛЕМЫ:
КАКИЕ ЕСТЬ ДАННЫЕ: Таблицы, текст, фото, видео
ЦЕЛЬ:
ОБНАРУЖИТЬ НОВЫЕ ВОЗМОЖНОСТИ, РАСПОЗНАТЬ НЕЯВНОЕ, ПРЕДСКАЗАТЬ БУДУЩЕЕ
ПРОЕКТ
АКТИВНОСТЬ ПО РАЗРАБОТКЕ ПРЕДИКТИВНЫХ МОДЕЛЕЙ В ЦЕЛЯХ РЕШЕНИЯ
КОНКРЕТНОЙ ЗАДАЧИ В ПРИВЯЗКЕ К ИСТОЧНИКУ ДАННЫХ И С
ИСПОЛЬЗОВАНИЕМ ОПРЕДЕЛЕННОГО НАБОРА ИНСТРУМЕНТОВ
ОБСЛЕДОВАНИЕ ДАННЫХ
Выявление полезных признаков,
формирование новых признаков
(FeatureExtraction)
ПРЕДИКТИВНАЯ МОДЕЛЬ
Выбор базового алгоритма
Разработка скрипта обучения
(Поиск гиперпараметров, кросс-валидация,
тестирование)
Отчет об обследовании
1. Признаки-кандидаты
2. Аномалии во взаимосвязи
признаков и целевой переменной
ОБУЧЕНИЕ
МОДЕЛИ
...
ПРЕДИКТИВНАЯ МОДЕЛЬ
2
XX
1
ПРОЦЕССЫ
РЕЛИЗ МОДЕЛИ
2
ВЕРИФИКАЦИЯ
ВЕРИФИКАЦИЯ
ВЕРИФИКАЦИЯ
РЕЛИЗА МОДЕЛИ
РЕЛИЗА МОДЕЛИ
РЕЛИЗА МОДЕЛИ
Отчет о верификации
1. Метрики качества
модели
Отчет о
верификации
1. Метрики
качества модели
Отчет о
верификации
1. Метрики
качества модели
РЕЛИЗ МОДЕЛИ
СУЩНОСТИ
(СКРЫТЫХ) ЗАКОНОМЕРНОСТЕЙ
ОБУЧЕНИЕ
МОДЕЛИ
РЕЛИЗ МОДЕЛИ
ПРЕДИКТИВНАЯ МОДЕЛЬ
1
МЕХАНИЗМ ПРЕДСКАЗАНИЯ (РАСПОЗНАВАНИЯ),
ОСНОВАННЫЙ НА ЭКПЛУАТАЦИИ
РЕЛИЗ МОДЕЛИ

19.

ПРИЛОЖЕНИЕ «ПРЕДСКАЗАТЕЛЬНАЯ АНАЛИТИКА». АРХИТЕКТУРА РЕШЕНИЯ
Сервер обучения моделей
IDE cреда разработки правил
формирования модели (скриптов
обследования, обучения и верификации)
Агент
Kaffka
WEB-интерфейс модуля предиктивной
аналитики
Загрузка скриптов в
модуль ПА
Управление процессом
обучения моделей
Перевод моделей в
режим пром.
эксплуатации
Front
Cassandra
Сервер предсказаний

20.

ПРИЛОЖЕНИЕ «ПРЕДСКАЗАТЕЛЬНАЯ АНАЛИТИКА». РАБОЧЕЕ МЕСТО АНАЛИТИКА
БЫСТРЫЙ СТАРТ
ОДНОВРЕМЕННАЯ РАБОТА ПО
РАЗЛИЧНЫМ ПРОЕКТАМ
Одновременная работа с различными
проектами, моделями, релизами моделей и
источниками данных
Четкий
подход
к
построению
и
эксплуатации предиктивных моделей
автоматизация рутинных операций
графическое представление результатов
каждой стадии разработки моделей
потенциальная поддержка различных
фреймворков ML

21.

ПРИМЕР ПРИЛОЖЕНИЯ: «МОНИТОРИНГ». ЦЕЛИ И ЗАДАЧИ
Мониторинг объектов на базе платформы
ЦИФРОВОЙ АЛФАВИТ
ЦЕЛИ:
Предоставление инструмента мониторинга объектов по различным параметрам и прогнозирования их состояния
ЗАДАЧИ:
— обеспечение возможности мониторинга
объектов;
— накопление информации по различным
параметрам объектов;
— прогнозирование значений параметров на
основе статистических значений;
— выявление аномалий в параметрах
объектов;
— формирование событий при нарушении
границ отслеживаемых параметров;
— визуализация данных мониторинга;
Управление
Наблюдение
Оценка фактического
состояния
Регулирование
качества среды
Прогноз состояния
Оценка
прогнозируемого
состояния

22.

МОНИТОРИНГ ПАРАМЕТРОВ С ЭЛЕМЕНТАМИ СТАТИСТИЧЕСКОГО ПРОГНОЗИРОВАНИЯ
• Выявление аномалий на основе четких статистических критериев
• Прогноз краткосрочного тренда на основе интуитивно понятной техники линейной экстраполяции.
• Нет необходимости строить сложные модели.

23.

ПРИЛОЖЕНИЕ «МОНИТОРИНГ». ФУНКЦИОНАЛЬНЫЕ ВОЗМОЖНОСТИ
Мониторинг объектов по
различным параметрам и
типам событий.
—прогноз поведения на основе
статистических алгоритмов;
— отображение тенденции изменения
показателя;
— отображение объектов и событий
мониторинга на карте и мнемосхеме

24.

ПРИЛОЖЕНИЕ «МОНИТОРИНГ». ФУНКЦИОНАЛЬНЫЕ ВОЗМОЖНОСТИ
ПРОГНОЗ ПОВЕДЕНИЯ
Расчет прогноза поведения параметра с
выводом о сроках выхода параметра за
пороговую величину.
НАСТРОЙКА ПАРАМЕТРОВ
Настройка
порогов,
доверительных интервалов
и
параметров
статистического
прогноза
объекта мониторинга

25.

КОНТАКТЫ
ул. Кедрова, 15, Москва, 117036
Телефон: +7 (495) 777 1095
Факс: +7 (495) 777 1096
E-mail: [email protected]
www.vittecon.ru | www.facebook.com/vitttecon