Стандартизация ЖЦ ИнС

1. Раздел 2. Стандартизация в ИТ Тема 6. Стандартизация ЖЦ ИнС

МССИТ 6
Раздел 2. Стандартизация в ИТ
Тема
6. Стандартизация ЖЦ ИнС
Вопросы:
1.
Классификация интеллектуальных задач
2.
Определение интеллектуальной системы
3.
Модели ЖЦ ИнС
4.
Специализированные процессы создания прототипов ИнС
Выводы
Литература:
[1]. Закон о техническом регулировании и стандартизации [1]
[10]. Стандартизация разработки программных средств: учебное пособие
/В.А.Благодатских, В.А.Волнин, К.Ф.Поскакалов. – М.: Финансы и статистика,
2006. – 288 с.[10]
[2-7]. СТБ и межгосударственные стандарты

2.

Вопрос 1. Классификация
интеллектуальных задач

3.

Интеллектуальная задача
Это неформализованная задача, которая обладает
одной или несколькими из следующих характеристик:
1. Задача не может быть задана в числовой
форме,
т.е. они задаются в качественном виде или в
терминах теории нечетких множеств;
2.Цели не могут быть выражены в терминах
точно определенной целевой функции;
3.Алгоритмического решения задачи неизвестно,
хотя возможно и существует; Алгоритмическое
решение существует, но его нельзя использовать
из-за ограниченности ресурсов (время, память).
Рис.6(1.1)

4.

Классификация
интеллектуальных задач
для реализации в ЭС
1. Интерпретация
2. Диагностика
3. Слежение
(мониторинг)
4. Прогнозирование
5. Планирование
6. Проектирование
7. Отладка и ремонт
8. Обучение
9. Управление
1. Синтеза
2. Анализа
3. Комбинированные
1. Расширения
2. Доопределения
3. Преобразования
Рис.6(1.2)

5.

Все системы, основанные на знаниях, можно подразделить на системы, решающие задачи
АНАЛИЗА, и системы, решающие задачи СИНТЕЗА. Основное отличие задач анализа от
задач синтеза заключается в том, что если в задачах анализа множество решений может
быть перечислено и включено в систему, то в задачах синтеза множество решений
потенциально и строится из решений компонент и подпроблем.
В общем случае все перечисленные типы задач можно разделить на:
1. Задачи анализа – интерпретация, диагностика.
2. Задачи синтеза – проектирование, планирование.
3. Комбинированные задачи – обучение, мониторинг, управление.
Задачи расширения это задачи, в процессе решения которых осуществляется только
увеличение информации о ПрО, не приводящее ни к изменению ранее выведенных данных,
ни к выбору другого состояния ПрО. Типичной задачей этого класса является задача
классификации.
Задачи доопределения это задачи с неполной или неточной информацией о реальной ПрО,
цель решения которых - выбор из множества альтернативных текущих состояний ПрО того,
которое адекватно исходным данным. В случае неточных данных альтернативные текущие
состояния возникают как результат ненадежности данных и правил, что приводит к
многообразию различных доступных выводов из одних и тех же исходных данных. В случае
неполных данных альтернативные состояния являются результатом доопределения ПрО,
т.е. результатом предположений о возможных значениях недостающих данных.
Задачи преобразования это задачи, которые осуществляют изменения исходной или
выведенной ранее информации о ПрО, являющейся следствием изменений либо реального
мира, либо его модели.
Большинство существующих ЭС решают задачи расширения, в которых нет ни изменений ПрО,
ни активных агентов, преобразующих ПрО. Подобное ограничение непремлемо при работе
с динамическими ПрО.

6.

Задачи, для которых используются ЭС можно разделить на следующие типы задач:
1. Интерпретация – процесс определения смысла данных (построение описаний
по наблюдаемым данным)
2. Диагностика – процесс обнаружения неисправностей (в технике и в живых
организмах)
3. Слежение (мониторинг) – непрерывная интерпретация данных в реальном
масштабе времени и сигнализация о выходе параметров за допустимые
пределы)
4. Прогнозирование – предсказание будущих событий на базе моделей прошлого
и настоящего (вывод вероятных следствий из заданных ситуаций)
5. Планирование – конструирование плана, т.е. программы действий
6. Проектирование – построение спецификаций на создание объекта с заранее
заданными свойствами
7. Отладка, ремонт – выработка рекомендаций по устранению неисправностей
8. Обучение – диагностика, интерпретация, планирование, проектирование
9. Управление – интерпретация, прогноз, планирование, моделирование,
оптимизация выработанных решений, мониторинг

7.

ЗАДАЧИ ИНТЕРПРЕТАЦИИ ДАННЫХ
• определяет смысл данных. Результаты должны быть согласованы и корректными. Обычно
предусматривается многовариантный анализ данных. Данные, на основе анализа которых
системы этого типа позволяют делать заключения, часто неполные или неточные, поэтому, от
специалиста требуется умение работать с неполной информацией, определять точные данные,
несмотря на кажущиеся противоречия, определять неполную и неточную информацию делать
необходимые допущения и указывать случаи, когда полученная информация опровергает
очевидные факты. К таким системам можно отнести: DENDRAL - идентификации химических
структур на основе спектрального анализа; PROSPECTOR - обнаружения полезных ископаемых и
другие.
ЗАДАЧИ ДИАГНОСТИКИ
• выполняют процессы соотнесения объекта к некоторому классу и обнаружения неисправностей в
некоторой системе. Такая трактовка позволяет с единых теоретических позиций рассматривать и
неисправность оборудования в технических системах, и заболевания живых организмов, и
всевозможные природные аномалии. Основой для анализа служат таблицы, с помощью которых
устанавливается коррекция с эталонным поведением и в результате устанавливается диагноз.
Трудности при работе с системами этого типа могут быть обусловлены случайным сходством
разных по характеру симптомов, нерегулярностью их возникновения. К системам данного типа
относятся: MYCIN - медицинская диагностика; MECHO, SACON - анализ ошибок в программном
обеспечении.
ЗАДАЧИ МОНИТОРИНГА
• ориентированы на непрерывную интерпретацию данных в реальном масштабе времени и
сигнализацию о выходе тех или иных параметров за допустимые пределы. К таким системам
относятся системы слежения за работой искусственного дыхания, реакторов, наблюдение за
соблюдением графиков воздушного сообщения, финансовыми операциями и другие. Главная
задача этих систем - выдача сигналов тревоги в тех случаях, когда необходимо вмешательство
человека. Работа этих систем основана на двух альтернативных принципах отслеживаний в
запланированных операциях: либо нарушение некоторых условий препятствует выполнению
плановых действий, либо плановые действия нарушают какие-то краевые условия.

8.

ЗАДАЧИ ПРОЕКТИРОВАНИЯ
• готовят спецификации на создание "объектов" с заранее заданными свойствами. Под
спецификацией понимается весь набор необходимых документов - чертеж,
пояснительная записка и другие. К таким системам относятся: SACON проектирование и конструирование несущих конструкций; R1/XCON - расчета
конструкций ЭВМ; ARE - автоматического программирования и другие. Необходимо
иметь в виду, что все выдаваемые решения носят предварительный характер,
поскольку последствия принимаемых проектных решений могут быть выявлены
только на более поздних этапах.
ЗАДАЧИ ПРОГНОЗИРОВАНИЯ
• логически выводят вероятные следствия из заданных ситуаций. В прогнозирующей
системе обычно используется параметрическая динамическая модель, в которой
значения параметров "подгоняются" под данную ситуацию.
ЗАДАЧИ ПЛАНИРОВАНИЯ
• находят планы действий, относящихся к объектам, способным выполнять некоторые
функции. В таких ЭС используются модели поведения реальных объектов с тем,
чтобы логически вывести последствия планируемой деятельности. Прогнозные
системы должны предсказывать будущее, основываясь на событиях прошлого и
настоящего, т.е. выводить вероятные следствия из заданных ситуаций. Для этой цели
используются динамические параметрические модели. К системам данного типа
можно отнести: PLANT - оценка урожая; TECH - анализ военных действий и
прогнозирование их развития.
ЗАДАЧИ ОБУЧЕНИЯ
• диагностируют ошибки при изучении какой-либо дисциплины с помощью ЭВМ и
подсказывают правильные решения. Они аккумулируют знания о гипотетическом
"ученике" и его характерных ошибках, затем в работе они способны диагностировать
слабости и познания обучаемых и находить соответствующие средства для их
ликвидации.

9.

Задачи решаемые ЭС можно характеризовать следующими аспектами:
• числом и сложностью правил, используемых в задаче;
• связностью правил;
• пространством поиска;
• количеством активных агентов, изменяющих ПрО;
• классом решаемых задач.
По степени сложности выделяются простые и сложные правила.
К СЛОЖНЫМ относятся правила, текст записи которых на естественном языке занимает > 1/3
страницы. Правила, текст которых занимает <= 1/3 страницы, относятся к ПРОСТЫМ.
По степени связности правил задачи делят на связные и малосвязные. К связным относятся
задачи (подзадачи), которые не удается разбить на независимые задачи. Малосвязные
задачи удается разбить на некоторое количество независимых подзадач. Степень
сложности задачи можно определить не просто общим количеством правил данной
задачи, а количеством правил в ее наиболее свзанной независимой подзадаче.
Пространство поиска может быть определено по крайней мере тремя подаспектами:
Размер пространства поиска дает обобщенную характеристику сложности задачи.
Выделяют малые (до 10! состояний) и большие (свыше 10! состояний) пространства
поиска.
Глубина пространства поиска характеризуется средним числом последовательно
применяемых правил, преобразующих исходные данные в конечный результат.
Ширина пространства поиска - среднее число правил, пригодных к выполнению в
текущем состоянии.
Количество активных агентов существенно влияет на выбор метода решения. Выделяют
следующие значения данного аспекта: ни одного агента, один агент, несколько агентов.
Класс решаемых задач характеризует методы, используемые ЭС для решения задачи.

10.

Вопрос 2. Определение
интеллектуальной системы

11.

Соотношение между АС, ИнС и ЭС
Автоматизированная
система (АС, СОД, ИС,…)
Интеллектуальная
система (ИнС)
Экспертная
система (ЭС)
Рис.6(2.1)

12.

Искусственный интеллект — это одно из направлений информатики, целью которого является
разработка АС, позволяющих пользователю-непрограммисту ставить и решать свои,
традиционно считающиеся интеллектуальными задачи, общаясь с ЭВМ на ограниченном
подмножестве естественного языка.
АС – это система состоящая из персонала и комплекса средств автоматизации его
деятельности, реализующая ИТ выполнения установленных функций. Процесс
производства АС регламентируется группой стандартов ГОСТ 34.ХХХ.
Интеллектуальная система – это АС с интеллектуальной поддержкой при решении задач без
участия оператора (лица, принимающего решение – ЛПР).
Интеллектуализированная система – это АС с интеллектуальной поддержкой при решении
задач с участием оператора – ЛПР.
Система с интеллектуальной поддержкой – это система, способная самостоятельно
принимать решения.
Под способностью системы самостоятельно принимать решение будем понимать
способность системы получать и анализировать информацию, понимать ее и делать
новые выводы (пополняя ее), формулировать заключения, т.е. «мыслить», помогая
естественному интеллекту — человеку, который, в свою очередь, корректируя,
«улучшает» принятое интегрированное решение.
Существуют автоматы или просто механическое или электронное реле, которые реагируют на
наличие или отсутствие сигнала или при контроле параметров работают по принципу
«годен — негоден». Это тоже принятие решения, однако отнесем их к АС с низким
уровнем «интеллектуализации».
Экспертная система (ЭС)– это система, которая моделирует деятельность эксперта при
решении интеллектуальных задач.
ЭС – это один из видов интеллектуальных систем.

13.

Соотношение между понятиями
Проблемная область
Предметная область
Данные
Знания:
1. Формализованные (точные)
2. Неформализованные (неточные)
Задачи:
1. Формализованные
2. Неформализованные («Интеллектуальные»)
Рис.6(2.2)

14.

Проблемная область — ПрО плюс совокупность решаемых в ней задач.
Знания, которыми обладает специалист в какой-либо области (дисциплине), можно
разделить на формализованные (точные) и неформализованные (неточные).
Формализованные знания (точные) – они формулируются в книгах и руководствах
в виде общих и строгих суждений (законов, формул, моделей, алгоритмов и
т.п.), отражающих универсальные знания.
Неформализованные знания (неточные) – они не попадают в книги и руководства
в связи с их конкретностью, субъективностью и приблизительностью. Знания
такого рода являются результатом многолетнего опыта работы и интуиции
специалистов. Они обычно представляют собой многообразие эмпирических
(эвристических) приемов и правил.
В зависимости от того, какие знания преобладают в той или иной области, ее
относят к формализованным (если преобладают точные знания) или к
неформализованным (если преобладают неточные знания) ПрО.
До недавнего времени считалось, что ЭВМ не приспособлена для решения
неформализованных задач. Расширение сферы использования ЭВМ показало,
что неформализованные задачи составляют очень важный класс задач,
вероятно, значительно больший, чем класс формализованных задач.
Неформализованные задачи — это задачи, которые обладают одной или
несколькими из следующих характеристик:
1. Задача не может быть задана в числовой форме, т.е. они задаются в
качественном виде или в терминах теории нечетких множеств;
2. Цели не могут быть выражены в терминах точно определенной целевой
функции;
3. Алгоритмического решения задачи неизвестно, хотя возможно и существует;
4. Алгоритмическое решение существует, но его нельзя использовать из-за
ограниченности ресурсов (время, память).

15.

Предметная область (ПрО) — объектно-ориентированным образом выделенная и
формально описанная область человеческой деятельности (множество
сущностей, описывающих область исследования или экспертизы).
ПрО можно характеризовать следующими аспектами:
1. числом и сложностью сущностей (объектов);
2. числом и сложностью атрибутов сущностей и их значений;
3. связностью сущностей и их атрибутов;
4. полнотой знаний;
5. точностью знаний (знания точны или правдоподобны; правдоподобность знаний
представляется некоторым числом или высказыванием).

16. Вопрос 3. Определение ЭС

17.

ЭС - это система, которая моделирует рассуждения
человека-эксперта в некоторой ПрО и использует для
этого базу знаний (БЗ), содержащую факты и правила
из этой области, и некоторую процедуру логического
вывода знаний.
ЭС манипулирует знаниями в целях получения
удовлетворительного и эффективного решения в узкой
ПрО. Как и человек, эти системы используют
символическую логику и эмпирические правила, чтобы
найти решения конкретных задач.
ЭС - это система, в которую включены знания специалистов
некоторой конкретной ПрО и которая в пределах этой
области способна принимать экспертные решения.
ЭС - это система, объединяющая возможности компьютера
со знаниями и опытом эксперта в такой форме, что
система может предложить разумный ответ или
осуществить разумное решение поставленной задачи.
ЭС - это вид автоматизированной систем.
ЭС – это совокупность программных, технических,
информационных и организационных средств
автоматизирующих деятельность человека
посредством применения информационных технологий.

18.

Основные
характеристики ЭС
1. Компетентность
2. Глубина знаний
4. Самосознание
3. Символьные рассуждения
Рис.6(3.1)

19. Обобщенная структура ЭС

Эксперты
Инженеры
по знаниям
Конечные
пользователи
Пользовательский
интерфейс
1. Программные элементы ЭС
Приобретение
знаний
Вспомог.
программы
Управляющая
программа
Машина
вывода
Компонента
объяснений
Файлы
БЗ
СУБД
БД
Архив
2. Информационные элементы ЭС
3. Технические элементы ЭС
Обобщенная структура ЭС
Рис.6(3.2)

20.

Ядро ЭС составляют база знаний и механизм вывода, с которыми связаны понятия
представления проблемного знания и процесса получения нового знания
посредством правдоподобных рассуждений.
Именно выбор метода представления знаний и получения знаний определяют
архитектуру ЭС и на практике выражается в соответствующей организации БЗ и
схемы управления механизма вывода.
1. Управляющая программа обеспечивает управление всеми программными
компонентами ЭС.
2. ПОЛЬЗОВАТЕЛЬСКИЙ ИНТЕРФЕЙС - это компонента, обеспечивающая
дружественный интерфейс для всех категорий пользователей ЭС, как в ходе
решения задач, так и в ходе приобретения знаний.
3. Приобретение знаний - это процесс взаимодействия эксперта с ЭС, который
обеспечивает ввод данных и знаний, устранение ошибочных данных и знаний,
расширение знаний системы для достижения желаемого уровня работы системы.
При этом взаимодействие эксперта с ЭС может быть как с помощью инженера по
знаниям, так и без его участия.
4. Компонент объяснения, вопросы, ответы - обеспечивает взаимодействие
конечного пользователя с ЭС как в процессе ввода информации (вопросов), так и в
процессе получения результатов решения задач (ответы, объяснения). Компонент
ОБЬЯСНЕНИЙ позволяет конечному пользователю получить ответы на вопросы как была получена та или иная рекомендация? и почему система приняла такое
решение?
5. МЕХАНИЗМ ВЫВОДА (машина вывода, дедуктивная машина) - это компонента,
моделирующая ход рассуждений эксперта в процессе решения задач на основании
знаний, имеющихся в БЗ. МВ используя исходные данные из РП и знания из БЗ
формирует такую последовательность правил, которые, будучи применимы к
исходным данным, приводят к решению задачи.

21.

6. БАЗА ЗНАНИЙ предназначена для хранения знаний о ПрО и состоят из фактов и
правил для продукционные БЗ.
ФАКТЫ - это конкретные утверждения, представляющие собой краткосрочную
информацию о ПрО в том отношении, что они могут изменяться. Например, в
ходе консультации (прибыль 10% или 15%).
ПРАВИЛА представляют собой более долговременную информацию о том, как
порождать новые факты или гипотезы из того, что известно.
7. Рабочая память или база данных предназначена для хранения промежуточных
(исходных) данных решаемой в текущий момент задачи.
8. Редактор, настройки, другие – это вспомогательные программы, которые
автоматизируют отдельные операции (редактирование БЗ, отображение
информации, навигация по БД и т.д.)
ПОЛЬЗОВАТЕЛЯМИ ЭС являются:
9. ЭКСПЕРТЫ - это высококвалифицированные специалисты в конкретной ПрО,
согласившиеся поделиться своим опытом. Они обеспечивают полноту и правильность
(достоверность) знаний введенных в ЭС;
10. ИНЖЕНЕРЫ ПО ЗНАНИЯМ - это специалисты в области ИИ, выступающие в роли
посредника между экспертом и БЗ ЭС. Они проектируют и создают ЭС. Помогают эксперту
выявить и структурировать знания, необходимые для функционирования ЭС;
11. КОНЕЧНЫЕ ПОЛЬЗОВАТЕЛИ - это специалисты, для которых предназначена ЭС. Обычно
квалификация этих пользователей недостаточно высока и поэтому они нуждаются в
помощи и поддержке своей деятельности со стороны ЭС.

22.

Режимы работы экспертной системы
1. Режим пополнения знаний
Инженер по
знаниям
Вопросы
Разрабатывает
уточняет
проверяет
Задачи
Эксперт
Ответы, решения
Расширяет, проверяет
Экспертная
система
Вопросы
Ответы
Пользователь
Рис.6(3.3)
2. Режим решения задач

23.

Под интеллектуализированной системой (ИнС) будем понимать
систему, способную принимать решение в условиях:
1. необходимости обрабатывать и анализировать большой массив
информационной базы данных;
2. ограниченной информации;
3. неопределенности;
4. многомерного пространства;
5. необходимости распознавать ситуацию (образы, сцены и т.д.);
6. различных стадий жизненного цикла объектов (процессов) —
проектирования, производства, эксплуатации;
7. динамических, эволюционизирующих, нестационарных фактов,
влияющих на решение задачи;
8. формализации и представления знаний;
9. адаптации, самообучения, самоорганизации и т.д.

24.

Экспертная система
Техническая
система (ТС)
Программная
система (ПС)
Информационная
система (ИС)
Организационная
система (ОрС)
Средства ВТ
Средства ортехники
Средства комм.техники
Эксплуатационный
персонал и
пользователи ЭС
Файлы, базы
данных,
архивы …
Системные,
Инструментальные,
и Прикладные
программы
Рис.6(3.6)

25.

Вопрос 4. Модели ЖЦ ИнС

26. Вопрос: 4. Общая модель ЖЦ экспертной системы

Для ЭС определим модель ее ЖЦ в виде совокупности из пяти стадий:
1.
2.
3.
4.
5.
Разработка демонстрационного прототипа
Разработка исследовательского прототипа
Разработка действующего прототипа
Разработка промышленной ЭС
Разработка коммерческой ЭС
Графическое представление модели ЖЦ ЭС представлено на рис 6.4.16.4.2.
Данная модель является каскадной (последовательной).

27.

Стадии ЖЦ экспертной системы
5. Коммерческая ЭС
Развитие ЭС
4. Промышленная ЭС
3. Действующий
прототип
2. Исследовательский
прототип
1. Демонстрационный
прототип
Рис.6(4.1)

28.

Общая модель ЖЦ экспертной системы
Стадия 1.
Разработка
демострац
ионного
прототипа
Стадия 2.
Разработка
исследоват
ельского
прототипа
Стадия 3.
Разработка
действующ
его
прототипа
Стадия 4.
Разработка
промышле
нной ЭС
Стадия 5.
Разработка
коммерческ
ой ЭС
Рис.6(4.2)

29.

Демонстрационный прототип - это ЭС, которая решает часть требуемых
задач, демонстрируя жизнеспособность метода представления знаний. При
наличии развитых инструментальных средств для разработки
демонстрационного прототипа ЭС требуется в среднем примерно 1-2 мес., а
при отсутствии - 12-18 мес. Демонстрационный прототип работает, имея в
базе знаний 50-100 правил. Развитие демонстр. прототипа приводит к
исследовательскому прототипу.
Исследовательский прототип - это система, которая решает все требуемые
задачи, но неустойчива в работе и не полностью проверена. На доведение
системы до стадии исследовательского прототипа уходит 3-6 мес. Исслед.
прототип имеет в базе знаний 200-500 правил, описывающих пробл.область.
Действующий прототип - это ЭС, которая надежно решает задачи, но для
решения сложных задач может потребоваться чрезмерно много времени
и/или памяти. Для доведения системы до стадии действующего прототипа
требуется 6-12 мес., при этом количество правил в базе знаний
увеличивается до 500-1000.
Промышленная ЭС - это ЭС, обеспечивающая высокое качество решений всех
задач при минимуме времени и памяти. Обычно процесс преобразования
действующего прототипа в промышленную систему состоит в расширении
БЗ (до 1000-1500 правил) и переписывании программ с использованием
более эффективных инструментальных средств, например в
перепрограммировании на языках низкого уровня. Для доведения ЭС от
начала разработки до стадии промышленной системы требуется 1-1,5 года.
Коммерческая ЭС - это ЭС пригодная не только для собственного использования,
но и для продажи различным пользователям. Для доведения системы до
коммерческой стадии требуется 1.5-3 года и 0.3-5млн. долларов. При этом в
базе знаний систем находится 1500-3000 правил.

30.

Вопрос 5. Специализированные
процессы разработки
прототипов ИнС

31.

Основой для разработки ЭС являются знания в заданной
ПрО.
Схема передачи знаний от эксперта в базу знаний ЭС (см.
рис. 6.5.1) и включает следующие действия:
1. Извлечение знаний (из ПрО, экспертов и т.д.)
2. Структурирование полученных знаний.
3. Формализация знаний (выбор модели представления
знаний и построение модели БЗ).
4. Реализация базы знаний.
Методика построения ЭС приведена на рис. 6.5.2 (правая
часть рисунка).
На основе этих результатов и возможностей стандарта ИСО
15288 разработан набор процессов для создания ИнС (см.
рис.6.5.2)

32.

Знания
Эксперт
Объект автоматизации
Рис.6(5.1)
1. Предметная область
2. Модель ПрО эксперта
1. Извлечение знаний
Когнитолог
3. Модель ПрО
инженера по знаниям
2. Структурирование знаний
4. Поле знаний
3. Формализация знаний
5. Модель знаний ПрО
4. Реализация базы знаний
База знаний
6. База знаний в ЭС
Схема передачи знаний в БЗ ЭС

33.

Набор технических процессов на
основе 15288
Методика
проектирования ЭС
Процессы ТП ЭС
1. Предметная область
1.Определение требований к ЭС
1. Извлечение знаний
2. Модель ПрО
инженера по знаниям
2.Разработка концепции ЭС
3.Разработка ТЗ на созд. ЭС
4.Проектир. Архитектуры ЭС
5.Реализация элементов ЭС
6.Интеграция ЭС
7.Испытание ЭС
8.Ввод в действие ЭС
9.Приемка ЭС
10.Эксплуатация ЭС
3. Модель задачи
4. Структурирование знаний
4. Поле знаний
5. Формализация знаний
5. Модель знаний ПрО
11.Сопровождение ЭС
6. Реализация базы знаний
12.Утилизация ЭС
6. База знаний в ЭС
Рис.6(5.2)