Коллективы решающих правил, основанные на учёте их условий компетентности

В настоящее время получен целый ряд моделей восстановления стохастических зависимостей, отличающихся концептуальными подходами и математическими средствами их реализации. Актуальной является проблема интеграции в едином решающем правиле известных разнотипных моделей на основе принципов коллективного оценивания.

Пусть при восстановлении неизвестной многомерной стохастической зависимости имеется обучающая выборка . Известны ранее построенные модели искомой зависимости , которые по тем или иным причинам неудовлетворяющие исследователя и имеющие различные области компетентности в пространстве аргументов . Возникает идея использования их полезных свойств при восстановлении стохастической зависимости в едином решающем правиле.

Существуют два подхода синтеза обобщённого решающего правила. Первый реализует следующую вычислительную схему

.

В простейшем случае - линейная функция:

.

Оптимизация обобщённого решающего правила по параметрам частных моделей осуществляется в режиме «скользящего экзамена» либо на основании контрольной выборки из условия минимума эмпирической ошибки аппроксимации

.

Второй подход синтеза обобщённого решающего правила основан на использовании принципов коллективного оценивания и теории распознавания образов. Для него свойственна зависимость принимаемого решения нетолько от решений первичных моделей, но и от складывающейся ситуации .

Пусть - области компетентности моделей , тогда

, если ,

где - плотность вероятности класса в точке .

Оценку плотности вероятности можно рассчитать при помощи статистики типа Розенблатта-Парзена

,

где - объём выборки из .

Тогда обобщённое решающее правило можно представить в виде

(3.42)

при

Для оценивания областей компетентности моделей предлагается методика:

1. Для -й точки исходной обучающей выборки определить минимальное расхождение

2. Сформировать -й элемент обучающей выборки для оценивания областей компетентности моделей

.

3. Повторить этапы 1 и 2 для всех элементов исходной выборки .

4. По обучающей выборке решить задачу распознавания областей компетентности

. (3.43)

Рассматриваемый коллектив решающих правил (3.42) имеет структуру, представленную на рис. 3.14.

Рис. 3.14. Структура коллектива решающих правил, основанного на учёте локальных закономерностей

Параметры решающего правила (3.43) выбираются из условия минимума оценки ошибки распознавания образов в режиме «скользящего экзамена»

,

где

- «решение» алгоритма распознавания образов (3.43) в условиях .

При этом ситуация , подаваемая на контроль, исключается их процесса обучения, т.е. не учитывается при оценивании соответствующей плотности вероятности.

Литература

5. Лапко, А.В., Ченцов С.В., Крохов С.И., Фельдман Л.А. Обучающиеся системы обработки информации и принятия решений. - Новосибирск: Наука, 1996 - 296с.

6. Лапко А.В., Ченцов С.В. Непараметрические системы обработки информации: Учебное пособие. – М.: Наука, 2000. – 350 с.

7. Лапко В.А., Соколов М.И. Непараметрические методы обработки данных: Учеб. пособие. – Красноярск: ИПЦ КГТУ, 2001. – 116 с.

8. Лапко В.А. Непараметрические коллективы решающих правил. - Новосибирск: Наука, 1996 – 168 с.

9. Лапко В.А. Компьютерное моделирование систем и статистический анализ данных: Методические указания для выполнения лабораторных работ. – Красноярск: ИПУ КГТУ, 2006. – 16 с.

Дополнительная литература

5. Лапко А.В., Лапко В.А. Непараметрические системы обработки неоднородной информации. – Новосибирск: Наука, 2007. – 174 с.

6. Дрейпер Н., Смит Г. Прикладной регрессионный анализ. Множественная регрессия. – М.: Диалектика, 2007. – 912 с.

7. Шибзухов З.М. Конструктивные методы обучения нейронных сетей. - М.: Наука, 2006. - 159 с.

8. Рубан А.И. Методы анализа данных: Учебное пособие, 2–е изд. – Красноярск: ИПЦ КГТУ, 2004 – 319 с.

9. Головченко В.Б. Комбинирование моделей неопределённости. – Новосибирск: Наука, 2002. – 190с.

10. Айвазян СА., Мхитарян В.С. Прикладная статистика и основы эконометрики. - М.: ЮНИТИ, 1998. - 363 c.

11. Хардле В. Прикладная непараметрическая регрессия. – М.: Мир, 1993.- 349 с.

12. Алгоритмы и программы восстановления зависимостей / Под ред. В.Н. Вапник.- М.: Наука.- 1984.- 815 с.

Контрольные вопросы

22. Классификация методов восстановления стохастических зависимостей по степени использования априорной информации.

23. Условия применения параметрических, непараметрических и гибридных моделей стохастических зависимостей.

24. Запишите уравнение непараметрической регрессии для одномерного и многомерного случая.

25. Выведите уравнение непараметрической регрессии для одномерного случая при равномерном законе распределения аргумента искомой зависимости на интервале .

26. Приведите асимптотические свойства непараметрической регрессии.

27. Методы оптимизации непараметрической регрессии по коэффициенту размытости.

28. Как свести задачу многомерной оптимизации непараметрической регрессии по параметрам размытости к одномерной?

29. Общие и отличительные особенности непараметрической регрессии и непараметрической модели коллективного типа.

30. Методика построения непараметрических моделей коллективного типа.

31. Основные задачи оптимизации непараметрических моделей коллективного типа.

32. Итерационный и комбинированный методы оптимизации непараметрических моделей коллективного типа.

33. Обосновать преимущества нелинейных непараметрических коллективов решающих правил в задаче восстановления стохастических зависимостей.

34. Методика синтеза нелинейных непараметрических коллективов решающих правил с параллельной структурой.

35. Методика синтеза нелинейных непараметрических коллективов решающих правил с линейной структурой.

36. Общие и отличительные особенности метода группового учёта аргументов и нелинейных непараметрических коллективов решающих правил с параллельной структурой.

37. Запишите формулу гибридной модели и поясните её параметры.

38. Какие априорные сведения используются при формировании гибридных моделей?

39. Методика синтеза гибридных моделей.

40. Методика формирования гибридной модели при наличии частичных сведений о виде искомой зависимости.

41. Методика построения коллективов решающих правил, основанных на учёте условий их компетентности. Привести их структуру.

42. Сформулируйте постановки задач исследования медико-биологических, экологических и технических систем на основе использования гибридных моделей и нелинейных непараметрических коллективов решающих правил.