Статистическая обработка результатов опроса экспертов

Рациональное использование информации, получаемой от экспертов, возможно при условии преобразования ее в форму, удобную для дальнейшего анализа. Формализация информации, получаемой от экспертов, должна быть направлена на подготовку решения таких задач, которые не могут быть в полной мере описаны математически.

Одна из главных трудностей при оценивании состоит в том, что помимо явлений, объектов, факторов, состояние которых может быть выражено количественно (в руб., $, кг, км, % и т.п.), приходится оценивать качественные факторы, уровень которых нельзя точно определить. Часть информации, не поддающуюся количественному измерению, необходимо представить в виде косвенных оценок.

Если эксперт способен сравнить и оценить какие-либо объекты, явления, факторы, варианты действий, приписав каждому из них какое-либо число, то говорят, что он обладает определенной системой предпочтений.

В зависимости от того, по какой шкале заданы эти предпочтения, экспертные оценки содержат больший или меньший объем информации и обладают различной способностью к математической формализации.

Шкала – это инструмент (принятая система правил) оценки (измерения) каких-либо объектов или явлений.

Различают четыре типа шкал.

1. Номинальная шкала. Реализует простейший тип измерения. В этом случае проводится сравнение свойств объекта (явления) с каким-либо признаком-эталоном, результатом является упорядочение по двухэлементной шкале, где каждому из объектов (явлений) присваивается балл, равный нулю либо единице.

Примером измерения по номинальной шкале может служить проведение зачета. В этом случае эксперт-преподаватель оценивает уровень знаний студентов и выносит решение: зачет (объекту-студенту присваивается балл, равный нулю) или незачет (объекту-студенту присваивается балл, равный единице).

2. Порядковая шкала. Цель состоит в упорядочении объектов (явлений), а точнее, в выявлении с помощью экспертов скрытой упорядоченности, которая, по предположению, присуща множеству объектов. Результатом оценки является решение о том, что какой-либо объект (явление) предпочтительнее другого в отношении какого-то критерия.

Примером может служить определение жюри победителей и призеров какого-либо конкурса. Здесь эксперты должны решить, что участник, занявший первое место, оказался предпочтительнее (с точки зрения целей конкурса) участника, занявшего второе место. Участник, занявший второе место, в свою очередь, признается лучшим по отношению к третьему и т.д.

3. Интервальная шкала. Оценка по данной шкале позволяет не только определить, что один объект (явление) предпочтительнее другого, но также определить: на сколько предпочтительнее. Нулевая точка и единица измерения выбираются при этом произвольно.

Ярким примером оценки по интервальной шкале является проведение экзамена. Здесь эксперт-преподаватель, оценивая уровень знаний студентов, должен не только решить, что один студент знает материал лучше другого, но сказать: на сколько лучше. Измерение фактически производится по шкале из четырех баллов ("неудовлетворительно", "удовлетворительно", "хорошо", "отлично"). При этом уровень знаний, соответствующий нулевому баллу (нулевая точка) не известен.

Измерение по интервальной шкале используется при выставлении экспертами-судьями оценок в таких видах спорта, как фигурное катание, прыжки в воду, художественная и спортивная гимнастика.

4. Шкала отношения. В данном случае предполагается, что известно абсолютное значение свойств объекта, т.е. известна истинная нулевая точка. Шкала используется для тех факторов, которые могут быть представлены количественно.

Например, при помощи такой шкалы эксперты могут оценить размер прибыли, которая может быть получена в результате реализации какого-либо проекта.

В зависимости от существа исследуемых объектов для их оценки могут быть использованы различные шкалы.

Такие факторы как затраты, прибыль, время могут быть оценены по шкале отношения или интервальной шкале (например, в рублях, днях, баллах).

Для оценки таких факторов как срок окупаемости или сравнительная эффективность может быть использована интервальная или порядковая шкала.

Качественные, например, социальные или политические факторы могут оцениваться по порядковой или номинальной шкале.

Перейдем к рассмотрению вопросов формирования экспертных оценок, а именно к рассмотрению способов (техники) измерения объектов.

В первую очередь нас будут интересовать способы измерения, позволяющие расположить объекты на порядковой или интервальной шкале, поскольку именно такой тип оценок чаще всего используется при проведении экспертизы. Это объясняется тем, что оценка по номинальной шкале предполагает лишь два варианта ответов - ДА, НЕТ. По шкале отношения измеряются факторы, имеющие количественный характер. Значения этих факторов часто можно получить расчетным путем без использования экспертных оценок.

Выделим способы измерения объектов, наиболее часто применяемые при оценке по порядковой или интервальной шкале: ранжирование, парное сравнение, непосредственная оценка.

1.Ранжирование – это расположение объектов в порядке возрастания или убывания какого-либо присущего им свойства. Ранжирование позволяет выбрать из исследуемой совокупности факторов наиболее существенный.

Результатом проведения ранжирования является ранжировка.

Если имеется n объектов, то в результате их ранжирования j-ым экспертом каждый объект получает оценку xij – ранг, приписываемый i-му объекту j-ым экспертом.

Значения xij находятся в интервале от 1 до n. Ранг самого важного фактора равен единице, наименее значимого – числу n.

Ранжировкой j-го эксперта называется последовательность рангов x1j, x2j, …, xnj.

Достоинством метода является его простота, а недостатком - ограниченные возможности использования. При оценке большого количества объектов экспертам очень трудно строить ранжированный ряд, поскольку приходится учитывать множество сложных связей.

От этого недостатка свободен следующий метод.

2. Парное сравнение - это установление предпочтения объектов при сравнении всех возможных пар. Здесь не нужно, как при ранжировании, упорядочивать все объекты, необходимо в каждой из пар выявить более значимый объект или установить их равенство.

Парное сравнение можно проводить при большом числе объектов, а также в тех случаях, когда различие между объектами столь незначительно, что практически невыполнимо их ранжирование.

При использовании метода чаще всего составляется матрица размером nxn, где n – количество сравниваемых объектов. Общий вид матрицы парных сравнений представлен на рисунке 2.1.

Объекты			...	j	...	n
...
i
...
n

Рисунок 2.1 - Общий вид матрицы парных сравнений

При сравнении объектов матрица заполняется элементами aij следующим образом (может быть предложена и иная схема заполнения):

aij =

2, если объект i предпочтительнее объекта j (i > j), 1, если установлено равенство объектов (i = j), 0, если объект j предпочтительнее объекта i (i < j).

Сумма (по строке) в данном случае позволяет оценить относительную значимость объектов. Тот объект, для которого сумма окажется наибольшей, может быть признан наиболее важным (значимым).

Суммирование можно производить и по столбцам (), тогда самым существенным будет фактор, набравший наименьшее количество баллов.

3. Непосредственная оценка. Часто бывает желательным не только упорядочить (ранжировать объекты анализа), но и определить, на сколько один фактор более значим, чем другие.

В этом случае диапазон изменения характеристик объекта разбивается на отдельные интервалы, каждому из которых приписывается определенная оценка (балл), например, от 0 до 10.

Именно поэтому метод непосредственной оценки иногда именуют также балльным методом.

Смысл метода состоит в том, что эксперт помещает каждый из анализируемых объектов в определенный интервал (приписывает балл). Измерителем при этом является степень обладания объекта тем или иным свойством.

Число интервалов, на которые разбивается диапазон изменения свойства, может быть различным для разных экспертов. Кроме того, метод разрешает давать одну и ту же оценку (т.е. помещать в один и тот же интервал) различным объектам.

Например, метод непосредственной оценки используется при проведении экзаменов. Здесь диапазон, характеризующий уровень знаний студентов мысленно разбивается экспертом-преподавателем на интервалы, подобно тому, как показано на рисунке 2.2.

Рисунок 2.2 – Пример разбиения диапазона изменения характеристик объекта на интервалы

5. Обработка результатов опроса экспертов

Перейдем к рассмотрению процедур, выполняемых на этапе обработки результатов опроса.

На базе оценок экспертов получается обобщенная информация об исследуемом объекте (явлении) и формируется решение, задаваемое целью экспертизы. При обработке индивидуальных оценок экспертов используют различные количественные и качественные методы. Выбор того или иного метода зависит от сложности решаемой проблемы, формы, в которой представлены мнения экспертов, целей экспертизы.

Чаще всего при обработке результатов опроса используются методы математической статистики.

В зависимости от целей экспертизы при обработке оценок могут решаться следующие проблемы:

· формирование обобщенной оценки;

· определение относительных весов объектов;

· установление степени согласованности мнений экспертов и др.

Далее рассмотрим некоторые методы решения каждой из перечисленных задач.

Формирование обобщенной оценки

Итак, пусть группа экспертов оценила какой-либо объект, тогда xj – оценка j-го эксперта, , где m – число экспертов.

Для формирования обобщенной оценки группы экспертов чаще всего используются средние величины. Например, медиана (ME), за которую принимается такая оценка, по отношению к которой число бoльших оценок равняется числу меньших.

Может использоваться также точечная оценка для группы экспертов, вычисляемая как среднее арифметическое:

Определение относительных весов объектов

Иногда требуется определить, насколько тот или иной фактор (объект) важен (существенен) с точки зрения какого-либо критерия. В этом случае говорят, что нужно определить вес каждого фактора.

Один из методов определения весов состоит в следующем. Пусть xij – оценка фактора i, данная j-ым экспертом, , , n – число сравниваемых объектов, m – число экспертов. Тогда вес i-го объекта, подсчитанный по оценкам всех экспертов (wi), равен:

где wij – вес i-го объекта, подсчитанный по оценкам j-го эксперта, равен:

Установление степени согласованности мнений экспертов

В случае участия в опросе нескольких экспертов расхождения в их оценках неизбежны, однако величина этого расхождения имеет важное значение. Групповая оценка может считаться достаточно надежной только при условии хорошей согласованности ответов отдельных специалистов.

Для анализа разброса и согласованности оценок применяются статистические характеристики – меры разброса.

Вариационный размах (R):

R = xmax - xmin,

(

где xmax - максимальная оценка объекта;

xmin - минимальная оценка объекта.

Среднее квадратическое отклонение, вычисляемое по известной формуле:

где xj - оценка, данная j-ым экспертом;

m - количество экспертов.

Коэффициент вариации (V), который обычно выражается в процентах:

Специфичны подходы к проверке согласованности, используемые при оценке объектов методом ранжирования.

В этом случае результатом работы эксперта является ранжировка, представляющая собой последовательность рангов (для эксперта j): x1j, x2j, …, xnj.

Согласованность между ранжировками двух экспертов можно определить с помощью коэффициента ранговой корреляции Спирмэна:

где xij – ранг, присвоенный i-му объекту j-ым экспертом;

xik – ранг, присвоенный i-му объекту k-ым экспертом;

di – разница между рангами, присвоенными i-му объекту.

Величина может изменяться в диапазоне от –1 до +1. При полном совпадении оценок коэффициент равен единице. Равенство коэффициента минус единице наблюдается при наибольшем расхождении в мнениях экспертов.

Кроме того, расчет коэффициента ранговой корреляции может применяться как способ оценки взаимоотношений между каким-либо фактором и результативным признаком (реакцией) в тех случаях, когда признаки не могут быть измерены точно, но могут быть упорядочены.

В этом случае значение коэффициента Спирмэна может быть интерпретировано подобно значению коэффициента парной корреляции. Положительное значение свидетельствует о прямой связи между факторами, отрицательное - об обратной, при этом, чем ближе абсолютное значение коэффициента к единице, тем теснее связь.

Когда необходимо определить согласованность в ранжировках большого (более двух) числа экспертов, рассчитывается так называемый коэффициент конкордации – общий коэффициент ранговой корреляции для группы, состоящей из m экспертов:

где

Заметим, что вычитаемое в скобках представляет собой не что иное, как среднюю сумму рангов (при суммировании для каждого объекта), полученных i объектами от экспертов.

Коэффициент W изменяется в диапазоне от 0 до 1. Его равенство единице означает, что все эксперты присвоили объектам одинаковые ранги. Чем ближе значение коэффициента к нулю, тем менее согласованными являются оценки экспертов.

Далее приведем примеры расчета коэффициентов и W.

Пример 2.1. Пусть два эксперта приписали двенадцати факторам, влияющим на успешность реализации инновационного проекта, ранги, показанные в таблице 2.1.

На основе приведенных данных рассчитайте коэффициент ранговой корреляции Спирмэна.

Решение.

Рассчитаем коэффициент Спирмэна. Промежуточные результаты расчетов (di и di2) приведены в таблице 2.1.

Таблица 2.1

Исходные данные и промежуточные результаты расчетов примера 2.1

Фактор	Ранги	di	di2
первый эксперт (xi1)	второй эксперт (xi2)
А Б В Г Д Е З Ж И К Л М	7 8 2 1 9 3 12 11 4 10 6 5	6 4 1 3 11 2 12 10 5 9 7 8	1 4 1 -2 -2 1 0 1 -1 1 -1 -3	1 16 1 4 4 1 0 1 1 1 1 9

Такое значение коэффициента Спирмэна свидетельствует о высокой согласованности оценок экспертов.

Пример 2.2. Пять экспертов проранжировали семь вариантов капиталовложений (соответствующие оценки приведены в таблице 2.2).

Проверьте согласованность ранжировок, используя коэффициент конкордации.

Решение.

Рассчитаем коэффициент конкордации, используя соответствующую формулу. В таблице 2.2 приведены промежуточные результаты расчетов.

Таблица 2.2

Исходные данные и промежуточные результаты расчетов примера 2.2

Варианты	Эксперты	Сумма рангов	Отклонения от средней суммы	Квадрат отклонения
I II III IV V VI VII	1 2 6 4 7 3 5	1 2 7 6 3 5 4	2 1 6 4 7 5 3	3 1 5 6 4 7 2	1 2 6 4 5 7 3	8 8 30 24 26 27 17	-12 -12 10 4 6 7 -3	144 144 100 16 36 49 9

Подставляя вычисленное значение в формулу, получим:

Такая величина W позволяет сделать вывод о том, что существует неслучайная согласованность в мнениях экспертов (материал сайта кафедры «Информационные системы» ОрелГТУ // http://emm.ostu.ru/lect/lect7.html).