Методы построения критерия значимости

Пусть Н₀: θ=θ₀ – простая гипотеза. Рассмотрим задачу проверки Н₀ при альтернативе:

Н₁: θ=θ₁ - простая (т.е. Θ={θ₀,θ₁}). Замечание: Поскольку альт. – простая, то РАМ критерий, если называть Н.М. Пусть

μ – мера доминирующая сем.

Например: ; (μ – мера Лебега или считающая мера, если возможно) Функция правдоподобия:

Введем статистику отношения правдоподобия:

Замечание: 1) Не зависит от выбора доминирующей меры

2) Если =0 или =¥, то выбор очевиден.

Лемма Неймана-Пирсона

В задаче проверки Н₀: θ=θ₀ при альтернативе Н₁: θ=θ₁, существует наиболее мощный критерий уровня значимости α, он строится следующим образом:

рÎ[0,1)

Причем С выбирается следующим образом:

Замечание: 1) Если >0, то р выбирается однозначно и

2) Если =0 Þ не важно значение р – критерий не рандомизированный.

Дополнение: Критерий j определяется однозначно на множестве

Если критерий есть функция от МДС, то он есть и единственный.

Доказательство: Перепишем критерий в виде:

Пусть имеется другой критерий, у которого тот же уровень значимости,

т.е.

=

= |*С и вычтем из

В свою очередь мощность критерия:

Дополнение: Можно показать, что на S+ и S- Н. М. критерий определяется однозначно с

Þ

Þ

Þ

15)Критерий хи-квадрат для проверки простой гипотезы согласия.

Разбивается вся вещественная прямая на зоны.

Ø, I_i - интервал

Данные группируются (гистограмма)

n_i – число наблюдений в i-й зоне

I_i – зона

Проверка:

H₀: F=F₀ (простая гипотеза)

n_i можно назвать частотами, n_i – выборочные вероятности .

При справедливости H₀ рассмотрим теоретические вероятности

- теоретические вероятности попадания в зону.

Статистика критерия

Предельное распределение

X

Рассмотрим случайный вектор (n₁…n_r) имеет мультиномиальное распределение

Матрица ковариации

Известно, что, если X~N_k(0,D)

X^TD^-1X~

Критерий (ас.)

43. Критерий хи-квадрат для проверки сложной параметрической гипотезы согласия.

, ,

Например: x₁…x_n~N(a,σ²)

H₀: a=a₀

dimΘ₀=1

Возможны

H₀ :x₁~N(a,σ²), a,σ² – неизв.

dimΘ₀=2

Поставим задачу проверки значимости

n_i – частоты

p_i(θ) – зависит от θ

-не является статистикой даже при Н₀

I. Мультиномиальное ОМП

n_i~мульт.распр-е (p₁(θ),…, p_n(θ))

Мульт. функция правдоподобия

Если p_i – дифф-мы

Решая это уравнение, получиться оценка (мультиномиальная) ОМП

! Нельзя использовать ОМП по не группированным данным.

Пусть - мультиномиальное ОМП

Выберем статистику

критерия для сложной гипотезы

II.

Утверждение: пусть p(θ) – дважды дифф. по θ.

Матрица имеет ранг m –полный ранг, тогда ~ и

16)Критерий согласия Колмагорова.

Пусть х₁…х_n – выборка из непрерывного распределения в ф.р. F – полностью неизв. F₀ – фиксированная ф.р.

(простая гипотеза согласия, но не параметрическая, т.к. ф-я многомерная).

Критерий Колмогорова:

Статистика критерия: , F_n(x) – выборочная (эмпирическая) ф.р.

Асимптотический критерий , , К – ф.р. Колмогорова.

Для вычисления D_n достаточно вычислить , , , .

Вар.ряд X(1) X(2)

F0(Xi)

|| A

|| B

max(A,B) || C

17)Постановка задач линейной регрессии. Метод наименьших квадратов. Геометрическая интерпретация. Оценка по методу наименьших квадратов. Примеры.

Линейная регрессия.

Модель:

Y₁,…,Y_n – независимые (некоррелированные) наблюдения

Пусть предполагается, что справедлива следующая модель .

- наблюдения (отклики), X’ – n*m –матрица (известны, характеризуют условия проверки эксперимента). Отклики линейно зависят от условий через параметр β. β – неизвестный параметр = . -ошибка (шумы).

Основные предположения:

а)

б)

- мешающий параметр – неизвестен.

В условиях (а), (б) EY=X’β.

Задача точечного оценивания – построить оценки параметра β при мешающем параметре .

Оценка по методу наименьших квадратов (МНК)

, где норма

Примеры:

1) Измерительный прибор

/некор. О.Р.С.В./

Прямая на плоскости . - хар-ка процесса.

В матричной форме - нормальные уравнения. Если rk(XX^T)=m (т.е. rkX=m), то матрица будет обратимой , получаем -оценка по МНК.

Геометрическая интерпретация:

– i-я строка матрицы X’, то .

_.

_- столбец. -расстояние между элементами Y и X’b.

Вывод: решение существует.

18)Функции параметра, допускающие несмещенную оценку (ДНО). Теорема Гаусса-Маркова.

Определение: линейная функция параметра называется ДНО - функцией, если существует такая матрица А – матрица оценки, т.ч. .

Лемма: Сβ – ДНО матрица S: С=SX’

Док-во: Сβ – ДНО , . Ч.т.д.

Теорема (Гаусса-Маркова): Пусть - ДНО – функция. Тогда несмещенная оценка . , т.ч. С=AX’ (т.е. столбцы С – элементы V_m). Данная оценка – оценка по МНК. Пусть - другая лин. несм.оценка, тогда (т.е. - НРМД оценка в классе линейных оценок).