Линейная регрессия и корреляция, смысл и оценка параметров. Сопряженные регрессионные прямые

Сопряженные регрессионные прямые

До сих пор обсуждалась регрессия у на х:

(1.1)

т. е у рассматривалась как зависимая переменная, а х — как объясняющая. На практике часто встречаются экономические явления, между которыми существует взаимодействие, т. е. переменная у зави­сит от переменной х и, наоборот, переменная х зависит от у. В таких случаях говорят о логически обратимых регрессиях. При переходе от одной постановки задачи к другой нельзя просто из уравнения (1.1) выразить х через . Это связано с тем, что эмпирические точки лежат не на прямой, а подвержены. Фиксированному значению х может соответствовать не­сколько значений у, а данному значению у — несколько значений пе­ременной х. Чем больше разброс точек на диаграмме рассеяния, тем больше будут отличаться друг от друга регрессионные прямые, соот­ветствующие различному направлению зависимости. Уравнения рег­рессии не выводимы друг из друга. Так как объектом изучения явля­ются стохастические связи между переменными, при исследовании за­висимостей между двумя переменными теоретически всегда существу­ют две различные регрессионные прямые, которые называются сопря­женными.

В предположении линейной зависимости в качестве функции рег­рессии примем уравнение прямой

По сравнению с регрессией у на х переменные в (1.2) поменяли свои места. Зависимой переменной, или переменной, подлежащей объясне­нию, в данном случае является , а независимой, или объясняющей, переменной — у. Коэффициенты и — параметры регрессии*.

Параметр снова представляет собой аддитивную постоянную, соответствующую точке пересечения прямой регрессии (1.2) с осью абсцисс. Параметр называется коэффициентом регрессии х на у. Этот параметр показывает, на сколько единиц в среднем изменится зна­чение переменной я, если значение переменной у изменится на одну единицу. Расчетные значения регрессии интерпретируются так же, как в случае регрессии у на х.

Из-за разброса эмпирических точек вокруг прямой регрессии сно­ва можно рассматривать отклонения наблюдаемых значений переменной х от расчетных значений регрессии , которые мы обозначим через _i:

x_i— _i = _i (1.3)

Значения _i являются реализациями случайной возмущающей переменной v. Эти значения — результат влияний на х не учтенных в функции регрессии (1,2) переменных-факторов, включая случайные флуктуации. Возмущающая переменная v в статистическом смысле интерпретируется как ошибка спецификации регрессии (1,2) Пере­менную х можно тогда выразить как

х= + (1.4)

Из сказанного выше следует, что интерпретация регрессионной прямой, параметров регрессии, расчетных значений функции регрес­сии х на у аналогична смысловому истолкованию тех же понятий при рассмотрении регрессии у на х. Должно быть принято во внимание только обратное направление зависимости, а также то, что отклонения _I опытных точек от линии регрессии измеряют по горизонтальной оси (рис. 1.1). Прямая регрессии х па у строится из условия минимизации суммы квадратов отклонений, измеренных по горизонтали:

После нахождения частных производных по неизвестным парамет­рам и приравнивая их нулю получаем так же, сис­тему нормальных уравнений, решение которых дает нам искомые па­раметры:

Рисунок 1.1- сопряженные регрессионные прямые.

В случаи регрессии x на y принимает вид:

Пример

Рассмотрение изучении зависимости между объемом производства и показателем использования ос­новных фондов на 52 промыш­ленных предприятиях одной от­расли хозяйства. Исходные дан­ные приведены в табл. 1. Вначале построим уравнение регрессии, отража­ющее зависимость объема производства (у) от основных фондов (х). Для этого определим величины b₀ и :

Оцениваемая регрессия у на х будет иметь такой вид:

Прямая регрессии пересекает ось ординат в точке b₀=183,06, тангенс угла ее наклона к оси абсцисс составляет b₁=2,095 (см. рис. 1). Коэффициент регрессии показывает, что объем производства в среднем увеличивается на 2095 марок, если стоимость основных фон­дов повышается на 100 000 марок. Итак, коэффициент регрессии отражает влияние изменения основных фондов на уровень объема про­изводства.

Для планирующих органов иногда представляет интерес вопрос, какой величины должны достигнуть основные фонды предприятия при определенном объеме производства? Ответ на этот вопрос можно получить, определив регрессию х на у в виде функции (1.2). По формулам (1.7) и (1.8) определяем значения и :

Оцениваемое соотношение можно записать в виде

Коэффициент показывает, что стоимость основных фондов в среднем возрастет на 43 500 марок, если показатель объема про­изводства увеличится на 1000 марок. Мы ограничимся построением уравнений рег­рессий.

На рис. 1 представлены обе прямые регрессии. Они образуют «ножницы». Из графика видно, что при стохастической зависимости соотношение b₁=1: не имеет места. Лишь в случае чисто функ­циональной связи обе прямые регрессии сливаются в одну и тогда вы­полняется указанное соотношение между b₁ и . По величине раство­ра ножниц можно судить приблизительно о степени зависимости обе­их переменных. Чем более раскрыты ножницы, тем слабее связь.

Если обе прямые регрессии пересекаются под прямым углом, то эмпирические данные не позволяют подтвердить гипотезу о существо­вании зависимости между переменными. В этом случае отдельные точ­ки случайно разбросаны по всей диаграмме рассеяния, и отсутствует всякая тенденция к ориентации точек в определенном направлении (рис. 1.2).

Рисунок 1.2- сопряженные регрессионные прямые в случае отсутствия связи между прямыми.

Если отсутствует регрессия у на х, то не существует также регрес­сии x на у и наоборот. При b₁ = 0 обязательно = 0 и обратно. Если прямая регрессии у на x проходит параллельно оси абсцисс, то это не­избежно влечет за собой вытягивание прямой регрессии х на у вдоль оси ординат. Эта взаимная обусловленность становится очевидной при рассмотрении следующих формул:

и

Необходимой предпосылкой применения регрессионного анализа яв­ляется выполнение условий: >0 и >0. Следовательно, оба угловых коэффициента регрессии равны нулю, если ковариация S_ху = S_ух, которая в обоих формулах содержится в числителе, равна нулю.

Как видно из рис. 1.1 и 1.2, обе_сопряженные прямые регрессии пере­секаются в точке с координатами (, ). Так бывает всегда, и это можно показать с помощью формул:

и

При х = имеем = , а при у = получаем также = . Так как = и = — значения регрессии, принадлежащие обеим прямым, обе прямые должны пересекаться в точке (, ).

Не всегда требуется находить обе сопряженные прямые регрессии. Чаще всего представляет практический интерес зависимость только в одном направлении. А иногда постановка задачи оказывается содер­жательной только при рассмотрении односторонней зависимости. По этой причине мы не продолжили пример из раздела 2.4, так как, на наш взгляд, в этом примере регрессия х относительно у экономически бессмысленна.

Мы хотели бы подчеркнуть еще одну существенную особенность, вытекающую из наличия двух разных регрессионных прямых, опи­сывающих связь между исследуемыми переменными при различном толковании их роли. Если существует взаимодействие между перемен­ными у и л;, то переменная х также зависит от возмущающей перемен­ной и. Но тем самым нарушается важная предпосылка применения ме­тода наименьших квадратов. Если же, несмотря на это, мы применим метод наименьших квадратов для оценки по опытным дан­ным неизвестных параметров уравнений регрессии у на x и х на у, то допустим ошибку.