методом наименьших квадратов

Определение параметров линейной зависимости

методом наименьших квадратов

При обработке результатов наблюдений довольно часто получается так, что получен ряд значений переменных x и y, однако характер функциональной зависимости между ними неизвестен. Требуется по данным наблюдений найти аналитическое выражение зависимости между x и y. Такие формулы принято называть эмпирическими. При отыскании эмпирической зависимости не ставят перед собой задачу разгадать истинный характер зависимости между переменными x и y. Основная задача заключается в том, чтобы предоставить результаты опыта наиболее простой формулой, которая, во-первых, давала бы возможность нахождение промежуточных значений функции, т.е. интерполирование и, во-вторых, позволила применить методы математического анализа.

Пусть зависимость между переменными величинами x и y выражается в виде таблицы:

x	x1	x2	…	xn
y	y1	y2	…	yn

полученной опытным путём, например, в результате эксперимента или статистической обработки материала.

Требуется найти эмпирическую формулу .

При отыскании эмпирической формулы приходится решать две задачи:

1) выяснение общего вида этой формулы;

2) определение её параметров.

Например, износ ведомого диска сцепления или зазор в подшипниковом узле коленчатого кала двигателя.

Выбор общего вида эмпирической формулы

В этом случае, характер функциональной зависимости между данными величинами неизвестен, то вид эмпирической формулы является произвольным. При этом предпочтение отдаётся более простым формулам, обладающим хорошей точностью.

В прямоугольной системе координат строим экспериментальные точки с координатами (x₁, y₁), (x₂, y₂), … (x_n, y_n). Построение лучше производить на миллиметровой бумаге. Затем проводим плавную кривую φ, как можно ближе примыкающую к полученным точкам (рис.1).

Сравнивая полученную кривую с графиками известных функций, делаем выбор нужной формулы.

Существуют и аналитические методы подбора аналитических формул.

Определение параметров эмпирической формулы

методом наименьших квадратов

После того, как выбран вид эмпирической формулы, возникает задача отыскания значений параметров, входящих в эту формулу. Пусть выбрана эмпирическая формула:

(1)

где φ - известная функция; - параметры, подлежащие определению.

Существуют различные методы определения этих параметров. Наибольшее применение нашёл метод наименьших квадратов, теоретическое обоснование которого даётся в теории вероятностей. Сущность данного метода сводится к следующему.

Рассмотрим разности между значениями функции и экспериментальными значениями y_i в соответствующих точках:

. (2)

Назовём их отклонениями. Геометрически отклонения представляют собой расстояния по вертикали точек (x_i, y_i), построенных по опытным данным, от графика эмпирической функции (1), взятыми со знаками "+" или "-" (рис.2).

Эмпирическая функция подбирается таким образом, чтобы её график как можно ближе подходил к опытным точкам, то есть отклонения по абсолютной величине были по возможности малыми. Поэтому параметры эмпирической зависимости (1) выбирают так, чтобы сумма квадратов отклонений была наименьшей, то есть функция

(3)

имела минимум.

Используя необходимое условие существования экстремума функции многих переменных, получаем систему уравнений для определения параметров , то есть

, , … . (4)

Если система уравнений (4) имеет единственное решение, то оно является искомым. Найденные значения параметров будут наилучшими, если сумма квадратов отклонений, а, следовательно, и сами отклонения Δ_i будут меньше, чем при других значениях параметров.

Нахождение параметров линейной функции

Будем искать по результатам экспериментальных данных зависимость y от x в виде

Строим вспомогательную функцию

. (1)

Для определения параметров а и b получаем систему уравнений

; или ; (2)

; .

Систему (2) преобразуем к виду:

;

;

;

.

В качестве примера определим параметры линейной зависимости для следующих условий: