Дифференцируемые функции многих переменных

Многие алгоритмы минимизации и критерии оптимальности в E _n используются только для функций, дифференцируемых необходимое число раз.

Напомним некоторые факты, известные из курса математического анализа.

1. Если функция дифференцируема в точке х ⁰ Î E _n, то ее прира­щение D f (х ⁰) = f (х ⁰ + D x) - f (х ⁰) можно записать в виде

D f (х ⁰) = d f (х ⁰) + o (),

где — первый дифференциал f (х) в точке х ⁰.

2. Вектор f '(х ⁰)= — называется градиентом функции f (х) в точке х ⁰. В малой окрестности точки х ⁰ градиент ука­зывает направление наискорейшего возрастания функции f (х), а его норма характеризует скорость этого возрастания. Градиент в точке х перпендикулярен линии (поверхности) уровня f (х) = с, проходящей че­рез эту точку. Очевидно, d f (х ⁰) = < f '(х ⁰), D x >, поэтому

D f (х ⁰) = < f '(х ⁰), D x > + o ().

3. Если функция f (x) дважды дифференцируема в точке х ⁰ Î E _n, то

D f (х ⁰) = d f (х ⁰) + d² f (х ⁰) + o ( ²), где d² f (х ⁰) =

второй дифференциал f (x) в точке х ⁰.

Используя матрицу вторых производных (мaтрицу Гессе, гессиaн)

, второй дифференциал можно записать так:

d² f (х ⁰) = < f ¢¢(х ⁰) D x, D x >, поэтому

D f (х ⁰) = < f ¢(х ⁰), D x > + < f ¢¢(х ⁰) D x, D x > + o ( ²). (3.9)

4. Из формул (3.8) и (3.9) следует, что длямалых ||Dx ||

f (x)» f (х ⁰) + < f ¢(х ⁰), D x > (3.10)

или

f (x)» f (х ⁰) + < f ¢(х ⁰), D x > + < f ¢¢(х ⁰) D x, D x >,(3.11)

т.е. в малой окрестности точки х ⁰ поведение дифференцируемой функции f (x) приближенно описывается формулой (3.10), а дважды диф­ференцируемой — формулой (3.11), причем представление (3.11) яв­ляется более точным.