Главная Случайная страница Контакты | Мы поможем в написании вашей работы! | ||
|
Задачу (4) будем решать в 2 этапа:
I этап: построение направлений итерации. Полагаем в задаче (4) по известному : где , в результате приходим к задаче:
(5)
где – некоторая окрестность начала координат в размерами . В результате решения задачи (5) получаем некоторый вектор . Он выбирается за направление на -ой итерации. При выборе направления его размеры не важны, поэтому , то есть имеет единичную длину.
Константа в (5) также на направление не влияет и её отбрасывают. Таким образом, для нахождения решается задача:
(5*)
Пример. Рассмотрим в (5) случай, когда окрестность есть единичный шар, то есть будем решать задачу:
(6)
Решаем задачу (6) геометрически: .
– оптимальный план задачи (6).
Поскольку размеры направления нас не интересуют, то в методах 1-го порядка используют направление
– направление антиградиента (7)
Методы 1-го порядка с таким направлением называются градиентными. Градиентные методы – наиболее популярные методы 1-го порядка. Если выбрать подходящий шаг, то они всегда позволяют уменьшить целевую функцию. Однако существуют задачи (1) с так называемой «овражной структурой», для которых градиентные методы плохо сходятся и надо направление выбирать другим (по-другому выбирать окрестность ).
Геометрическая интерпретация «овражной структуры».
– линия с постоянной высотой над уровнем океана. В случае «овражной структуры», как правило, градиент имеет большую длину и направлен почти перпендикулярно к направлению ведущему к оптимальному плану.
Замечание. В случае «овражной структуры» надо строить с учётом линий уровня целевой функции, желательно знать кривизну, 2-ую производную.
II этап: решение задачи (4), когда по известному приближению построено направление выбирается размер окрестности , то есть определяется размер шага в этом направлении.
Наиболее распространены 3 способа:
а) наилучший шаг в заданном направлении, решается задача
(8)
где . Точное решение задачи (8) выбирается за .
Определение. Метод 1-го порядка, в котором шаг выбирается в виде (7), а направление наилучшим называется методом наискорейшего спуска.
б) , где – малое число, при этом способе на всех итерациях шаг выбирается одинаковым.
Замечание. Если шаг выбрать достаточно большим, то даже если направление позволяет уменьшить целевую функцию, с этим шагом функция возрастёт. (Перейдём на противоположную сторону оврага и более высокую.)
в) метод последовательного дробления.
При таком выборе шага задача (8) решается подбором. Выбираем сначала и сравниваем значения и . Если между числами знак , то шаг большой (целевая функция увеличивается) и уменьшают в несколько раз (10). Поле чего повторяем сравнение. Если знак , то шаг подходит, но и в этом случае его можно улучшить (в несколько раз увеличить или уменьшить ). Существуют специальные схемы подбора шага итераций.
Дата публикования: 2015-01-23; Прочитано: 189 | Нарушение авторского права страницы | Мы поможем в написании вашей работы!