Оглавление:
Поиск минимума сильно выпуклой функции
- Сильно найти минимальное значение выпуклой функции. Докажем, что сильно выпуклая функция f (x), заданная замкнутым выпуклым множеством Q, имеет локальную минимальную единственную точку XO в этом множестве. Обратимся к построению и обоснованию алгоритма, где находится эта точка x0. Зафиксируйте любое число, удовлетворяющее любой точке xi и неравенству O0 находится в множестве Q. (от 12.1.28) до (12.1.28) точка y сразу следует, что она не соответствует LDH). Из—за выпуклости множества Q точек z=Pq (x)++t (y-Pq (x)) мы вычисляем расстояние между этой точкой z и точкой x: P2(g, x)=(x-PQ(x)—t (y—PQ (x)) pq (x), y-P2p2 (X)+pq (X)). (12.1.29) Поскольку X и y фиксированы, а t-любое число из сегмента 1, Вы
можете взять t, удовлетворяющее неравенству, благодаря неравенству(12.1.28 00. Это отношение справедливо для любого вектора DX, где точка XO+DX принадлежит Q, и по Лемме 3 функция/(x) устанавливает, что она имеет локальное минимальное значение в точке XO. Лемма 5 доказана. Предполагая, что функция f(x) сильно выпукла относительно ограниченного выпуклого множества Q,минимальное значение f(x) множества Q равно m, а для P число, строго большее PG, равно C>m=min/(x). xeq по Мы фиксируем строго большее число g, чем C, и обозначаем подмножество<5-из тех точек x в множестве Q H Но Если набор-Q является также ограниченная и неравенства (12.1.30) принадлежит к подмножеству допустимых точек Q для п>м, где точка X является/(х), то неравенство|
Д х строго х^м (12.1.34) так что х|Д х / >г действителен! Д О К а з а т е л ь с т в о. Людмила Фирмаль
сначала докажем неравенство(12.1.33). Исправить любые точки X в Q и привлечь леммы 4 и записывать неравенства (12.1.27), взяв точку Х—agradf (х) вместо Х и у в точке H, а не.) dx, — dx)<0. Из характеристик неравенства и скалярного произведения последнего оно становится a (grad DX), DX/Dx21<0, что приводит к неравенству (12.1.33). При дополнительном предположении, что Q ограничено и x принадлежит подмножеству<5, остается доказать, что оно существует при 0 и что неравенство истинно(12.1.34).. Рассмотрим неотрицательную функцию точки x вида[DX / = / Pq (x-A grad D x)—x|. (12.1.35) давайте убедимся, что эта функция является непрерывной функцией точки x на множестве Q. Сначала докажем, что векторная функция Pq(x) является непрерывной функцией точки X. p0 (x+DX) — Pq| x) / < / D x|, (12.1.36)справедлива для любого вектора x и DX Благодаря Лемме 4 справедливо неравенство(x-Pq(x), Re(x+D x) Pq(x))<0,(x+DX), (X+DX)-
P2(x+DX))<0. Эти неравенства Коши—Бунаков-ского неравенства, используют отношение|Р<2(х+ДХ)—ВП(х)12=(ВП(х+ДХ)—Р (чч), ВП(х+ДХ)—ВП(х))=(Ро(х+ДХ)—ВП(х)—РО(х+ДХ)—ВП(х))+(х—ВП(х))+(х—ВП(х)Для PQ(х)ВП (ВП(<+РQ(<е)) <+ДХ)—х,р<е(х+ДХ)—ВП(х))=ВП(х+ах)—х—ДХ,Р 2 (х+ДХ) 1—РQ(х))+(ДХ,РС(х+ДХ)—ВП(х))<<(ДХ, для PQ(х+ах)-Р0, и неравенство (12.1.34) доказано.Дополнение 1 531′ Лемма 6 отлично доказана. Л е м м А7. Пусть функция f (x) — замкнутое множество Q, x-любая точка Q, любое число, удовлетворяющее неравенству(12.1.25), — разность форм (12.1.32). Затем, при переходе из точки x в точку, значение функции f (x), * x==Pq(x-agradf (x)), возвращает значение*em *Это из(13.1.25) /(x)-/(x’)>(A_A) / D x / 2. (12.1.37) Кроме того, если множество Q ограничено и точка x принадлежит подмножеству Q
- точек, где неравенство (12.1.30) справедливо для p>m inf (x), то неравенство » XGQ (12.1.37)передается неравенство F (Х)-ф () х>(К-У)У2, (12.1.38).’ Где y>0-константа леммы 6. D o K a z a t e l s T V o. любая точка x множества Q достаточна для установления неравенства (12.1.37) из этого неравенства, а из неравенства (12.1.34) непосредственно следует неравенство (12.1.38) (но не если Q равно). Прежде всего, если точка x является внутренней точкой множества Q, то в виду того, что точка x=Pq (x—agradf (x)) принадлежит множеству Q, если функция f (x) сильно выпукла, то значение f) (2 ()в виде Лагранжа вокруг точки x по-x). В этом случае f) (X=f (x)+(gradf (x), x)> — ^ — d2f (x+Oax), (12.1.39) — где * DX=x-x=Pq(x-agradf (x))-x, O<0<1. Используя неравенство (12.1.33) и правильное неравенство (12.1.14), формула Тейлора (12.1.39)/(X’)-/(X)< — — — — -! / D h / 2+A / D h / 2, А2 Таким образом, в случае внутренней точки x доказывается неравенство(12.1.37) g. A_A>0. 2.532 ч. 12. Функции некоторых
переменных Пусть X-граничная точка множества q. Определяя граничную точку, существует последовательность{x»}, в которой внутренняя точка множества Q сходится к X. Для каждой точки xn по формуле Тейлора с центром в этой точке f (x)=f (xn)+(gradf (xn), (x—x»))++d?f[xn+en(x — xn)], (12.1.40) Где O<0 » <1. Учитывая, что правильное неравенство(12.1.14) выполняется для d2f в любой точке множества Q и что град/(x) является непрерывной векторной функцией для точки x на множестве Q, предел N->+из этого соотношения (12.1.40) подчиняется действительности неравенства (12.1.37) для граничной точки x множества Q. Лемма 7 была доказана. Теперь перейдем непосредственно к теореме Д О К а т е л ь с т в У О С Н О В Н О й. Во-первых, основная теорема доказывается в дополнительном предположении, что замкнутое выпуклое множество Q также присутствует для GRN и hensm. Если взять произвольную точку xt множества Q, а число a удовлетворяет неравенству (12.1.25), то получим итерационную последовательность{xh}
точек, определяемую рекуррентным соотношением (12.1.26). Из леммы 7(вернее, из Людмила Фирмаль
неравенства (12.1.37)) сразу следует/(x*)^ / (с x.1) > **+112 > 0 . Таким образом, последовательность{/(x^)} не растет. Кроме того, поскольку эта последовательность заключена снизу(минимальное значение t функции f(x) множества Q), она сходится(см. Главу 3, теорема 5.15). Пусть C обозначает предел последовательности {/(xfe)}.|1> / n, где t-минимальное значение множества q / (x), ясно. Кроме того, поскольку все члены последовательности неинкрементной сходимости являются, по крайней мере, их пределами(см. Примечание 3 в теореме 3.15, Глава 3), неравенство справедливо для всех чисел k. (12.1.41) докажите, что равенство p=t=min/(x) справедливо для предела C. ___________xGQ * множество Q выпукло, поэтому граничная точка не может быть изолирована.Дополнение 1 533 Предположим, что это равенство несправедливо, т. е.\1>T. через v показано максимальное значение f (x) множества Q, а через подмножество этих точек
Q(12.1.30）: m w u^)^(^—t B2>0′(12L-42> Справедливо для любого числа.к Если суммировать неравенство (12.1.42), то оно записывается для числа k, которое равно 1,2…, p-1, мы получаем его для любого числа p Или что то же самое, zw< / Ui) — 0-i) (121LZ) Допустимое неравенство (12.1.43) для любого числа p не согласуется с неравенством (12.1.41), поскольку значение, стоящее справа (12.1.43), является достаточно большим числом p. Полученное противоречие доказывает ошибочность предположения\i>m, то есть C=t. поэтому докажем, что последовательность F (XK) сходится к минимуму t функции f (x) на множестве Q. Остается доказать, что сама итерационная последовательность{Xk}сходится к точке XO этого минимального значения*.Реализация *Мы уже доказали, что минимальное значение функции f (x) множества Q достигает одной точки этого множества.
Зафиксируйте любое положительное число e и обозначьте открытый TP мерный шар радиуса e с центром в точке C » XO. Ниже приведены части множества Q, которые не содержат точек шара CE. Поскольку ясно, что CL является замкнутым ограниченным множеством, функция f(x) достигает минимального значения этого множества (согласно второй теореме Вейерштрасса). В противном случае можно утверждать, что условия существования одной точки локального минимума на множестве Q функции f (x) нарушаются. Кроме того, можно утверждать, что в множестве существует только число точек в последовательности (xD) (sequence {/(XA)}), которая имеет бесконечное число-534 Глава 12. Функции некоторых переменных Число элементов, удовлетворяющих неравенству f (x^)^t e>t, не может сходиться к числу t.) Итак, в случае e>0 мы доказали, что все элементы последовательности{x*}имеют число-JV, которое находится в радиусе e шара CE в центре точки xD. Это означает, что последовательность{xk}сходится к точке x0. Поэтому в случае
замкнутого выпуклого множества Q доказывается основная теорема. Теперь пусть Q-замкнутое выпуклое множество. Опять же, мы модифицируем любую точку xt в этом множестве, и если число a удовлетворяет неравенству (12.1.25), мы делаем итерационный массив (12.1.26). При доказательстве теоремы о существовании локальных минимумов сильно выпуклой функции (см. параграф 2) замкнутое выпуклое множество Q n E O g R a n и H e N o m сильно зависит от того, какое условие выбрано. — y# — / выпускники / (x1) / >0. Также подтверждается, что QR-подмножество множества Q является ограниченным замкнутым выпуклым множеством и что значение f (x) где-то отличается от<2D, чем f (xi). Благодаря Лемме 7(или, скорее, неравенство'(12.1.37)), то последовательность{Ф (ХК)} является
значением unincreased, и за пределами QR является все значения Ф (Х).Следовательно, для любого числа k PQ(xk-a grad/(XA))=PQr(xk-a grad f (xk)). Таким образом, итерационный массив (12.1.26) может быть заменен следующим образом ** +I=P Qr » град f (xfe)), после чего все дальнейшие выводы сводятся к ограниченному замкнутому выпуклому множеству QR. Основная теорема прекрасно доказана. З а м е ч а н и Е1. Последовательность (12.1.26) выглядит особенно простой, если множество Q соответствует»целому пространству». В этом случае для любой точки x рекурсивная формула (12.1.26) принимает вид Xk+i=xk—a gradf (xA), поскольку справедливо равенство Pq (x)=x.
Смотрите также:
Методическое пособие по математическому анализу
| Понятие равномерной непрерывности функции | Основные свойства верхних и нижних сумм |
| Понятие модуля непрерывности функции | Интегрирование по частям |
