- •Содержание
- •Предисловие
- •Глава I. Нелинейное программирование: экстремумы функций нескольких переменных
- •§1. Классические методы оптимизации
- •1.1. Безусловный экстремум функции одной переменной
- •1.2. Условный экстремум функции одной переменной
- •1.3. Безусловный экстремум функций двух переменных
- •2.1. Необходимые и достаточные условия
- •1.4. Упражнения.
- •§2. Безусловный экстремум функций нескольких переменных
- •§3. Условный экстремум функций нескольких переменных
- •3.1. Основные определения и факты
- •3.2. Условный экстремум при ограничениях типа равенств
- •3.3. Условный экстремум при ограничениях типа неравенств
- •3.4. Условный экстремум при смешанных ограничениях
- •3.5. Понятие о методах штрафных функций
- •Глава II. Численные методы нелинейного программирования
- •§1. Общие положения
- •1.1. Постановка проблемы
- •1.2. Общие принципы.
- •§2. Методы нулевого порядка одномерной минимизации
- •2.1. Общие положения
- •2.2. Метод равномерного поиска
- •2.3. Метод деления интервала пополам
- •§3. Методы первого и второго порядка
- •3.1. Метод градиентного спуска с постоянным шагом
- •3.2. Метод Ньютона
- •§4. Элементы численных методов задачи условной оптимизации выпуклого программирования
- •4.2. Постановка задачи выпуклого программирования.
- •4.3. Численные методы на основе метода штрафных функций
- •4.4. Метод проекции градиента.
- •Приложение 1. Варианты индивидуальных заданий
- •Задание нп-1
- •Задание нп-2
- •Задание нп-3
- •Задание нп-4
- •Задание нп-5
- •Задание нп-6
- •Задание нп-7
- •Задание нп-8
1.4. Упражнения.
1.4.1. Найти экстремумы функций y=f(x):
а)
f(x)=x2(1x
);
б)
f(x)=
;
в) f(x)=x2lnx.
1.4.2. Найти наибольшее и наименьшее значения функции y=f(x) на отрезке [a, b]:
а) f(x)=x42x2+3, [3, 2];
б) f(x)= , [1, 8];
в) f(x)=x2lnx, [0, 4].
1.4.3. Найти экстремумы функций z=f(x, y):
а) f(x, y)=x2xy+y2+9x6y+20;
б) f(x, y)=3x2x3+3y2+4y;
в)
f(x,
y)=
(x+y2).
1.4.4. Решить задачу на условный экстремум:
а) x2xy+y2+x+y4 max(min),
x+y+3=0;
б) xy2 max(min),
x+2y=1;
в) x+y max(min),
.
§2. Безусловный экстремум функций нескольких переменных
Всюду ниже мы рассматриваем задачу нахождения безусловного и условного экстремумов без ограничений, в общем случае.
Напомним, что если в задаче (1) отсутствует система ограничений, то задача называется задачей безусловной оптимизации.
2.1. Необходимые и достаточные условия
2.1.1. (Необходимое условие экстремума первого порядка) Пусть X*Rп точка локального минимума (максимума) функции f(X) на множестве Rп и f(X) дифференцируема в точке X*. Тогда градиент функции f(X) в точке X* равен нулю:
f(X*)=0, (2.1.1)
что равносильно системе
=0,
i=1,
2, …, n. (2.1.2)
2.1.2. (Необходимое условие экстремума второго порядка) Пусть X*Rп точка локального минимума (максимума) функции f(X) на множестве Rп и f(X) дважды дифференцируема в точке X*. Тогда матрица Гессе, вычисленная в точке X*, является положительно (отрицательно) полуопределённой:
H(X*)0 (2.1.3)
(H(X*)0) (2.1.4)
Точки, удовлетворяющие условиям (2.1.1), (2.1.2), (2.1.3) или (2.1.4), называются стационарными.
Условия
2.1.1
и 2.1.2
являются необходимыми условиями
экстремума, но не достаточными.
Действительно, для функции f(X)=
точка X*=(0,
0) является стационарной точкой, так как
,
=0
(3
,
3
)=0
(х1,
х2)=0
(то есть выполняются условия (2.1.1) и (2.1.2)), а также
=6х1,
=6х2,
=
=0,
H(X*)=
.
(то есть выполняются условия (2.1.3) и (2.1.4)). Но эта точка не является точкой экстремума, так как существуют точки X1 и X2, в которых имеют место неравенства f(X1)<f(X*)<f(X2): достаточно взять X1=(0; ) и X2=(; 0), где >0 сколь угодно малое число.
Для того, чтобы проверить, является ли стационарная точка точкой экстремума, используются следующие достаточные условия экстремума:
2.1.3. (Достаточные условия экстремума) Пусть функция f(X) в точке X* дважды дифференцируема, f(X*)=0 и H(X*)>0 (H(X*)<0). Тогда точка X* является точкой локального минимума (максимума) функции f(X) на Rп.
Таким образом, для того, чтобы исследовать функцию на безусловный экстремум (то есть найти для функции точки экстремумов, определить их характер и вычислить значения функции в этих точках), достаточно:
Найти у функции частные производные первого порядка.
Решив систему (2.1.2), найти стационарные точки функции.
Найти у функции частные производные второго порядка и составить матрицу Гессе H(X).
Определить, какие из стационарных точек являются точками максимума, какие точками минимума, какие ни тем, ни другим. Для этого используем информацию о знакоопределённости матрицы Гессе в стационарных точках (критерии 1.6.1 или 1.6.2 из Главы I).
Вычислить значения функции в точках экстремумов.
Пример I. Исследовать функцию f(X)=3x1x2x1 x2 на безусловный экстремум.
Решение. Следуем вышеописанной схеме исследования функции на безусловный экстремум.
1.
Найдём у функции частные производные
первого порядка:
=3x2
2x1x2,
=3x12x1x2
.
2. Решая систему (2.1.2), найдём стационарные точки функции:
Вычитая из первого уравнения системы второе, приходим к уравнению 3x23x1 + =0. Дальнейшие очевидные преобразования приводят к уравнению (x2x1)(3x2x1)=0. Дальше рассмотрим отдельно два случая:
Случай 1. x2x1=0, то есть x2=x1. Подставляя это равенство, например, в первое уравнение системы, получаем уравнение 3x13 =0, решениями которого являются x1=0 и x1=1. Тогда решениями системы являются Х1=(0, 0) и Х2=(1, 1).
Случай 2. 3x2x1=0, то есть x2=3x1. Подставляя это равенство во второе уравнение системы, получаем уравнение 3x1+ =0, решениями которого являются x1=0 и x1=3. Тогда решениями системы являются Х3=(0, 3) и Х4=(3, 0).
3. Найдём у функции частные производные второго порядка и составим матрицу Гессе H(X):
=2х2,
=2х1,
=
=32(x1+x2),
H(X)=
4. Определим, какие из стационарных точек являются точками максимума, какие точками минимума, какие ни тем, ни другим. Для этого используем информацию о знакоопределённости матрицы Гессе в стационарных точках (критерии 1.6.1 или 1.6.2 из Главы I).
H(X1)= .
Составим характеристическое уравнение и решим его:
=0
=0
(29)=0
1=3,
2=3.
Так как собственные значения матрицы H(X1) имеют разные знаки, то матрица H(X1) знаконеопределённая (см. 1.6.2 из Главы I и 1.1.2), а точка X1 не является точкой экстремума.
Для точки X2 имеем
H(X2)=
,
1=2<0,
2=
=3>0.
Так как угловые миноры матрицы Гессе знакочередуются, начиная с «», то она является отрицательно определённой и по 2.1.3 точка X2 является точкой локального максимума.
Для
точек X3
и X4
имеем H(X3)=
и H(X4)=
,
и у них множества собственных значений
{1,
2}={3+
,
3
}
совпадают, а сами значения имеют различные
знаки. Поэтому матрицы Гессе для этих
точек являются знаконеопределёнными,
и точки не являются точками экстремума.
Таким образом, из стационарных точек только точка X2 является точкой экстремума максимума.
5. Значение функции в этой точке f(X2)=311112121=1.
Заметим, что f(X)=x1x2(3x1x2), и при отрицательных x1 и x2, достаточно больших по абсолютной величине, f(X)>1. Например, f(2, 2)=(2)(2)(3(2)(2))=28>1. Найденная точка максимума имеет только локальный характер.
Ответ: (1, 1) точка локального максимума, fmax(X)=1.
Пример II. Исследовать функцию f(X) на безусловный экстремум:
а)
f(X)=
2
3
x12x2+x1x2;
б) f(X)=2 +2 +3 2x1+3x2+2x1x3;
в) f(X)= +2 +4x1+x22x1x2.
Решение. Действуем по схеме решения предыдущего примера.
а)
1. Найдём у функции частные производные
первого порядка:
=2x11+x2,
=4x22+x1,
=6x3.
2. Решая систему (2.1.2), найдём стационарные точки функции:
Из последнего уравнения получаем x3=0, а первые два рассматриваем как отдельную систему из двух уравнений с двумя неизвестными, и решаем, например, правилом Крамера:
=
=7,
=
=6,
=
=5,
x1=
=
,
x2=
=
.
Таким
образом, X0=
,
стационарная точка функции.
3. Найдём у функции частные производные второго порядка и составим матрицу Гессе H(X):
=2, =4, =6, = =1,
=
=1,
=
=0,
H(X)=
4. Определим, является ли стационарная точка точкой экстремума, и если да, то какой вид экстремума достигается в точке. Для этого исследуем на знакоопределённость матрицы Гессе, например, используя угловые миноры:
1=2<0,
2=
=7>0,
3=
=42<0,
то есть 1<0, 2>0, 3<0. Следовательно, H(X)<0 (матрица Гессе отрицательно определённая), и по 2.1.3 точка X0= , является точкой максимума.
5. Вычислим значение функции в этой точке:
fmax=f(X0)=f
,
=
2
302
2
+
=
.
б) Действуем по схеме решения задачи, опуская комментарии:
1. =4x12+2x3, =4x2+3, =6x3+2x1.
2.
x2=
.
Найдём x1 и x3:
=
=5,
=
=3,
=
=1,
x1=
=
,
x2=
=
,
X0=
,
стационарная точка.
3.
=4,
=4,
=6,
=
=0,
=
=2,
=
=0,
H(X)=
.
4.
1=4>0,
2=
=16>0,
3=
=80>0,
H(X)>0
(матрица Гессе положительно определённая),
и X0=
,
точка минимума.
5. fmax=f(X0)=f , =
=2
+2
+3
2
+3
+2
=
.
в) Как и выше:
1. =2x1+42x2, =4x2+12x1, =2x3.
2.
x3=0.
Найдём x1 и x2:
=
=2,
=
=9,
=
=5,
x1=
=
,
x2=
=
,
X0=
,
стационарная точка.
3.
=2,
=4,
=2,
=
=2,
=
=0,
=
=0,
H(X)=
.
4.
1=2>0,
2=
=4>0,
3=
=8<0,
то есть 1>0,
2>0,
3<0,
и матрица Гессе знаконеопределённая.
Следовательно, X0=
,
точкой экстремума не является.
Ответ: а) fmax= достигается в точке X0= , ;
б) fmin= достигается в точке X0= , ;
в) точки экстремума у функции не существует.
Пример III. Исследовать функцию
f(X)=2
+
+
+x1x312x2+5x3+6
на безусловный экстремум.
Решение.
1. Найдём у функции частные производные
первого порядка:
=4x1+x3,
=3
12,
=2x3+x1+5.
2. Найдём стационарные точки функции:
x2=2.
Отдельно
ищем x1
и x3:
=
=7,
=
=5,
=
=20,
x1=
=
,
x2=
=
.
Таким
образом, X1=
,
,
X0=
,
стационарные точки функции.
3. Составим матрицу Гессе H(X):
=4, =6x2, =2, = =0,
= =1, = =0,
H(X)=
.
4. Определим, какие из стационарных точек X1 и X2 являются точками максимума, какие точками минимума, какие ни тем, ни другим. Для этого используем информацию о знакоопределённости матрицы Гессе в стационарных точках.
Имеем
H(X1)=
,
и
1=4>0,
2=
=48>0,
3=
=84>0,
и H(X1)>0. Значит, точка X1= , точка минимума.
Далее,
H(X2)=
,
и
1=4>0,
2=
=48<0,
3=
=84<0,
то есть 1>0, 2<0, 3<0, и H(X1) является знаконеопределённой. Это означает, что точка X2= , не является точкой экстремума.
Таким образом, из стационарных точек только X1 является точкой экстремума, причём является точкой минимума.
5. Вычислим значение функции в точке X1:
fmin=f(X1)=f
,
=2
+23+
+
122+5
+6=
.
Ответ: fmin= достигается в точке X1= ,
2.2. Упражнение. Исследовать функцию f(X) на безусловный экстремум:
а) f(X)=2 +5 + 3x1x22x2+x3;
б) f(X)=3 +2 + +x1x3+2x23x3;
в) f(X)=2 +3 +4 2x1x24x2+3x2;
г) f(X)=2 5 + 3x1x22x2+x3;
д) f(X)=3 +2 + +x1x3+2x23x3;
е) f(X)=2 +3 4 2x1x24x2+3x2;
ж) f(X)=2 5 3x1x22x2+x2;
з) f(X)=3 2 +x1x3+2x23x3;
и) f(X)=2 3 4 2x1x24x2+3x2;
к)
f(X)=
+2
+3
+x2x327x1+5x23;
л)
f(X)=3
+
+4
+2x1x2+4x248x3+18;
м) f(X)=4 +5 +3 +4x1x360x2+4x32.
