Выпуклые и вогнутые функции

Это важный класс унимодальных функций. Введем обозначение: x=(x₁,x₂,…,x_n)-n-мерный вектор.

Определение: Функция n мерных f(x), определенная на выпуклом множестве D, называется выпуклой функцией тогда и только тогда, когда для любых двух точек x⁽¹⁾ и x⁽²⁾ принадлежащих D, и любого числа L (0<=L<=1) выполняется неравенство: f(Lx⁽¹⁾ +(1-L)x⁽²⁾)<=Lf(x⁽¹⁾)+(1-L)f(x⁽²⁾).

Свойства выпуклых функций:

1.Хорда, соединяющая две любые точки кривой графика выпуклой функции, всегда проходит над (или выше) кривой в интервале между двумя этими точками.

2.Выпуклая функция лежит над своими касательными

3.Тангенс угла наклона касательной, или первая производная f(x), возрастает или по крайней мере не убывает при увеличении x.

4.Вторая производная f(x) всегда не отрицательна на рассматриваемом интервале.

5.Для выпуклой функции локальный минимум всегда является глобальным минимумом.

Определение: Градиент функции f(x₁,x₂,…,x_n) определяется как вектор

grad f(x₁,…,x_n)=(df/dx₁,df/dx₂,…,df/dx_n)^T.

Определение: Матрица Гессе (гессиан) для функции f(x₁,…,x_n) есть симметрическая матрица порядка n*n: H_f(x₁,…,x_n)=[d²f/dx_idx_j]= H(f).

Проверка функции на выпуклость: Функция f(x₁,…,x_n) выпуклая, если ее матрица Гессе положительно определена или положительно полуопределена для всех значений x₁,x₂,…,x_n .

Для функции одной переменной: функция f(x) выпуклая, если ее вторая производная неотрицательна для всех значений x: d²f/dx²=>0, для всех x.

Если матрица Гессе H_f – положительно определенная матрица, то f называется строго выпуклой функцией и обладает единственной точкой минимума.

Проверка матриц на положительную определенность:

1) Все диагональные элементы должны быть положительными.

2) Все ведущие главные определители должны быть положительными.

Проверка матриц на положительную полуопределенность:

1) Все диагональные элементы неотрицательны.

2) Все главные определители неотрицательны.

Замечание: Чтобы установить, что данная матрица является отрицательно определенной (полуотрицательно определенной), следует умножить ее на -1 и проверить полученную матрицу на положительную определенность (полуположительную определенность).

Вогнутая функция. Функция f(x₁,…,x_n) является вогнутой функцией на множестве D тогда и только тогда, когда –f(x) есть выпуклая функция на D.

Проверка функции на вогнутость. Функция f(x₁,…,x_n) вогнутая, если ее матрица Гессе отрицательно определена, или отрицательно полуопределена для всех значений x₁,…,x_n.

Пример: Исследовать функцию на выпуклость.

f(x₁,x₂,x₃)=3x₁² +2x₂² +x₃² –2x₁x₂ –2x₁x₃ +2x₂x₃ –6x₁ –4x₂ –2x₃

6x₁ –2x₂ –2x₃ –6

grad f(x₁,x₂,x₃)= 4x₂ –2x₁ +2x₃ –4

2x₃ –2x₁ =2x₂ –2

H_f (x₁,x2,x3)=

Исследуем H_f.

1. H_f –симметрическая матрица.

2. Все диагональные элементы H_f положительны.

3. Ведущие главные определители Н равны:

|6|>0

Следовательно, H_f – положительно определенная матрица. Отсюда следует, что f-выпуклая функция. Более того, f строго выпуклая функция и обладает единственной точкой минимума.