2.3. Особенности применения градиентной оптимизации совместно с методами планирования экспериментов

Применение методов планирования экспериментов вносит в типовую процедуру градиентных методов поиска свою специфику.

1. В задачах экспериментального исследования функция f(V) обычно изначально неизвестна, ее вид выбирается относительно произвольно, а параметры устанавливается по результатам эксперимента. На начальных этапах исследования трудоемкость решения задачи оптимизации можно снизить, применяя неполные полиномы k-го порядка или линейные полиномы

y' = 0 + 1x1 +…+ kxk + 12x1x2 + 13x1x3 +… + k–1,k xk–1xk+ …+ 12…k x1х2…хk + ; y' = 0 + 1x1 + …+ kxk + .

(2.5а) (2.5б)

Таким образом, вместо самого градиента применяется его оценка. Оба вида полинома являются линейными относительно конкретного фактора. Количество членов полинома типа (2.5а) составляет 2^k , а для типа (2.5б) равно k+1. Теоретически оценки коэффициентов в точке оптимума должны стать равными нулю, что и будет признаком завершения поиска решения. Однако применение этих моделей может стать нерациональным в области, близкой к оптимуму, из-за больших относительных погрешностей в оценке коэффициентов указанных моделей. Поэтому для исследования области оптимума следует переходить к использованию полиномов более высокой степени.

2. Применение градиентных методов предполагает, что движение по градиенту может осуществляться в любом направлении изменения аргументов функции f(V), т.е. ограничений на область допустимых значений аргументов нет. В практических задачах всегда существуют ограничения на значения параметров, поэтому при выборе направления движения следует учитывать это обстоятельство.

3. Значение градиента зависит от принятой системы перехода к кодированным значениям переменных, т.е. не является инвариантным к выбору центральной точки и интервала варьирования в формуле (1.1). Но знаки частных производных при переходе от одной системы координат к другой сохраняются. Поэтому направление перемещения в методе градиентного поиска не меняется при смене системы координат. Следовательно, в любой системе координат градиентный метод приведет к оптимуму, хотя скорость поиска и будет зависеть от выбранных значений центра и интервала варьирования переменных.

4. Рассмотренный выше способ определения шага крутого восхождения применяют только при описании поверхности отклика полными полиномами второй или более высокой степени. При анализе линейных функций определение шага изменения аргументов производится на основе неформальных процедур. Для полиномов (2.5а, б) шаг v_i^* изменения i-го фактора относительно центра (в центре области планирования все нормализованные переменные равны нулю) определяется пропорционально соответствующей составляющей оценки градиента и величине интервала варьирования v_i

vi* = vi i /[12 +22 + … + k2 ]0,5.

(2.6)

Новое значение основного уровня фактора v_i,1 в исходной шкале измерений составит величину v_{i, 1}= v_{i, 0} + v_i^*.

5. Применение метода крутого восхождения в его классическом виде предполагает вычисление градиента на каждом этапе. А это означает необходимость проведения достаточно большого количества опытов. Бокс и Уилсон предложили в 1951 г. модификацию метода крутого восхождения. Они рекомендуют на начальном этапе поиска применять линейные полиномы для описания функции отклика. Значение градиента оценивается в начальной точке, после чего пошаговое движение по градиенту продолжается до попадания в частный оптимум (до тех пор, пока значение функции отклика возрастает при переходе от точки к точке). В точке частного оптимума с помощью факторного эксперимента снова определяется градиент. И пошаговое движение начинается по новому направлению. Так продолжается до попадания в область глобального экстремума. Эта область не может быть адекватно описана линейным уравнением. Поэтому переходят к более точному описанию поверхности отклика на основе полиномов второго порядка и уточнению положения точки глобального оптимума. Построение плана для формирования полинома второй степени производится путем добавления некоторых точек к "ядру", уже сформированному для линейного приближения (такие планы получили наименование композиционных). В целом метод Бокса – Уилсона во многих случаях требует меньшего количества опытов возможно при несколько большем числе шагов.

6. Градиентные методы не обеспечивают гарантированного нахождения глобального оптимума при нарушении условия унимодальности функции отклика. Выбор начальной точки для крутого восхождения предопределяет область поиска локального экстремума. Поэтому при наличии априорных сведений о возможности существования нескольких локальных экстремумов, целесообразно осуществить решение задачи оптимизации для нескольких вариантов задания исходных значений параметров.

7. Если эксперимент проводится на реальном объекте и требует больших затрат ресурсов, то поиск значений параметров может завершиться при получении удовлетворительных, а не оптимальных, значений функции отклика. Градиентный метод позволяет находить приемлемые решения и в этом случае.

Однако градиентный метод не всегда эффективен. Например, если поверхность функции отклика имеет овражный характер, то движение будет происходить с одного склона на другой с медленным продвижением к точке минимума. Для таких функций разработано несколько эвристических методов ускоренного продвижения вдоль оврага или гребня.