В методе дихотомии интервал неопределенности уменьшается как показательная функция:
В методе наискорейшего спуска в направлении выбранного градиента делается несколько шагов до тех пор, пока целевая функция не начнет ухудшаться:
В методе пассивного поиска точность обратно пропорциональна числу измерений:
В методе сканирования ищутся значения функции в узлах сетки, и из них выбирается наименьшее (или наибольшее) значение:
Градиент функции дает как направление движения, так и величину шага:
Для вычисления градиента функции в точке необходимо вычислить значения первых и вторых частных производных в этой точке:
Для применения метода секущих необходимо знать значения производной функции:
Из трех методов активного поиска: дихотомии, Фибоначчи и золотого сечения самым быстрым является метод дихотомии:
Интервал неопределенности - интервал, в котором находится экстремум функции:
Матрица Гессе - матрица вторых частных производных функции:
Метод золотого сечения - деление отрезка на две неравные части, при этом отношение большей части к меньшей равно отношению всего отрезка к большей части:
Метод многомерной оптимизации - поиск экстремума функции многих переменных:
Методы активного и пассивного поиска различаются тем, что в первом случае требуется знание производной функции, а во втором не требуется:
Определитель хорошо обусловленной матрицы должен быть близок к нулю:
Следующее число в последовательности Фибоначчи 1, 1, 2, 3 равно 6: