Комбінований метод для розв'язання вироджених задач безумовної оптимізації

Abstract

Представлено метод другого порядку для розв'язання вироджених задач безумовної оптимізації, який є комбінацією двох методів: методу Ньютона та градієнтного методу. На кожній ітерації весь простір представляється як декартовий добуток двох підпросторів: ядра матриці Гессе та ортогонального доповнення до нього. На ядрі матриці Гессе працює градієнтний метод, а на ортогональному доповненні до нього – метод Ньютона. При цьому застосовується параметр регуляризації чисельного методу для розділення простору на два ортогональних підпростори. Розглядається також квазі-ньютонівський варіант представленого методу. Ефективність квазі-ньютонівського варіанту метода підтверджується чисельними експериментами, які були проведені на загальноприйнятих тестових функціях для задач безумовної оптимізації.