Квадратичные задачи оптимизации — 3 — Производные и экстремальные точки

алгоритм

Это 16-й день моего участия в ноябрьском испытании обновлений.Подробности о событии:Вызов последнего обновления 2021 г.

В этой статье представлены ужечетко определенная проблемаНиже квадратичная производная связана с крайней точкой.

Существует ли точка с производной от 0?

  • Для общей квадратичной формы:
f(x)=12xTAxbTx+c\label1(1)f({\bf{x} }) = \frac{1}{2}{\bf{x^TAx} } - { {\bf{b} }^{\bf{T} } }{\bf{x} } + {\bf{c} } \tag{1} \label{1}
  • Производная:
f'(x)=Axb\label2(2)f'({\bf{x}}) = {\bf{Ax}} - {\bf{b}} \tag{2} \label{2}
  • Существует ли точка с производной от 0 и уравнениеAx=b\bf{Ax}=\bf{b}Существует ли эквивалентность решения
  • ПредполагатьrA=r(A){r_A} = r(A)заA\bf{A}классифицировать
  • Ab\bf{Ab}Является дополненной матрицей,rAb=r(Ab){r_{Ab}} = r(\bf{Ab})Для ранга расширенной матрицы существуют:
состояние в заключении
rA<rAbr_{A}<r_{Ab} У системы уравнений нет решения, и нет точки, где производная равна 0 в квадратичной форме
rA=rAb=nr_{A}=r_{Ab}=n Система уравнений имеет единственное решение, а квадратичная форма имеет единственную точку, где производная равна 0
rA=rAb<nr_{A}=r_{Ab}<n Система уравнений имеет бесконечное число решений, а квадратичная форма имеет бесконечное число точек, в которых производная равна 0.
rA>rAbr_{A}>r_{Ab} Невозможно, ранг расширенной матрицы не станет меньше

Существует ли крайняя точка?

  • Когда точка, в которой производная равна нулю, не существует, т.е.\eqref2\eqref{2}Когда система уравнений не имеет решения, крайняя точка не существует

  • Когда существует точка с производной 0:

    • какA\bf{A}— положительно определенная матрица, то формула\eqref1\eqref{1}Существует минимальное значение, то есть минимальное значение
    • какA\bf{A}— отрицательно определенная матрица, то формула\eqref1\eqref{1}имеет максимальное значение
    • какA\bf{A}Это полуположительно определенная матрица, и ее собственное значение равно 0. Поскольку предпосылка состоит в том, что система уравнений имеет решение, ранг и матрица расширенной матрицы равныA\bf{A}равны по рангу, тоb\bf{b}Соответствующее значение в равно 0, система уравнений имеет бесконечно много наборов решений, но она должна удовлетворять определенным условиям.При этом наборе условий система уравнений имеет минимальное значение, то есть, еслиA\bf{A}является положительно полуопределенной матрицей\eqref1\eqref{1}имеет минимальное значение, и в то же время является минимальным значением
    • Точно так же, еслиA\bf{A}полуотрицательно определенная матрица, то\eqref1\eqref{1}имеет максимальное значение
    • какA\bf{A}Собственные значения положительны или отрицательны, тогда\eqref1\eqref{1}В настоящее время существуют минимальные/максимальные значения, но не минимальные/максимальные значения.\eqref1\eqref{1}нет минимального/максимального значения
  • Чтобы сделать обсуждение содержательным, мы обсудим позже\eqref1\eqref{1}оптимизация вA\bf{A}При условии, что это полуположительно определенная матрица, найти ее минимальное значение, т. е. минимальное значение