Линейная алгебра - 1 - Основы

Это седьмой день моего участия в ноябрьском испытании обновлений, подробности о мероприятии:Вызов последнего обновления 2021 г.

Линейная алгебра, основы, уроки прошлого.

определение

вектор:

Векторы по умолчанию являются векторами-столбцами:

{% raw %}

\overrightarrow{\mathbf{x}}=\left(x_{1}, x_{2}, \cdots, x_{n}\right)^{T}=\left[\begin{array}{c} x_{1} \\ x_{2} \\ \vdots \\ x_{n} \end{array}\right]

{% endraw %}

матрица $\mathbf{X} \in \mathbb{R}^{m \times n}$ , Выражается как:

{% raw %}

\mathbf{X}=\left[\begin{array}{cccc} x_{1,1} & x_{1,2} & \cdots & x_{1, n} \\ x_{2,1} & x_{2,2} & \cdots & x_{2, n} \\ \vdots & \vdots & \ddots & \vdots \\ x_{m, 1} & x_{m, 2} & \cdots & x_{m, n} \end{array}\right]

{% endraw %}

норма

векторная норма

1-норма

Сумма абсолютных значений отдельных элементов

{% raw %}

\|X\|_{1}=\sum_{i=1}^{n}\left|x_{i}\right|

{% endraw %}

2-норма

Извлеките квадратный корень из суммы квадратов каждого элемента

{% raw %}

\|X\|_{2}=\left(\sum_{i=1}^{n} x_{i}^{2}\right)^{\frac{1}{2}}=\sqrt{\sum_{i=1}^{n} x_{i}^{2}}

{% endraw %}

p-норма

{% raw %}

\|X\|_{p}=\left(\sum_{i=1}^{n}\left|x_{i}\right|^{p}\right)^{\frac{1}{p}}

{% endraw %}

где положительное целое числоp≥1 и имеет {% необработанных %} $\lim _{p \rightarrow \infty}\|X\|_{p}=\max _{1 \leq i \leq n}\left|x_{i}\right|$ .{% endraw %}

норма бесконечности

{% raw %}

\|X\|_{\infty}=\max _ { 1 < i< n}\left|x_{i}\right |

{% endraw %}

является значением элемента с наибольшим абсолютным значением в векторе.

матричная норма

1-норма (модуль столбца)

Сначала суммируются абсолютные значения элементов по каждому столбцу матрицы, а затем берется наибольшее из них, (сумма по столбцу является наибольшей)

{% raw %}

\|A\|_{1}=\max _{1 \leq j \leq n} \sum_{i=1}^{n} \mid a_{i j}\mid

{% endraw %}

2-норма (спектральная норма):

Квадратный корень из наибольшего собственного значения:

{% raw %}

\mid\mid A \|_{2}=\sqrt{\lambda_{\max }\left(A^{T} A\right)}=\sqrt{\max _{1 \leq i \leq n}\left|\lambda_{i}\right|}

{% endraw %}

Норма бесконечности (норма строки):

Сначала суммируется абсолютное значение элементов в каждой строке матрицы, а затем берется наибольшее, (сумма строк является наибольшей)

{% raw %}

\|A\|_{\infty}=\max _{1 \leq i \leq n} \sum_{j=1}^{n} \mid a_{i j}\mid

{% endraw %}

L0 норма:

Количество ненулевых элементов матрицы, которое обычно используется для представления разреженности.Чем меньше норма L0, тем больше 0 элементов и тем больше разреженность

L1 норма:

Сумма абсолютных значений каждого элемента в матрице, которая является оптимальной выпуклой аппроксимацией нормы L0, поэтому она также может аппроксимировать разреженность

F-норма:

Квадратный корень из суммы квадратов каждого элемента матрицы обычно называют L2-нормой матрицы, Его преимущество в том, что это выпуклая функция, которую можно вывести и решить, и ее легко вычислить.

{% raw %}

\|\mathbf{A}\|_{F}=\sqrt{\sum_{i, j} a_{i, j}^{2}}

{% endraw %}

определитель

фаланга $A$ Определитель , обозначаемый как $det(A)$ или $|A|$ :

{% raw %}

D=\left|\begin{array}{llll} a_{11} & a_{12} & \cdots & a_{1 n} \\ a_{21} & a_{22} & \cdots & a_{2 n} \\ \cdots & \cdots & \cdots & \cdots \\ a_{n 1} & a_{n 2} & \cdots & a_{n n} \end{array}\right|

{% endraw %}

Формула расчета:

D=\sum (- 1) ^ {k } a_{1 k_{ 1} } a_{2 k_{2} } \cdots a_ { n k _ { n} }

Значит это $n$ Кусок $n$ Объем n-мерного параллельного многогранника, образованного размерным вектором, объем имеет положительный и отрицательный, при наличии линейно связанного вектора определитель равен 0
определитель $A$ используйте одно и то же число в строке (или столбце) $k$ умножить, результат равен $kA$
определитель $A$ равен его транспонированному определителю $A^T$ ( $A^T$ i-е поведение $A$ Первый $i$ Список)
определитель $A$ Две строки (или столбца) меняются местами, и результат равен $-A$
поставить определитель $A$ Умножьте каждый элемент в строке (или столбце) на число и добавьте его к соответствующему элементу в другой строке (или столбце), результат по-прежнему $A$

след площади

фаланга $\mathbf{A}=\left(a_{i, j}\right)_{n \times n}$ след, записанный как $\operatorname{tr}(\mathbf{A})$ , сумма диагональных элементов также равна сумме собственных значений:

{% raw %}

\operatorname{tr}(\mathbf{A})=\sum_{i} a_{i, i}

{% endraw %}

векторный продукт

Скалярное произведение**

Сумма произведений соответствующих элементов, результат не вектор, а скаляр (Scalar)

{% raw %}

{\bf{A} } \cdot {\bf{B} } = \sum\limits_i { {a_i}{b_i} } = \left| A \right|\left| B \right|Cos\left( \theta \right)

{% endraw %}

перекрестное произведение

Векторное произведение трехмерных векторов:

представлен определителем третьего порядка

{% raw %}

\overrightarrow{\mathbf{u}}=u_{x} \overrightarrow{\mathbf{i}}+u_{y} \overrightarrow{\mathbf{j}}+u_{z} \overrightarrow{\mathbf{k}}, \quad \overrightarrow{\mathbf{v}}=v_{x} \overrightarrow{\mathbf{i}}+v_{y} \overrightarrow{\mathbf{j}}+v_{z} \overrightarrow{\mathbf{k}}

{% endraw %}

в $\overrightarrow{\mathbf{i}}, \overrightarrow{\mathbf{j}}, \overrightarrow{\mathbf{k}}$ соответственно $x, y, z$ Единичный вектор оси.

{% raw %}

\overrightarrow{\mathbf{w}}=\overrightarrow{\mathbf{u}} \times \overrightarrow{\mathbf{v}}=\left[\begin{array}{ccc} \overrightarrow{\mathbf{i}} & \overrightarrow{\mathbf{j}} & \overrightarrow{\mathbf{k}} \\ u_{x} & u_{y} & u_{z} \\ v_{x} & v_{y} & v_{z} \end{array}\right]

{% endraw %}

$\overrightarrow{\mathbf{u}}, \overrightarrow{\mathbf{v}}$ Поперечное произведение перпендикулярно $\overrightarrow{\mathbf{u}}, \overrightarrow{\mathbf{v}}$ Построенные плоскости, ориентированные по правилу правой руки
Модуль векторного произведения равен $\overrightarrow{\mathbf{u}}, \overrightarrow{\mathbf{v}}$ Площадь образованного параллелограмма

диада векторов

Даны два вектора {% raw %} $\overrightarrow{\mathbf{x}}=\left(x_{1}, x_{2}, \cdots, x_{n}\right)^{T}, \overrightarrow{\mathbf{y}}=\left(y_{1}, y_{2}, \cdots, y_{m}\right)^{T}$ {% endraw %} объединение векторов записывается так:

{% raw %}

\overrightarrow{\mathbf{x}} \overrightarrow{\mathbf{y}}=\left[\begin{array}{cccc} x_{1} y_{1} & x_{1} y_{2} & \cdots & x_{1} y_{m} \\ x_{2} y_{1} & x_{2} y_{2} & \cdots & x_{2} y_{m} \\ \vdots & \vdots & \ddots & \vdots \\ x_{n} y_{1} & x_{n} y_{2} & \cdots & x_{n} y_{m} \end{array}\right]

{% endraw %}

Также известен как {% необработанный %} $\overrightarrow{\mathbf{x}} \otimes \overrightarrow{\mathbf{y}}$ {% enddraw %} или {% raw %} $\overrightarrow{\mathbf{x}} \overrightarrow{\mathbf{y}}^{T}$ {% отрисовывать%}.

Матричные операции

Даны две матрицы {% raw %} $\mathbf{A}=\left(a_{i, j}\right) \in \mathbb{R}^{m \times n}, \mathbf{B}=\left(b_{i, j}\right) \in \mathbb{R}^{m \times n}$ {% enddraw%}, определение:

Продукт Адамара (также известный как поэлементный продукт)

{% raw %}

\mathbf{A} \circ \mathbf{B}=\left[\begin{array}{cccc} a_{1,1} b_{1,1} & a_{1,2} b_{1,2} & \cdots & a_{1, n} b_{1, n} \\ a_{2,1} b_{2,1} & a_{2,2} b_{2,2} & \cdots & a_{2, n} b_{2, n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m, 1} b_{m, 1} & a_{m, 2} b_{m, 2} & \cdots & a_{m, n} b_{m, n} \end{array}\right]

{% endraw %}

Продукт Кронекера

{% raw %}

\mathbf{A} \otimes \mathbf{B}=\left[\begin{array}{cccc} a_{1,1} \mathbf{B} & a_{1,2} \mathbf{B} & \cdots & a_{1, n} \mathbf{B} \\ a_{2,1} \mathbf{B} & a_{2,2} \mathbf{B} & \cdots & a_{2, n} \mathbf{B} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m, 1} \mathbf{B} & a_{m, 2} \mathbf{B} & \cdots & a_{m, n} \mathbf{B} \end{array}\right]

{% endraw %}

Частная производная

Частная производная скаляра по скаляру: $\frac{\partial u}{\partial v}$ .
скаляр к вектору ( $n$ размерный вектор) частной производной: $\frac{\partial u}{\partial \overrightarrow{\mathbf{v}}}=\left(\frac{\partial u}{\partial v_{1}}, \frac{\partial u}{\partial v_{2}}, \cdots, \frac{\partial u}{\partial v_{n}}\right)^{T}$ .
скалярная парная матрица ( $m \times n$ матрица порядка) частные производные:

{% raw %}

\frac{\partial u}{\partial \mathbf{V}}=\left[\begin{array}{cccc} \frac{\partial u}{\partial V_{1,1}} & \frac{\partial u}{\partial V_{1,2}} & \cdots & \frac{\partial u}{\partial V_{1, n}} \\ \frac{\partial u}{\partial V_{2,1}} & \frac{\partial u}{\partial V_{2,2}} & \cdots & \frac{\partial u}{\partial V_{2, n}} \\ \vdots & \vdots & \ddots & \vdots \\ \frac{\partial u}{\partial V_{m, 1}} & \frac{\partial u}{\partial V_{m, 2}} & \cdots & \frac{\partial u}{\partial V_{m, n}} \end{array}\right]

{% endraw %}

вектор( $m$ размерный вектор) по частной производной скаляра: $\frac{\partial \overrightarrow{\mathbf{u}}}{\partial v}=\left(\frac{\partial u_{1}}{\partial v}, \frac{\partial u_{2}}{\partial v}, \cdots, \frac{\partial u_{m}}{\partial v}\right)^{T}$ .
вектор( $m$ размерный вектор) к вектору ( $n$ размерный вектор) частной производной (якобианской, по основным строкам), если по основным столбцам, транспонирование матрицы.

{% raw %}

\frac{\partial \overrightarrow{\mathbf{u}}}{\partial \overrightarrow{\mathbf{v}}}=\left[\begin{array}{cccc} \frac{\partial u_{1}}{\partial v_{1}} & \frac{\partial u_{1}}{\partial v_{2}} & \cdots & \frac{\partial u_{1}}{\partial v_{n}} \\ \frac{\partial u_{2}}{\partial v_{1}} & \frac{\partial u_{2}}{\partial v_{2}} & \cdots & \frac{\partial u_{2}}{\partial v_{n}} \\ \vdots & \vdots & \ddots & \vdots \\ \frac{\partial u_{m}}{\partial v_{1}} & \frac{\partial u_{m}}{\partial v_{2}} & \cdots & \frac{\partial u_{m}}{\partial v_{n}} \end{array}\right]

{% endraw %}

матрица( $m \times n$ матрица порядка) по частной производной скаляра

{% raw %}

\frac{\partial \mathbf{U}}{\partial v}=\left[\begin{array}{cccc} \frac{\partial U_{1,1}}{\partial v} & \frac{\partial U_{1,2}}{\partial v} & \cdots & \frac{\partial U_{1, n}}{\partial v} \\ \frac{\partial U_{2,1}}{\partial v} & \frac{\partial U_{2,2}}{\partial v} & \cdots & \frac{\partial U_{2, n}}{\partial v} \\ \vdots & \vdots & \ddots & \vdots \\ \frac{\partial U_{m, 1}}{\partial v} & \frac{\partial U_{m, 2}}{\partial v} & \cdots & \frac{\partial U_{m, n}}{\partial v} \end{array}\right]

{% endraw %}