找回密码
 快速注册
搜索
查看: 52|回复: 1

[不等式] Frobenius norm

[复制链接]

3149

主题

8388

回帖

6万

积分

$\style{scale:11;fill:#eff}꩜$

积分
65401
QQ

显示全部楼层

hbghlyj 发表于 2023-4-28 22:00 |阅读模式
本帖最后由 hbghlyj 于 2023-5-1 19:41 编辑 定义
Frobenius norm $\|\cdot\|_F$定义为$$\|A\|_F^2=\sum_{j=1}^{n}\sum_{i=1}^{n}{{a_{i}}_{j}}^2=\operatorname{tr}A^TA$$
次乘性
$$\|A\|_F^2\|B\|_F^2\ge\|AB\|_F^2$$
即:
实数${a_i}_j,{b_i}_j(i=1,\dots,n;j=1,\dots,n)$
$$\sqrt{\sum_{j=1}^{n}\sum_{i=1}^{n}(\sum_{k=1}^{n}{a_{i}}_{k}{b_{k}}_{j})^2} \leq \sqrt{\sum_{j=1}^{n}\sum_{i=1}^{n}{a_{i}}_{j}^2}\sqrt{\sum_{j=1}^{n}\sum_{i=1}^{n}{b_{j}}_{i}^2}$$
证明
由Cauchy$$(\sum_{k=1}^{n}{a_{i}}_{k}{b_{k}}_{j})^2\leq\sum_{k=1}^{n}{a_i}_k^2\sum_{k=1}^{n}{b_k}_j^2$$
对$i,j$求和:
$$\sum_{j=1}^{n}\sum_{i=1}^{n}(\sum_{k=1}^{n}{a_{i}}_{k}{b_{k}}_{j})^2\leq\sum_{j=1}^{n}\sum_{i=1}^{n}{{a_{i}}_{j}}^2\sum_{j=1}^{n}\sum_{i=1}^{n}{{b_{j}}_{i}}^2$$
在两侧应用平方根:
$$\sqrt{\sum_{j=1}^{n}\sum_{i=1}^{n}(\sum_{k=1}^{n}{a_{i}}_{k}{b_{k}}_{j})^2} \leq\sqrt{\sum_{j=1}^{n}\sum_{i=1}^{n}{a_{i}}_{j}^2\sum_{j=1}^{n}\sum_{i=1}^{n}{b_{j}}_{i}^2}$$

例子
$A\in U_n$ 则 $\|A\|_F=\sqrt{\operatorname{tr}I_n}=\sqrt n$
而$\|A\|=\max_v\frac{\|Av\|}{\|v\|}=\max_v\frac{\|v\|}{\|v\|}=1$.
一般地$\|A\|_F≥\|A\|$恒成立, 因为$\|A\|_F=\sqrt{\sum\sigma_i^2}\ge\max\sigma_i=\|A\|$.
关于operator norm $\|\cdot\|$的定义及次乘性及其与奇异值的关系, 可以收看Advanced Linear Algebra 23: Frobenius and Operator Norm

3149

主题

8388

回帖

6万

积分

$\style{scale:11;fill:#eff}꩜$

积分
65401
QQ

显示全部楼层

 楼主| hbghlyj 发表于 2023-5-2 01:55

Frobenius norm ≥ spectral norm

MSE
Write $x=\sum_{j=1}^nc_je_j$, for coefficients $c_1,\ldots,c_n$. Suppose that $\|x\|_2=1$, i.e. $\sum_j |c_j|^2=1$.
Then
\begin{align*}
\|Ax\|_2^2&=\left\|\sum_j c_j\,Ae_j\right\|_2^2\leq\left(\sum_j|c_j|\,\|Ae_j\|_2\right)^{2}\\ \ \\ &\leq\left(\sum_j|c_j|^2\right)\sum_j\|Ae_j\|_2^2=\sum_j\|Ae_j\|_2^2=\|A\|_F^2,
\end{align*}
where the triangle inequality is used in the first $\leq$ and Cauchy-Schwarz in the second.

As $x$ was arbitrary, we get $\|A\|_2\leq\|A\|_F$.

手机版|悠闲数学娱乐论坛(第3版)

GMT+8, 2025-3-4 16:32

Powered by Discuz!

× 快速回复 返回顶部 返回列表