施工中的随机矩阵理论初步

随机矩阵

$\mathrm{Theorem:}$ 随机矩阵作用期望保距
$R$是 $k\times d$ 矩阵, $R_{ij}\overset{i.i.d}{\sim}\mathcal{N}(0,1)$, $\forall \mathbf{u}\in \mathbb{R}^d$， 取 $\mathbf{v}=\frac{1}{\sqrt{k}}R\cdot \mathbf{u}$, 则

$$\mathbb{E}[\|\mathbf{v}\|^2]=\|\mathbf{u}\|^2$$

$\mathrm{Proof:}$

$$v_i=\frac{1}{\sqrt{k}}\sum_{j=1}^d R_{ij}u_j$$

$$\begin{aligned} \mathbb{E}[\|\mathbf{v}\|^2]&=\mathbb{E}\left[\sum_{i=1}^k v_i^2 \right]\\ &=\mathbb{E}\left[\sum_{i=1}^k\frac{1}{k}\sum_{j=1}^d R_{ij}u_j\sum_{r=1}^dR_{ir}u_r\right]\\ &=\sum_{i=1}^k\frac{1}{k}\sum_{j,r}u_ju_r\mathbb{E}\left[R_{ij}R_{ir}\right]\\ &=\sum_{i=1}^k\frac{1}{k}\sum_{j,r}u_ju_r\delta_{jr}\\ &=\sum_{j}u_j^2\\ &=\|\mathbf{u}\|^2 \end{aligned}$$