首页时间序列分析

自协方差函数

  • 协方差

Cov(X,Y)=E([X−μX][Y−μY])=E(XY−XμY−YμX+μXμY)=E(XY)−μYE(X)−μXE(X)+E(X)E(Y)=E(XY)−E(X)E(Y)\begin{aligned} \mathrm{Cov}(X,Y)&=\mathbb{E}(\left[ X-\mu_X\right]\left[ Y-\mu _Y\right])\\ &= \mathbb{E}(XY-X\mu_Y-Y\mu_X+\mu_X\mu_Y)\\ &= \mathbb{E}(XY)-\mu_Y\mathbb{E}(X)-\mu_X\mathbb{E}(X)+\mathbb{E}(X)\mathbb{E}(Y)\\ &= \mathbb{E}(XY)-\mathbb{E}(X)\mathbb{E}(Y) \end{aligned}

  • 平稳随机序列
    对于时间序列{Xn}\{X_n\}，满足
    • (1) ∀t∈N,D(Xt)<∞(1)\,\forall t\in \mathbb{N}, \mathrm{D}(X_t)< \infty
    • (2) ∀t∈N,E(Xt)=μ(2)\, \forall t\in \mathbb{N},\mathbb{E}(X_t)=\mu
    • (3) ∀t,s∈N,γt−s:=E([Xt−μ][Xs−μ])=Cov(Xt,Xs)(3)\, \forall t,s \in \mathbb{N},\gamma_{t-s}:=\mathbb{E}(\left[X_t-\mu\right]\left[X_s-\mu\right])=\mathrm{Cov}(X_t,X_s)，称为时间序列的自协反差函数。自协方差函数满足平移不变性：Cov(Xt+x,Xs+x)=Cov(Xt,Xs)\mathrm{Cov}(X_{t+x},X_{s+x})=\mathrm{Cov}(X_t,X_s)
      自协方差函数满足如下三条性质
  • (1)(1) 对称性 γk=γ−k\gamma_k=\gamma_{-k}
  • (2)(2) 非负定性

Γn=(γ0γ1⋯γn−1γ1γ0⋯γn−2⋮⋱γn−1γn−2⋯γ0)\Gamma_n = \begin{pmatrix} \gamma_0&\gamma_1&\cdots&\gamma_{n-1}\\ \gamma_1&\gamma_0&\cdots&\gamma_{n-2}\\ \vdots&&\ddots&\\ \gamma_{n-1}&\gamma_{n-2}&\cdots & \gamma_0 \end{pmatrix}

Proof:\mathrm{Proof:}

αTΓnα=∑i,jaiajγi−j=∑i,jaiajE([Xi−μ][Xj−μ])=E(∑i,jaiaj(Xi−μ)(Xj−μ))=E(∑iai(Xi−μ)∑jaj(Xj−μ))=E([∑iai(Xi−μ)]2)=D(∑iai(Xi−μ))≥0\begin{aligned} \alpha^T\Gamma_n\alpha&=\sum_{i,j}a_ia_j\gamma_{i-j}\\ &=\sum_{i,j}a_ia_j\mathbb{E}(\left[X_i-\mu\right]\left[X_j-\mu\right])\\ &=\mathbb{E}\left(\sum_{i,j}a_ia_j\left(X_i-\mu\right)(X_j-\mu)\right)\\ &=\mathbb{E}\left(\sum_{i}a_i\left(X_i-\mu\right)\sum_ja_j(X_j-\mu)\right)\\ &=\mathbb{E}\left(\left[\sum_ia_i(X_i-\mu)\right]^2\right)\\ &=\mathrm{D}\left(\sum_{i}a_i(X_i-\mu)\right)\geq 0 \end{aligned}

  • (3)(3) 有界性 ∣γk∣≤∣γ0∣<∞|\gamma_k|\leq |\gamma_0|<\infty
    Proof:\mathrm{Proof:}
    取k=u−vk=u-v，则

    ∣γk∣=∣E[(Xu−μ)(Xv−μ)]∣≤E[(Xu−μ)]2 E[(Xv−μ)2]=D(Xu−μ)=γ0 \begin{aligned} |\gamma_k|&=\left|\mathbb{E}\left[\left(X_u-\mu\right)(X_v-\mu)\right]\right|\\ &\leq \sqrt{\mathbb{E}[(X_u-\mu)]^2\,\mathbb{E}[(X_v-\mu)^2]}\\ &=\mathrm{D}(X_u-\mu)=\gamma_0 \end{aligned}

白噪声

  • 定义
    白噪声是一列平稳序列{εt}\{\varepsilon_t\}，满足:

我们可以逐点构造一个非平稳的正态时间序列，且不是正态白噪声
取定TT,假设

Xt(T)=12π∫Re−(t+T)22dTXs(T)=12π∫Re−(s+T)22dT\begin{align*} X_t(T)&=\frac{1}{\sqrt{2\pi}}\int_{\mathbb{R}}e^{-\tfrac{(t+T)^2}{2}}\mathrm{d}T\\ X_s(T)&=\frac{1}{\sqrt{2\pi}}\int_{\mathbb{R}}e^{-\tfrac{(s+T)^2}{2}}\mathrm{d}T\\ \end{align*}

Cov(Xt,Xs)=E(Xt,Xs)=∫RT2πe−(t+T)22−(s+T)22dT=12π∫RT2πe−2T2+2(s+t)T+s2+t22dT=12πe−s2+t22∫RT2πe−T2−(s+t)TdT=12πe−s2+t22+(s+t)24∫RT2πe−(T+s+t2)2dT=1πe−(s−t)24 E(N(−s+t2,12))=−s+t2πe−(s−t)24≠0\begin{align*} \mathrm{Cov}(X_t,X_s)&=\mathbb{E}(X_t,X_s)\\ &=\int_{\mathbb{R}}\frac{T}{2\pi}e^{-\tfrac{(t+T)^2}{2}-\tfrac{(s+T)^2}{2}}\mathrm{d}T\\ &=\frac{1}{\sqrt{2\pi}}\int_{\mathbb{R}}\frac{T}{\sqrt{2\pi}}e^{-\tfrac{2T^2+2(s+t)T+s^2+t^2}{2}}\mathrm{d}T\\ &=\frac{1}{\sqrt{2\pi}}e^{-\tfrac{s^2+t^2}{2}}\int_{\mathbb{R}}\frac{T}{\sqrt{2\pi}}e^{-T^2-(s+t)T}\mathrm{d}T\\ &=\frac{1}{\sqrt{2\pi}}e^{-\tfrac{s^2+t^2}{2}+\tfrac{(s+t)^2}{4}}\int_{\mathbb{R}}\frac{T}{\sqrt{2\pi}}e^{-(T+\tfrac{s+t}{2})^2}\mathrm{d}T\\ &=\frac{1}{\sqrt{\pi}}e^{-\tfrac{(s-t)^2}{4}}\,\mathbb{E}({\small N(-\frac{s+t}{2},\frac{1}{\sqrt{2}})})\\ &=-\frac{s+t}{2\pi}e^{-\tfrac{(s-t)^2}{4}}\neq0 \end{align*}

我们人为的对正态随机变量设定了一个约束 -- 让不同时刻的随机变量取值的位置相对固定，这样子的时间序列就不是一个独立的时间序列，也就不是一个平稳序列。