$\parbox{10cm}{\scriptsize Universit\'e de Paris 5 -- Ren\'e Descart... ...matiques et Informatique}\ 45, rue des Saints-P\\lq eres 75270 Paris cedex 06 }$

Statistique des Processus - Maîtrise MASS

Corrigé du Partiel du 2 avril 2003

Ex 1.

1. Voir cours.
2. 1. 
      

      $$\P ({\varepsilon}_t{\varepsilon}_{t+1}<0) = \P\left(\left({\varepsilon}_t<0,{\varepsilon}_{t+1}>0\right)\cap\left({\varepsilon}_t>0,{\varepsilon}_{t+1}<0\right)\right)$$

      $$= \P\left({\varepsilon}_t<0,{\varepsilon}_{t+1}>0\right)+\P\left({\varepsilon}_t>0,{\varepsilon}_{t+1}<0\right)$$ car les événements sont disjoints

      $$= \P\left({\varepsilon}_t<0\right)\P\left({\varepsilon}_{t+1}>0\right)+\P\left({\varepsilon}_t>0\right)\P\left({\varepsilon}_{t+1}<0\right)$$

      $$\mbox{ car ${\varepsilon}_t$\ et ${\varepsilon}_{t+1}$\ sont ind\'ependants}$$

      $$= \frac{1}{2}\cdot\frac{1}{2}+\frac{1}{2}\cdot\frac{1}{2}=\frac{1}{2}$$

      
      
   2. Notons ${\eta}_p=1_{{\varepsilon}_{2p-1}{\varepsilon}_{2p}<0}$. D'après la question précédente, $\left({\eta}_p,p=1,\ldots,N\right)$ est une famille de variables de Bernouilli de paramètre $1/2$. Comme elles sont indépendantes, leur somme $T=\sum_{p=1}^N{\eta}_p$ suit une loi binômiale de paramètres $1/2$ et $N$.
   3. Soit $X=\left(X_1,\ldots,X_{2N}\right)$ une famille de variables aléatoires dont $x$ est une réalisation. On souhaite tester $H_0:\ X$ est un bruit blanc gaussien, contre $H_1: X$ n'est pas un bruit blanc gaussien. Sous $H_0$, $T_X=\sum_{p=1}^N1_{X_{2p-1}X_{2p}<0}$ suit une loi binomiale de paramètre $1/2$ et $N$. En particulier, il est de moyenne $N/2$ et de variance $N/4$. Il résulte du théorème central limite que pour $N$ grand,
      $$\frac{T_X-\frac{N}{2}}{\sqrt{\frac{N}{4}}}\sim{\cal N}\left(0,1\right)$$
      On en déduit que sous $H_0$,
      $$P\left(\left\vert \frac{T_X-\frac{N}{2}}{\sqrt{\frac{N}{4}}}>{\phi}_{1-{\alpha}/2}\right\vert \right)\simeq {\alpha}$$
      avec ${\phi}_{1-{\alpha}/2}$ le fractile d'ordre $1-{\alpha}/2$ de la loi gaussienne centrée réduite. Le test de zone de rejet
      $$\sqrt{\frac{N}{4}}>{\phi}_{1-{\alpha}/2}$$
      est donc un test de niveau ${\alpha}$ de l'hypothèse $H_0$.

Ex 2.

1. $X$ est un processus AR($1$), vérifiant l'équation ${\phi}(B)(X)={\varepsilon}$, avec ${\phi}(B)=I+\frac{3}{2}B$. Sa représentation est inversible, comme toute représentation d'un processus AR. La transformée en $z$ du filtre linéaire ${\phi}(B)$ est ${\phi}(z)=1+\frac{3}{2}z$. Elle s'annule en $\frac{2}{3}$ de module strictement inférieur à $1$. Le filtre est donc bien inversible, mais la représentation n'est pas causale.

   Posons $\tilde{\varepsilon}=\left(I-\frac{2}{3}B\right)\circ\left(I-\frac{3}{2}B\right)^{-1}({\varepsilon})$ . D'après une proposition du cours, $\tilde{\varepsilon}$ est un bruit blanc de variance

   $$\tilde{\sigma}^2=\left(\frac{2}{3}\right)^2{\sigma}^2$$
   De plus,
   

   $$\tilde{\varepsilon} = \left(I-\frac{2}{3}B\right)\circ\left(I-\frac{3}{2}B\right)^{-1}({\varepsilon})$$

   $$= \left(I-\frac{2}{3}B\right)\circ\left(I-\frac{3}{2}B\right)^{-1}\circ\left(I+\frac{3}{2}B\right)(X)$$

   $$= \left(I-\frac{2}{3}B\right)(X)$$

   
   Cette nouvelle représentation du processus $X$ est causale (et toujours inversible) car la transformée en $z$ de $\left(I-\frac{2}{3}B\right)$ ne s'annule pas sur le disque unité. On en déduit que $\tilde{\varepsilon}$ est le bruit blanc d'innovation associé à $X$.

   Représentation MA$(\infty$) : le filtre linéaire $\left(I-\frac{2}{3}B\right)$ est inversible ; et son inverse a pour transformée en $z$

   $$\frac{1}{1+\frac{2}{3}z}=\sum_{u\geq 0}\left(-\frac{2}{3}\right)^uz^u$$
   On en déduit
   

   $$\left(I-\frac{2}{3}B\right)^{-1} = \sum_{u\geq 0}\left(-\frac{2}{3}\right)^uB^u$$

   $$X_t = \left(I-\frac{2}{3}B\right)^{-1}({\varepsilon})_t=\sum_{u\geq 0}\left(-\frac{2}{3}\right)^uB^u({\varepsilon})_t$$

   $$= {\varepsilon}_t+\sum_{u\geq 1}\left(-\frac{2}{3}\right)^u{\varepsilon}_{t-u}$$

   
   On ne peut déterminer une représentation MA($\infty$) d'un processus qu'en partant d'une représentation causale (de même qu'on ne peut calculer une représentation AR($\infty$) qu'en partant d'une représentation inversible). S'il est vrai que $(1+\frac{3}{2}z)^{-1}=\sum_{u\geq0}\left(-\frac{3}{2}\right)^uz^u$ (pour $\left\vert z\right\vert<\frac{2}{3}$), il est faux que $(1+\frac{3}{2}B)^{-1}=\sum_{u\geq0}\left(-\frac{3}{2}\right)^uB^u$ car $\sum_{u\geq0}\left(-\frac{3}{2}\right)^uB^u$ n'est pas un filtre linéaire ( $\sum_{u\geq0}\left\vert -\frac{3}{2}\right\vert^u=+\infty$ ) et il est faux que $X=\sum_{u\geq0}\left(-\frac{3}{2}\right)^u{\varepsilon}_{t-u}$ car cette série n'est pas convergente. En revanche, il est vrai que $(1+\frac{3}{2}B)^{-1}=\sum_{u>0}\left(-\frac{2}{3}\right)^uB^{-u}$ et que $X=\sum_{u>0}\left(-\frac{2}{3}\right)^u{\varepsilon}_{t+u}$, mais il ne s'agit pas d'une représentation MA($\infty$).

   Fonction d'autocovariance : dans ce qui suit, on suppose $h\geq0$.

   • Méthode 1 : à partir de la représentation MA($\infty$).
     

     $${\gamma}_X(h) = \mathop{\hbox{\upshape {cov}}}\nolimits (X_0,X_h)=\mathop{\hbox{\... ..._{-u},\sum_{u\geq 0}\left(-\frac{2}{3}\right)^u\tilde{\varepsilon}_{h-u}\right)$$

     $$= \sum_{u\geq0}\sum_{v\geq0}\left(-\frac{2}{3}\right)^{u+v}\mathop{... ...{\upshape {cov}}}\nolimits (\tilde{\varepsilon}_{-u},\tilde{\varepsilon}_{h-v})$$

     $$= \sum_{u\geq0}\sum_{v\geq0}\left(-\frac{2}{3}\right)^{u+v}\tilde{\sigma}^21_{-u=h-v}$$

     $$= \frac{4}{9}{\sigma}^2\sum_{u\geq0}\left(-\frac{2}{3}\right)^{2u+h}\ v=u+h$$

     $$= \frac{4}{9}\left(-\frac{2}{3}\right)^{h}\frac{1}{1-\left(-\frac{2}{3}\right)^{2}}{\sigma}^2$$

     $$= \frac{5}{4}\left(-\frac{2}{3}\right)^{h}{\sigma}^2$$

     
     Deux remarques :
     • on n'a pas justifié la possibilité de commuter sommation et covariance, car cela a été vu en cours
     • trop d'erreurs ont été commises dans la manipulation des indices de sommation : de même que $(a+b)(c+d)\not=ac+bd$, de même
       $$\mathop{\hbox{\upshape {cov}}}\nolimits \left(\sum_{u\geq 0}\left... ...v}}}\nolimits \left(\tilde{\varepsilon}_{-u},\tilde{\varepsilon}_{h-u}\right).$$
   • Méthode 2 : à partir de la représentation causale et inversible.
     

     $${\gamma}_X(0) = \mathop{\hbox{\upshape {var}}}\nolimits \left(X_t\right)=\mathop{... ...\upshape {var}}}\nolimits \left(\tilde{\varepsilon}_t-\frac{2}{3}X_{t-1}\right)$$

     $$= \mathop{\hbox{\upshape {var}}}\nolimits \left(\tilde{\varepsilon}_t\right)+\frac{4}{9}\mathop{\hbox{\upshape {var}}}\nolimits \left(X_{t-1}\right) \tilde{\varepsilon}\bot 1,X_{t-1}$$

     $$= \frac{\tilde{\sigma}^2}{1-\frac{4}{9}}=\frac{4}{5}{\sigma}^2$$

     $${\gamma}_X(h+1) = \mathop{\hbox{\upshape {cov}}}\nolimits \left(X_t,X_{t+h+1}\right... ...cov}}}\nolimits \left(X_t,\tilde{\varepsilon}_{t+h+1}-\frac{2}{3}X_{t+h}\right)$$

     $$= -\frac{2}{3}\mathop{\hbox{\upshape {cov}}}\nolimits \left(X_t,X_{t+h}\right) \tilde{\varepsilon}_{t+h+1}\bot 1,X_t h\geq0$$

     $$= -\frac{2}{3}{\gamma}_X(h)=\left(-\frac{2}{3}\right)^{h+1}{\gamma}_X(0)=\frac{4}{5}\left(-\frac{2}{3}\right)^{h+1}{\sigma}^2$$

     
     Noter qu'il est ici essentiel d'utiliser le bruit blanc d'innovation (sinon $\tilde{\varepsilon}\bot 1,X_{t-1}$ et $\tilde{\varepsilon}_{t+h+1}\bot 1,X_t$ seraient faux)
2. • $Y$ est un processus du second ordre, car pour tout $t\in{\mathbb{Z}}$, $Y_t$ est somme de deux variables de carré intégrable, et donc est de carré intégrable.
   • quel que soit $t\in{\mathbb{Z}}$, ${\mathbb{E}}\left[Y_t\right]={\mathbb{E}}\left[X_t\right]+{\mathbb{E}}\left[{\varepsilon}'_t\right]={\mathbb{E}}\left[X_t\right]$ . Or $X$ est un processus stationnaire, de moyenne constante (on pourrait vérifier qu'elle est nulle). La fonction moyenne de $Y$ est donc elle-aussi constante.
   • quels que soient $s,t\in{\mathbb{Z}}$, ${\gamma}_Y(s,t)=\mathop{\hbox{\upshape {cov}}}\nolimits (Y_s,Y_t)=\mathop{\hbox{\upshape {cov}}}\nolimits (X_s+{\varepsilon}'_s,X_t+{\varepsilon}'_t)$ . Or $X_s$ et $X_t$ sont fonction du bruit blanc ${\varepsilon}$, qui est indépendant de ${\varepsilon}'$. $X_s$ et $X_t$ sont donc indépendants de ${\varepsilon}'_s$ et ${\varepsilon}'_t$. On en déduit ${\gamma}_Y(s,t)=\mathop{\hbox{\upshape {cov}}}\nolimits (X_s,X_t)+\mathop{\hbo... ...X(\left\vert s-t\right\vert)+{\gamma}_{\varepsilon'}(\left\vert s-t\right\vert)$ . La fonction d'autocovariance de $Y$ en $(s,t)$ ne dépend donc que de $\left\vert s-t\right\vert$ ; elle est alors invariante par translation temporelle : ${\gamma}_Y(s,t)={\gamma}_Y(s+u,t+u)$ quel que soit $u$. Ce qui achève de montrer que $Y$ est un processus faiblement stationnaire. En outre,
     

     $${\gamma}_Y(h) = \frac{4}{5}{\sigma}^2+{\sigma}'^2 h=0$$

     $$= \frac{4}{5}\left(-\frac{2}{3}\right)^h{\sigma}^2_{\varepsilon} h>0$$

     
     Trop souvent il a été écrit que ${\gamma}_Y(h)=0$ pour tout $h\not=0$ ; or cela est caractéristique d'un bruit blanc, ce que ne sont ni $Y$, ni $Z$.
3. $Z$ est un processus ARMA($1,1$) vérifiant ${\varphi}(B)(Z)={\theta}(B)({\varepsilon}'')$, avec ${\varphi}(B)=I+{\varphi}B$ et ${\theta}(B)=I+{\theta}B$. Les transformées en $z$ ${\varphi}(z)=1+{\varphi}z$ et ${\theta}(z)=1+{\theta}z$ ne s'annulent pas sur le disque unité. La représentation est donc causale et inversible, et ${\varepsilon}''$ est le bruit blanc d'innovation de $Z$.

   Pour calculer la fonction d'autocovariance de $Z$, on peut là encore procéder de deux méthodes :

   • Méthode 1 : à partir de la représentation MA($\infty$). Le filtre linéaire ${\varphi}(B)$ est inversible, et la transformée en $z$ de ${\varphi}(B)^{-1}\circ{\theta}(B)$ vaut
     $$\frac{{\theta}(z)}{{\varphi}(z)}=\frac{1+{\theta}z}{1+{\varphi}z}... ...phi})z}{1+{\varphi}z}=1+({\theta}-{\varphi})\sum_{u\geq1}(-{\varphi})^{u-1}z^u$$
     On en déduit
     

     $${\varphi}(B)^{-1}\circ{\theta}(B) = I+({\theta}-{\varphi})\sum_{u\geq1}(-{\varphi})^{u-1}B^u$$

     $$Z_t = {\varphi}(B)^{-1}\circ{\theta}(B)({\varepsilon}'')_t={\varepsilon}''_t+({\theta}-{\varphi})\sum_{u\geq1}(-{\varphi})^{u-1}{\varepsilon}''_{t-u}$$

     
     D'où le calcul de la fonction d'autocovariance :
     

     $${\gamma}_Z(0) = \mathop{\hbox{\upshape {var}}}\nolimits (Z_0)=\mathop{\hbox{\upsh... ...+({\theta}-{\varphi})\sum_{u\geq1}(-{\varphi})^{u-1}{\varepsilon}''_{-u}\right)$$

     $$= \mathop{\hbox{\upshape {var}}}\nolimits \left({\varepsilon}''_0\r... ...{2u-2}\mathop{\hbox{\upshape {var}}}\nolimits \left({\varepsilon}''_{-u}\right)$$

     $$= \left(1+\frac{({\theta}-{\varphi})^2}{1-{\varphi}^2}\right){\sigma}''$$

     
     
     

     $${\gamma}_Z(h+1) = \mathop{\hbox{\upshape {cov}}}\nolimits (Z_0,Z_{h+1})$$

     $$= \mathop{\hbox{\upshape {cov}}}\nolimits \left({\varepsilon}''_0+(... ...\theta}-{\varphi})\sum_{u\geq1}(-{\varphi})^{u-1}{\varepsilon}''_{h+1-u}\right)$$

     $$= \mathop{\hbox{\upshape {cov}}}\nolimits ({\varepsilon}''_0,{\vare... ...upshape {cov}}}\nolimits \left({\varepsilon}''_0,{\varepsilon}''_{h+1-u}\right)$$

     $$+({\theta}-{\varphi})\sum_{u\geq1}(-{\varphi})^{u-1}\mathop{\hbox{\upshape {cov}}}\nolimits \left({\varepsilon}''_{-u},{\varepsilon}''_{h+1}\right)$$

     $$+({\theta}-{\varphi})^2\sum_{u\geq1}\sum_{v\geq1}(-{\varphi})^{u+... ...{\hbox{\upshape {cov}}}\nolimits ({\varepsilon}''_{-u},{\varepsilon}''_{h+1-v})$$

     $$= 0+({\theta}-{\varphi})(-{\varphi})^{h}{\sigma}''+0+({\theta}-{\varphi})^2\sum_{u\geq1}(-{\varphi})^{2u-2+h+1}{\sigma}''$$

     $$= \left(({\theta}-{\varphi})-\frac{\varphi}{1-{\varphi}^2}({\theta}-{\varphi})^2\right)(-{\varphi})^h{\sigma}''$$

     
     
   • Méthode 2 : à partir de la représentation causale et inversible.
     

     $${\gamma}_Z(0) = \mathop{\hbox{\upshape {var}}}\nolimits (Z_t)=\mathop{\hbox{\upsh... ...s \left({\varepsilon}''_t+{\theta}{\varepsilon}''_{t-1}-{\varphi}Z_{t-1}\right)$$

     $$= \mathop{\hbox{\upshape {var}}}\nolimits \left({\varepsilon}''_t\r... ...\varphi}\mathop{\hbox{\upshape {cov}}}\nolimits ({\varepsilon}''_{t-1},Z_{t-1}) {\varepsilon}''_{t}\bot1,Z_{t-1},{\varepsilon}''_{t-1}$$

     $$= (1+{\theta}^2){\sigma}''+{\varphi}^2{\gamma}_Z(0)-2{\theta}{\varp... ...}''_{t-1},{\varepsilon}''_{t-1}+{\theta}{\varepsilon}''_{t-2}-{\varphi}Z_{t-2})$$

     $$= (1+{\theta}^2){\sigma}''+{\varphi}^2{\gamma}_Z(0)-2{\theta}{\varphi}\mathop{\hbox{\upshape {var}}}\nolimits ({\varepsilon}''_{t-1}) {\varepsilon}''_{t-1}\bot1,Z_{t-2},{\varepsilon}''_{t-2}$$

     $$= (1-2{\theta}{\varphi}+{\theta}^2){\sigma}''+{\varphi}^2{\gamma}_Z(0)=\frac{1-{\theta}{\varphi}+{\theta}^2}{1-{\varphi}^2}{\sigma}''$$

     $${\gamma}_Z(1) = \mathop{\hbox{\upshape {cov}}}\nolimits (Z_t,Z_{t+1})=\mathop{\hb... ...}\nolimits (Z_t,{\varepsilon}''_{t+1}+{\theta}{\varepsilon}''_{t}-{\varphi}Z_t)$$

     $$= {\theta}\mathop{\hbox{\upshape {cov}}}\nolimits (Z_t,{\varepsilon}''_t)-{\varphi}\mathop{\hbox{\upshape {var}}}\nolimits (Z_t) {\varepsilon}''_{t+1}\bot1,Z_t$$

     $$= {\theta}\mathop{\hbox{\upshape {cov}}}\nolimits ({\varepsilon}''_... ...{\varepsilon}''_{t-1}-{\theta}Z_{t-1},{\varepsilon}''_t)-{\varphi}{\gamma}_Z(0)$$

     $$= {\theta}\mathop{\hbox{\upshape {var}}}\nolimits ({\varepsilon}''_t)-{\varphi}{\gamma}_Z(0) {\varepsilon}''_{t}\bot1,Z_{t-1}{\varepsilon}''_{t-1}$$

     $$= \left({\theta}-{\varphi}\frac{1-2{\theta}{\varphi}+{\theta}^2}{1-{\varphi}^2}\right){\sigma}''$$

     $${\gamma}_Z(h+2) = \mathop{\hbox{\upshape {cov}}}\nolimits (Z_t,Z_{t+h+2})=\mathop{\... ...Z_t,{\varepsilon}''_{t+h+2}+{\theta}{\varepsilon}''_{t+h+1}-{\varphi}Z_{t+h+1})$$

     $$= -{\varphi}\mathop{\hbox{\upshape {cov}}}\nolimits (Z_t,Z_{t+h+1}) {\varepsilon}''_{t+h+2},{\varepsilon}''_{t+h+1}\bot 1,Z_t$$

     $$= -{\varphi}{\gamma}_Z(h+1)=(-{\varphi})^h{\gamma}_Z(1)$$

     
     
   Si on compare les fonctions d'autocovariance de $Y$ et $Z$, on voit qu'elles sont égales si et seulement si
   

   $${\varphi} = \frac{2}{3}$$

   $$\left(1+\frac{({\theta}-{\varphi})^2}{1-{\varphi}^2}\right){\sigma}''&= \frac{4}{5}{\sigma}^2+{\sigma}'^2$$

   $$\left(({\theta}-{\varphi})-\frac{\varphi}{1-{\varphi}^2}({\theta}-{\varphi})^2\right){\sigma}''&= \frac{4}{5}$$

   
   Dans ce cas, comme les deux processus ont mêmes caractéristiques du second ordre (fonction moyenne et fonction d'autocovariance), ils sont de même nature, à savoir ARMA($1,1$).

Ex 3.

1. 1. ${\phi}(B)$ conserve la tendance affine si et seulement si
      

      $$\forall t\in{\mathbb{Z}} {\phi}(B)(f_{\tau})_t=f_{\tau}(t)$$

      $$\Longleftrightarrow \forall t\in{\mathbb{Z}} {\alpha}B(f_{\tau})_t+{\beta}I(f_{\tau})_t+{\gamma}B^{-1}(f_{\tau})_t=f_{\tau}(t)$$

      $$\Longleftrightarrow \forall t\in{\mathbb{Z}} {\alpha}f_{\tau}(t-1)+{\beta}f_{\tau}(t)+{\gamma}f_{\tau}(t+1)=f_{\tau}(t)$$

      $$\Longleftrightarrow \forall t\in{\mathbb{Z}} \left({\alpha}+{\beta}+{\gamma}\right)a+\left({\gamma}-{\alpha}\right)b+\left({\alpha}+{\beta}+{\gamma}\right)bt=a+bt$$

      $$\Longleftrightarrow \left\{ \begin{array}{rcl} \left({\alpha}+{\beta}+{\gamma}\ri... ... \left({\alpha}+{\beta}+{\gamma}\right)b&=&b \end{array}\right.$$

      $$\Longleftrightarrow \left\{ \begin{array}{rcl} {\alpha}+{\beta}+{\gamma}&=&1\ {\gamma}-{\alpha}&=&0 \end{array}\right.$$

      
      (en supposant $b\not=0$). On en déduit ${\gamma}={\alpha}$ et ${\beta}=1-2{\alpha}$.
   2. D'après la question précédente, on choisit l'estimateur de $f_{\tau}(t)$ de la forme
      

      $$\hat X_t = \left({\alpha}B+(1-2{\alpha})I+{\alpha}B^{-1}\right)(X)_t$$

      $$= \left({\alpha}B+(1-2{\alpha})I+{\alpha}B^{-1}\right)(f_{\tau})_t$$

      $$+\left({\alpha}B+(1-2{\alpha})I+{\alpha}B^{-1}\right)({\varepsilo... ...theta}\left({\alpha}B+(1-2{\alpha})I+{\alpha}B^{-1}\right)({\varepsilon})_{t-1}$$

      $$= f_{\tau}(t)+{\alpha}{\varepsilon}_{t+1}+\left(1-2{\alpha}+{\theta... ...eta}(1-2{\alpha})\right){\varepsilon}_{t-1}+{\theta}{\alpha}{\varepsilon}_{t-2}$$

      
      Le bruit blanc ${\varepsilon}$ étant centré, $\hat X_t$ est donc un estimateur sans biais. Calculons son risque :
      

      $${\mathbb{E}}\left[\left(\hat X_t-f_{\tau}(t)\right)^2\right] = {\mathbb{E}}\left[\left({\alpha}{\varepsilon}_{t+1}+\left(1-2{\al... ...)\right){\varepsilon}_{t-1}+{\theta}{\alpha}{\varepsilon}_{t-2}\right)^2\right]$$

      $$= {\alpha}^2\mathop{\hbox{\upshape {var}}}\nolimits ({\varepsilon}_... ...heta}{\alpha}\right)^2\mathop{\hbox{\upshape {var}}}\nolimits ({\varepsilon}_t)$$

      $$+\left({\alpha}+{\theta}(1-2{\alpha})\right)^2\mathop{\hbox{\upsh... ...theta}^2{\alpha}^2\mathop{\hbox{\upshape {var}}}\nolimits ({\varepsilon}_{t-2})$$

      $$= \left(1+{\theta}^2-4{\alpha}\left(1-{\theta}+{\theta}^2\right)+{\alpha}^2\left(6-8{\theta}+6{\theta}^2\right)\right){\sigma}^2$$

      
      Le minimum de $1+{\theta}^2+2{\alpha}\left(1+{\theta}\right)+{\alpha}^2\left(1+({\theta}-2)^2+(1-2{\theta})^2+{\theta}^2\right)$ est atteint en
      $${\alpha}_m=\frac{1-{\theta}+{\theta}^2}{3-4{\theta}+3{\theta}^2}$$
      Le filtre qui conserve la tendance affine et qui permet d'obtenir l'estimateur de risque minimal est donc ${\alpha}_mB+(1-2{\alpha}_m)I+{\alpha}_mB^{-1}$.

      Si ${\theta}=0$, on retrouve le filtre ordinaire $M_3=\frac{1}{3}(B+I+B^{-1})$.

2. 1. Si ${\theta}=0$, le modèle est un modèle linéaire ordinaire, de la forme $X=A{\beta}+{\varepsilon}$, avec
      $$X=\left( \begin{array}{c} X_1\ \vdots\ X_n \end{array}\right)... ...end{array}\right),\ \ {\beta}=\left( \begin{array}{c} a\ b \end{array}\right)$$ et $${\varepsilon}=\left( \begin{array}{c} {\varepsilon}_1\ \vdots\ {\varepsilon}_n \end{array}\right).$$
      Dans ce cas, les estimateurs des moindres carrés de $a$ et $b$ sont
      $$\hat{\beta}=\left( \begin{array}{c} \hat a\ \hat b \end{array}\right)=\left({}^tAA\right)^{-1}{}^tAX.$$
   2. Si ${\theta}\not=0$, il s'agit d'un modèle linéaire avec erreurs corrélées. Comme l'on sait, ce modèle est équivalent, à une transformation près, à un modèle linéaire ordinaire, dont les résultats vont donc pouvoir s'appliquer ici.

      La fonction d'autocovariance du processus MA($1$) $(I+{\theta}B)({\varepsilon})$ est
      

      $${\gamma}_{(I+{\theta}B)({\varepsilon})}(0) = \mathop{\hbox{\upshape {var}}}\nolimits ({\varepsilon}_t+{\theta}{\varepsilon}_{t-1})=(1+{\theta}^2){\sigma}^2$$

      $${\gamma}_{(I+{\theta}B)({\varepsilon})}(1) = \mathop{\hbox{\upshape {cov}}}\nolimits ({\varepsilon}_t+{\theta}... ...ta}\mathop{\hbox{\upshape {var}}}\nolimits ({\varepsilon}_t)={\theta}{\sigma}^2$$

      $${\gamma}_{(I+{\theta}B)({\varepsilon})}(h) = h>1$$

      
      Les vecteurs aléatoires $\left(X_1,\ldots,X_n\right)$ et $\left({\varepsilon}_1+{\theta}{\varepsilon}_0,\ldots,{\varepsilon}_n+{\theta}{\varepsilon}_{n-1}\right)$ ayant même matrice d'autocovariance, on en déduit que ${\Gamma}_X(n)_{i,j}={\gamma}_{(I+{\theta}B)({\varepsilon})}(\left\vert i-j\right\vert )$ , autrement dit ${\Gamma}_X(n)={\sigma}^2S_X(n)$, avec
      $$S_X(n)=\left( \begin{array}{ccccc} 1+{\theta}^2&{\theta}&0&\cdots... ...&\ddots&\ddots&{\theta}\ 0&\cdots&0&{\theta}&1+{\theta}^2 \end{array}\right)$$
      $X$ est un vecteur gaussien de moyenne $M=A\left( \begin{array}{c} a\ b \end{array}\right)$ et de matrice de covariance ${\Gamma}_X(n)$. La densité de sa loi par rapport à la mesure de Lebesgue est donc
      $$f_{a,b}(x_1,\ldots,x_n)=\frac{1}{\sqrt{(2{\pi})^n\det{\Gamma}_X(n)}}\exp\left(-\frac{{}^t(x-M){\Gamma}_X(n)^{-1}(x-M)}{2}\right)$$
      avec $x=\left( \begin{array}{c} x_1\ \vdots\ x_n \end{array}\right)$. On recherche la valeur de ${\beta}$ pour laquelle cette densité atteint son maximum. Comme elle ne s'annule pas, on peut considérer son logarithme, ce qui revient à rechercher le lieu du minimum de
      

      $$g({\beta}) = {}^t(x-A{\beta}){\Gamma}_X(n)^{-1}(x-A{\beta})$$

      $$= {}^tx{\Gamma}_X(n)^{-1}x-2{}^tx{\Gamma}_X(n)^{-1}A{\beta}+{}^t{\beta}{}^tA{\Gamma}_X(n)^{-1}A{\beta}$$

      
      $g$ est la somme d'une constante, d'une forme linéaire et d'une forme bilinéaire symétrique. Sa différentielle est donc
      $$dg({\beta})[H]=-2{}^tx{\Gamma}_X(n)^{-1}AH+2{}^t{\beta}{}^tA{\Gamma}_X(n)^{-1}AH$$
      avec $H\in{\mathbb{R}}^2$. Cette différentielle est nulle si et seulement si
      $$-{}^tx{\Gamma}_X(n)^{-1}A+{}^t{\beta}{}^tA{\Gamma}_X(n)^{-1}A=0$$
      autrement dit si ${\beta}=\hat{\beta}=\left({}^tA{\Gamma}_X(n)^{-1}A\right)^{-1}{}^tA{\Gamma}_X(n)^{-1}x$ . $g$ possède donc un seul point critique, qui correspond nécessairement à son minimum car celui-ci est atteint. Les estimateurs du maximum de vraisemblance de $a$ et $b$ sont donc
      $$\left( \begin{array}{c} \hat a\ \hat b \end{array}\right)=\left... ...{}^tA{\Gamma}_X(n)^{-1}X=\left({}^tAS_X(n)^{-1}A\right)^{-1}{}^tAS_X(n)^{-1}X.$$
   On peut aussi déterminer l'estimateur $\hat{\sigma}^2_{MV}$ du maximum de vraisemblance de ${\sigma}^2$ : rappelons que la densité vaut
   $$f_{a,b}(x_1,\ldots,x_n)=\frac{1}{\sqrt{(2{\pi}{\sigma}^2)^n\det S... ...}\exp\left(-\frac{{}^t(x-A{\beta})S_X(n)^{-1}(x-A{\beta})}{2{\sigma}^2}\right)$$
   En dérivant cette densité par rapport à ${\sigma}^2$, on détermine au point d'annulation une équation qui caractérise $\hat{\sigma}^2_{MV}$. D'où
   $$\hat{\sigma}^2_{MV}=\frac{1}{n}{}^t(x-A\hat{\beta})S_X(n)^{-1}(x-A\hat{\beta}),$$
   dont on déduit l'estimateur sans biais
   $$\hat{\sigma}^2=\frac{1}{n-2}{}^t(x-A\hat{\beta})S_X(n)^{-1}(x-A\hat{\beta})$$
3. Soit $T={\alpha}_1X_1+\cdots+{\alpha}_nX_n$ une combinaison linéaire de $(X_1,\ldots,X_n)$. C'est le meilleur prédicteur linéaire de $X_{n+2}$ si et seulement si parmi toutes les variables aléatoires de sa forme il minimise la distance hilbertienne à $X_{n+2}$. Or
   

   $$\Vert X_{n+2}-T\Vert_2^2 = {\mathbb{E}}\left[\left(X_{n+2}-T\right)^2\right]$$

   $$= \mathop{\hbox{\upshape {var}}}\nolimits \left(X_{n+2}-T\right)+\left({\mathbb{E}}\left[X_{n+2}-T\right]\right)^2$$

   $$= \mathop{\hbox{\upshape {var}}}\nolimits (X_{n+2})+\mathop{\hbox{\upshape {var}}}\nolimits (T)+\left({\mathbb{E}}\left[a+b(n+2)-T\right]\right)^2 \mbox{ car $T$\ et $X_{n+2}$\ sont ind\'ependants}$$

   $$= \mathop{\hbox{\upshape {var}}}\nolimits (X_{n+2})+{\mathbb{E}}\left[\left(a+b(n+2)-T\right)^2\right]$$

   
   Minimiser $\Vert X_{n+2}-T\Vert_2$ revient donc à minimiser ${\mathbb{E}}\left[\left(a+b(n+2)-T\right)^2\right]$, autrement dit le risque quadratique de $T$ considéré comme estimateur de $a+b(n+2)$. D'après le théorème de Gauss-Markov, le meilleur estimateur est alors $\hat a+\hat b(n+2)$, qui est un estimateur sans biais. C'est donc aussi le meilleur prédicteur linéaire de $X_{n+2}$. Calculons sa variance. La matrice de covariance de $\left( \begin{array}{c} \hat a\ \hat b \end{array}\right)=\left({}^tAS_X(n)^{-1}A\right)^{-1}{}^tAS_X(n)^{-1}X$ est
   $$\begin{array}{l} \Bigl(\left({}^tA{\Gamma}_X(n)^{-1}A\right)... ...{-1}=\left({}^tAS_X(n)^{-1}A\right)^{-1}{\sigma}^2. \end{array}$$
   La variance de $\hat a+\hat b(n+2)$ est alors $\mathop{\hbox{\upshape {var}}}\nolimits (\hat a+\hat b(n+2))=s^2{\sigma}^2$ , avec
   $$s^2=(1,n+2)\left({}^tAS_X(n)^{-1}A\right)^{-1}\left( \begin{array}{c} 1\ n+2 \end{array}\right)$$
   $X_{n+2}-\hat a-\hat b(n+2)=a+b(n+2)-\hat a-\hat b(n+2)+{\varepsilon}_{n+2}+{\theta}{\varepsilon}_{n+1}$ suit une loi gaussienne centrée, de variance $s^2{\sigma}^2+\mathop{\hbox{\upshape {var}}}\nolimits ({\varepsilon}_{n+2}+{\theta}{\varepsilon}_{n+1})=(s^2+1+{\theta}^2){\sigma}^2$ , car $({\varepsilon}_{n+2},{\varepsilon}_{n+1})$ est indépendant de $(\hat a,\hat b)$.

   D'autre part, $\hat{\sigma}^2(n-2)/{\sigma}^2$ suit une loi du $\chi_2$ à $n-2$ degrés de liberté, et est indépendant de $\hat{\beta}$ et de $({\varepsilon}_{n+1},{\varepsilon}_{n+2})$. On en déduit que

   $$\frac{X_{n+2}-\hat a-\hat b(n+2)}{\sqrt{(s^2+1+{\theta}^2){\sigma... ...}}}=\frac{X_{n+2}-\hat a-\hat b(n+2)}{\sqrt{(s^2+1+{\theta}^2)\hat{\sigma}^2}}$$
   suit une loi de Student à $n-2$ degré de liberté. Soit $t_{0,975}$ le fractile d'ordre $97,5\%$ de cette loi de Student. Alors
   

   $$0,95 = \P\left(\frac{X_{n+2}-\hat a-\hat b(n+2)}{\sqrt{(s^2+1+{\theta}^2)\hat{\sigma}^2}}\in\left[-t_{0,975},t_{0,975}\right]\right)$$

   $$= \P\Bigl(X_{n+2}\in\Bigl[\hat a+\hat b(n+2)-t_{0,975}\sqrt{(s^2+1+{\theta}^2)\hat{\sigma}^2},$$

   $$\hskip2cm\hat a+\hat b(n+2)+t_{0,975}\sqrt{(s^2+1+{\theta}^2)\hat{\sigma}^2}\Bigr]\Bigr)$$

   
   D'où l'intervalle de prévision demandé.

Ex 4.Soit $X=(X_t,t\in{\mathbb{Z}})$ le processus défini par

$$\forall t\in{\mathbb{Z}},\ \ X_t=\cos\left(\frac{2{\pi}t}{3}+U\right)$$

où $U$ est une variable aléatoire de loi uniforme sur $[-{\pi},{\pi}]$.

1. Le processus $X$ est du second ordre car les variables $X_t$ sont bornées, donc de carré intégrable. Calculons sa fonction moyenne et sa fonction d'autocovariance :
   

   $${\mu}_X(t) = {\mathbb{E}}\left[X_t\right]={\mathbb{E}}\left[\cos\left(\frac{2{\pi}t}{3}+U\right)\right]$$

   $$= \int_{-\pi}^{\pi}\cos\left(\frac{2{\pi}t}{3}+u\right)\frac{du}{2{\pi}}=\left[\sin\left(\frac{2{\pi}t}{3}+u\right)\right]_{-\pi}^{\pi}=0$$

   $${\gamma}_X(s,t) = \mathop{\hbox{\upshape {cov}}}\nolimits (X_s,X_t)={\mathbb{E}}\left[X_sX_t\right] \mbox{ car les variables $X_s,X_t$\ sont centr\'ees}$$

   $$= {\mathbb{E}}\left[\cos\left(\frac{2{\pi}s}{3}+U\right)\cos\left(\... ...t(\frac{2{\pi}(s+t)}{3}+2U\right)+\cos\left(\frac{2{\pi}(s-t)}{3}\right)\right]$$

   $$= \frac{1}{2}\cos\left(\frac{2{\pi}(s-t)}{3}\right)+\frac{1}{2}\int... ...+2u\right)\frac{du}{2{\pi}}=\frac{1}{2}\cos\left(\frac{2{\pi}(s-t)}{3}\right)+0$$

   
   La fonction moyenne est constante, et la fonction d'autocorrélation invariante par translation temporelle : le processus $X$ est donc faiblement stationnaire.
2. Notons ${\varepsilon}=\left({\varepsilon}_t,t\in{\mathbb{Z}}\right)$ le bruit blanc d'innovation associé à $X$. Alors ${\varepsilon}_t=X_t-P^\bot_{V^2(1,X_s,s<t)}(X_t)$. Or on vérifie instantanément que $X$ est un processus périodique de période $3$. En particulier, $X_t=X_{t-3}\in V^2(1,X_s,s<t)$. D'où $P^\bot_{V^2(1,X_s,s<t)}(X_t)=X_t$ et ${\varepsilon}_t=0$.
3. Les deux variables aléatoires $\cos\left(\frac{2{\pi}t}{3}+U\right)$ et $\sin\left(\frac{2{\pi}t}{3}+U\right)$ sont centrées. En conséquence,
   

   $$\mathop{\hbox{\upshape {cov}}}\nolimits \left(\cos\left(\frac{2{\pi}t}{3}+U\right),\sin\left(\frac{2{\pi}t}{3}+U\right)\right) = {\mathbb{E}}\left[\cos\left(\frac{2{\pi}t}{3}+U\right)\sin\left(\frac{2{\pi}t}{3}+U\right)\right]$$

   $$= {\mathbb{E}}\left[\frac{1}{2}\sin\left(\frac{4{\pi}t}{3}+2U\right)\right]$$

   $$= \int_{-{\pi}}^{\pi}\sin\left(\frac{4{\pi}t}{3}+2u\right)\frac{du}{4{\pi}}=\left[\cos\left(\frac{4{\pi}t}{3}+2u\right)\right]_{-{\pi}}^{\pi}$$

   $$=$$ 0

   
   Les deux variables sont donc bien décorrélées, et orthogonales. Or
   

   $$X_{t+1} = \cos\left(\frac{2{\pi}(t+1)}{3}+U\right)=\cos\left(\frac{2{\pi}t}... ...3}\right)-\sin\left(\frac{2{\pi}t}{3}+U\right)\sin\left(\frac{2{\pi}}{3}\right)$$

   $$= -\frac{1}{2}\cos\left(\frac{2{\pi}t}{3}+U\right)-\frac{\sqrt{3}}{2}\sin\left(\frac{2{\pi}t}{3}+U\right)$$

   
   D'où
   

   $$P^\bot_{V^2(1,X_{t})}(X_{t+1}) = -\frac{1}{2}P^\bot_{V^2(1,X_{t})}\left(\cos\left(\frac{2{\pi}t}{3... ...rt{3}}{2}P^\bot_{V^2(1,X_{t})}\left(\sin\left(\frac{2{\pi}t}{3}+U\right)\right)$$

   $$= -\frac{1}{2}\cos\left(\frac{2{\pi}t}{3}+U\right)$$

   
   On en déduit aussi que
   

   $$X_{t+2} = -\frac{1}{2}\cos\left(\frac{2{\pi}t}{3}+U\right)+\frac{\sqrt{3}}{2}\sin\left(\frac{2{\pi}t}{3}+U\right)$$

   $$= -\cos\left(\frac{2{\pi}t}{3}+U\right)-\left(-\frac{1}{2}\cos\left... ...pi}t}{3}+U\right)-\frac{\sqrt{3}}{2}\sin\left(\frac{2{\pi}t}{3}+U\right)\right)$$

   $$= -X_t-X_{t+1}$$

   
   Il en résulte $P^\bot_{V^2(1,X_{t},X_{t+1})}(X_{t+2})=X_{t+2}$.
4. Notons ${\rho}_X$ la fonction d'autocorrélation de $X$.
   • $r_X(1)={\rho}_X(1)={\gamma}_X(1)/{\gamma}_X(0)=\cos1$.
   • Pour calculer $r_X(2)$, notons que $R_X(2)=\left({\rho}_X(\left\vert i-j\right\vert \right)_{i,j=1}^2$ est de déterminant égal à $1-\cos^2(1)\not=0$, et donc est inversible. Dans ce cas, on sait que $r_X(2)={\alpha}_2^{(2)}$, avec $P^\bot_{V^2(1,X_t,X_{t+1})}(X_{t+2})={\alpha}_0^{(2)}+{\alpha}_1^{(2)}X_{t+1}+{\alpha}_2^{(2)}X_t$ . Or $X_{t+2}=-X_t-X_{t+1}$. D'où $r_X(2)=-1$.
   • Enfin, si $h\geq3$, alors $P^\bot_{V^2(1,X_{t+1},\ldots,X_{t+h-1})}(X_{t+h})=X_{t+h}$, pour les mêmes raisons que vues à la question précédente, et donc, par définition, $r_X(h)=0$.
   Notons enfin qu'il ne s'agit pas du tout d'un processus AR($2$), ne serait-ce que parce que l'innovation d'un tel processus n'est pas nulle (sauf si le processus lui-même est nul). Rappelons que dans les hypothèses du théorème caractérisant un processus AR à partir de sa fonction d'autocorrélation partielle, on suppose que sa fonction d'autocorrélation tend vers 0 en l'infini ; ce qui n'est pas le cas ici.