مسابقة دكتوراه 2013 — Université des Sciences et de la Technologie Houari Boumediène (USTHB)

التمرين 1

Exercice 1 — Processus périodiquement corrélé : causalité et autocovariance

#time-series#periodically-correlated#parma#causality#autocovariance

Soit $\{X_t,\ t\in\mathbb{Z}\}$ un processus périodiquement corrélé, du second ordre, supposé centré, donné par l'équation aux différences stochastique :

$X_t - \varphi_{1,t}X_{t-1} - \varphi_{2,t}X_{t-2} = \varepsilon_t - \theta_t\,\varepsilon_{t-1}, \quad t\in\mathbb{Z} \tag{1}$

où $\{\varepsilon_t,\ t\in\mathbb{Z}\}$ est un bruit blanc périodiquement corrélé (variables aléatoires non corrélées, de moyenne $0$ et de variance finie $\sigma_t^2$ ), et où les paramètres réels $\varphi_{i,t}$ ( $i=1,2$ ), $\theta_t$ et la variance $\sigma_t^2$ sont périodiques en $t$ , de période $S$ (entier naturel $S>1$ ).

Présenter les concepts de causalité et d'inversibilité de ce modèle.
Établir rigoureusement, en appliquant la décomposition en ordre, une condition nécessaire et suffisante de causalité de ce modèle périodique.
Donner explicitement cette condition dans le cas particulier $\varphi_{2,t}=0$ , $\forall t\in\mathbb{Z}$ , et $S$ quelconque. Établir, sous cette condition, la décomposition de Wold-Cramér de ce processus.
Établir la structure de la fonction d'autocovariance du processus donné par le modèle (1).
Résoudre le système d'équations obtenu pour le cas particulier $\varphi_{2,t}=0$ et $\theta_t=0$ , $\forall t\in\mathbb{Z}$ .

◀الحل

1.

Le modèle (1) est un ARMA périodique PARMA(2,1). On dit que $\{X_t\}$ est :

causal (par rapport à $\{\varepsilon_t\}$ ) s'il admet une représentation linéaire unilatérale $X_t=\sum_{j\ge0}\psi_{j,t}\,\varepsilon_{t-j}$ à coefficients périodiques ( $\psi_{j,t}=\psi_{j,t+S}$ ) et absolument sommables ( $\sum_{j\ge0}|\psi_{j,t}|<\infty$ ) ; $X_t$ ne dépend alors que du présent et du passé du bruit.
inversible si l'on peut récupérer le bruit à partir du présent et du passé des observations : $\varepsilon_t=\sum_{j\ge0}\pi_{j,t}\,X_{t-j}$ , coefficients périodiques et absolument sommables.

2.

Décomposition en ordre (vectorisation). On regroupe $S$ instants consécutifs : pour $n\in\mathbb{Z}$ , on pose

$\mathbf{X}_n=(X_{nS+1},\dots,X_{nS+S})^{\top},\qquad \boldsymbol{\varepsilon}_n=(\varepsilon_{nS+1},\dots,\varepsilon_{nS+S})^{\top}$

Le processus vectoriel $\{\mathbf{X}_n\}$ est stationnaire (de dimension $S$ ). En écrivant les $S$ équations (1) pour $t=nS+1,\dots,nS+S$ , les retards internes au bloc donnent des matrices, ceux qui débordent sur le bloc précédent d'autres :

$A_0\,\mathbf{X}_n = A_1\,\mathbf{X}_{n-1} + B_0\,\boldsymbol{\varepsilon}_n - B_1\,\boldsymbol{\varepsilon}_{n-1}$

où $A_0$ est triangulaire inférieure à diagonale unité (donc inversible) et $\boldsymbol{\varepsilon}_n$ a pour covariance $\Sigma=\mathrm{diag}(\sigma_1^2,\dots,\sigma_S^2)$ . En prémultipliant par $A_0^{-1}$ :

$\mathbf{X}_n = \Phi\,\mathbf{X}_{n-1} + \mathbf{U}_n,\qquad \Phi=A_0^{-1}A_1,$

où $\mathbf{U}_n=A_0^{-1}(B_0\boldsymbol{\varepsilon}_n-B_1\boldsymbol{\varepsilon}_{n-1})$ est un MA(1) vectoriel : $\{\mathbf{X}_n\}$ est un VARMA(1,1).

CNS de causalité. Le VAR(1) sous-jacent est causal si et seulement si toutes les valeurs propres de $\Phi=A_0^{-1}A_1$ sont de module $<1$ :

$\boxed{\det\!\big(A_0 - A_1 z\big)\ne 0\ \ \forall\, |z|\le 1\ \Longleftrightarrow\ \rho\big(A_0^{-1}A_1\big)<1}$

( $\rho$ = rayon spectral). C'est la condition nécessaire et suffisante de causalité du modèle périodique.

3.

Si $\varphi_{2,t}=0\ \forall t$ , (1) devient un PARMA(1,1) : $X_t=\varphi_{1,t}X_{t-1}+\varepsilon_t-\theta_t\varepsilon_{t-1}$ . La matrice $\Phi=A_0^{-1}A_1$ est de rang $1$ et sa seule valeur propre non nulle vaut $\prod_{k=1}^{S}\varphi_{1,k}$ . La CNS de causalité s'écrit alors explicitement

$\boxed{\Big|\prod_{k=1}^{S}\varphi_{1,k}\Big|<1}$

Décomposition de Wold-Cramér. En itérant la récurrence AR(1) périodique avec $Z_t=\varepsilon_t-\theta_t\varepsilon_{t-1}$ :

$X_t=\sum_{m\ge0}\Big(\prod_{k=0}^{m-1}\varphi_{1,t-k}\Big)Z_{t-m}$

En posant $\Pi_{m,t}=\prod_{k=0}^{m-1}\varphi_{1,t-k}$ (avec $\Pi_{0,t}=1$ ) et en regroupant les coefficients de $\varepsilon_{t-j}$ :

$\boxed{X_t=\sum_{j\ge0}\psi_{j,t}\,\varepsilon_{t-j},\qquad \psi_{0,t}=1,\quad \psi_{j,t}=\Pi_{j,t}-\theta_{t-j+1}\,\Pi_{j-1,t}\ (j\ge1)}$

à coefficients périodiques (la série converge grâce à $\big|\prod_{k=1}^{S}\varphi_{1,k}\big|<1$ ).

4.

Pour un processus périodiquement corrélé, l'autocovariance dépend de l'instant $t$ et du retard $h$ , et est périodique en $t$ : $\gamma_t(h)=\mathrm{Cov}(X_t,X_{t-h})=\gamma_{t+S}(h)$ . À partir de la représentation causale et de $\mathrm{Cov}(\varepsilon_a,\varepsilon_b)=\sigma_a^2\,\delta_{ab}$ :

$\gamma_t(h)=\sum_{j,k\ge0}\psi_{j,t}\,\psi_{k,t-h}\,\mathrm{Cov}(\varepsilon_{t-j},\varepsilon_{t-h-k})$

Le terme est non nul si et seulement si $t-j=t-h-k$ , c'est-à-dire $j=h+k$ :

$\boxed{\gamma_t(h)=\sum_{k\ge0}\psi_{h+k,t}\,\psi_{k,t-h}\,\sigma_{t-h-k}^2,\qquad h\ge0}$

et $\gamma_t(-h)=\gamma_{t-h}(h)$ ; c'est une fonction périodique en $t$ .

5.

Cas $\varphi_{2,t}=0$ et $\theta_t=0$ : AR(1) périodique $X_t=\varphi_{1,t}X_{t-1}+\varepsilon_t$ , donc $\psi_{j,t}=\Pi_{j,t}$ .

Variances. En élevant au carré et en utilisant $X_{t-1}\perp\varepsilon_t$ , on obtient le système de Yule-Walker périodique pour $v_t:=\gamma_t(0)$ :

$v_t=\varphi_{1,t}^2\,v_{t-1}+\sigma_t^2,\qquad v_t=v_{t+S}$

En déroulant sur une période et en posant $P=\prod_{k=1}^{S}\varphi_{1,k}^2<1$ :

$\boxed{v_t=\frac{1}{1-P}\sum_{m=0}^{S-1}\Big(\prod_{k=0}^{m-1}\varphi_{1,t-k}^2\Big)\sigma_{t-m}^2}$

Autocovariances à retard $h\ge1$ . En multipliant $X_t=\varphi_{1,t}X_{t-1}+\varepsilon_t$ par $X_{t-h}$ (avec $\varepsilon_t\perp X_{t-h}$ ) : $\gamma_t(h)=\varphi_{1,t}\,\gamma_{t-1}(h-1)$ , d'où

$\boxed{\gamma_t(h)=\Big(\prod_{k=0}^{h-1}\varphi_{1,t-k}\Big)v_{t-h}=\Pi_{h,t}\,v_{t-h}}$

التمرين 2

Exercice 2 — Regroupement de volatilité : modèles ARCH/GARCH

#volatility-clustering#arch#garch#stationarity#kurtosis

Les séries chronologiques économiques, en particulier financières, sont caractérisées par un fait stylisé dit « regroupement de volatilité ».

Expliquer le sens de ce phénomène tout en présentant rigoureusement le premier modèle introduit, dans la littérature de l'analyse des séries chronologiques, pour capturer et décrire ce fait stylisé.
Soit $\{\varepsilon_t,\ t\in\mathbb{Z}\}$ un processus stochastique satisfaisant le modèle suivant :

$\varepsilon_t=\eta_t\sqrt{h_t},\qquad \varepsilon_t\mid I_{t-1}\sim N(0,h_t)$

où $\eta_t$ est un bruit blanc de loi $N(0,1)$ , tel que $h_t=\alpha_0+\alpha_1\varepsilon_{t-1}^2+\beta_1 h_{t-1}$ , avec $\alpha_0>0$ et $\alpha_1,\beta_1\ge0$ . a. Montrer que l'on peut réécrire le modèle précédent sous la forme

$\varepsilon_t^2=\alpha_0+(\alpha_1+\beta_1)\varepsilon_{t-1}^2+u_t-\beta_1 u_{t-1}$

tout en définissant $u_t$ et en présentant ses propriétés. Commenter. b. Trouver une condition nécessaire et suffisante de causalité (stationnarité). 3. On suppose dans toute la suite que $\beta_1=0$ . a. Calculer les moments d'ordre 2 et 4 du processus $\{\varepsilon_t,\ t\in\mathbb{Z}\}$ . b. Montrer que la kurtosis de ce processus est plus grande que 3.

◀الحل

1.

Le regroupement de volatilité (volatility clustering) désigne le fait que les grandes variations tendent à être suivies de grandes variations (de signe quelconque) et les petites de petites : les périodes de forte (resp. faible) volatilité se regroupent dans le temps. Formellement, les rendements sont non corrélés mais non indépendants, et leurs carrés (ou valeurs absolues) sont fortement autocorrélés.

Le premier modèle introduit pour capturer ce fait est le modèle ARCH( $q$ ) de Engle (1982) :

$\varepsilon_t=\eta_t\sqrt{h_t},\quad \eta_t\overset{iid}{\sim}N(0,1),\qquad h_t=\alpha_0+\sum_{i=1}^{q}\alpha_i\varepsilon_{t-i}^2,\quad \alpha_0>0,\ \alpha_i\ge0$

la variance conditionnelle $h_t$ dépendant des chocs passés au carré, ce qui engendre la persistance de la volatilité. (Il fut généralisé en GARCH par Bollerslev, 1986.)

a.

On définit l'innovation de la variance conditionnelle

$u_t=\varepsilon_t^2-h_t=h_t(\eta_t^2-1)$

Propriétés : $E[u_t\mid I_{t-1}]=h_t\,E[\eta_t^2-1]=0$ , donc $E[u_t]=0$ et $\mathrm{Cov}(u_t,u_s)=0$ pour $t\ne s$ : $\{u_t\}$ est une différence de martingale (bruit blanc au sens faible), mais hétéroscédastique (non i.i.d.).

En remplaçant $\varepsilon_t^2=h_t+u_t$ et $h_{t-1}=\varepsilon_{t-1}^2-u_{t-1}$ dans $h_t=\alpha_0+\alpha_1\varepsilon_{t-1}^2+\beta_1 h_{t-1}$ :

$\varepsilon_t^2=\alpha_0+\alpha_1\varepsilon_{t-1}^2+\beta_1(\varepsilon_{t-1}^2-u_{t-1})+u_t=\alpha_0+(\alpha_1+\beta_1)\varepsilon_{t-1}^2+u_t-\beta_1 u_{t-1}$

Commentaire : $\varepsilon_t^2$ suit donc un ARMA(1,1) de coefficient AR $(\alpha_1+\beta_1)$ et MA $(-\beta_1)$ , d'innovation $u_t$ : le GARCH(1,1) est équivalent à un ARMA(1,1) sur les carrés.

b.

L'ARMA(1,1) en $\varepsilon_t^2$ est (faiblement) stationnaire si et seulement si la racine du polynôme AR est hors du disque unité :

$\boxed{\alpha_1+\beta_1<1}\qquad (\text{avec } \alpha_0>0)$

3.a.

Avec $\beta_1=0$ : ARCH(1), $h_t=\alpha_0+\alpha_1\varepsilon_{t-1}^2$ . Comme $\eta_t$ est symétrique, les moments impairs sont nuls.

Ordre 2 (stationnarité, $\alpha_1<1$ ) : $E[\varepsilon_t^2]=E[h_t]=\alpha_0+\alpha_1 E[\varepsilon_{t-1}^2]$ , d'où

$\sigma^2=E[\varepsilon_t^2]=\frac{\alpha_0}{1-\alpha_1}$

Ordre 4 : $E[\varepsilon_t^4]=E[\eta_t^4]\,E[h_t^2]=3\,E[h_t^2]$ (car $E[\eta_t^4]=3$ ). Avec $h_t^2=\alpha_0^2+2\alpha_0\alpha_1\varepsilon_{t-1}^2+\alpha_1^2\varepsilon_{t-1}^4$ et $m_4=E[\varepsilon_t^4]$ (stationnaire) :

$m_4=3\big(\alpha_0^2+2\alpha_0\alpha_1\sigma^2+\alpha_1^2 m_4\big)$

$\boxed{m_4=E[\varepsilon_t^4]=\frac{3\alpha_0^2(1+\alpha_1)}{(1-\alpha_1)(1-3\alpha_1^2)}}\qquad \Big(\text{si } \alpha_1^2<\tfrac13\Big)$

3.b.

La kurtosis vaut

$\kappa=\frac{E[\varepsilon_t^4]}{\big(E[\varepsilon_t^2]\big)^2}=\frac{3\alpha_0^2(1+\alpha_1)/[(1-\alpha_1)(1-3\alpha_1^2)]}{\alpha_0^2/(1-\alpha_1)^2}=3\,\frac{1-\alpha_1^2}{1-3\alpha_1^2}$

Pour $0<\alpha_1^2<\tfrac13$ , on a $0<1-3\alpha_1^2<1-\alpha_1^2$ , donc $\dfrac{1-\alpha_1^2}{1-3\alpha_1^2}>1$ et

$\boxed{\kappa=3\,\frac{1-\alpha_1^2}{1-3\alpha_1^2}>3}$

Le processus est leptokurtique (queues plus épaisses que la loi normale), ce qui reflète le regroupement de volatilité. (Si $\alpha_1=0$ , alors $\kappa=3$ .)

التمرين 3

Exercice 3 — Bootstrap paramétrique, non-paramétrique et bootstrap ARMA

#bootstrap#parametric-bootstrap#residual-bootstrap#arma#time-series

Quelle est la différence entre le bootstrap paramétrique et non-paramétrique ?
Dans le cadre des séries temporelles stationnaires, les données sont dépendantes dans le temps ; on ne peut donc pas les retirer de façon indépendante. Le rééchantillonnage doit tenir compte de ce caractère dépendant dans le processus générateur de données. Supposons qu'une série $\{y_t,\ t=1,\dots,n\}$ est générée par le modèle $ARMA(p,q)$ suivant :

$y_t-\sum_{i=1}^{p}\phi_i\,y_{t-i}=\varepsilon_t-\sum_{j=1}^{q}\theta_j\,\varepsilon_{t-j}$

que l'on peut réécrire $\Phi(L)y_t=\Theta(L)\varepsilon_t$ , où $\Phi$ et $\Theta$ sont respectivement le polynôme autorégressif et moyenne mobile, $L$ l'opérateur de retards, $\phi$ et $\theta$ des vecteurs de paramètres, et $\varepsilon_t$ un bruit blanc fort (i.i.d.). Expliquer comment le bootstrap peut être utilisé pour construire récursivement un échantillon bootstrapé $\{y_t^*,\ t=1,\dots,n\}$ .

◀الحل

1.

Bootstrap paramétrique : on suppose que les données proviennent d'une famille paramétrique $F_\theta$ ; on estime $\hat\theta$ , puis on génère les échantillons bootstrap en simulant selon le modèle ajusté $F_{\hat\theta}$ .
Bootstrap non-paramétrique : aucune hypothèse de loi ; on rééchantillonne avec remise dans la distribution empirique $\hat F_n$ des observations (bootstrap d'Efron).

2.

Comme les $y_t$ sont dépendants, on ne peut pas les rééchantillonner directement : on rééchantillonne les innovations (i.i.d.). C'est le bootstrap récursif fondé sur les résidus :

Estimer les paramètres $\hat\phi_i,\hat\theta_j$ du modèle $ARMA(p,q)$ (par maximum de vraisemblance ou moindres carrés).
Calculer les résidus estimés de façon récursive :

$\hat\varepsilon_t=y_t-\sum_{i=1}^{p}\hat\phi_i\,y_{t-i}+\sum_{j=1}^{q}\hat\theta_j\,\hat\varepsilon_{t-j}$

Centrer les résidus $\tilde\varepsilon_t=\hat\varepsilon_t-\bar{\hat\varepsilon}$ et former leur distribution empirique $\hat F_\varepsilon$ .
Tirer les innovations bootstrap $\varepsilon_t^{*}$ i.i.d. avec remise dans $\{\tilde\varepsilon_t\}$ (justifié car le bruit est i.i.d.).
Reconstruire récursivement la série à l'aide du modèle estimé et de valeurs initiales :

$y_t^{*}=\sum_{i=1}^{p}\hat\phi_i\,y_{t-i}^{*}+\varepsilon_t^{*}-\sum_{j=1}^{q}\hat\theta_j\,\varepsilon_{t-j}^{*}$

en partant de conditions initiales (par exemple valeurs observées ou nulles) et en utilisant une période de chauffe (burn-in) pour effacer leur effet.

On obtient ainsi l'échantillon bootstrapé $\{y_t^{*},\ t=1,\dots,n\}$ , qui respecte la structure de dépendance puisque le rééchantillonnage porte sur les innovations i.i.d. et non sur les $y_t$ .