مسابقة دكتوراه 2021 — Université Abou Bekr Belkaïd

التمرين 1

Problème 1 — Troncature, inégalité de Kolmogorov et loi forte de Marcinkiewicz

#probability-theory#strong-law-of-large-numbers#almost-sure-convergence#kolmogorov-inequality#borel-cantelli

Soient $X=\{X_n,\,n\geq 1\}$ et $Y=\{Y_n,\,n\geq 1\}$ deux suites de variables aléatoires définies sur un même espace de probabilité complet $(\Omega,\mathcal{F},P)$ . On note $\{a_n,\,n\geq 1\}$ une suite croissante de nombres réels strictement positifs avec $\lim_{n\to\infty}a_n=+\infty$ . $E(X)$ désigne l'espérance mathématique de $X$ et $\mathbf{1}(A)$ la fonction indicatrice de l'événement $A$ . Pour $n\geq 1$ , on pose

$S_n=\sum_{k=1}^n X_k\qquad\text{et}\qquad \overline{X}_n=X_n\,\mathbf{1}(|X_n|\leq a_n).$

(p.s. : presque sûrement ; v.a.r. : variable aléatoire réelle.)

Première partie.

Soit $f$ une fonction réelle borélienne et impaire. Montrer que si $U$ est une v.a.r. symétrique ( $U$ et $-U$ ont même loi), alors $V:=f(U)$ est aussi une v.a.r. symétrique.
Montrer que si $\sum_{k\geq 1}P(X_k\neq \overline{X}_k)\lt\infty$ et $\lim_{n\to\infty}\dfrac{S_n}{a_n}=0$ p.s., alors $\lim_{n\to\infty}\dfrac{1}{a_n}\sum_{k=1}^n \overline{X}_k=0$ p.s.

Deuxième partie.

Montrer que si $X=\{X_n,\,n\geq 1\}$ est une suite de v.a.r. indépendantes avec $X_n\in L^2$ et $E(X_n)=0$ pour $n\geq 1$ , alors

$\sum_{n\geq 1}E(X_n^2)\lt\infty\ \Longrightarrow\ \{S_n,\,n\geq 1\}\ \text{converge dans }L^2\ \text{et p.s.}$

Troisième partie.

On suppose à présent que $X=\{X_n,\,n\geq 1\}$ est une suite de v.a.r. indépendantes, symétriques et identiquement distribuées, et qu'il existe $C\gt 0$ et $n_0\geq 1$ tels que

$\forall n\geq n_0,\qquad \sum_{k=n}^{\infty}\frac{1}{a_k^2}\leq \frac{C\,n}{a_n^2}.$

Montrer que si $\sum_{k\geq 1}P(|X_1|\gt a_k)\lt\infty$ , alors $\Big\{\sum_{k=1}^n \dfrac{\overline{X}_k}{a_k},\,n\geq 1\Big\}$ converge p.s.
En déduire que si $\tfrac12\lt\alpha\lt 1$ , alors $\dfrac{S_n}{n^\alpha}\to 0$ p.s. $\iff \sum_{k\geq 1}P(|X_1|\gt k^\alpha)\lt\infty$ .
Montrer que cette dernière équivalence ne peut pas être vraie pour $\alpha=\tfrac12$ .

Rappels.

Inégalité de Kolmogorov : soit $X=\{X_n\}$ une suite de v.a.r. indépendantes avec $X_n\in L^2$ et $E(X_n)=0$ . Alors pour tout $\varepsilon\gt 0$ et tout $n\geq 1$ ,

$P\Big(\max_{1\leq k\leq n}\big|\textstyle\sum_{j=1}^k X_j\big|\gt\varepsilon\Big)\leq \frac{1}{\varepsilon^2}\sum_{j=1}^n E(X_j^2).$

Lemme de Kronecker : soient $\{x_n\}$ et $\{b_n\}$ deux suites réelles avec $0\lt b_n\uparrow\infty$ . Alors

$\sum_{k\geq 1}\frac{x_k}{b_k}\lt\infty\ \Longrightarrow\ \lim_{n\to\infty}\frac{1}{b_n}\sum_{k=1}^n x_k=0.$

◀الحل

1.

Comme $f$ est impaire, $f(-u)=-f(u)$ pour tout $u$ . Pour tout borélien $B$ , en utilisant que $U$ et $-U$ ont même loi :

$P(V\in B)=P\big(f(U)\in B\big)=P\big(U\in f^{-1}(B)\big)=P\big(-U\in f^{-1}(B)\big)=P\big(f(-U)\in B\big)=P\big(-f(U)\in B\big)=P(-V\in B).$

Donc $V$ et $-V$ ont même loi :

$\boxed{V=f(U)\ \text{est une v.a.r. symétrique.}}$

2.

Comme $\sum_{k\geq 1}P(X_k\neq \overline{X}_k)\lt\infty$ , le premier lemme de Borel-Cantelli donne $P(X_k\neq\overline{X}_k\ \text{i.s.})=0$ . Donc, presque sûrement, il existe un rang (aléatoire) $N=N(\omega)$ tel que $X_k=\overline{X}_k$ pour tout $k\gt N$ . Pour $n\gt N$ ,

$\sum_{k=1}^n \overline{X}_k-S_n=\sum_{k=1}^{N}\big(\overline{X}_k-X_k\big)=:R(\omega),$

quantité finie et indépendante de $n$ . Par conséquent

$\frac{1}{a_n}\sum_{k=1}^n \overline{X}_k=\frac{R(\omega)}{a_n}+\frac{S_n}{a_n}\xrightarrow[n\to\infty]{}0+0=0\quad\text{p.s.},$

car $R(\omega)$ est fixé, $a_n\to+\infty$ et $S_n/a_n\to 0$ p.s. par hypothèse.

$\boxed{\lim_{n\to\infty}\frac{1}{a_n}\sum_{k=1}^n \overline{X}_k=0\ \text{p.s.}}$

3.

Indépendance et espérance nulle entraînent l'orthogonalité dans $L^2$ : pour $m\lt n$ ,

$E\big[(S_n-S_m)^2\big]=E\Big[\Big(\sum_{k=m+1}^n X_k\Big)^2\Big]=\sum_{k=m+1}^n E(X_k^2),$

les termes croisés étant nuls ( $E[X_iX_j]=E[X_i]E[X_j]=0$ pour $i\neq j$ ). Comme $\sum_k E(X_k^2)\lt\infty$ , le reste tend vers $0$ , donc $\{S_n\}$ est de Cauchy dans $L^2$ ; cet espace étant complet, $S_n$ converge dans $L^2$ .

Pour la convergence presque sûre, on applique l'inégalité de Kolmogorov aux variables $\{X_j\}_{j\gt m}$ : pour tout $\varepsilon\gt 0$ ,

$P\Big(\max_{m\lt k\leq n}|S_k-S_m|\gt\varepsilon\Big)\leq \frac{1}{\varepsilon^2}\sum_{j=m+1}^n E(X_j^2).$

En faisant $n\to\infty$ ,

$P\Big(\sup_{k\gt m}|S_k-S_m|\geq\varepsilon\Big)\leq \frac{1}{\varepsilon^2}\sum_{j\gt m} E(X_j^2)=:\frac{r_m}{\varepsilon^2},\qquad r_m\to 0.$

Posons $M_m=\sup_{k,l\geq m}|S_k-S_l|$ , suite décroissante en $m$ , de limite $M$ . Comme $M_m\leq 2\sup_{k\geq m}|S_k-S_m|$ , on a $P(M_m\gt 2\varepsilon)\leq r_m/\varepsilon^2\to 0$ , d'où $M=0$ p.s. : la suite $\{S_n\}$ est p.s. de Cauchy, donc converge p.s.

$\boxed{\sum_{n\geq 1}E(X_n^2)\lt\infty\ \Longrightarrow\ S_n\ \text{converge dans }L^2\ \text{et p.s.}}$

4.

On a $\overline{X}_k=f_k(X_k)$ avec $f_k(x)=x\,\mathbf{1}(|x|\leq a_k)$ , fonction impaire. Les $X_k$ étant symétriques (question 1), $\overline{X}_k$ est symétrique ; bornée ( $|\overline{X}_k|\leq a_k$ ) donc intégrable, une variable symétrique intégrable vérifie $E(\overline{X}_k)=0$ . De plus les $\overline{X}_k$ sont indépendantes et dans $L^2$ . Posons $Z_k=\dfrac{\overline{X}_k}{a_k}$ ; alors $E(Z_k)=0$ et, par la question 3, $\sum_k Z_k$ converge p.s. dès que $\sum_k E(Z_k^2)\lt\infty$ .

Or $E(Z_k^2)=\dfrac{1}{a_k^2}E\big[X_1^2\mathbf{1}(|X_1|\leq a_k)\big]$ (les $X_k$ sont identiquement distribuées). Par le théorème de Tonelli,

$\sum_{k\geq 1}E(Z_k^2)=E\Big[X_1^2\sum_{k:\,a_k\geq |X_1|}\frac{1}{a_k^2}\Big].$

Pour $x=|X_1|$ , notons $\nu(x)=\min\{k\geq 1:\ a_k\geq x\}$ . Alors $\sum_{k:\,a_k\geq x}a_k^{-2}=\sum_{k\geq \nu(x)}a_k^{-2}$ . En séparant $x\leq a_{n_0-1}$ (où $X_1^2$ est bornée et $\sum_k a_k^{-2}\lt\infty$ ) et $x$ tel que $\nu(x)\geq n_0$ , la condition donnée fournit

$\sum_{k\geq \nu(x)}\frac{1}{a_k^2}\leq \frac{C\,\nu(x)}{a_{\nu(x)}^2}\leq \frac{C\,\nu(x)}{x^2}\qquad(\text{car }a_{\nu(x)}\geq x).$

Donc, à une constante additive finie près,

$\sum_{k\geq 1}E(Z_k^2)\leq \text{cste}+C\,E\big[\nu(|X_1|)\big].$

Comme $\nu(x)\geq k+1\iff a_k\lt x$ ,

$E\big[\nu(|X_1|)\big]=\sum_{k\geq 1}P\big(\nu(|X_1|)\geq k\big)=1+\sum_{k\geq 1}P(|X_1|\gt a_k)\lt\infty.$

Ainsi $\sum_k E(Z_k^2)\lt\infty$ et, par la question 3,

$\boxed{\sum_{k=1}^n \frac{\overline{X}_k}{a_k}\ \text{converge p.s.}}$

5.

On prend $a_n=n^\alpha$ avec $\tfrac12\lt\alpha\lt 1$ . Comme $2\alpha\gt 1$ , $\sum_{k\geq n}k^{-2\alpha}\sim \dfrac{n^{1-2\alpha}}{2\alpha-1}$ , donc il existe $C\gt 0$ avec $\sum_{k\geq n}a_k^{-2}\leq C\,n^{1-2\alpha}=C\,n/a_n^2$ : la condition de la troisième partie est satisfaite.

$(\Longleftarrow)$ Supposons $\sum_k P(|X_1|\gt k^\alpha)\lt\infty$ . Les $X_k$ étant i.i.d., $\sum_k P(|X_k|\gt a_k)=\sum_k P(|X_1|\gt k^\alpha)\lt\infty$ , donc $\sum_k P(X_k\neq \overline{X}_k)\lt\infty$ et, par Borel-Cantelli, $X_k=\overline{X}_k$ à partir d'un certain rang p.s. Par la question 4, $\sum_k \overline{X}_k/a_k$ converge p.s. ; le lemme de Kronecker (avec $b_n=a_n=n^\alpha\uparrow\infty$ ) donne

$\frac{1}{n^\alpha}\sum_{k=1}^n \overline{X}_k\to 0\ \text{p.s.}$

Puisque $X_k=\overline{X}_k$ à partir d'un certain rang, $S_n-\sum_{k=1}^n\overline{X}_k$ est finalement constant, donc $\big(S_n-\sum_k\overline{X}_k\big)/n^\alpha\to 0$ , et finalement $S_n/n^\alpha\to 0$ p.s.

$(\Longrightarrow)$ Supposons $S_n/n^\alpha\to 0$ p.s. Alors

$\frac{X_n}{n^\alpha}=\frac{S_n}{n^\alpha}-\Big(\frac{n-1}{n}\Big)^{\alpha}\frac{S_{n-1}}{(n-1)^\alpha}\to 0\ \text{p.s.},$

donc $P(|X_n|\gt n^\alpha\ \text{i.s.})=0$ . Les événements $\{|X_n|\gt n^\alpha\}$ étant indépendants, le second lemme de Borel-Cantelli impose $\sum_n P(|X_n|\gt n^\alpha)\lt\infty$ , soit, par équidistribution, $\sum_n P(|X_1|\gt n^\alpha)\lt\infty$ .

$\boxed{\tfrac12\lt\alpha\lt 1:\quad \frac{S_n}{n^\alpha}\to 0\ \text{p.s.}\iff \sum_{k\geq 1}P(|X_1|\gt k^\alpha)\lt\infty.}$

6.

Pour $\alpha=\tfrac12$ , la condition de la troisième partie tombe en défaut : $\sum_{k\geq n}a_k^{-2}=\sum_{k\geq n}\tfrac1k=+\infty$ (série harmonique), donc la méthode précédente ne s'applique plus. On construit un contre-exemple : soit $(X_n)$ i.i.d. de Rademacher, $P(X_1=1)=P(X_1=-1)=\tfrac12$ (symétriques, $E(X_1)=0$ , $\operatorname{Var}(X_1)=1$ ). Alors

$\sum_{k\geq 1}P(|X_1|\gt \sqrt{k})=0\lt\infty\quad(\text{car }|X_1|=1\leq\sqrt{k}\ \forall k\geq 1),$

donc le membre de droite est satisfait. Pourtant, par le théorème central limite $\dfrac{S_n}{\sqrt{n}}\xrightarrow{\ \mathcal{L}\ }\mathcal{N}(0,1)$ (loi non dégénérée), et par la loi du logarithme itéré $\limsup_n \dfrac{|S_n|}{\sqrt{n}}=+\infty$ p.s., de sorte que $S_n/\sqrt{n}\not\to 0$ p.s. Le membre de gauche est donc faux.

$\boxed{\text{Pour }\alpha=\tfrac12,\ \text{le membre de droite peut être vrai sans que }S_n/\sqrt{n}\to 0:\ \text{l'équivalence est fausse.}}$

التمرين 2

Problème 2 — Chaîne de Markov à 4 états : irréductibilité, loi stationnaire, temps de retour et période

#markov-chain#stationary-distribution#recurrence#hitting-time#periodicity

Soit $X=(X_n,\,n\in\mathbb{N})$ une chaîne de Markov à valeurs dans $F=\{1,2,3,4\}$ de matrice de transition

$P=\begin{pmatrix}\tfrac15 & 0 & \tfrac25 & \tfrac25\\ 1 & 0 & 0 & 0\\ \tfrac35 & \tfrac15 & \tfrac15 & 0\\ 0 & \tfrac45 & \tfrac15 & 0\end{pmatrix}.$

La chaîne est-elle irréductible ?
Déterminer les états récurrents et les états transients.
Déterminer les lois stationnaires.
Pour $x\in F$ on note $T_x=\inf\{n\geq 1:\ X_n=x\}$ le temps de retour à $x$ . Calculer $\mathbb{E}_x[T_x]$ .
Calculer la période de chaque état.

◀الحل

1.

Les transitions possibles sont : $1\to\{1,3,4\}$ , $2\to\{1\}$ , $3\to\{1,2,3\}$ , $4\to\{2,3\}$ . On vérifie que tous les états communiquent :

$1\to 3\to 2\to 1,\qquad 1\to 4\to 2,\qquad 2\to 1,\qquad 3\to 1.$

Depuis n'importe quel état on atteint $1$ , et depuis $1$ on atteint $3$ , $4$ (puis $2$ ). Tous les états forment une seule classe de communication :

$\boxed{\text{la chaîne est irréductible.}}$

2.

L'espace d'états $F$ est fini et la chaîne est irréductible : tous les états appartiennent à une unique classe finie et fermée, donc sont récurrents (récurrents positifs).

$\boxed{\text{Les états }1,2,3,4\ \text{sont tous récurrents positifs ; aucun état n'est transient.}}$

3.

On cherche $\pi=(\pi_1,\pi_2,\pi_3,\pi_4)$ vérifiant $\pi P=\pi$ et $\sum_i\pi_i=1$ . En colonnes :

$\pi_1=\tfrac15\pi_1+\pi_2+\tfrac35\pi_3,\quad \pi_2=\tfrac15\pi_3+\tfrac45\pi_4,\quad \pi_3=\tfrac25\pi_1+\tfrac15\pi_3+\tfrac15\pi_4,\quad \pi_4=\tfrac25\pi_1.$

De la dernière équation $\pi_4=\tfrac25\pi_1$ . La troisième donne $\tfrac45\pi_3=\tfrac25\pi_1+\tfrac15\pi_4=\tfrac{12}{25}\pi_1$ , soit $\pi_3=\tfrac35\pi_1$ . La deuxième donne $\pi_2=\tfrac15\pi_3+\tfrac45\pi_4=\tfrac{3}{25}\pi_1+\tfrac{8}{25}\pi_1=\tfrac{11}{25}\pi_1$ . La normalisation

$\pi_1\Big(1+\tfrac{11}{25}+\tfrac35+\tfrac25\Big)=\pi_1\cdot\frac{61}{25}=1\ \Longrightarrow\ \pi_1=\frac{25}{61}.$

D'où l'unique loi stationnaire (la chaîne est irréductible) :

$\boxed{\pi=\Big(\tfrac{25}{61},\ \tfrac{11}{61},\ \tfrac{15}{61},\ \tfrac{10}{61}\Big).}$

4.

La chaîne étant irréductible récurrente positive, le temps moyen de retour à un état est l'inverse de sa probabilité stationnaire : $\mathbb{E}_x[T_x]=\dfrac{1}{\pi_x}$ . Donc

$\boxed{\mathbb{E}_1[T_1]=\frac{61}{25},\quad \mathbb{E}_2[T_2]=\frac{61}{11},\quad \mathbb{E}_3[T_3]=\frac{61}{15},\quad \mathbb{E}_4[T_4]=\frac{61}{10}.}$

5.

Come $P_{11}=\tfrac15\gt 0$ , l'état $1$ admet un retour en une étape, donc sa période vaut $\gcd\{n\geq 1:\ P^n_{11}\gt 0\}=1$ . La chaîne étant irréductible, tous les états ont la même période :

$\boxed{\text{chaque état est de période }1\ :\ \text{la chaîne est apériodique (donc ergodique).}}$