مسابقة دكتوراه 2021 — Université Abderrahmane Mira - Béjaïa — الموضوع 01

On note le triplet statistique $(X,M,D)$ avec $M=D_{1/s^2}$ (métrique sur l'espace des individus $E=\mathbb{R}^{p}$) et $D=D_p$ (matrice diagonale des poids des $n$ individus, en général $D_p=\frac1n I_n$).

1.

Le schéma (diagramme) de dualité s'écrit

$\mathbb{R}^{p*}\ \xrightarrow{\ X\ }\ \mathbb{R}^{n}\ \xrightarrow{\ D_p\ }\ \mathbb{R}^{n*}\ \xrightarrow{\ X^{\top}\ }\ \mathbb{R}^{p}\ \xrightarrow{\ M\ }\ \mathbb{R}^{p*}.$

On pose $V=X^{\top}D_pX$ (matrice de variance-covariance, $p\times p$) et $W=XMX^{\top}$ ($n\times n$). L'ACP consiste à diagonaliser l'opérateur $VM=X^{\top}D_pX\,M$ sur $\mathbb{R}^{p}$ (ou, de façon duale, $WD_p=XMX^{\top}D_p$ sur $\mathbb{R}^{n}$) ; ces deux opérateurs ont les mêmes valeurs propres non nulles $\lambda_1\ge\lambda_2\ge\cdots\ge0$.

2.

L'ACP de $(X,D_{1/s^2},D_p)$ diagonalise $A:=VM=X^{\top}D_pX\,D_{1/s^2}$.

Pour le triplet $(Z,I_p,D_p)$ avec $Z=XD_{1/s}$, la matrice à diagonaliser est

$Z^{\top}D_pZ\,I_p=D_{1/s}X^{\top}D_pXD_{1/s}=D_{1/s}\,V\,D_{1/s}=R,$

qui est la matrice des corrélations de $X$ (son terme $(k,l)$ vaut $\mathrm{cov}(X^{k},X^{l})/(s_ks_l)=\mathrm{corr}(X^{k},X^{l})$).

Or $A$ et $R$ sont semblables : avec $P=D_{1/s}$ et puisque $D_{1/s^2}D_s=D_{1/s}$,

$PAP^{-1}=D_{1/s}\,(VD_{1/s^2})\,D_s=D_{1/s}VD_{1/s}=R.$

Deux matrices semblables ont les mêmes valeurs propres $\lambda_k$, et leurs vecteurs propres se correspondent par $P=D_{1/s}$. Les inerties principales et les composantes principales sont donc identiques : les deux ACP sont équivalentes. Autrement dit, l'ACP normée (métrique $D_{1/s^2}$ sur données centrées) coïncide avec l'ACP usuelle (métrique $I_p$) des données centrées-réduites $Z$.

3.

Le choix de la métrique définit la distance entre individus, donc la forme du nuage et les résultats de l'analyse. Le choix $M=D_{1/s^2}$ revient à réduire les variables (les diviser par leur écart-type) : l'analyse devient indépendante des unités de mesure et attribue à chaque variable le même poids (variance 1). C'est l'ACP normée, à privilégier lorsque les variables sont hétérogènes ou exprimées dans des unités différentes.

4.

L'inertie totale est la trace de l'opérateur $VM$ :

$I_g=\mathrm{tr}(VD_{1/s^2})=\sum_{j=1}^{p}\frac{\mathrm{var}(X^{j})}{s_j^{2}}=\sum_{j=1}^{p}1,$

soit

$\boxed{\ I_g=\sum_{k}\lambda_k=p\ }$

(le nombre de variables).

5.

L'inertie totale valant $p$ pour $p$ axes possibles, l'inertie moyenne par axe est $1$. Le critère de Kaiser consiste à ne retenir que les axes dont la valeur propre dépasse cette moyenne :

$\boxed{\ \text{on garde les axes tels que } \lambda_k\ge 1.\ }$

(On peut aussi s'appuyer sur l'éboulis des valeurs propres ou sur le pourcentage cumulé d'inertie expliquée.)

6.

La $j$-ème composante principale est $C^{j}=XMu_j$, où $u_j$ est le $j$-ème vecteur principal ($VMu_j=\lambda_j u_j$, normalisé), et $\mathrm{var}(C^{j})=\lambda_j$.

Par l'équivalence établie au 2., plaçons-nous sur les données réduites $Z$ (variables $Z^{k}=X^{k}/s_k$, de variance 1), avec $Ru_j=\lambda_j u_j$, $\|u_j\|=1$ et $C^{j}=Zu_j$. Alors

$\mathrm{cov}(Z^{k},C^{j})=\big(Z^{\top}D_pZ\,u_j\big)_k=(Ru_j)_k=\lambda_j\,(u_j)_k,$

d'où, comme $\mathrm{var}(Z^{k})=1$ et $\mathrm{var}(C^{j})=\lambda_j$,

$\mathrm{corr}(X^{k},C^{j})=\mathrm{corr}(Z^{k},C^{j})=\frac{\mathrm{cov}(Z^{k},C^{j})}{\sqrt{1}\,\sqrt{\lambda_j}}=\frac{\lambda_j\,(u_j)_k}{\sqrt{\lambda_j}}=\sqrt{\lambda_j}\,(u_j)_k.$

Ainsi la $k$-ème composante du vecteur $\sqrt{\lambda_j}\,u_j$ est exactement $\mathrm{corr}(X^{k},C^{j})$ :

$\boxed{\ \sqrt{\lambda_j}\,u_j=\big(\mathrm{corr}(X^{k},C^{j})\big)_{k=1,\dots,p}.\ }$

Ce sont les coordonnées des variables sur le cercle des corrélations.

i) a.

Comme $\Phi(\lambda)=E[e^{\lambda X_1}]<\infty$ sur $]-\varepsilon,\varepsilon[$, $\Phi$ y est de classe $C^{\infty}$ et l'on peut dériver sous l'espérance :

$\Phi(0)=1,\qquad \Phi'(0)=E[X_1]=0,\qquad \Phi''(0)=E[X_1^2]=1.$

La formule de Taylor-Young en 0 donne

$\boxed{\ \Phi(\lambda)=1+\frac{\lambda^2}{2}+o(\lambda^2).\ }$

i) b.

$\frac{h(t)}{t}=\frac{(2t\ln\ln t)^{1/2}}{t}=\left(\frac{2\ln\ln t}{t}\right)^{1/2}\xrightarrow[t\to+\infty]{}0,$

car $\dfrac{\ln\ln t}{t}\to0$. Donc $\boxed{\ \lim_{t\to+\infty}\dfrac{h(t)}{t}=0.\ }$

i) c.

Soit $\mathcal{F}_n=\sigma(X_1,\dots,X_n)$. $Y_n$ est $\mathcal{F}_n$-mesurable et intégrable :

$E[Y_n]=\frac{E[e^{\lambda S_n}]}{\Phi(\lambda)^n}=\frac{\prod_{i=1}^n E[e^{\lambda X_i}]}{\Phi(\lambda)^n}=\frac{\Phi(\lambda)^n}{\Phi(\lambda)^n}=1,$

par indépendance et équidistribution. De plus, $X_{n+1}$ étant indépendante de $\mathcal{F}_n$,

$E[Y_{n+1}\mid\mathcal{F}_n]=\frac{e^{\lambda S_n}}{\Phi(\lambda)^{n+1}}\,E[e^{\lambda X_{n+1}}\mid\mathcal{F}_n]=\frac{e^{\lambda S_n}}{\Phi(\lambda)^{n+1}}\,\Phi(\lambda)=Y_n.$

Donc $(Y_n)$ est une martingale positive d'espérance 1.

ii) a.

Soit $\lambda\in\,]0,\varepsilon[$. Comme $\lambda>0$,

$S_n>a+n\frac{\ln\Phi(\lambda)}{\lambda}\iff \lambda S_n-n\ln\Phi(\lambda)>\lambda a\iff Y_n=\frac{e^{\lambda S_n}}{\Phi(\lambda)^n}>e^{\lambda a}.$

Donc

$\bigcup_{n\ge1}\Big\{S_n>a+n\tfrac{\ln\Phi(\lambda)}{\lambda}\Big\}=\Big\{\sup_{n\ge1}Y_n>e^{\lambda a}\Big\}.$

$(Y_n)$ étant une martingale positive avec $E[Y_n]=1$, l'inégalité maximale de Doob (Ville) donne, pour $c=e^{\lambda a}$,

$P\Big(\sup_{n\ge1}Y_n>e^{\lambda a}\Big)\le\frac{E[Y_n]}{e^{\lambda a}}=e^{-\lambda a},$

soit

$\boxed{\ P\left(\bigcup_{n=1}^{+\infty}\Big\{S_n>a+n\tfrac{\ln\Phi(\lambda)}{\lambda}\Big\}\right)\le e^{-\lambda a}.\ }$

ii) b.

Fixons $t>1$, $\alpha>1$ et $k\ge1$ (assez grand pour que $\lambda_k=h(t^{k})/t^{k}<\varepsilon$, ce qui est vrai dès que $k$ est grand d'après i-b).

Étape 1 — inclusion des événements. Comme $\Phi(\lambda_k)\ge e^{\lambda_k E[X_1]}=1$ (inégalité de Jensen), on a $\ln\Phi(\lambda_k)\ge0$. Pour $t^{k}<n\le t^{k+1}=t\cdot t^{k}$, et puisque $t^{k}=h(t^{k})/\lambda_k$,

$a_k+n\frac{\ln\Phi(\lambda_k)}{\lambda_k}\le a_k+t\,t^{k}\frac{\ln\Phi(\lambda_k)}{\lambda_k}=\frac{\alpha}{2}h(t^{k})+t\,h(t^{k})\frac{\ln\Phi(\lambda_k)}{\lambda_k^{2}}=h(t^{k})\,C_k.$

Comme $h$ est croissante et $n>t^{k}$, on a $h(n)\ge h(t^{k})$, et $C_k>0$, donc

$h(n)C_k\ge h(t^{k})C_k\ge a_k+n\frac{\ln\Phi(\lambda_k)}{\lambda_k}.$

Ainsi $\{S_n>h(n)C_k\}\subseteq\big\{S_n>a_k+n\tfrac{\ln\Phi(\lambda_k)}{\lambda_k}\big\}$ pour tout $n\in\,]t^{k},t^{k+1}]$.

Étape 2 — application de (ii-a). En passant à la réunion puis en appliquant (ii-a) avec $\lambda=\lambda_k>0$ et $a=a_k>0$,

$P\left(\bigcup_{t^{k}<n\le t^{k+1}}\{S_n>h(n)C_k\}\right)\le P\left(\bigcup_{n\ge1}\Big\{S_n>a_k+n\tfrac{\ln\Phi(\lambda_k)}{\lambda_k}\Big\}\right)\le e^{-\lambda_k a_k}.$

Étape 3 — calcul de $e^{-\lambda_k a_k}$. On a $h(t^{k})^{2}=2t^{k}\ln\ln(t^{k})=2t^{k}\ln(k\ln t)$, donc

$\lambda_k a_k=\frac{h(t^{k})}{t^{k}}\cdot\frac{\alpha}{2}h(t^{k})=\frac{\alpha}{2}\cdot\frac{h(t^{k})^{2}}{t^{k}}=\frac{\alpha}{2}\cdot 2\ln(k\ln t)=\alpha\ln(k\ln t).$

D'où

$\boxed{\ P\left(\bigcup_{t^{k}<n\le t^{k+1}}\{S_n>h(n)C_k\}\right)\le e^{-\alpha\ln(k\ln t)}=(k\ln t)^{-\alpha}.\ }$

ii) c.

Notons $A_k=\bigcup_{t^{k}<n\le t^{k+1}}\{S_n>h(n)C_k\}$. D'après (ii-b),

$\sum_{k\ge1}P(A_k)\le\sum_{k\ge1}(k\ln t)^{-\alpha}=(\ln t)^{-\alpha}\sum_{k\ge1}k^{-\alpha}<+\infty\quad(\alpha>1).$

Par le lemme de Borel-Cantelli, $P(A_k\ \text{i.o.})=0$ : presque sûrement, il existe $k_0$ tel que pour tout $k\ge k_0$ et tout $n\in\,]t^{k},t^{k+1}]$, on ait $S_n\le h(n)C_k$, c'est-à-dire $\dfrac{S_n}{h(n)}\le C_k$.

Or, par (i-a), $\ln\Phi(\lambda_k)=\ln\!\big(1+\tfrac{\lambda_k^{2}}{2}+o(\lambda_k^{2})\big)=\tfrac{\lambda_k^{2}}{2}+o(\lambda_k^{2})$ et $\lambda_k\to0$, donc $\dfrac{\ln\Phi(\lambda_k)}{\lambda_k^{2}}\to\tfrac12$ et

$C_k=\frac{\alpha}{2}+t\frac{\ln\Phi(\lambda_k)}{\lambda_k^{2}}\xrightarrow[k\to\infty]{}\frac{\alpha}{2}+\frac{t}{2}=\frac{\alpha+t}{2}.$

Tout entier $n$ assez grand appartient à un unique intervalle $]t^{k},t^{k+1}]$ avec $k\to\infty$ quand $n\to\infty$ ; on obtient donc, presque sûrement,

$\limsup_{n\to\infty}\frac{S_n}{h(n)}\le\frac{\alpha+t}{2}.$

Ceci vaut pour tous $t>1$ et $\alpha>1$. En faisant tendre $t\downarrow1$ et $\alpha\downarrow1$ (le long de suites dénombrables, l'intersection des événements de probabilité 1 restant de probabilité 1),

$\boxed{\ \limsup_{n\to\infty}\frac{S_n}{h(n)}\le 1\quad\text{P-p.s.}\ }$

C'est la moitié supérieure de la loi du logarithme itéré : $\limsup_n S_n/\sqrt{2n\ln\ln n}\le1$ presque sûrement.