📚 الرئيسية

مسابقة دكتوراه 2012Université des Sciences et de la Technologie Houari Boumediène (USTHB) — الموضوع 01

مسابقة تخصص · Probabilités & Statistiques · المدة: 2سا

Concours Doctorat de 3ème cycle en Probabilités-Statistiques et Applications, épreuve Proba-Stat 2, Faculté des Mathématiques, Université des Sciences et de la Technologie Houari Boumediène (USTHB), mercredi 28 novembre 2012, durée 2 heures.

التمرين 1

Exercice 1 — Statistiques d'ordre, étendue et loi de X_(k)

#order-statistics#extreme-values#range-distribution#joint-distribution#binomial

Soit X1,,XnX_1,\dots,X_n des variables aléatoires réelles définies sur un même espace probabilisé (Ω,A,P)(\Omega,\mathcal A,P), indépendantes et de même loi absolument continue par rapport à la mesure de Lebesgue, de densité ff (et de fonction de répartition FF). Pour tout ωΩ\omega\in\Omega, on peut ordonner les réels X1(ω),,Xn(ω)X_1(\omega),\dots,X_n(\omega) sous la forme

X(1)(ω)X(i)(ω)X(n)(ω).X_{(1)}(\omega)\le\cdots\le X_{(i)}(\omega)\le\cdots\le X_{(n)}(\omega).

L'application X(i):ωΩX(i)(ω)X_{(i)}:\omega\in\Omega\mapsto X_{(i)}(\omega) ainsi définie pour chaque ii est une v.a.r. dite ii-ème statistique d'ordre.

  1. Calculer la loi de X(n)=sup(X1,,Xn)X_{(n)}=\sup(X_1,\dots,X_n) (f.d.r. FX(n)F_{X_{(n)}} et densité fX(n)f_{X_{(n)}}).
  2. Calculer la loi de X(1)=inf(X1,,Xn)X_{(1)}=\inf(X_1,\dots,X_n) (f.d.r. FX(1)F_{X_{(1)}} et densité fX(1)f_{X_{(1)}}).
  3. Calculer la loi du couple (X(1),X(n))(X_{(1)},X_{(n)}). En déduire celle de l'étendue R=X(n)X(1)R=X_{(n)}-X_{(1)} (on donnera sa f.d.r. et sa densité en fonction de FF et ff).
  4. Soit NyN_y le nombre de XiX_i inférieurs à yy. Quelle est la loi de NyN_y ? Que dire des événements (Nyk)(N_y\ge k) et (X(k)y)(X_{(k)}\le y) ? En déduire la f.d.r. de X(k)X_{(k)}.
الحل

1.

X(n)x    i, XixX_{(n)}\le x \iff \forall i,\ X_i\le x. Par indépendance :

FX(n)(x)=P(X(n)x)=i=1nP(Xix)=[F(x)]n.F_{X_{(n)}}(x)=P(X_{(n)}\le x)=\prod_{i=1}^n P(X_i\le x)=[F(x)]^n.

En dérivant :

fX(n)(x)=n[F(x)]n1f(x).\boxed{f_{X_{(n)}}(x)=n\,[F(x)]^{n-1}f(x).}

2.

X(1)>x    i, Xi>xX_{(1)}>x \iff \forall i,\ X_i>x, donc

FX(1)(x)=1P(X(1)>x)=1[1F(x)]n.F_{X_{(1)}}(x)=1-P(X_{(1)}>x)=1-[1-F(x)]^n.

fX(1)(x)=n[1F(x)]n1f(x).\boxed{f_{X_{(1)}}(x)=n\,[1-F(x)]^{n-1}f(x).}

3.

Pour u<vu<v, la densité jointe du couple (X(1),X(n))(X_{(1)},X_{(n)}) s'obtient en choisissant l'indice réalisant le minimum uu, celui réalisant le maximum vv, les n2n-2 autres tombant dans ]u,v[]u,v[ :

fX(1),X(n)(u,v)=n(n1)[F(v)F(u)]n2f(u)f(v),u<v.\boxed{f_{X_{(1)},X_{(n)}}(u,v)=n(n-1)\,[F(v)-F(u)]^{n-2}f(u)f(v),\quad u<v.}

Étendue R=X(n)X(1)R=X_{(n)}-X_{(1)}. Pour r0r\ge 0, en posant v=u+rv=u+r et en intégrant sur uu :

fR(r)=n(n1)+[F(u+r)F(u)]n2f(u)f(u+r)du,\boxed{f_R(r)=n(n-1)\int_{-\infty}^{+\infty}[F(u+r)-F(u)]^{n-2}f(u)f(u+r)\,du,}

et la fonction de répartition correspondante est

FR(r)=n+[F(u+r)F(u)]n1f(u)du,r0.F_R(r)=n\int_{-\infty}^{+\infty}[F(u+r)-F(u)]^{n-1}f(u)\,du,\qquad r\ge 0.

4.

Chaque XiX_i vérifie {Xiy}\{X_i\le y\} avec probabilité F(y)F(y), indépendamment des autres ; Ny=i=1n1{Xiy}N_y=\sum_{i=1}^n \mathbf 1_{\{X_i\le y\}} compte ces succès, d'où

NyB(n,F(y)).\boxed{N_y\sim \mathcal B\big(n,\,F(y)\big).}

Il y a au moins kk observations y\le y si et seulement si la kk-ème plus petite est y\le y :

{Nyk}={X(k)y}.\{N_y\ge k\}=\{X_{(k)}\le y\}.

On en déduit la f.d.r. de la kk-ème statistique d'ordre :

FX(k)(y)=P(Nyk)=j=kn(nj)[F(y)]j[1F(y)]nj.\boxed{F_{X_{(k)}}(y)=P(N_y\ge k)=\sum_{j=k}^{n}\binom{n}{j}[F(y)]^{j}[1-F(y)]^{n-j}.}

التمرين 2

Exercice 2 — Analyse en composantes principales (ACP)

#data-analysis#pca#duality#principal-components#correlation

Soit un tableau de données XX de nn individus par pp variables quantitatives. a. Donner l'objectif de l'ACP. b. Donner la formulation algébrique de l'ACP. c. Donner une interprétation géométrique dans Rp\mathbb R^{p} de cette formulation algébrique et expliciter les nouvelles variables recherchées en a) avec leurs propriétés. d. Développer les formules de dualité de l'ACP. e. Donner les coefficients de corrélation des variables initiales avec les composantes principales.

الحل

a.

L'ACP (analyse en composantes principales) vise à résumer un tableau de nn individus ×\times pp variables quantitatives (souvent corrélées) par un petit nombre de nouvelles variables synthétiques, les composantes principales, combinaisons linéaires des variables initiales, non corrélées entre elles et de variance (inertie) maximale. On réduit ainsi la dimension en perdant le minimum d'information.

b.

On munit Rp\mathbb R^{p} (espace des individus) d'une métrique MM et Rn\mathbb R^{n} (espace des variables) d'une matrice de poids DD (souvent D=1nInD=\tfrac1n I_n). Le tableau XX étant centré (et éventuellement réduit), on cherche des axes uu avec uM=1\|u\|_M=1 maximisant l'inertie projetée uMXDXMuu^{\top}M\,X^{\top}DX\,M\,u. Cela revient à diagonaliser la matrice VMVM, où V=XDXV=X^{\top}DX est la matrice de variance-covariance (ou de corrélation) :

VMuα=λαuα,λ1λ20.\boxed{VM\,u_\alpha=\lambda_\alpha u_\alpha,\qquad \lambda_1\ge\lambda_2\ge\cdots\ge 0.}

c.

Les nn individus forment un nuage de points dans (Rp,M)(\mathbb R^{p},M), centré en leur centre de gravité. L'ACP cherche la suite d'axes orthogonaux u1,u2,u_1,u_2,\dots passant par ce centre et maximisant successivement l'inertie projetée du nuage (meilleurs sous-espaces d'ajustement au sens des moindres carrés). Les nouvelles variables sont les composantes principales cα=XMuαc_\alpha=XMu_\alpha (coordonnées des individus sur uαu_\alpha). Leurs propriétés :

Var(cα)=λα,Cov(cα,cβ)=0 (αβ),αλα=inertie totale.\mathrm{Var}(c_\alpha)=\lambda_\alpha,\qquad \mathrm{Cov}(c_\alpha,c_\beta)=0\ (\alpha\ne\beta),\qquad \sum_\alpha\lambda_\alpha=\text{inertie totale}.

d.

On peut mener l'analyse duale dans Rn\mathbb R^{n} en diagonalisant WDWD avec W=XMXW=XMX^{\top} :

WDψα=λαψα.WD\,\psi_\alpha=\lambda_\alpha\psi_\alpha.

Les deux analyses ont les mêmes valeurs propres non nulles et sont reliées par les formules de transition (dualité) :

ψα=1λαXMuα,uα=1λαXDψα.\boxed{\psi_\alpha=\frac{1}{\sqrt{\lambda_\alpha}}\,XM\,u_\alpha,\qquad u_\alpha=\frac{1}{\sqrt{\lambda_\alpha}}\,X^{\top}D\,\psi_\alpha.}

La composante principale s'écrit cα=XMuα=λαψαc_\alpha=XMu_\alpha=\sqrt{\lambda_\alpha}\,\psi_\alpha.

e.

Le coefficient de corrélation entre la variable initiale xjx^{j} et la composante principale cαc_\alpha vaut

r(xj,cα)=λαuα(j)sj ACP normeˊe λαuα(j),\boxed{r(x^{j},c_\alpha)=\frac{\sqrt{\lambda_\alpha}\,u_\alpha^{(j)}}{s_j}\ \xrightarrow[\text{ACP normée}]{}\ \sqrt{\lambda_\alpha}\,u_\alpha^{(j)},}

sjs_j est l'écart-type de xjx^{j} (en ACP normée sj=1s_j=1). Ces corrélations (les « saturations ») servent à interpréter les axes, et αr2(xj,cα)=1\sum_\alpha r^{2}(x^{j},c_\alpha)=1 mesure la qualité de représentation de la variable xjx^{j}.