📚 الرئيسية

مسابقة دكتوراه 2025Université Abdelhamid Ibn Badis - Mostaganem — الموضوع 02

مسابقة تخصص · Probabilités & Statistiques · المعامل: 3 · المدة: 2سا

Concours d'accès à la formation de troisième cycle en vue de l'obtention du diplôme de doctorat, année universitaire 2024-2025, Filière : Mathématiques Appliquées, Spécialité : Probabilité et Statistique, Épreuve de spécialité : Calcul Stochastique et Statistique (Sujet No 3), Université Abdelhamid Ibn Badis - Mostaganem, Coefficient 3, durée 2h, 22/02/2025.

التمرين 1

Exercice 1 — Vecteur gaussien : densité, indépendance et loi d'une combinaison

#gaussian-vector#covariance-matrix#independence#linear-combination

Soit Z=(X1,X2,X3)TR3Z = (X_1, X_2, X_3)^T \in \mathbb{R}^3 un vecteur gaussien centré de matrice de covariance

Q=(310130002).Q = \begin{pmatrix} 3 & -1 & 0 \\\\ -1 & 3 & 0 \\\\ 0 & 0 & 2 \end{pmatrix}.

  1. ZZ admet-il une densité par rapport à la mesure de Lebesgue ? Si oui donner son expression.
  2. Trouver une matrice AM3(R)A \in \mathcal{M}_3(\mathbb{R}) telle que les variables composantes de AZAZ soient indépendantes.
  3. Déterminer la loi de la variable X12X2X3X_1 - 2X_2 - X_3.
الحل

1.

detQ=2det(3113)=2(91)=160\det Q = 2\det\begin{pmatrix}3 & -1\\ -1 & 3\end{pmatrix} = 2(9-1) = 16 \neq 0, donc QQ est inversible et ZZ admet une densité :

f(z)=1(2π)3/216exp ⁣(12zTQ1z)=14(2π)3/2exp ⁣(12zTQ1z).f(z) = \frac{1}{(2\pi)^{3/2}\sqrt{16}}\exp\!\left(-\tfrac12 z^T Q^{-1} z\right) = \frac{1}{4(2\pi)^{3/2}}\exp\!\left(-\tfrac12 z^T Q^{-1} z\right).

2.

Le bloc (3113)\begin{pmatrix}3 & -1\\ -1 & 3\end{pmatrix} a pour valeurs propres 22 et 44, de vecteurs propres orthonormés 12(1,1)\frac{1}{\sqrt2}(1,1) et 12(1,1)\frac{1}{\sqrt2}(1,-1). La matrice orthogonale

A=(1212012120001)A = \begin{pmatrix} \frac{1}{\sqrt2} & \frac{1}{\sqrt2} & 0 \\\\ \frac{1}{\sqrt2} & -\frac{1}{\sqrt2} & 0 \\\\ 0 & 0 & 1 \end{pmatrix}

diagonalise QQ : AZAZ a une covariance diagonale, donc ses composantes gaussiennes sont indépendantes.

3.

Avec a=(1,2,1)a = (1, -2, -1), la variable aTZa^T Z est gaussienne centrée de variance aTQaa^T Q a. On calcule Qa=(5,7,2)TQa = (5, -7, -2)^T, puis aTQa=5+14+2=21a^T Q a = 5 + 14 + 2 = 21.

X12X2X3N(0,21)\boxed{X_1 - 2X_2 - X_3 \sim N(0, 21)}

التمرين 2

Exercice 2 — Somme aléatoire : couple $(P,N)$, thinning de Poisson et identité de Wald

#compound-sum#poisson-thinning#wald-identity#independence

Soient (Xi)i1(X_i)_{i \geq 1} une suite de variables aléatoires réelles indépendantes de même loi μ\mu et NN une variable aléatoire à valeurs dans N\mathbb{N} indépendante de la suite (Xi)i1(X_i)_{i \geq 1}.

  1. On suppose que XnX_n suit la loi de Bernoulli de paramètre p ]0,1[p \in\ ]0, 1[ et que NN suit la loi de Poisson de paramètre λ>0\lambda \gt 0. On pose

P=i=1NXietF=NP=i=1N(1Xi),P = \sum_{i=1}^N X_i \quad \text{et} \quad F = N - P = \sum_{i=1}^N (1 - X_i),

avec P=F=0P = F = 0 sur {N=0}\{N = 0\}. Les variables PP et FF représentent respectivement le nombre de piles et de faces dans un jeu de pile ou face de paramètres pp et λ\lambda à NN lancers. a. Déterminer la loi du couple (P,N)(P, N). b. En déduire les lois de PP et FF, et montrer que PP et FF sont indépendantes. 2. On ne fait plus d'hypothèses sur les lois. Soit f:RR+f : \mathbb{R} \to \mathbb{R}^+ une fonction mesurable. Calculer E[i=1Nf(Xi)]\mathbb{E}\left[\sum_{i=1}^N f(X_i)\right] avec i=1Nf(Xi)=0\sum_{i=1}^N f(X_i) = 0 sur {N=0}\{N = 0\}.

الحل

1a.

Pour 0kn0 \leq k \leq n :

P(P=k,N=n)=P(N=n)(nk)pk(1p)nk=eλλnn!(nk)pk(1p)nk.P(P = k, N = n) = P(N = n)\binom{n}{k}p^k(1-p)^{n-k} = e^{-\lambda}\frac{\lambda^n}{n!}\binom{n}{k}p^k(1-p)^{n-k}.

1b.

En sommant sur nkn \geq k, on obtient (thinning de Poisson) :

PP(λp),FP(λ(1p)),P \sim \mathcal{P}(\lambda p), \qquad F \sim \mathcal{P}(\lambda(1-p)),

et P(P=k,F=j)=eλp(λp)kk!eλ(1p)(λ(1p))jj!=P(P=k)P(F=j)P(P=k, F=j) = e^{-\lambda p}\frac{(\lambda p)^k}{k!}\cdot e^{-\lambda(1-p)}\frac{(\lambda(1-p))^j}{j!} = P(P=k)P(F=j), donc PP et FF sont indépendantes.

2.

En conditionnant par NN (identité de Wald), avec (Xi)(X_i) indépendante de NN :

E[i=1Nf(Xi)]=n0P(N=n)nE[f(X1)]=E[N]E[f(X1)].\mathbb{E}\left[\sum_{i=1}^N f(X_i)\right] = \sum_{n \geq 0}P(N=n)\,n\,\mathbb{E}[f(X_1)] = \mathbb{E}[N]\,\mathbb{E}[f(X_1)].

E[i=1Nf(Xi)]=E[N]E[f(X1)]\boxed{\mathbb{E}\left[\sum_{i=1}^N f(X_i)\right] = \mathbb{E}[N]\,\mathbb{E}[f(X_1)]}

التمرين 3

Exercice 3 — Estimateur à noyau de Nadaraya-Watson et biais

#nonparametric-regression#nadaraya-watson#kernel-estimator#bias

Soit (X,Y)(X, Y) un couple de variables aléatoires à valeurs dans R×R\mathbb{R} \times \mathbb{R} tel que XX est une variable explicative et YY une variable réponse.

  1. Montrer que la fonction de régression m(x)=E[YX=x]m(x) = \mathbb{E}[Y \mid X = x] minimise l'espérance conditionnelle de la perte quadratique, c'est-à-dire : m(x)=argminaRE[(Ya)2X=x]m(x) = \arg\min_{a \in \mathbb{R}} \mathbb{E}[(Y - a)^2 \mid X = x].

Supposons que nous disposons d'un échantillon de taille nn, constitué de couples (X1,Y1),,(Xn,Yn)(X_1, Y_1), \ldots, (X_n, Y_n) ayant la même loi que le couple (X,Y)(X, Y).

  1. Construire l'estimateur à noyau de la fonction de régression m()m(\cdot) par la méthode Nadaraya-Watson. Supposons que m()m(\cdot) et fX()f_X(\cdot) soient de classe C2(R)C^2(\mathbb{R}) et que le noyau KK soit d'ordre 2, c'est-à-dire tel que RK(u)du=1\int_\mathbb{R} K(u)\,du = 1, RuK(u)du=0\int_\mathbb{R} u K(u)\,du = 0, Ru2K(u)du<\int_\mathbb{R} u^2 K(u)\,du \lt \infty.

  2. Montrer que Biais(m^n(x))=h22[{m(x)+2m(x)fX(x)fX(x)}Ru2K(u)du](1+o(1))\mathrm{Biais}(\widehat{m}_n(x)) = \frac{h^2}{2}\left[\left\{m''(x) + 2m'(x)\frac{f_X'(x)}{f_X(x)}\right\}\int_\mathbb{R} u^2 K(u)\,du\right](1 + o(1)), où KK est le noyau, hKh_K est un paramètre de lissage.

الحل

1.

E[(Ya)2X=x]=Var(YX=x)+(E[YX=x]a)2\mathbb{E}[(Y-a)^2 \mid X = x] = \mathrm{Var}(Y\mid X=x) + (\mathbb{E}[Y\mid X=x] - a)^2. Ce terme est minimal pour a=E[YX=x]=m(x)a = \mathbb{E}[Y\mid X=x] = m(x).

m(x)=argminaE[(Ya)2X=x]\boxed{m(x) = \arg\min_a \mathbb{E}[(Y-a)^2\mid X=x]}

2.

L'estimateur de Nadaraya-Watson est

m^n(x)=r^n(x)f^n(x),r^n(x)=1nhi=1nK ⁣(xXih)Yi,f^n(x)=1nhi=1nK ⁣(xXih).\widehat{m}_n(x) = \frac{\widehat{r}_n(x)}{\widehat{f}_n(x)}, \quad \widehat{r}_n(x) = \frac{1}{nh}\sum_{i=1}^n K\!\left(\frac{x - X_i}{h}\right)Y_i, \quad \widehat{f}_n(x) = \frac{1}{nh}\sum_{i=1}^n K\!\left(\frac{x - X_i}{h}\right).

3.

On a E[r^n(x)]=K(u)m(xhu)fX(xhu)du\mathbb{E}[\widehat{r}_n(x)] = \int K(u) m(x-hu) f_X(x-hu)\,du et E[f^n(x)]=K(u)fX(xhu)du\mathbb{E}[\widehat{f}_n(x)] = \int K(u) f_X(x-hu)\,du. Un développement de Taylor à l'ordre 2 de mm et fXf_X (en utilisant uK=0\int uK = 0) donne

E[r^n(x)]=mfX+h22[(mfX)]u2Kdu+o(h2),\mathbb{E}[\widehat{r}_n(x)] = m f_X + \frac{h^2}{2}\big[(m f_X)''\big]\int u^2 K\,du + o(h^2),

E[f^n(x)]=fX+h22fXu2Kdu+o(h2).\mathbb{E}[\widehat{f}_n(x)] = f_X + \frac{h^2}{2}f_X''\int u^2 K\,du + o(h^2).

En formant le rapport et en développant, les termes se simplifient et le biais principal vaut

Biais(m^n(x))=h22[(m(x)+2m(x)fX(x)fX(x))Ru2K(u)du](1+o(1))\boxed{\mathrm{Biais}(\widehat{m}_n(x)) = \frac{h^2}{2}\left[\left(m''(x) + 2m'(x)\frac{f_X'(x)}{f_X(x)}\right)\int_\mathbb{R} u^2 K(u)\,du\right](1 + o(1))}