📚 الرئيسية

مسابقة دكتوراه 2016Université des Sciences et de la Technologie Houari Boumediène (USTHB) — الموضوع 07

مسابقة تخصص · Probabilités & Statistiques · المدة: 2سا

Concours de Doctorat de 3e cycle en Probabilités, Statistiques et Applications, épreuve de Statistiques, Département de Probabilités et Statistiques, Faculté des Mathématiques, Université des Sciences et de la Technologie Houari Boumediène (USTHB), Alger, 3 octobre 2016, durée 2 heures.

التمرين 1

Exercice 1 — Loi exponentielle translatée : maximum de vraisemblance, ESBVM et intervalles de confiance

#maximum-likelihood#umvu-estimator#cramer-rao-bound#method-of-moments#confidence-interval

Soit (x1,x2,,xn)(x_1,x_2,\dots,x_n) un nn-échantillon d'une variable aléatoire XX de loi

fX(x)=θ1eθ1(xθ2)1{xθ2}.f_X(x)=\theta_1\,e^{-\theta_1(x-\theta_2)}\mathbf{1}_{\{x\ge\theta_2\}}.

  1. On suppose θ2=0\theta_2=0. a. Déterminer l'estimateur du maximum de vraisemblance de θ1\theta_1. Est-il sans biais ? Sinon, calculer son biais et son erreur quadratique moyenne. b. Montrer que θ1\theta_1 admet un estimateur sans biais de variance minimale, qu'on déterminera. Est-il efficace ? Justifier. c. Soit KK un réel strictement positif ; déterminer l'estimateur du maximum de vraisemblance de Pθ1(X>K)P_{\theta_1}(X>K). Montrer que cette quantité admet un estimateur sans biais optimal, qu'on caractérisera, qui ne peut pas être efficace.
  2. Dans cette question, θ1\theta_1 et θ2\theta_2 sont inconnus. Estimer ces deux paramètres par la méthode des moments, puis par la méthode du maximum de vraisemblance. (Indication : on remarquera que Xθ2X-\theta_2 suit une loi exponentielle.)
  3. On suppose θ1=1\theta_1=1 et on note θ^2\hat\theta_2 l'estimateur du maximum de vraisemblance de θ2\theta_2. a. Déterminer la loi de (θ^2θ2)(\hat\theta_2-\theta_2), en déduire que 2n(θ^2θ2)n+Loiχ222n(\hat\theta_2-\theta_2)\xrightarrow[n\to+\infty]{\text{Loi}}\chi_2^2 (khi-deux à 2 d.d.l.). Donner un intervalle de confiance de niveau (1α)(1-\alpha) pour θ2\theta_2. b. Soit aa et bb deux réels positifs tels que P(a<θ^2θ2<b)=1αP(a<\hat\theta_2-\theta_2<b)=1-\alpha. En déduire un autre intervalle de confiance de niveau 1α1-\alpha. En exprimant par exemple bb en fonction de aa, donner l'intervalle de confiance de longueur minimale pour θ2\theta_2.
الحل

1. a.

Avec θ2=0\theta_2=0, XE(θ1)X\sim\mathcal E(\theta_1). La vraisemblance est L(θ1)=θ1neθ1ixiL(\theta_1)=\theta_1^{\,n}e^{-\theta_1\sum_i x_i}, et =nlnθ1θ1ixi\ell=n\ln\theta_1-\theta_1\sum_i x_i. En annulant (θ1)=nθ1ixi\ell'(\theta_1)=\dfrac n{\theta_1}-\sum_i x_i :

 θ^1=ni=1nXi=1Xˉ. \boxed{\ \hat\theta_1=\frac{n}{\sum_{i=1}^n X_i}=\frac1{\bar X}.\ }

Comme S=iXiGamma(n,θ1)S=\sum_i X_i\sim\text{Gamma}(n,\theta_1), on a E[1/S]=θ1n1E[1/S]=\dfrac{\theta_1}{n-1}, donc E[θ^1]=nn1θ1θ1E[\hat\theta_1]=\dfrac{n}{n-1}\theta_1\neq\theta_1 : l'estimateur est biaisé, de biais

b(θ^1)=E[θ^1]θ1=θ1n1.b(\hat\theta_1)=E[\hat\theta_1]-\theta_1=\frac{\theta_1}{n-1}.

Avec E[1/S2]=θ12(n1)(n2)E[1/S^2]=\dfrac{\theta_1^2}{(n-1)(n-2)}, on obtient Var(θ^1)=n2θ12(n1)2(n2)\text{Var}(\hat\theta_1)=\dfrac{n^2\theta_1^2}{(n-1)^2(n-2)}, d'où

 EQM(θ^1)=Var(θ^1)+b(θ^1)2=(n+2)θ12(n1)(n2). \boxed{\ \text{EQM}(\hat\theta_1)=\text{Var}(\hat\theta_1)+b(\hat\theta_1)^2=\frac{(n+2)\,\theta_1^2}{(n-1)(n-2)}.\ }

1. b.

S=iXiS=\sum_i X_i est une statistique exhaustive et complète (famille exponentielle). Comme E[1/S]=θ1/(n1)E[1/S]=\theta_1/(n-1), l'estimateur

 θ~1=n1i=1nXi \boxed{\ \tilde\theta_1=\frac{n-1}{\sum_{i=1}^n X_i}\ }

est sans biais ; fonction de la statistique exhaustive complète, c'est l'estimateur sans biais de variance minimale (ESBVM) par le théorème de Lehmann-Scheffé. Sa variance vaut

Var(θ~1)=(n1)2E[1/S2]θ12=θ12n2.\text{Var}(\tilde\theta_1)=(n-1)^2E[1/S^2]-\theta_1^2=\frac{\theta_1^2}{n-2}.

L'information de Fisher est In(θ1)=n/θ12I_n(\theta_1)=n/\theta_1^2, donc la borne de Cramér-Rao vaut θ12/n\theta_1^2/n. Comme

Var(θ~1)=θ12n2>θ12n=BCR,\text{Var}(\tilde\theta_1)=\frac{\theta_1^2}{n-2}>\frac{\theta_1^2}{n}=\text{BCR},

l'estimateur n'est pas efficace (l'égalité dans Cramér-Rao exigerait que θ~1\tilde\theta_1 soit une fonction affine du score, ce qui est faux car 1/S1/S est non linéaire en SS).

1. c.

Pθ1(X>K)=eθ1KP_{\theta_1}(X>K)=e^{-\theta_1 K}. Par invariance du maximum de vraisemblance,

 P(X>K)^=eθ^1K=eK/Xˉ. \boxed{\ \widehat{P(X>K)}=e^{-\hat\theta_1 K}=e^{-K/\bar X}.\ }

Pour l'estimateur optimal, on part de l'estimateur sans biais élémentaire 1{X1>K}\mathbf 1_{\{X_1>K\}} (car E[1{X1>K}]=eθ1KE[\mathbf 1_{\{X_1>K\}}]=e^{-\theta_1 K}) et on le Rao-Blackwellise par la statistique exhaustive complète SS. Comme X1/SBeta(1,n1)X_1/S\sim\text{Beta}(1,n-1) indépendamment de SS,

E[1{X1>K}S=s]=P ⁣(X1S>Ks  S=s)=(1Ks)n11{s>K}.E\big[\mathbf 1_{\{X_1>K\}}\mid S=s\big]=P\!\left(\tfrac{X_1}{S}>\tfrac Ks\ \Big|\ S=s\right)=\left(1-\frac Ks\right)^{n-1}\mathbf 1_{\{s>K\}}.

D'où l'estimateur sans biais optimal (ESBVM) :

 P(X>K)^ESBVM=(1KiXi)n11{iXi>K}. \boxed{\ \widehat{P(X>K)}_{\text{ESBVM}}=\left(1-\frac{K}{\sum_i X_i}\right)^{n-1}\mathbf 1_{\{\sum_i X_i>K\}}.\ }

Il ne peut être efficace : eθ1Ke^{-\theta_1 K} est une fonction non linéaire de θ1\theta_1, et aucun estimateur sans biais d'une telle fonction n'atteint la borne de Cramér-Rao (l'égalité n'a lieu que pour des fonctions affines du paramètre naturel).

2.

Comme Xθ2E(θ1)X-\theta_2\sim\mathcal E(\theta_1), E[X]=θ2+1θ1E[X]=\theta_2+\dfrac1{\theta_1} et Var(X)=1θ12\text{Var}(X)=\dfrac1{\theta_1^2}.

Méthode des moments : en égalant à la moyenne et à la variance empiriques Xˉ\bar X et Sn2=1ni(XiXˉ)2S_n^2=\frac1n\sum_i(X_i-\bar X)^2,

 θ^1MM=1Sn,θ^2MM=XˉSn. \boxed{\ \hat\theta_1^{MM}=\frac{1}{S_n},\qquad \hat\theta_2^{MM}=\bar X-S_n.\ }

Maximum de vraisemblance : L=θ1neθ1i(xiθ2)1{θ2x(1)}L=\theta_1^{\,n}e^{-\theta_1\sum_i(x_i-\theta_2)}\mathbf 1_{\{\theta_2\le x_{(1)}\}} est croissante en θ2\theta_2, d'où θ^2=X(1)=miniXi\hat\theta_2=X_{(1)}=\min_i X_i ; puis en maximisant en θ1\theta_1,

 θ^2MV=X(1),θ^1MV=ni(XiX(1))=1XˉX(1). \boxed{\ \hat\theta_2^{MV}=X_{(1)},\qquad \hat\theta_1^{MV}=\frac{n}{\sum_i (X_i-X_{(1)})}=\frac1{\bar X-X_{(1)}}.\ }

3. a.

Avec θ1=1\theta_1=1, les Xiθ2X_i-\theta_2 sont i.i.d. E(1)\mathcal E(1), et θ^2=X(1)\hat\theta_2=X_{(1)}. Donc θ^2θ2=mini(Xiθ2)\hat\theta_2-\theta_2=\min_i(X_i-\theta_2) est le minimum de nn exponentielles E(1)\mathcal E(1) :

 θ^2θ2E(n),densiteˊ nent1{t0}. \boxed{\ \hat\theta_2-\theta_2\sim\mathcal E(n),\quad \text{densité } n e^{-nt}\mathbf 1_{\{t\ge0\}}.\ }

Alors 2n(θ^2θ2)E(1/2)=χ222n(\hat\theta_2-\theta_2)\sim\mathcal E(1/2)=\chi_2^2 exactement (donc a fortiori en loi lorsque n+n\to+\infty). Comme θ^2θ2\hat\theta_2\ge\theta_2, en utilisant les quantiles de χ22\chi_2^2,

 IC1α(θ2)=[X(1)χ2,1α/222n,  X(1)χ2,α/222n]. \boxed{\ IC_{1-\alpha}(\theta_2)=\left[\,X_{(1)}-\frac{\chi^2_{2,\,1-\alpha/2}}{2n},\ \ X_{(1)}-\frac{\chi^2_{2,\,\alpha/2}}{2n}\,\right].\ }

3. b.

Posons Y=θ^2θ2E(n)Y=\hat\theta_2-\theta_2\sim\mathcal E(n). La condition P(a<Y<b)=enaenb=1αP(a<Y<b)=e^{-na}-e^{-nb}=1-\alpha fournit l'intervalle

θ^2b<θ2<θ^2a,de longueur ba.\hat\theta_2-b<\theta_2<\hat\theta_2-a,\qquad \text{de longueur } b-a.

On minimise bab-a sous la contrainte enaenb=1αe^{-na}-e^{-nb}=1-\alpha. En écrivant b=1nln ⁣(ena(1α))b=-\frac1n\ln\!\big(e^{-na}-(1-\alpha)\big),

d(ba)da=1αena(1α)>0,\frac{d(b-a)}{da}=\frac{1-\alpha}{e^{-na}-(1-\alpha)}>0,

donc la longueur est strictement croissante en aa : le minimum est atteint en a=0a=0, ce qui donne enb=αe^{-nb}=\alpha, soit b=lnαnb=\dfrac{-\ln\alpha}{n}. L'intervalle de longueur minimale est

 IC1αmin(θ2)=[X(1)lnαn,  X(1)],de longueur lnαn. \boxed{\ IC_{1-\alpha}^{\min}(\theta_2)=\left[\,X_{(1)}-\frac{-\ln\alpha}{n},\ \ X_{(1)}\,\right],\quad \text{de longueur } \frac{-\ln\alpha}{n}.\ }

(La densité exponentielle étant décroissante, l'intervalle le plus court commence en a=0a=0.)

التمرين 2

Exercice 2 — Modèle gaussien $X_i\sim\mathcal N(i\theta,1)$ : tests les plus puissants et puissance

#hypothesis-testing#neyman-pearson#gaussian-model#most-powerful-test#power-function

Soit X1,X2,,XnX_1,X_2,\dots,X_n des variables aléatoires indépendantes telles que XiN(iθ,1)X_i\sim\mathcal N(i\theta,1) (1in1\le i\le n), où θ\theta est un paramètre réel. On dispose d'une observation xix_i de chacune de ces variables.

  1. Déterminer la loi de i=1niXi\sum_{i=1}^n i X_i.
  2. On veut tester l'hypothèse « θ=θ0\theta=\theta_0 » contre l'alternative « θ=θ1\theta=\theta_1 », avec θ0<θ1\theta_0<\theta_1. Montrer que les tests les plus puissants ont une région critique de la forme C={i=1nixi>K}C=\{\sum_{i=1}^n i x_i>K\}. Déterminer alors le test le plus puissant au niveau α\alpha et calculer sa puissance.
  3. Pour tester « θ=θ0\theta=\theta_0 » contre « θθ0\theta\neq\theta_0 », on considère le test de région critique C1={i=1nixiθ0sn>K1}C_1=\{\,|\sum_{i=1}^n i x_i-\theta_0 s_n|>K_1\,\}, où sn=i=1ni2s_n=\sum_{i=1}^n i^2. Déterminer K1K_1 pour qu'il soit de niveau α\alpha.
الحل

1.

T=i=1niXiT=\sum_{i=1}^n iX_i est une combinaison linéaire de variables normales indépendantes. Avec sn=i=1ni2=n(n+1)(2n+1)6s_n=\sum_{i=1}^n i^2=\dfrac{n(n+1)(2n+1)}{6},

E[T]=i=1ni(iθ)=θsn,Var(T)=i=1ni2Var(Xi)=sn,E[T]=\sum_{i=1}^n i\,(i\theta)=\theta s_n,\qquad \text{Var}(T)=\sum_{i=1}^n i^2\,\text{Var}(X_i)=s_n,

donc

 T=i=1niXiN(θsn, sn). \boxed{\ T=\sum_{i=1}^n iX_i\sim\mathcal N\big(\theta s_n,\ s_n\big).\ }

2.

Le rapport de vraisemblance de Neyman-Pearson vérifie

lnL(θ1)L(θ0)=(θ1θ0)i=1nixi12(θ12θ02)sn.\ln\frac{L(\theta_1)}{L(\theta_0)}=(\theta_1-\theta_0)\sum_{i=1}^n i x_i-\tfrac12(\theta_1^2-\theta_0^2)s_n.

Comme θ1θ0>0\theta_1-\theta_0>0, ce rapport est une fonction croissante de iixi\sum_i i x_i ; rejeter pour un grand rapport équivaut donc à la région

C={i=1nixi>K}.C=\Big\{\sum_{i=1}^n i x_i>K\Big\}.

Seuil de niveau α\alpha : sous H0H_0, TN(θ0sn,sn)T\sim\mathcal N(\theta_0 s_n,s_n), donc α=Pθ0(T>K)\alpha=P_{\theta_0}(T>K) impose Kθ0snsn=z1α\dfrac{K-\theta_0 s_n}{\sqrt{s_n}}=z_{1-\alpha}, soit

 K=θ0sn+z1αsn. \boxed{\ K=\theta_0 s_n+z_{1-\alpha}\sqrt{s_n}.\ }

Puissance : sous H1H_1, TN(θ1sn,sn)T\sim\mathcal N(\theta_1 s_n,s_n), d'où

π=Pθ1(T>K)=P ⁣(Z>z1α(θ1θ0)sn),\pi=P_{\theta_1}(T>K)=P\!\left(Z>z_{1-\alpha}-(\theta_1-\theta_0)\sqrt{s_n}\right),

soit

 π=Φ ⁣((θ1θ0)snz1α),sn=n(n+1)(2n+1)6. \boxed{\ \pi=\Phi\!\big((\theta_1-\theta_0)\sqrt{s_n}-z_{1-\alpha}\big),\qquad s_n=\frac{n(n+1)(2n+1)}{6}.\ }

3.

Sous H0H_0, Tθ0snN(0,sn)T-\theta_0 s_n\sim\mathcal N(0,s_n), donc Tθ0snsnN(0,1)\dfrac{T-\theta_0 s_n}{\sqrt{s_n}}\sim\mathcal N(0,1). Le niveau α\alpha impose

Pθ0(Tθ0sn>K1)=α  K1sn=z1α/2,P_{\theta_0}\big(|T-\theta_0 s_n|>K_1\big)=\alpha\ \Longrightarrow\ \frac{K_1}{\sqrt{s_n}}=z_{1-\alpha/2},

soit

 K1=z1α/2sn=z1α/2n(n+1)(2n+1)6. \boxed{\ K_1=z_{1-\alpha/2}\sqrt{s_n}=z_{1-\alpha/2}\sqrt{\frac{n(n+1)(2n+1)}{6}}.\ }