📚 الرئيسية

مسابقة دكتوراه 2016Université des Sciences et de la Technologie Houari Boumediène (USTHB) — الموضوع 03

مسابقة تخصص · Probabilités & Statistiques · المدة: 2سا

Concours de Doctorat de 3ème cycle en Probabilités, Statistiques et Applications, Épreuve de Statistiques, Département de Probabilités et Statistiques, Faculté de Mathématiques, Université des Sciences et de la Technologie Houari Boumediène (USTHB), durée 2 heures, le 03 octobre 2016.

التمرين 1

Exercice 1 — Loi exponentielle translatée : estimation et intervalles de confiance

#mathematical-statistics#maximum-likelihood#umvue#exponential-distribution#confidence-interval

Soit (x1,x2,,xn)(x_1,x_2,\dots,x_n) un nn-échantillon d'une variable aléatoire XX de loi

fX(x)=θ1eθ1(xθ2)1{xθ2}.f_X(x)=\theta_1\,e^{-\theta_1(x-\theta_2)}\mathbf{1}_{\{x\geq \theta_2\}}.

  1. On suppose θ2=0\theta_2=0. a. Déterminer l'estimateur du maximum de vraisemblance de θ1\theta_1. Est-il sans biais ? Sinon calculer son biais et son erreur quadratique moyenne. b. Montrer que θ1\theta_1 admet un estimateur sans biais de variance minimale que l'on déterminera. Est-il efficace ? Justifier. c. Soit KK un nombre réel strictement positif ; déterminer l'estimateur du maximum de vraisemblance de Pθ1(X>K)P_{\theta_1}(X\gt K). Montrer que cette quantité admet un estimateur sans biais optimal, que l'on caractérisera, qui ne peut pas être efficace.
  2. Dans cette question θ1\theta_1 et θ2\theta_2 sont inconnus. Estimer ces deux paramètres par la méthode des moments puis par la méthode du maximum de vraisemblance. (Indication : on remarquera que Xθ2X-\theta_2 suit une loi exponentielle.)
  3. On suppose θ1=1\theta_1=1 et on note θ^2\hat\theta_2 l'estimateur du maximum de vraisemblance de θ2\theta_2. a. Déterminer la loi de (θ^2θ2)(\hat\theta_2-\theta_2), et en déduire que 2n(θ^2θ2)χ222n(\hat\theta_2-\theta_2)\sim\chi^2_2 (khi-deux à 2 d.d.l.). Donner un intervalle de confiance de niveau 1α1-\alpha pour θ2\theta_2. b. Soit aa et bb deux réels positifs tels que P(a<θ^2θ2<b)=1αP(a\lt\hat\theta_2-\theta_2\lt b)=1-\alpha ; en déduire un autre intervalle de confiance de niveau 1α1-\alpha. En exprimant bb en fonction de aa, donner l'intervalle de confiance de longueur minimale pour θ2\theta_2.
الحل

1.a

Avec θ2=0\theta_2=0, XE(θ1)X\sim\mathcal{E}(\theta_1) et f(x)=θ1eθ1x1x0f(x)=\theta_1 e^{-\theta_1 x}\mathbf{1}_{x\geq 0}. La vraisemblance est L(θ1)=θ1neθ1xiL(\theta_1)=\theta_1^{n}e^{-\theta_1\sum x_i}, donc (θ1)=nlogθ1θ1xi\ell(\theta_1)=n\log\theta_1-\theta_1\sum x_i et (θ1)=nθ1xi=0\ell'(\theta_1)=\dfrac{n}{\theta_1}-\sum x_i=0 :

θ^1=ni=1nxi=1X.\hat\theta_1=\frac{n}{\sum_{i=1}^n x_i}=\frac{1}{\overline{X}}.

Comme S=XiΓ(n,θ1)S=\sum X_i\sim\Gamma(n,\theta_1), on a E[1/S]=θ1/(n1)E[1/S]=\theta_1/(n-1), d'où

E[θ^1]=nn1θ1θ1(biaiseˊ),b(θ^1)=θ1n1.E[\hat\theta_1]=\frac{n}{n-1}\theta_1\neq\theta_1\quad(\text{biaisé}),\qquad b(\hat\theta_1)=\frac{\theta_1}{n-1}.

Avec E[θ^12]=n2θ12(n1)(n2)E[\hat\theta_1^2]=\dfrac{n^2\theta_1^2}{(n-1)(n-2)}, on obtient Var(θ^1)=n2θ12(n1)2(n2)\operatorname{Var}(\hat\theta_1)=\dfrac{n^2\theta_1^2}{(n-1)^2(n-2)}, puis

EQM(θ^1)=Var(θ^1)+b(θ^1)2=n2θ12(n1)2(n2)+θ12(n1)2.\operatorname{EQM}(\hat\theta_1)=\operatorname{Var}(\hat\theta_1)+b(\hat\theta_1)^2=\frac{n^2\theta_1^2}{(n-1)^2(n-2)}+\frac{\theta_1^2}{(n-1)^2}.

θ^1=1X,b(θ^1)=θ1n1,EQM(θ^1)=(n+2)θ12(n1)(n2).\boxed{\hat\theta_1=\frac{1}{\overline{X}},\qquad b(\hat\theta_1)=\frac{\theta_1}{n-1},\qquad \operatorname{EQM}(\hat\theta_1)=\frac{(n+2)\,\theta_1^2}{(n-1)(n-2)}.}

1.b

S=XiS=\sum X_i est exhaustive et complète (famille exponentielle). Comme E[1/S]=θ1/(n1)E[1/S]=\theta_1/(n-1), l'estimateur

θ~1=n1i=1nXi\tilde\theta_1=\frac{n-1}{\sum_{i=1}^n X_i}

est sans biais ; par le théorème de Lehmann-Scheffé c'est l'unique estimateur sans biais de variance minimale (ESBVM). Son efficacité : In(θ1)=n/θ12I_n(\theta_1)=n/\theta_1^2, donc BCR=θ12/n\text{BCR}=\theta_1^2/n, tandis que

Var(θ~1)=θ12n2>θ12n.\operatorname{Var}(\tilde\theta_1)=\frac{\theta_1^2}{n-2}\gt\frac{\theta_1^2}{n}.

θ~1=n1i=1nXi est l’ESBVM, mais il n’est pas efficace.\boxed{\tilde\theta_1=\frac{n-1}{\sum_{i=1}^n X_i}\ \text{est l'ESBVM, mais il n'est pas efficace.}}

1.c

On a Pθ1(X>K)=eθ1KP_{\theta_1}(X\gt K)=e^{-\theta_1 K}. Par invariance de l'EMV,

Pθ1(X>K)^=eθ^1K=enK/iXi.\widehat{P_{\theta_1}(X\gt K)}=e^{-\hat\theta_1 K}=e^{-nK/\sum_i X_i}.

Pour l'estimateur optimal : 1{X1>K}\mathbf{1}_{\{X_1\gt K\}} est sans biais pour eθ1Ke^{-\theta_1K} (son espérance vaut P(X1>K)P(X_1\gt K)). En le conditionnant par la statistique exhaustive et complète S=iXiS=\sum_i X_i (Rao-Blackwell puis Lehmann-Scheffé), et comme X1/SBeta(1,n1)X_1/S\sim\text{Beta}(1,n-1),

φ(S)=P(X1>KS)=(1KS)n11{S>K}\varphi(S)=P(X_1\gt K\mid S)=\Big(1-\frac{K}{S}\Big)^{n-1}\mathbf{1}_{\{S\gt K\}}

est l'estimateur sans biais optimal (ESBVM) de eθ1Ke^{-\theta_1 K}. Il ne peut être efficace : l'égalité dans l'inégalité de Cramér-Rao exige que l'estimateur soit une fonction affine du score θ\partial_\theta\ell, ce qui n'est pas le cas de φ(S)\varphi(S), fonction non affine de SS. Aucun estimateur sans biais de eθ1Ke^{-\theta_1K} n'atteint donc la borne.

φ(S)=(1KS)n11{S>K},S=i=1nXi.\boxed{\varphi(S)=\Big(1-\frac{K}{S}\Big)^{n-1}\mathbf{1}_{\{S\gt K\}},\qquad S=\sum_{i=1}^n X_i.}

2.

Comme Xθ2E(θ1)X-\theta_2\sim\mathcal{E}(\theta_1), on a E[X]=θ2+1θ1E[X]=\theta_2+\dfrac{1}{\theta_1} et Var(X)=1θ12\operatorname{Var}(X)=\dfrac{1}{\theta_1^2}.

Méthode des moments. En égalant à la moyenne et à la variance empiriques X\overline{X} et Sn2=1ni(XiX)2S_n^2=\dfrac1n\sum_i(X_i-\overline{X})^2 :

θ1MM=1Sn2=1Sn,θ2MM=X1θ1MM=XSn.\theta_1^{MM}=\frac{1}{\sqrt{S_n^2}}=\frac{1}{S_n},\qquad \theta_2^{MM}=\overline{X}-\frac{1}{\theta_1^{MM}}=\overline{X}-S_n.

Méthode du maximum de vraisemblance. L=θ1neθ1i(xiθ2)1{minixiθ2}L=\theta_1^n e^{-\theta_1\sum_i(x_i-\theta_2)}\mathbf{1}_{\{\min_i x_i\geq\theta_2\}} est croissante en θ2\theta_2 (sous la contrainte θ2minixi\theta_2\leq\min_i x_i), donc θ^2=X(1)=miniXi\hat\theta_2=X_{(1)}=\min_i X_i ; puis θ1=0\partial_{\theta_1}\ell=0 donne

θ^2=X(1)=miniXi,θ^1=ni(XiX(1))=1XX(1).\boxed{\hat\theta_2=X_{(1)}=\min_i X_i,\qquad \hat\theta_1=\frac{n}{\sum_i (X_i-X_{(1)})}=\frac{1}{\overline{X}-X_{(1)}}.}

3.a

Avec θ1=1\theta_1=1, les Xiθ2E(1)X_i-\theta_2\sim\mathcal{E}(1) i.i.d., donc

θ^2θ2=mini(Xiθ2)E(n),\hat\theta_2-\theta_2=\min_i(X_i-\theta_2)\sim\mathcal{E}(n),

car le minimum de nn exponentielles indépendantes de paramètre 11 est exponentiel de paramètre nn ; sa densité est neny1y0n e^{-n y}\mathbf{1}_{y\geq 0}. En posant W=2n(θ^2θ2)W=2n(\hat\theta_2-\theta_2), un changement de variable donne la densité 12ew/21w0\tfrac12 e^{-w/2}\mathbf{1}_{w\geq 0}, c'est-à-dire

2n(θ^2θ2)χ22.2n(\hat\theta_2-\theta_2)\sim\chi^2_2.

Avec les quantiles χ22(1α/2)\chi^2_{2}(1-\alpha/2) et χ22(α/2)\chi^2_{2}(\alpha/2) (d'ordres α/2\alpha/2 et 1α/21-\alpha/2), P(χ22(1α/2)2n(θ^2θ2)χ22(α/2))=1αP\big(\chi^2_{2}(1-\alpha/2)\leq 2n(\hat\theta_2-\theta_2)\leq \chi^2_{2}(\alpha/2)\big)=1-\alpha donne

θ2[  θ^2χ22(α/2)2n  ,  θ^2χ22(1α/2)2n  ].\boxed{\theta_2\in\Big[\;\hat\theta_2-\frac{\chi^2_{2}(\alpha/2)}{2n}\;,\;\hat\theta_2-\frac{\chi^2_{2}(1-\alpha/2)}{2n}\;\Big].}

3.b

Comme W=θ^2θ2E(n)W=\hat\theta_2-\theta_2\sim\mathcal{E}(n), la condition P(a<W<b)=1αP(a\lt W\lt b)=1-\alpha s'écrit

enaenb=1α,e^{-na}-e^{-nb}=1-\alpha,

et fournit l'intervalle θ2(θ^2b,  θ^2a)\theta_2\in(\hat\theta_2-b,\;\hat\theta_2-a), de longueur =ba\ell=b-a. En écrivant b=1nln ⁣(ena(1α))b=-\dfrac1n\ln\!\big(e^{-na}-(1-\alpha)\big), on a

dda=dbda1=en(ba)1>0,\frac{d\ell}{da}=\frac{db}{da}-1=e^{\,n(b-a)}-1\gt 0,

donc la longueur croît avec aa : le minimum est atteint pour a=0a=0, ce qui donne b=1nln1αb=\dfrac{1}{n}\ln\dfrac{1}{\alpha} et

θ2(X(1)1nln1α, X(1)],longueur=1nln1α.\boxed{\theta_2\in\Big(\,X_{(1)}-\frac{1}{n}\ln\frac{1}{\alpha}\,,\ X_{(1)}\,\Big],\qquad \text{longueur}=\frac{1}{n}\ln\frac{1}{\alpha}.}

التمرين 2

Exercice 2 — Régression linéaire multiple (fonction de production Cobb-Douglas)

#linear-regression#ordinary-least-squares#econometrics#confidence-interval#hypothesis-testing

Nous disposons pour nn entreprises (i=1,,ni=1,\dots,n) des valeurs du capital KiK_i, de la valeur ajoutée VAiVA_i et de l'emploi LiL_i. La fonction de production est de type Cobb-Douglas : VAi=αLiλKiγVA_i=\alpha L_i^{\lambda}K_i^{\gamma}. En passant aux logarithmes, le modèle de régression linéaire associé est

logVAi=α+λlogLi+γlogKi+εi,\log VA_i=\alpha+\lambda\log L_i+\gamma\log K_i+\varepsilon_i,

α,λ,γ\alpha,\lambda,\gamma sont des paramètres inconnus et εi\varepsilon_i est une variable gaussienne telle que E(εi)=0E(\varepsilon_i)=0, Var(εi)=σ2\operatorname{Var}(\varepsilon_i)=\sigma^2 et cov(εi,εj)=0\operatorname{cov}(\varepsilon_i,\varepsilon_j)=0 pour iji\neq j.

  1. Écrire le modèle sous la forme matricielle Y=Xβ+εY=X\beta+\varepsilon en précisant YY, XX et β\beta. Rappeler l'expression matricielle de l'estimateur des moindres carrés de β\beta. Que vaut sa matrice de variances-covariances ? Donner un estimateur σ^2\hat\sigma^2 sans biais de σ2\sigma^2 et un estimateur de Var(β^)\operatorname{Var}(\hat\beta).
  2. Pour 1658 entreprises, on a obtenu par les moindres carrés

logVAi=3.136+0.738logLi+0.282logKi,\log VA_i=3.136+0.738\log L_i+0.282\log K_i,

avec R2=0.945R^2=0.945 et une somme des carrés résiduelle SCR=148.27SCR=148.27. On donne également

(XtX)1=(0.02880.00120.00340.00120.00160.00100.00340.00100.0009).(X^tX)^{-1}=\begin{pmatrix}0.0288 & 0.0012 & -0.0034\\ 0.0012 & 0.0016 & -0.0010\\ -0.0034 & -0.0010 & 0.0009\end{pmatrix}.

Calculer une estimation non biaisée de σ2\sigma^2, en déduire une estimation de Var(β^)\operatorname{Var}(\hat\beta). Rappeler la définition de R2R^2 et en déduire la variance empirique de la variable logVA\log VA. 3. a. Donner un intervalle de confiance de niveau 95% pour les paramètres α\alpha et λ\lambda. b. Pour un seuil de 5%, tester les hypothèses H0:γ=0H_0:\gamma=0 contre H1:γ0H_1:\gamma\neq 0.

الحل

1.

Le modèle s'écrit Y=Xβ+εY=X\beta+\varepsilon avec

Y=(logVA1logVAn),X=(1logL1logK11logLnlogKn),β=(αλγ).Y=\begin{pmatrix}\log VA_1\\ \vdots\\ \log VA_n\end{pmatrix},\qquad X=\begin{pmatrix}1 & \log L_1 & \log K_1\\ \vdots & \vdots & \vdots\\ 1 & \log L_n & \log K_n\end{pmatrix},\qquad \beta=\begin{pmatrix}\alpha\\ \lambda\\ \gamma\end{pmatrix}.

L'estimateur des moindres carrés est

β^=(XtX)1XtY,\hat\beta=(X^tX)^{-1}X^tY,

sans biais, de matrice de variances-covariances

Var(β^)=σ2(XtX)1.\operatorname{Var}(\hat\beta)=\sigma^2 (X^tX)^{-1}.

Un estimateur sans biais de σ2\sigma^2 est σ^2=SCRnp\hat\sigma^2=\dfrac{SCR}{n-p} (ici p=3p=3 paramètres), et on estime la matrice de variances-covariances par

Var^(β^)=σ^2(XtX)1.\widehat{\operatorname{Var}}(\hat\beta)=\hat\sigma^2 (X^tX)^{-1}.

2.

Avec n=1658n=1658 et p=3p=3 :

σ^2=SCRnp=148.2716550.0896.\hat\sigma^2=\frac{SCR}{n-p}=\frac{148.27}{1655}\approx 0.0896.

D'où Var^(β^)=0.0896(XtX)1\widehat{\operatorname{Var}}(\hat\beta)=0.0896\,(X^tX)^{-1}, dont la diagonale donne les variances estimées

Var^(α^)0.00258,Var^(λ^)1.43×104,Var^(γ^)8.06×105,\widehat{\operatorname{Var}}(\hat\alpha)\approx 0.00258,\qquad \widehat{\operatorname{Var}}(\hat\lambda)\approx 1.43\times 10^{-4},\qquad \widehat{\operatorname{Var}}(\hat\gamma)\approx 8.06\times 10^{-5},

c'est-à-dire des écarts-types estimés

σ^α^0.0508,σ^λ^0.0120,σ^γ^0.0090.\hat\sigma_{\hat\alpha}\approx 0.0508,\qquad \hat\sigma_{\hat\lambda}\approx 0.0120,\qquad \hat\sigma_{\hat\gamma}\approx 0.0090.

Par définition R2=1SCRSCTR^2=1-\dfrac{SCR}{SCT}, où SCT=i(logVAilogVA)2SCT=\sum_i(\log VA_i-\overline{\log VA})^2 est la somme des carrés totale. Donc

SCT=SCR1R2=148.270.0552695.8,SCT=\frac{SCR}{1-R^2}=\frac{148.27}{0.055}\approx 2695.8,

et la variance empirique de logVA\log VA vaut

Var^(logVA)=SCTn=2695.816581.63.\boxed{\widehat{\operatorname{Var}}(\log VA)=\frac{SCT}{n}=\frac{2695.8}{1658}\approx 1.63.}

3.a

nn étant grand, le quantile de Student tn3t_{n-3} vaut approximativement 1.961.96. Les intervalles de confiance à 95% sont de la forme β^j±1.96σ^β^j\hat\beta_j\pm 1.96\,\hat\sigma_{\hat\beta_j} :

α : 3.136±1.96×0.0508=3.136±0.100[3.036,  3.236],\alpha\ :\ 3.136\pm 1.96\times 0.0508=3.136\pm 0.100\approx[3.036,\;3.236],

λ : 0.738±1.96×0.0120=0.738±0.0235[0.715,  0.762].\lambda\ :\ 0.738\pm 1.96\times 0.0120=0.738\pm 0.0235\approx[0.715,\;0.762].

3.b

La statistique de test de Student pour H0:γ=0H_0:\gamma=0 est

t=γ^σ^γ^=0.2820.009031.4.t=\frac{\hat\gamma}{\hat\sigma_{\hat\gamma}}=\frac{0.282}{0.0090}\approx 31.4.

Comme t31.41.96=t0.975|t|\approx 31.4\gg 1.96=t_{0.975}, on rejette H0H_0 au seuil de 5% :

γ est significativement diffeˊrent de 0 : le capital influe sur la valeur ajouteˊe.\boxed{\gamma\ \text{est significativement différent de }0\ \text{: le capital influe sur la valeur ajoutée.}}