📚 الرئيسية

مسابقة دكتوراه 2017Université des Sciences et de la Technologie Houari Boumediène (USTHB) — الموضوع 01

مسابقة تخصص · Probabilités & Statistiques

Épreuve de spécialité (option PSA) de la formation doctorale en Mathématiques Appliquées, Faculté de Mathématiques, Université des Sciences et de la Technologie Houari Boumediène (USTHB), Alger, 26 octobre 2017.

التمرين 1

Exercice 1 — Estimation et tests pour une loi de Weibull

#mathematical-statistics#exponential-family#maximum-likelihood#confidence-interval#hypothesis-testing

On considère un nn-échantillon X1,,XnX_1,\dots,X_n d'une variable aléatoire XX de densité

fX(x)=αθxα1exp ⁣(xαθ)1{x>0},f_X(x) = \frac{\alpha}{\theta}\,x^{\alpha-1}\exp\!\left(-\frac{x^{\alpha}}{\theta}\right)\mathbf{1}_{\{x>0\}},

α\alpha et θ\theta sont des paramètres réels strictement positifs.

  1. On suppose α\alpha connu. a. La loi de XX appartient-elle à la famille exponentielle ? Déterminer une statistique exhaustive pour θ\theta si elle existe. b. Même question si l'on suppose θ\theta connu. Dans toute la suite on suppose α=3\alpha=3.
  2. Montrer que X3E ⁣(1θ)X^3\sim\mathcal{E}\!\left(\tfrac{1}{\theta}\right) (loi exponentielle). En déduire que 2θX3E ⁣(12)=χ22\frac{2}{\theta}X^3\sim\mathcal{E}\!\left(\tfrac{1}{2}\right)=\chi^2_2 (khi-deux à deux degrés de liberté), puis la loi de 2θi=1nXi3\frac{2}{\theta}\sum_{i=1}^{n}X_i^3.
  3. Estimation du maximum de vraisemblance. a. Déterminer les EMV T1T_1 et T2T_2 de θ\theta et de 1θ\tfrac{1}{\theta}. Donner leurs lois asymptotiques. b. Déterminer l'ESBVUM de θ\theta. c. Est-il efficace ?
  4. Intervalles de confiance. a. En utilisant la question 2, déterminer un intervalle de confiance de niveau 1α1-\alpha pour θ\theta. b. Déterminer un intervalle de confiance de niveau asymptotique 1α1-\alpha pour θ\theta.
  5. Montrer que pour tout α(0,1)\alpha\in(0,1) et pour tout θ0\theta_0, il existe un test uniformément le plus puissant au niveau α\alpha de H0:θθ0H_0:\theta\le\theta_0 contre H1:θ>θ0H_1:\theta>\theta_0. Déterminer sa région critique.
الحل

1. a.

En écrivant la densité sous forme exponentielle, pour x>0x>0,

fX(x)=exp ⁣(1θxα+lnαθ+(α1)lnx).f_X(x) = \exp\!\left(-\frac{1}{\theta}\,x^{\alpha} + \ln\frac{\alpha}{\theta} + (\alpha-1)\ln x\right).

C'est une famille exponentielle à un paramètre, de paramètre naturel 1θ-\tfrac{1}{\theta} et de statistique canonique xαx^{\alpha}. La loi appartient donc à la famille exponentielle. Pour l'échantillon, la vraisemblance est

L(θ)=αnθn(i=1nxiα1)exp ⁣(1θi=1nxiα).L(\theta) = \frac{\alpha^{n}}{\theta^{n}}\left(\prod_{i=1}^n x_i^{\alpha-1}\right)\exp\!\left(-\frac{1}{\theta}\sum_{i=1}^n x_i^{\alpha}\right).

D'après le théorème de factorisation, une statistique exhaustive (complète et minimale) pour θ\theta est

S=i=1nXiα\boxed{\,S=\sum_{i=1}^{n} X_i^{\alpha}\,}

1. b.

Si θ\theta est connu et α\alpha inconnu, le terme xαθ=eαlnxθ-\dfrac{x^{\alpha}}{\theta}=-\dfrac{e^{\alpha\ln x}}{\theta} ne se factorise pas sous la forme η(α)T(x)\eta(\alpha)\,T(x) : la loi n'appartient pas à la famille exponentielle en α\alpha. Il n'existe aucune réduction exhaustive de dimension fixe ; la statistique exhaustive minimale est la statistique d'ordre

(X(1),,X(n))\boxed{\,\big(X_{(1)},\dots,X_{(n)}\big)\,}

c'est-à-dire l'échantillon tout entier.

2.

On pose α=3\alpha=3, donc fX(x)=3θx2ex3/θ1{x>0}f_X(x)=\dfrac{3}{\theta}x^2 e^{-x^3/\theta}\mathbf{1}_{\{x>0\}}. Pour y>0y>0, avec Y=X3Y=X^3,

FY(y)=P(X3y)=P(Xy1/3)=1ey/θ,F_Y(y)=\mathbb{P}(X^3\le y)=\mathbb{P}(X\le y^{1/3})=1-e^{-y/\theta},

donc YY suit une loi exponentielle de moyenne θ\theta :

X3E ⁣(1θ).\boxed{\,X^3\sim\mathcal{E}\!\left(\tfrac{1}{\theta}\right).}

En posant Z=2θX3Z=\dfrac{2}{\theta}X^3, ZZ est exponentielle de moyenne 22, de densité 12ez/2\tfrac{1}{2}e^{-z/2}, c'est-à-dire

2θX3E ⁣(12)=χ22.\boxed{\,\frac{2}{\theta}X^3\sim\mathcal{E}\!\left(\tfrac12\right)=\chi^2_2.}

Les XiX_i étant i.i.d., les 2θXi3\dfrac{2}{\theta}X_i^3 sont des χ22\chi^2_2 indépendantes ; par additivité du khi-deux,

2θi=1nXi3χ2n2.\boxed{\,\frac{2}{\theta}\sum_{i=1}^n X_i^3\sim\chi^2_{2n}.}

3. a.

La log-vraisemblance (α=3\alpha=3) est

(θ)=nln3+2ilnXinlnθ1θiXi3.\ell(\theta)=n\ln 3+2\sum_i\ln X_i-n\ln\theta-\frac{1}{\theta}\sum_i X_i^3.

En dérivant :

(θ)=nθ+1θ2iXi3=0    T1=θ^=1ni=1nXi3.\ell'(\theta)=-\frac{n}{\theta}+\frac{1}{\theta^2}\sum_i X_i^3=0 \;\Longrightarrow\; \boxed{\,T_1=\widehat{\theta}=\frac{1}{n}\sum_{i=1}^n X_i^3.}

Par invariance de l'EMV,

T2=1/θ^=1T1=niXi3.\boxed{\,T_2=\widehat{1/\theta}=\frac{1}{T_1}=\frac{n}{\sum_i X_i^3}.}

Comme Yi=Xi3Y_i=X_i^3 est exponentielle de moyenne θ\theta et de variance θ2\theta^2, T1=YT_1=\overline{Y} et le théorème central limite donne

n(T1θ) L N(0,θ2).\boxed{\,\sqrt{n}\,(T_1-\theta)\xrightarrow{\ \mathcal{L}\ }\mathcal{N}(0,\theta^2).}

L'information de Fisher vaut I1(θ)=1θ2I_1(\theta)=\dfrac{1}{\theta^2}. Par la méthode delta avec g(θ)=1/θg(\theta)=1/\theta, g(θ)=1/θ2g'(\theta)=-1/\theta^2,

n(T21θ) L N ⁣(0,1θ2).\boxed{\,\sqrt{n}\left(T_2-\frac{1}{\theta}\right)\xrightarrow{\ \mathcal{L}\ }\mathcal{N}\!\left(0,\frac{1}{\theta^2}\right).}

3. b.

S=iXi3S=\sum_i X_i^3 est une statistique exhaustive complète (famille exponentielle). Or E[T1]=E[Y]=θ\mathbb{E}[T_1]=\mathbb{E}[\overline{Y}]=\theta : T1T_1 est sans biais et fonction de SS. Par le théorème de Lehmann–Scheffé, c'est l'unique ESBVUM :

T1=1ni=1nXi3,Var(T1)=θ2n.\boxed{\,T_1=\frac{1}{n}\sum_{i=1}^n X_i^3,\qquad \mathrm{Var}(T_1)=\frac{\theta^2}{n}.}

3. c.

La borne de Cramér–Rao vaut 1nI1(θ)=θ2n=Var(T1)\dfrac{1}{n\,I_1(\theta)}=\dfrac{\theta^2}{n}=\mathrm{Var}(T_1). La borne étant atteinte,

T1 est efficace.\boxed{\,T_1 \text{ est efficace.}}

4. a.

D'après la question 2, 2θiXi3χ2n2\dfrac{2}{\theta}\sum_i X_i^3\sim\chi^2_{2n}. En notant χ2n,p2\chi^2_{2n,p} le quantile d'ordre pp,

P ⁣(χ2n,α/222Sθχ2n,1α/22)=1α,\mathbb{P}\!\left(\chi^2_{2n,\alpha/2}\le \frac{2S}{\theta}\le \chi^2_{2n,1-\alpha/2}\right)=1-\alpha,

d'où l'intervalle de confiance exact de niveau 1α1-\alpha :

 [2iXi3χ2n,1α/22 ; 2iXi3χ2n,α/22]. \boxed{\ \left[\frac{2\sum_i X_i^3}{\chi^2_{2n,\,1-\alpha/2}}\ ;\ \frac{2\sum_i X_i^3}{\chi^2_{2n,\,\alpha/2}}\right].\ }

4. b.

À partir de n(T1θ)N(0,θ2)\sqrt{n}(T_1-\theta)\to\mathcal{N}(0,\theta^2), on remplace θ\theta par T1T_1 au dénominateur (lemme de Slutsky) :

n(T1θ)T1 L N(0,1),\frac{\sqrt{n}\,(T_1-\theta)}{T_1}\xrightarrow{\ \mathcal{L}\ }\mathcal{N}(0,1),

d'où l'intervalle de confiance asymptotique de niveau 1α1-\alpha :

 [T1(1z1α/2n) ; T1(1+z1α/2n)], \boxed{\ \left[\,T_1\Big(1-\frac{z_{1-\alpha/2}}{\sqrt{n}}\Big)\ ;\ T_1\Big(1+\frac{z_{1-\alpha/2}}{\sqrt{n}}\Big)\right],\ }

z1α/2z_{1-\alpha/2} est le quantile de la loi normale centrée réduite.

5.

Ici α(0,1)\alpha\in(0,1) désigne le niveau du test. La vraisemblance vérifie L(θ)θneS/θL(\theta)\propto\theta^{-n}e^{-S/\theta} avec S=iXi3S=\sum_i X_i^3. Pour θ1>θ0\theta_1>\theta_0,

L(θ1)L(θ0)=(θ0θ1)nexp ⁣[S(1θ01θ1)],\frac{L(\theta_1)}{L(\theta_0)}=\left(\frac{\theta_0}{\theta_1}\right)^{n}\exp\!\left[S\left(\frac{1}{\theta_0}-\frac{1}{\theta_1}\right)\right],

qui est croissante en SS car 1θ01θ1>0\tfrac1{\theta_0}-\tfrac1{\theta_1}>0 : le modèle est à rapport de vraisemblance monotone en SS. D'après le théorème de Karlin–Rubin, le test UMP de H0:θθ0H_0:\theta\le\theta_0 contre H1:θ>θ0H_1:\theta>\theta_0 rejette H0H_0 pour les grandes valeurs de SS. Sous θ0\theta_0, 2Sθ0χ2n2\dfrac{2S}{\theta_0}\sim\chi^2_{2n}, donc le seuil se calibre par Pθ0(S>k)=α\mathbb{P}_{\theta_0}(S>k)=\alpha. La région critique est

 {2θ0i=1nXi3>χ2n,1α2}  {i=1nXi3>θ02χ2n,1α2}. \boxed{\ \left\{\frac{2}{\theta_0}\sum_{i=1}^n X_i^3>\chi^2_{2n,\,1-\alpha}\right\}\ \Longleftrightarrow\ \left\{\sum_{i=1}^n X_i^3>\frac{\theta_0}{2}\,\chi^2_{2n,\,1-\alpha}\right\}.\ }

التمرين 2

Exercice 2 — Processus de naissance et de mort avec immigration

#stochastic-processes#birth-death-process#kolmogorov-equations#generating-function#immigration

I. Soit {X(t):t0}\{X(t):t\ge 0\} un processus stochastique à espace d'états discret.

  1. Donner une définition formelle pour qu'il soit un processus de naissance et de mort, avec des taux de natalité λi\lambda_i et des taux de mortalité μi\mu_i pour i=0,1,i=0,1,\dots
  2. Expliquer la différence entre la matrice de transition instantanée (le g��nérateur) et la matrice de transition P(t)P(t).
  3. On considère un processus de naissance et de mort à taux linéaires : λn=nλ\lambda_n=n\lambda et μn=nμ\mu_n=n\mu pour n=0,1,n=0,1,\dots et X(0)=1X(0)=1. Écrire explicitement les équations progressives de Kolmogorov.
  4. Donner la forme générale de la distribution stationnaire.

II. On considère un processus {X(t):t0}\{X(t):t\ge 0\} de naissance et de mort avec immigration. Le taux de mortalité par particule est μi=μ\mu_i=\mu et le taux de natalité est λi=λ\lambda_i=\lambda. Un processus de Poisson d'intensité νi=ν\nu_i=\nu alimente le processus en nouvelles particules ; chaque immigrant engendre un clan évoluant indépendamment des particules existantes. S'il y a initialement ii particules, les équations progressives s'écrivent

ddtpi0(t)=νpi0(t)+μpi1(t),\frac{d}{dt}p_{i0}(t) = -\nu\,p_{i0}(t) + \mu\,p_{i1}(t),

ddtpij(t)=(ν+jλ+jμ)pij(t)+(ν+(j1)λ)pi,j1(t)+(j+1)μpi,j+1(t).\frac{d}{dt}p_{ij}(t) = -(\nu+j\lambda+j\mu)\,p_{ij}(t) + (\nu+(j-1)\lambda)\,p_{i,j-1}(t) + (j+1)\mu\,p_{i,j+1}(t).

  1. Si G(s,t)G(s,t) est la fonction génératrice des probabilités pij(t)p_{ij}(t), démontrer que

tG(s,t)=(λsμ)(s1)sG(s,t)+ν(s1)G(s,t),\frac{\partial}{\partial t}G(s,t) = (\lambda s-\mu)(s-1)\frac{\partial}{\partial s}G(s,t) + \nu(s-1)G(s,t),

avec G(s,0)=siG(s,0)=s^{i}. 2. En déduire que le nombre moyen de particules à l'instant tt vaut

mi(t)=ie(λμ)t+νλμ(e(λμ)t1),m_i(t) = i\,e^{(\lambda-\mu)t} + \frac{\nu}{\lambda-\mu}\left(e^{(\lambda-\mu)t}-1\right),

avec mi(0)=im_i(0)=i. 3. En déduire la limite limt+mi(t)\lim_{t\to+\infty}m_i(t) (avec λ<μ\lambda<\mu).

الحل

I. 1.

{X(t):t0}\{X(t):t\ge0\} est un processus de naissance et de mort si c'est une chaîne de Markov à temps continu sur {0,1,2,}\{0,1,2,\dots\} dont les seules transitions se font vers les états voisins, avec, lorsque h0+h\to0^+,

P(X(t+h)=i+1X(t)=i)=λih+o(h),\mathbb{P}(X(t+h)=i+1\mid X(t)=i)=\lambda_i h+o(h),

P(X(t+h)=i1X(t)=i)=μih+o(h),\mathbb{P}(X(t+h)=i-1\mid X(t)=i)=\mu_i h+o(h),

P(X(t+h)=iX(t)=i)=1(λi+μi)h+o(h),\mathbb{P}(X(t+h)=i\mid X(t)=i)=1-(\lambda_i+\mu_i)h+o(h),

et P(X(t+h)X(t)2X(t)=i)=o(h)\mathbb{P}(|X(t+h)-X(t)|\ge 2\mid X(t)=i)=o(h), avec λi0\lambda_i\ge0, μi0\mu_i\ge0 et μ0=0\mu_0=0.

I. 2.

La matrice de transition instantanée (générateur infinitésimal) Q=(qij)Q=(q_{ij}) décrit les taux : qi,i+1=λiq_{i,i+1}=\lambda_i, qi,i1=μiq_{i,i-1}=\mu_i, qii=(λi+μi)q_{ii}=-(\lambda_i+\mu_i), les autres nuls ; on a Q=P(0)Q=P'(0). La matrice P(t)=(pij(t))P(t)=(p_{ij}(t)) donne les probabilités de transition sur une durée finie tt : pij(t)=P(X(t+s)=jX(s)=i)p_{ij}(t)=\mathbb{P}(X(t+s)=j\mid X(s)=i). Elles sont liées par les équations de Kolmogorov

P(t)=QP(t)=P(t)Q,P(t)=etQ.P'(t)=QP(t)=P(t)Q,\qquad P(t)=e^{tQ}.

Autrement dit QQ décrit le comportement instantané (dérivée en 00), tandis que P(t)P(t) donne les probabilités effectives sur la durée tt.

I. 3.

Avec λn=nλ\lambda_n=n\lambda, μn=nμ\mu_n=n\mu et X(0)=1X(0)=1, l'état 00 est absorbant (λ0=μ0=0\lambda_0=\mu_0=0). Les équations progressives pij=λj1pi,j1+μj+1pi,j+1(λj+μj)pijp_{ij}'=\lambda_{j-1}p_{i,j-1}+\mu_{j+1}p_{i,j+1}-(\lambda_j+\mu_j)p_{ij} s'écrivent

ddtpi0(t)=μpi1(t),\frac{d}{dt}p_{i0}(t)=\mu\,p_{i1}(t),

ddtpij(t)=(j1)λpi,j1(t)+(j+1)μpi,j+1(t)j(λ+μ)pij(t),j1.\frac{d}{dt}p_{ij}(t)=(j-1)\lambda\,p_{i,j-1}(t)+(j+1)\mu\,p_{i,j+1}(t)-j(\lambda+\mu)\,p_{ij}(t),\quad j\ge1.

I. 4.

Pour un processus de naissance et de mort ergodique, la loi stationnaire π=(πn)\pi=(\pi_n) vérifie les équations de balance détaillée λn1πn1=μnπn\lambda_{n-1}\pi_{n-1}=\mu_n\pi_n, d'où la forme générale

 πn=π0k=1nλk1μk,π0=(1+n1k=1nλk1μk)1, \boxed{\ \pi_n=\pi_0\prod_{k=1}^{n}\frac{\lambda_{k-1}}{\mu_k},\qquad \pi_0=\left(1+\sum_{n\ge1}\prod_{k=1}^{n}\frac{\lambda_{k-1}}{\mu_k}\right)^{-1},\ }

lorsque la série converge. Pour les taux linéaires du I.3, l'état 00 étant absorbant, l'unique loi stationnaire est δ0\delta_0 (extinction presque sûre).

II. 1.

Soit G(s,t)=j0pij(t)sjG(s,t)=\sum_{j\ge0}p_{ij}(t)s^{j}. On a tG=jpij(t)sj\partial_t G=\sum_j p_{ij}'(t)s^j et, en injectant l'équation générale (valable aussi en j=0j=0 avec la convention pi,1=0p_{i,-1}=0),

tG=j[(ν+jλ+jμ)pij+(ν+(j1)λ)pi,j1+(j+1)μpi,j+1]sj.\partial_t G=\sum_j\Big[-(\nu+j\lambda+j\mu)p_{ij}+(\nu+(j-1)\lambda)p_{i,j-1}+(j+1)\mu\,p_{i,j+1}\Big]s^j.

En utilisant jjpijsj=ssG\sum_j j\,p_{ij}s^j=s\,\partial_s G et en décalant les indices, on obtient :

  • terme diagonal : νG(λ+μ)ssG-\nu G-(\lambda+\mu)s\,\partial_s G ;
  • terme de naissance/immigration (k=j1k=j-1) : νsG+λs2sG\nu s\,G+\lambda s^2\,\partial_s G ;
  • terme de mort (k=j+1k=j+1) : μsG\mu\,\partial_s G.

En regroupant le coefficient de sG\partial_s G, soit λs2(λ+μ)s+μ=(s1)(λsμ)\lambda s^2-(\lambda+\mu)s+\mu=(s-1)(\lambda s-\mu), et celui de GG, soit ν(s1)\nu(s-1), il vient

 tG(s,t)=(λsμ)(s1)sG(s,t)+ν(s1)G(s,t),G(s,0)=si. \boxed{\ \partial_t G(s,t)=(\lambda s-\mu)(s-1)\,\partial_s G(s,t)+\nu(s-1)\,G(s,t),\qquad G(s,0)=s^{i}.\ }

II. 2.

Le nombre moyen est mi(t)=sG(1,t)=jjpij(t)m_i(t)=\partial_s G(1,t)=\sum_j j\,p_{ij}(t). On dérive la PDE par rapport à ss puis on évalue en s=1s=1. Comme s[(λsμ)(s1)]=2λsλμ\partial_s[(\lambda s-\mu)(s-1)]=2\lambda s-\lambda-\mu et que tous les termes en facteur (s1)(s-1) s'annulent en s=1s=1, avec G(1,t)=1G(1,t)=1 :

mi(t)=(λμ)mi(t)+ν,mi(0)=i.m_i'(t)=(\lambda-\mu)\,m_i(t)+\nu,\qquad m_i(0)=i.

C'est une équation différentielle linéaire du premier ordre ; en posant r=λμr=\lambda-\mu, sa solution est

 mi(t)=ie(λμ)t+νλμ(e(λμ)t1). \boxed{\ m_i(t)=i\,e^{(\lambda-\mu)t}+\frac{\nu}{\lambda-\mu}\left(e^{(\lambda-\mu)t}-1\right).\ }

On vérifie bien mi(0)=im_i(0)=i et mi(t)=(λμ)mi(t)+νm_i'(t)=(\lambda-\mu)m_i(t)+\nu.

II. 3.

Si λ<μ\lambda<\mu, alors λμ<0\lambda-\mu<0 et e(λμ)t0e^{(\lambda-\mu)t}\to0 quand t+t\to+\infty. Par conséquent

 limt+mi(t)=νμλ. \boxed{\ \lim_{t\to+\infty}m_i(t)=\frac{\nu}{\mu-\lambda}.\ }

L'espérance se stabilise : l'immigration compense l'extinction et maintient en moyenne νμλ\dfrac{\nu}{\mu-\lambda} particules.

التمرين 3

Exercice 3 — Estimation des moindres carrés d'un modèle quadratique

#linear-regression#least-squares#gauss-markov#hypothesis-testing

Une variable aléatoire YY est reliée à la variable non-aléatoire xx par le modèle

Yi=α+βxi+γxi2+ei,(1)Y_i = \alpha + \beta x_i + \gamma x_i^2 + e_i, \qquad (1)

pour i=1,,ni=1,\dots,n, où α,β,γ\alpha,\beta,\gamma sont des paramètres et eN(0,σ2)e\sim\mathcal{N}(0,\sigma^2). On cherche les estimateurs des moindres carrés de α,β,γ\alpha,\beta,\gamma. Pour cela, 44 observations indépendantes de YY sont faites avec xx respectivement égal à 1,1,c,c-1,\,1,\,-c,\,c, où c>0c>0 est une constante.

  1. Montrer que si c1c\neq 1 l'estimation peut toujours se faire, et discuter la structure de la covariance des estimateurs obtenus.
  2. On prend c=2c=2 ; les valeurs de YY sont respectivement 0,2,0,60,\,2,\,0,\,6. a. Trouver les valeurs des estimateurs α^,β^,γ^\hat\alpha,\hat\beta,\hat\gamma, leurs variances et covariances en fonction de σ2\sigma^2. b. Tester l'hypothèse que la vraie valeur de γ\gamma est égale à 00.
الحل

1.

Le modèle s'écrit Y=Xδ+eY=X\delta+e avec δ=(α,β,γ)\delta=(\alpha,\beta,\gamma)^{\top} et la matrice de plan (lignes x=1,1,c,cx=-1,1,-c,c)

X=(1111111cc21cc2).X=\begin{pmatrix}1 & -1 & 1\\ 1 & 1 & 1\\ 1 & -c & c^2\\ 1 & c & c^2\end{pmatrix}.

On calcule

XX=(402+2c202+2c202+2c202+2c4).X^{\top}X=\begin{pmatrix}4 & 0 & 2+2c^2\\ 0 & 2+2c^2 & 0\\ 2+2c^2 & 0 & 2+2c^4\end{pmatrix}.

La colonne associée à β\beta est orthogonale à celles de α\alpha et γ\gamma : β^\hat\beta sera donc non corrélé à (α^,γ^)(\hat\alpha,\hat\gamma). L'inversibilité de XXX^{\top}X se ramène à celle du bloc (α,γ)(\alpha,\gamma), de déterminant

det(42+2c22+2c22+2c4)=4(2+2c4)(2+2c2)2=4(c21)2.\det\begin{pmatrix}4 & 2+2c^2\\ 2+2c^2 & 2+2c^4\end{pmatrix}=4(2+2c^4)-(2+2c^2)^2=4(c^2-1)^2.

Ce déterminant est non nul si et seulement si c21c^2\neq1, c'est-à-dire c1c\neq1 (puisque c>0c>0). Donc

 c1  XX inversible : l’estimation des moindres carreˊs est possible. \boxed{\ c\neq1\ \Longrightarrow\ X^{\top}X \text{ inversible : l'estimation des moindres carrés est possible.}\ }

La matrice de covariance σ2(XX)1\sigma^2(X^{\top}X)^{-1} a alors la structure suivante :

Var(β^)=σ22(1+c2),Cov(β^,α^)=Cov(β^,γ^)=0,\mathrm{Var}(\hat\beta)=\frac{\sigma^2}{2(1+c^2)},\qquad \mathrm{Cov}(\hat\beta,\hat\alpha)=\mathrm{Cov}(\hat\beta,\hat\gamma)=0,

Var(α^)=(1+c4)σ22(c21)2,Var(γ^)=σ2(c21)2,Cov(α^,γ^)=(1+c2)σ22(c21)2.\mathrm{Var}(\hat\alpha)=\frac{(1+c^4)\sigma^2}{2(c^2-1)^2},\quad \mathrm{Var}(\hat\gamma)=\frac{\sigma^2}{(c^2-1)^2},\quad \mathrm{Cov}(\hat\alpha,\hat\gamma)=-\frac{(1+c^2)\sigma^2}{2(c^2-1)^2}.

Ainsi β^\hat\beta est estimé indépendamment, tandis que α^\hat\alpha et γ^\hat\gamma sont négativement corrélés ; la précision se dégrade lorsque c1c\to1 (colinéarité).

2. a.

Avec c=2c=2 : 2+2c2=102+2c^2=10, 2+2c4=342+2c^4=34, (c21)2=9(c^2-1)^2=9. Les données sont x=(1,1,2,2)x=(-1,1,-2,2) et Y=(0,2,0,6)Y=(0,2,0,6), d'où

XY=(YixiYixi2Yi)=(81426).X^{\top}Y=\begin{pmatrix}\sum Y_i\\ \sum x_iY_i\\ \sum x_i^2 Y_i\end{pmatrix}=\begin{pmatrix}8\\ 14\\ 26\end{pmatrix}.

Comme β\beta est séparé : β^=1410=75\hat\beta=\dfrac{14}{10}=\dfrac{7}{5}. Pour (α,γ)(\alpha,\gamma) on résout

(4101034)(α^γ^)=(826)(det=36),\begin{pmatrix}4&10\\10&34\end{pmatrix}\begin{pmatrix}\hat\alpha\\\hat\gamma\end{pmatrix}=\begin{pmatrix}8\\26\end{pmatrix}\quad(\det=36),

d'où

α^=348102636=1236=13,γ^=42610836=2436=23.\hat\alpha=\frac{34\cdot8-10\cdot26}{36}=\frac{12}{36}=\frac13,\qquad \hat\gamma=\frac{4\cdot26-10\cdot8}{36}=\frac{24}{36}=\frac23.

 α^=13,β^=75,γ^=23. \boxed{\ \hat\alpha=\frac13,\qquad \hat\beta=\frac75,\qquad \hat\gamma=\frac23.\ }

En remplaçant c=2c=2 dans les formules précédentes, les variances et covariances valent

 Var(α^)=1718σ2,Var(β^)=σ210,Var(γ^)=σ29,Cov(α^,γ^)=518σ2. \boxed{\ \mathrm{Var}(\hat\alpha)=\frac{17}{18}\sigma^2,\quad \mathrm{Var}(\hat\beta)=\frac{\sigma^2}{10},\quad \mathrm{Var}(\hat\gamma)=\frac{\sigma^2}{9},\quad \mathrm{Cov}(\hat\alpha,\hat\gamma)=-\frac{5}{18}\sigma^2.\ }

2. b.

Avec n=4n=4 observations et p=3p=3 paramètres, il reste np=1n-p=1 degré de liberté. Les valeurs ajustées Y^i=α^+β^xi+γ^xi2\hat Y_i=\hat\alpha+\hat\beta x_i+\hat\gamma x_i^2 et les résidus e^i=YiY^i\hat e_i=Y_i-\hat Y_i sont

Y^=(25, 125, 15, 295),e^=(25, 25, 15, 15).\hat Y=\left(-\tfrac25,\ \tfrac{12}{5},\ \tfrac15,\ \tfrac{29}{5}\right),\qquad \hat e=\left(\tfrac25,\ -\tfrac25,\ -\tfrac15,\ \tfrac15\right).

La somme des carrés résiduelle est

SCR=(25)2+(25)2+(15)2+(15)2=1025=25,\mathrm{SCR}=\left(\tfrac25\right)^2+\left(\tfrac25\right)^2+\left(\tfrac15\right)^2+\left(\tfrac15\right)^2=\frac{10}{25}=\frac25,

d'où l'estimateur sans biais σ^2=SCRnp=2/51=25\hat\sigma^2=\dfrac{\mathrm{SCR}}{n-p}=\dfrac{2/5}{1}=\dfrac25.

Pour tester H0:γ=0H_0:\gamma=0 contre H1:γ0H_1:\gamma\neq0, on utilise la statistique de Student

t=γ^σ^2/(c21)2=2/3(2/5)/9,t2=(2/3)22/45=10,t=\frac{\hat\gamma}{\sqrt{\hat\sigma^2/(c^2-1)^2}}=\frac{2/3}{\sqrt{(2/5)/9}},\qquad t^2=\frac{(2/3)^2}{2/45}=10,

soit t=103,16t=\sqrt{10}\approx 3{,}16, à comparer au quantile t1;0,975=12,71t_{1;\,0{,}975}=12{,}71 (loi de Student à 11 degré de liberté, test bilatéral au niveau 5%5\%).

Comme t=3,16<12,71|t|=3{,}16<12{,}71 (p-value 0,20\approx0{,}20),

 on ne rejette pas H0:γ=0 au niveau 5%. \boxed{\ \text{on ne rejette pas } H_0:\gamma=0 \text{ au niveau } 5\%.\ }

Le très faible nombre de degrés de liberté (11) confère au test une puissance très limitée.