1. F est un sous-espace vectoriel fermé
L'application φ:H→R, φ(x)=⟨x,a⟩ est linéaire (bilinéarité du produit scalaire) et continue (Cauchy–Schwarz : ∣φ(x)∣≤∥a∥∥x∥). Donc F=φ−1({0}) est l'image réciproque du fermé {0} par une application continue : F est fermé. C'est clairement un sous-espace vectoriel (noyau d'une forme linéaire).
2. H=F⊕Vect{a}
Comme a=0 et a∈/F (car ⟨a,a⟩=∥a∥2=0), Vect{a} est une droite non contenue dans F. Pour x∈H, posons λ=∥a∥2⟨x,a⟩ et y=x−λa. Alors
⟨y,a⟩=⟨x,a⟩−λ∥a∥2=⟨x,a⟩−⟨x,a⟩=0,
donc y∈F, et x=y+λa avec y∈F, λa∈Vect{a}. Ceci montre H=F+Vect{a}.
De plus F∩Vect{a}={0} : si μa∈F alors μ⟨a,a⟩=0 donc μ∥a∥2=0, soit μ=0 (car a=0). Donc
H=F⊕Vect{a}.
(On reconnaît d'ailleurs que Vect{a}=F⊥, donc cette décomposition est la décomposition orthogonale usuelle.)
3. Projeté orthogonal et distance
D'après la question 2, tout x∈H s'écrit de manière unique x=y+λa avec y∈F et λ=∥a∥2⟨x,a⟩. Comme λa∈Vect{a}=F⊥, cette écriture est la décomposition orthogonale de x selon H=F⊕F⊥. Par unicité du projecteur orthogonal :
PF(x)=y=x−λa=x−∥a∥2⟨x,a⟩a.
La distance de x à F vaut alors
d(x,F)=∥x−PF(x)∥=∥λa∥=∣λ∣∥a∥=∥a∥2∣⟨x,a⟩∣∥a∥,
soit
d(x,F)=∥a∥∣⟨x,a⟩∣.