Régression linéaire (STT-2400) Section 3 Préliminaires, Partie III, Projection orthogonale et espace-colonne d’une matrice Version: 8 février 2007

STT-2400; Régression linéaire Introduction Les concepts d’algèbre linéaire présentés ici auront pour objectifs premiers la visualisation géométrique de l’analyse de régression. Soit M un sous-espace linéaire de Rn, où la dimension de M est STT-2400; Régression linéaire

Base orthonormale de Rn Soit une base orthonormale de Rn. Cette base existe et on s’arrange pour que les m premiers vecteurs forment une base de l’espace M. On note l’espace engendré par span. On a: STT-2400; Régression linéaire

STT-2400; Régression linéaire Propriété 1 (i) Si On note En effet: STT-2400; Régression linéaire

STT-2400; Régression linéaire Propriété 2 On a que: En effet, On remarque que les vecteurs de la base sont linéairement indépendants: linéairement indépendants ssi STT-2400; Régression linéaire

STT-2400; Régression linéaire Propriété 3 Tout vecteur admet une représentation unique de la forme Supposons Ainsi Or STT-2400; Régression linéaire

Projection orthogonale Définition: La projection orthogonale de sur le sous-espace M est définie par: On a que STT-2400; Régression linéaire

Projection orthogonale Définition: La projection orthogonale de sur le sous-espace est définie par: On a que STT-2400; Régression linéaire

STT-2400; Régression linéaire Propriété 3.7 (i) L’opérateur est un opérateur linéaire. (ii) L’opérateur est un opérateur idempotent: (iii) Quelque soit : STT-2400; Régression linéaire

Visuellement, on a la représentation suivante:

Définition: espace-colonne d’une matrice Définition: Soit une matrice une matrice de rang-colonne complet (c’est-à-dire que le rang(X) = p, donc que les p colonnes sont linéairement indépendantes. Posons: On définit l’espace-colonne de X, que l’on note L(X), de la manière suivante: STT-2400; Régression linéaire

STT-2400; Régression linéaire Espace-colonne On remarque que: L(X) est l’espace engendré par les colonnes de X. Une base possible de l’espace est et en fait cet espace est un sous-espace linéaire: STT-2400; Régression linéaire