Régression linéaire (STT-2400)

Présentation au sujet: "Régression linéaire (STT-2400)"— Transcription de la présentation:

1 Régression linéaire (STT-2400)
Section 3 Préliminaires, Partie III, Projection orthogonale et espace-colonne d’une matrice Version: 8 février 2007

2 STT-2400; Régression linéaire
Introduction Les concepts d’algèbre linéaire présentés ici auront pour objectifs premiers la visualisation géométrique de l’analyse de régression. Soit M un sous-espace linéaire de Rn, où la dimension de M est STT-2400; Régression linéaire

3 Base orthonormale de Rn
Soit une base orthonormale de Rn. Cette base existe et on s’arrange pour que les m premiers vecteurs forment une base de l’espace M. On note l’espace engendré par span. On a: STT-2400; Régression linéaire

4 STT-2400; Régression linéaire
Propriété 1 (i) Si On note En effet: STT-2400; Régression linéaire

5 STT-2400; Régression linéaire
Propriété 2 On a que: En effet, On remarque que les vecteurs de la base sont linéairement indépendants: linéairement indépendants ssi STT-2400; Régression linéaire

6 STT-2400; Régression linéaire
Propriété 3 Tout vecteur admet une représentation unique de la forme Supposons Ainsi Or STT-2400; Régression linéaire

7 Projection orthogonale
Définition: La projection orthogonale de sur le sous-espace M est définie par: On a que STT-2400; Régression linéaire

8 Projection orthogonale
Définition: La projection orthogonale de sur le sous-espace est définie par: On a que STT-2400; Régression linéaire

9 STT-2400; Régression linéaire
Propriété 3.7 (i) L’opérateur est un opérateur linéaire. (ii) L’opérateur est un opérateur idempotent: (iii) Quelque soit : STT-2400; Régression linéaire

10 Visuellement, on a la représentation suivante:

11 Définition: espace-colonne d’une matrice
Définition: Soit une matrice une matrice de rang-colonne complet (c’est-à-dire que le rang(X) = p, donc que les p colonnes sont linéairement indépendantes. Posons: On définit l’espace-colonne de X, que l’on note L(X), de la manière suivante: STT-2400; Régression linéaire

12 STT-2400; Régression linéaire
Espace-colonne On remarque que: L(X) est l’espace engendré par les colonnes de X. Une base possible de l’espace est et en fait cet espace est un sous-espace linéaire: STT-2400; Régression linéaire