ASI 3 Méthodes numériques pour l’ingénieur la méthode des moindres carrés Le point de vue numérique (factorisation QR)

Approximation/interpollation: moindres carrés f(x) yi xi

Posons le problème matriciellement

Posons le problème matriciellement Xa = f =

Approximation au sens des moindres carrés Système linéaire de k équations et k inconnues

Approximation : version matricielle Erreur d’approximation Système linéaire de k équations et k inconnues

Approximation : version matricielle Erreur d’approximation Matrice de Vandermonde (1735-1796) Système linéaire de k équations et k inconnues

Forme quadratique Équations normales

Point de vue algèbrique (géométrique) X représente une application linéaire de Rp sur Rn Projection de y (les résultats des expériences) sur le sous espace vectoriel engendré par X (les données) y

Comment résoudre le problème des moindres carrées ? Rang(X’X) = Rang(X) = 3 cond(X’X) = cond(X)*cond(X) Il faut mieux travailler sur X que sur X’X … si possible !

Un principe, deux idées Matrice orthogonale Orthogonalisation de Schmidt Orthogonalisation de Householder X 1 p Car H orthogonale R 1 n 1 n G X H R

Base orthogonale (Schmidt) G X Fonction x = mmc(A,b) G,R = decompose(A) x = triang(R,G’b)

{ Décompose : X=GR R Théorème : dans tout espace vectoriel Théorème : dans tout espace vectoriel de dimension finie, il existe des bases orthogonales G X {

Décompose : X=GR Fonction G,R = décompose(A) Problème d’accumulation d’erreurs d’arrondi

La méthode QR Il est si facile le résoudre un système « triangulaire » ! Q « facilement »  inversible et R triangulaire Définition : on appelle matrice de Householder du vecteur normé u une matrice H de la forme suivante Propriété : une matrice de Householder est symétrique et orthogonale HTH=I Les transformations orthogonales « conservent » la norme

Orthogonalisation : X = QR Transformation de Householder Q X Définir H

Householder et moindres carrés

Transformation de Householder

Transformation de Householder Théorème : pour tout vecteur normé x, pour le vecteur unitaire e1 il existe une matrice H telle que : Hx=e1 Démonstration : posons

Transformation de Householder X H R 1 H H =

Quels calculs ?

QR : algorithme de Householder Diag(R) k premières lignes de R Rangement des variables produit des H : (si besoin) à la fin en commençant par le plus simple formules à l’étape k Partie non encore factorisée n p Theodore et lascau pp 291 chap 6 mmc 6.5.4

L’algorithme QR Fonction Q,R = décomposeQR(X)

Retour des moindres carrées la méthode QR Mise en œuvre : on calcule directement Q’b pendant la décomposition

Remarques MMC sans Q R=chol(A’A) Si on ajoute ou on enlève une variable Q et R changent « peu »

Matlab ATTENTION : cette semaine il faut un compte rendu par binôme unCR est une page recto verso : recto ce que vous avez fait, verso : ce que vous en pensez !