Méthode des moindres carrés (1)

Présentation au sujet: "Méthode des moindres carrés (1)"— Transcription de la présentation:

1 Estimation paramétrique pour la modélisation et la génération de résidus

2 Méthode des moindres carrés (1)
Modèle linéaire – Modèle de régression Ecriture vectorielle

3 Méthode des moindres carrés (2)
Données expérimentales : Déterminer les paramètres de sorte que les sorties du modèle correspondent au mieux aux mesures au sens des moindres carrés : Notations:

4 Méthode des moindres carrés (3)
Erreur : Fonction de coût: Solution: Fonction de coût minimale pour tel que

5 Méthode des moindres carrés (4)
Démonstration

6 Méthode des moindres carrés (5)
Interprétation géométrique dans

7 Méthode des moindres carrés – Interprétation statistique(1)
Données supposées engendrées par Propriétés statistiques

8 Méthode des moindres carrés – Interprétation statistique(2 )
Estimateur correct de Consistance de l’estimée de Convergence au sens de l’écart quadratique moyen Dépend de l’évolution de

9 Méthode des moindres carrés – Interprétation statistique(3)
Exemple : modèle à un paramètre

10 Méthode des moindres carrés – Interprétation statistique (4)
Plusieurs paramètres: vitesse de convergence peut être différente pour des paramètres différents Implications du choix du modèle Paramètres constants

11 Méthode des moindres carrés – Interprétation statistique (5)
Observations de distribution non gaussienne distribution de asymptotiquement gaussienne par théorème central-limite (ou théorème de la limite centrée)

12 Méthode des moindres carrés – Interprétation statistique (6)
Intervalle de confiance N ( Pour variable normale quelconque, v, de moyenne nulle et de variance 1, tables donnent seuil h tel que: Prob(v > h)=a

13 Méthode des moindres carrés – Interprétation statistique (7)
Information sur la corrélation entre les différentes composantes de par éléments non diagonaux de P(N): Table de Ellipsoïde dans

14 Méthode des moindres carrés – Interprétation statistique (8)
Résultat plus exact: De même pour chaque paramètre séparé:

15 Procédure d’identification d’un système
Conception d’expérience(s) Connaissances a priori Objectif du modèle Réalisation des expériences Prise de mesures Choix de la structure de modèle Choix de la méthode d’estimation des paramètres Validation du modèle non Nouvel ensemble de mesures Modèle accepté? oui

16 Identification d’un modèle dynamique LP Choix de l’entrée (excitation)
Exciter le système dans la bande des fréquences d’intérêt (souvent basses fréquences) Entrée multi sinoïdale ou suite binaire pseudo aléatoire (filtrage passe bas par ajustement de la période d’horloge) Persistance d’excitation d’ordre 2n requise pour l’obtention d’une estimée consistante (excitation persistante d’ordre n si densité spectrale de la variance non nulle en n points)

17 Identification d’un modèle dynamique linéaire permanent (1)
Ensemble de modèles

18 Identification d’un modèle dynamique linéaire permanent (2)
Exemples A) Modèle avec erreur de fermeture d’équation (equation error)

19 Identification d’un modèle dynamique linéaire permanent (3)
B) Modèle auto récurrent à moyenne glissante et entrée exogène (ARMAX)

20 Identification d’un modèle dynamique linéaire permanent (4)
C) Modèle avec erreur de sortie (output error)

21 Identification d’un modèle dynamique linéaire permanent - Moindres carrés (1)

22 Identification d’un modèle dynamique linéaire permanent - Moindres carrés (2)
Analyse Supposons que les données vérifient

23 Identification d’un modèle dynamique linéaire permanent - Moindres carrés (3)

24 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction(1)
Méthode moindres carrés = cas particulier de méthode d’erreur de prédiction

25 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (2)
3 étapes Choix du modèle Détermination d’un prédicteur Minimisation d’une fonction de coût contenant l’erreur de prédiction

26 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (3)
Principe de la méthode de l’erreur de prédiction Procédé Prédicteur avec paramètres ajustables Algorithme de minimisation d’une fonction de l’erreur de prédiction

27 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (4)
Classe de modèles Prédicteur optimal (variance de l’erreur de prédiction minimale)

28 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (5)
Démonstration

29 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (6)

30 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction(7)
Fonction de coût à minimiser

31 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction(8)
- Minimisation réalisée de manière analytique si Optimisation numérique Méthode du gradient Méthode de Newton Raphson

32 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction(9)

33 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (10)

34 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (11)

35 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (12)
Propriétés de la méthode d’erreur de prédiction Hypothèses

36 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (13)
Valeur asymptotique de la fonction de coût et de l’estimée Consistance

37 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (14)

38 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (15)
Cas où la classe de modèles ne contient pas une description exacte du «vrai » système

39 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (16)
Distribution asymptotique de l’’estimée (Hypothèses 1-5)

40 Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (17)
Exemple: cas d’une régression linéaire

41 Identification d’un modèle dynamique LP Méthode du maximum de vraisemblance (1)
Maximiser la fonction de vraisemblance c-à-d densité de probabilité des observations conditionnée par le vecteur de paramètres Transformation biunivoque entre {y(k)} et {e(k)}, si conditions initiales négligées (u(k) déterministe) utiliser densité de probabilité de e(k)

42 Identification d’un modèle dynamique LP Méthode du maximum de vraisemblance (2)

43 Identification d’un modèle dynamique LP Méthode du maximum de vraisemblance (3)

44 Identification d’un modèle dynamique LP Validation d’un modèle obtenu par la méthode d’erreur de prédiction (1)

45 Identification d’un modèle dynamique LP Validation d’un modèle obtenu par la méthode d’erreur de prédiction (2)

46 Identification d’un modèle dynamique LP Validation d’un modèle obtenu par la méthode d’erreur de prédiction(3)

47 Bibliographie T. Soderstrom et P. Stoica (1989)
System identification, Prentice Hall K.J. Astrom et B. Wittenmark (1989) Adaptive Control, chapitre 3, Addison Wesley L. Ljung (1987) System identification: theory for the user Prentice Hall