Méthode des moindres carrés (1)

Slides:



Advertisements
Présentations similaires
Corrélation Position du problème Définition covariance (X,Y) r =
Advertisements

III. IDENTIFICATION PARAMETRIQUE DES SYSTEMES LINEAIRES
STATISTIQUE INFERENTIELLE L ’ESTIMATION
Présentation de la société, des logiciels et des services
DECONVOLUTION ET AUTRES
Inférence statistique
C1 Bio-statistiques F. KOHLER
Inférence statistique
Les TESTS STATISTIQUES
Régression ou corrélation
Unité #2 Analyse numérique matricielle Giansalvo EXIN Cirrincione.
Les TESTS STATISTIQUES
6. Quantification des signaux visuels. Codage prédictif (MICD)
3. Analyse et estimation du mouvement dans la vidéo
M. EL Adel & M. Ouladsine LSIS – UMR-CNRS 6168 Marseille - France
Estimation ellipsoïdale des paramètres dynamiques d'un robot
Maria-João Rendas CNRS – I3S Novembre 2006
Régression -corrélation
Modélisation des systèmes non linéaires par des SIFs
Application à la méthode des
Le filtrage au cours des âges Du filtre de Kalman au filtrage particulaire André Monin.
Chapitre 2 Les indices.
Méthodes de Biostatistique

Décodage des informations
Concepts avancés en mathématiques et informatique appliquées
Etude longitudinale d’essais multilocaux: apports du modèle mixte
Cours Corporate finance Eléments de théorie du portefeuille Le Medaf
Nombre de sujets nécessaires en recherche clinique
Régression linéaire simple
DEA Perception et Traitement de l’Information
Corrélation et régression linéaire simple
Modeles Lineaires.
Toutes les variables étaient mesurées au niveau intervalle et sans erreur Toutes les variables étaient mesurées au niveau intervalle et sans erreur ->
Le test t.
La corrélation et la régression
Modélisation de la topologie avec le Graphe Génératif Gaussien
Prédiction multi-step de la volatilité : le modèle ARIMA-GARCH appliqué aux séries temporelles d’affaiblissement par la pluie sur les liaisons Terre-Satellite.
Optimisation non linéaire sans contraintes Recherche opérationnelle GC-SIE.
Le comportement des coûts Chapitre 3
RECONNAISSANCE DE FORMES
Régression linéaire (STT-2400)
La régression multiple
Filtrage de Kalman et aperçu probabiliste
Filtre de Kalman – Préliminaires (1)
Régression linéaire (STT-2400)
Régression linéaire multiple : hypothèses & interprétation. Partie 2.
Méthodes de Biostatistique
Programmation dynamique
ESTIMATION 1. Principe 2. Estimateur 3. Distribution d’échantillonnage
La régression simple Michel Tenenhaus
Equations d’estimation généralisées: GEE
Classification : objectifs
LA REGRESSION LINEAIRE
Présentation du marché obligataire
Chapitre 12 Régression linéaire simple et corrélation linéaire
Probabilités et Statistiques Année 2010/2011
Chapitre 1 - Introduction.
TNS et Analyse Spectrale
Séries chronologiques univariées (STT-6615)
Rappels sur les fonctions et les suites aléatoires
Détection et isolation de défauts dans les procédés industriels
Rappel de statistiques
Le modèle de régression linéaire Claude Marois © 2010.
Analyse des données. Plan Lien entre les statistiques et l’analyse des données Propagation des erreurs Ajustement de fonctions.
Méthodes de prévision (STT-3220)
Recuit simulé Une métaheuristique venue de la métallurgie.
1_Introduction Toute mesure est entachée d’erreur. Il est impossible d’effectuer des mesures rigoureusement exactes. Pour rendre compte du degré d’approximation.
MENU 1 Modèles de choix.
Lectures Volume du cours: Sections 12.1 à 12.6 inclusivement.
Transcription de la présentation:

Estimation paramétrique pour la modélisation et la génération de résidus

Méthode des moindres carrés (1) Modèle linéaire – Modèle de régression Ecriture vectorielle

Méthode des moindres carrés (2) Données expérimentales : Déterminer les paramètres de sorte que les sorties du modèle correspondent au mieux aux mesures au sens des moindres carrés : Notations:

Méthode des moindres carrés (3) Erreur : Fonction de coût: Solution: Fonction de coût minimale pour tel que

Méthode des moindres carrés (4) Démonstration

Méthode des moindres carrés (5) Interprétation géométrique dans

Méthode des moindres carrés – Interprétation statistique(1) Données supposées engendrées par Propriétés statistiques

Méthode des moindres carrés – Interprétation statistique(2 ) Estimateur correct de Consistance de l’estimée de Convergence au sens de l’écart quadratique moyen Dépend de l’évolution de

Méthode des moindres carrés – Interprétation statistique(3) Exemple : modèle à un paramètre

Méthode des moindres carrés – Interprétation statistique (4) Plusieurs paramètres: vitesse de convergence peut être différente pour des paramètres différents Implications du choix du modèle Paramètres constants

Méthode des moindres carrés – Interprétation statistique (5) Observations de distribution non gaussienne distribution de asymptotiquement gaussienne par théorème central-limite (ou théorème de la limite centrée)

Méthode des moindres carrés – Interprétation statistique (6) Intervalle de confiance N ( Pour variable normale quelconque, v, de moyenne nulle et de variance 1, tables donnent seuil h tel que: Prob(v > h)=a

Méthode des moindres carrés – Interprétation statistique (7) Information sur la corrélation entre les différentes composantes de par éléments non diagonaux de P(N): Table de Ellipsoïde dans

Méthode des moindres carrés – Interprétation statistique (8) Résultat plus exact: De même pour chaque paramètre séparé:

Procédure d’identification d’un système Conception d’expérience(s) Connaissances a priori Objectif du modèle Réalisation des expériences Prise de mesures Choix de la structure de modèle Choix de la méthode d’estimation des paramètres Validation du modèle non Nouvel ensemble de mesures Modèle accepté? oui

Identification d’un modèle dynamique LP Choix de l’entrée (excitation) Exciter le système dans la bande des fréquences d’intérêt (souvent basses fréquences) Entrée multi sinoïdale ou suite binaire pseudo aléatoire (filtrage passe bas par ajustement de la période d’horloge) Persistance d’excitation d’ordre 2n requise pour l’obtention d’une estimée consistante (excitation persistante d’ordre n si densité spectrale de la variance non nulle en n points)

Identification d’un modèle dynamique linéaire permanent (1) Ensemble de modèles

Identification d’un modèle dynamique linéaire permanent (2) Exemples A) Modèle avec erreur de fermeture d’équation (equation error)

Identification d’un modèle dynamique linéaire permanent (3) B) Modèle auto récurrent à moyenne glissante et entrée exogène (ARMAX)

Identification d’un modèle dynamique linéaire permanent (4) C) Modèle avec erreur de sortie (output error)

Identification d’un modèle dynamique linéaire permanent - Moindres carrés (1)

Identification d’un modèle dynamique linéaire permanent - Moindres carrés (2) Analyse Supposons que les données vérifient

Identification d’un modèle dynamique linéaire permanent - Moindres carrés (3)

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction(1) Méthode moindres carrés = cas particulier de méthode d’erreur de prédiction

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (2) 3 étapes Choix du modèle Détermination d’un prédicteur Minimisation d’une fonction de coût contenant l’erreur de prédiction

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (3) Principe de la méthode de l’erreur de prédiction Procédé Prédicteur avec paramètres ajustables Algorithme de minimisation d’une fonction de l’erreur de prédiction

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (4) Classe de modèles Prédicteur optimal (variance de l’erreur de prédiction minimale)

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (5) Démonstration

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (6)

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction(7) Fonction de coût à minimiser

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction(8) - Minimisation réalisée de manière analytique si Optimisation numérique Méthode du gradient Méthode de Newton Raphson

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction(9)

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (10)

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (11)

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (12) Propriétés de la méthode d’erreur de prédiction Hypothèses

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (13) Valeur asymptotique de la fonction de coût et de l’estimée Consistance

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (14)

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (15) Cas où la classe de modèles ne contient pas une description exacte du «vrai » système

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (16) Distribution asymptotique de l’’estimée (Hypothèses 1-5)

Identification d’un modèle dynamique LP Méthode de l’erreur de prédiction (17) Exemple: cas d’une régression linéaire

Identification d’un modèle dynamique LP Méthode du maximum de vraisemblance (1) Maximiser la fonction de vraisemblance c-à-d densité de probabilité des observations conditionnée par le vecteur de paramètres Transformation biunivoque entre {y(k)} et {e(k)}, si conditions initiales négligées (u(k) déterministe) utiliser densité de probabilité de e(k)

Identification d’un modèle dynamique LP Méthode du maximum de vraisemblance (2)

Identification d’un modèle dynamique LP Méthode du maximum de vraisemblance (3)

Identification d’un modèle dynamique LP Validation d’un modèle obtenu par la méthode d’erreur de prédiction (1)

Identification d’un modèle dynamique LP Validation d’un modèle obtenu par la méthode d’erreur de prédiction (2)

Identification d’un modèle dynamique LP Validation d’un modèle obtenu par la méthode d’erreur de prédiction(3)

Bibliographie T. Soderstrom et P. Stoica (1989) System identification, Prentice Hall K.J. Astrom et B. Wittenmark (1989) Adaptive Control, chapitre 3, Addison Wesley L. Ljung (1987) System identification: theory for the user Prentice Hall