Concepts avancés en mathématiques et informatique appliquées

Présentation au sujet: "Concepts avancés en mathématiques et informatique appliquées"— Transcription de la présentation:

1 Concepts avancés en mathématiques et informatique appliquées
MAP-6014

2 Appproches statistiques de la classification (Réseaux Bayesien)
Introduction Probabilité jointe Marginale/Probabilité conditionnelle Chain rule Algorithme de création d’un BN Autre exemple de BN

3 Introduction (Réseau Bayesien)
Représentation structurée, graphique de relations probabilistes entre variables aléatoires Représentation explicite des dépendences et indépendances conditionnelles Dépendances représentées par des arcs dans un graphe Représentation efficiente des probabilités jointes Permet de répondre à diverses requêtes P (lung cancer=yes | smoking=no, positive X-ray=yes ) = ?

4 Introduction (Réseau Bayesien)

5 Introduction (Réseau Bayesien)
Un domaine d’application peut être modélisé par une suite de variables aléatoires X1, X2, X3, …., Xn La connaissance contenue dans ce domaine d’application est représentée par la probabilité jointe P(X1, X2, X3, …., Xn) Exemple classique: Alarm (Pearl 1988) À LA, les vols et tremblements de terre sont communs, et déclenchent une alarme, dans ces cas Mary et John, les voisins téléphonent pour vérifier si quelqu’un est à la maison

6 Probabilité jointe Exemple classique: Alarm (Pearl 1988)
Variables: B (vols), E (tremblement de terre), A (alarme), J (John appel), M (Mary appel) La probabilité jointe P(B, E, A, J, M) permet de modéliser l’information sous forme probabiliste

7 Probabilité jointe Exemple classique: Alarm (Pearl 1988)
P(B, E, A, J, M)

8 Marginale/probabilité conditionnelle
Exemple classique: Alarm (Pearl 1988) Quelle est la probabilité d’avoir un vol sachant que Mary appel, P(B=y|M=y) ? Pour répondre à cette question, nous devons introduire des notions de marginalisation et de probabilité conditionnelle

9 Introduction (Réseau Bayesien)
Exemple classique: Alarm (Pearl 1988) Pour répondre à cette question, nous devons introduire des notions de marginalisation et de probabilité conditionnelle

10 Introduction (Réseau Bayesien)
Exemple classique: Alarm (Pearl 1988) Quelle est la probabilité d’avoir un vol sachant que Mary appel, P(B=y|M=y) ? /( ) = 0.434

11 Introduction (Réseau Bayesien)
Exemple classique: Alarm (Pearl 1988) Sachant que la probabilité jointe permet d’extraire les diverses relations entre les variables (informations), il devient alors possible de faire de l’inférence: Inférence diagnostic: inférer les causes à partir d’effets (ex: médecine, déduire une maladie à partir de symptômes), P(B=y|M=Y) Inférence prédictive: inférer les effets à partir des causes, P(M=y|B=y)

12 Introduction (Réseau Bayesien)
Exemple classique: Alarm (Pearl 1988) Cependant, la probabilité jointe P(X1, X2, X3, …., Xn) requiert: 2n données pour spécifier les probabilités Donc, difficile d’acquérir ces probabilités Stockage exponentiel Mais en exploitant l’indépendance conditionnelle et la règle de probabilité en chaîne (chain rule) il devient possible de réduire le nombres de paramètres requis pour évaluer les probabilités jointes

13 Introduction (Réseau Bayesien)
Exemple classique: Alarm (Pearl 1988) Chain rule

14 Introduction (Réseau Bayesien)
Exemple classique: Alarm (Pearl 1988) Sachant que: Alors: Cette dernière opération comporte moins de termes

15 Introduction (Réseau Bayesien)
Exemple classique: Alarm (Pearl 1988) CPT (conditional probability tables)

16 Introduction (Réseau Bayesien)
Exemple classique: Alarm (Pearl 1988) Réseau bayesien correspondant

17 Introduction (Réseau Bayesien)
Algorithme de construction d’un réseau bayesien Choisir un ensemble de variables descriptives. Choisir un ordre pour les variables. À partir d’un réseau vide ajouter des variables 1 par 1 selon l’ordonnancement. Pour ajouter la i ème variable Xi , Déterminer pa(Xi ) dans (X11, ,Xi−1) Tel que P(Xi |X1, , Xi−1) = P(Xi |pa(Xi )) Relier un arc entre les variables pa(Xi ) à Xi .

18 Introduction (Réseau Bayesien)
Ordre 1 (B, E, A, M, J)

19 Introduction (Réseau Bayesien)
Ordre 2 (M, J, A, B, E) ?

20 Introduction (Réseau Bayesien)
Ordre 2 (M, J, E, B, A) ?

21 Introduction (Réseau Bayesien)
Exemple de réseau Bayesien pour le monitorage de la fatigue au volant

22 Introduction (Réseau Bayesien)
Exemple de réseau Bayesien pour le monitorage des facultés affaiblies

23 Introduction (Réseau Bayesien)
Exemple de réseau Bayesien: acquisition des évidences

24 Introduction (Réseau Bayesien)
Exemple de réseau Bayesien: acquisition des évidences

25 Introduction (Réseau Bayesien)
Exemple de réseau Bayesien: acquisition des évidences

26 Introduction (Réseau Bayesien)
Exemple de réseau Bayesien: acquisition des évidences