Concepts avancés en mathématiques et informatique appliquées MAP-6014
Appproches statistiques de la classification (Réseaux Bayesien) Introduction Probabilité jointe Marginale/Probabilité conditionnelle Chain rule Algorithme de création d’un BN Autre exemple de BN
Introduction (Réseau Bayesien) Représentation structurée, graphique de relations probabilistes entre variables aléatoires Représentation explicite des dépendences et indépendances conditionnelles Dépendances représentées par des arcs dans un graphe Représentation efficiente des probabilités jointes Permet de répondre à diverses requêtes P (lung cancer=yes | smoking=no, positive X-ray=yes ) = ?
Introduction (Réseau Bayesien)
Introduction (Réseau Bayesien) Un domaine d’application peut être modélisé par une de variables aléatoires X1, X2, X3, …., Xn La connaissance contenue dans ce domaine d’application est représentée par la probabilité jointe P(X1, X2, X3, …., Xn) Exemple classique: Alarm (Pearl 1988) À LA, les vols et tremblements de terre sont communs, et déclenchent une alarme, dans ces cas Mary et John, les voisins téléphonent pour vérifier si quelqu’un est à la maison
Probabilité jointe Exemple classique: Alarm (Pearl 1988) Variables: B (vols), E (tremblement de terre), A (alarme), J (John appel), M (Mary appel) La probabilité jointe P(B, E, A, J, M) permet de modéliser l’information sous forme probabiliste
Probabilité jointe Exemple classique: Alarm (Pearl 1988) P(B, E, A, J, M)
Marginale/probabilité conditionnelle Exemple classique: Alarm (Pearl 1988) Quelle est la probabilité d’avoir un vol sachant que Mary appel, P(B=y|M=y) ? Pour répondre à cette question, nous devons introduire des notions de marginalisation et de probabilité conditionnelle
Introduction (Réseau Bayesien) Exemple classique: Alarm (Pearl 1988) Pour répondre à cette question, nous devons introduire des notions de marginalisation et de probabilité conditionnelle
Introduction (Réseau Bayesien) Exemple classique: Alarm (Pearl 1988) Quelle est la probabilité d’avoir un vol sachant que Mary appel, P(B=y|M=y) ? 0.000115/(0.000115 + 0.00015) = 0.434
Introduction (Réseau Bayesien) Exemple classique: Alarm (Pearl 1988) Sachant que la probabilité jointe permet d’extraire les diverses relations entre les variables (informations), il devient alors possible de faire de l’inférence: Inférence diagnostic: inférer les causes à partir d’effets (ex: médecine, déduire une maladie à partir de symptômes), P(B=y|M=Y) Inférence prédictive: inférer les effets à partir des causes, P(M=y|B=y)
Introduction (Réseau Bayesien) Exemple classique: Alarm (Pearl 1988) Cependant, la probabilité jointe P(X1, X2, X3, …., Xn) requiert: 2n données pour spécifier les probabilités Donc, difficile d’acquérir ces probabilités Stockage exponentiel Mais en exploitant l’indépendance conditionnelle et la règle de probabilité en chaîne (chain rule) il devient possible de réduire le nombres de paramètres requis pour évaluer les probabilités jointes
Introduction (Réseau Bayesien) Exemple classique: Alarm (Pearl 1988) Chain rule
Introduction (Réseau Bayesien) Exemple classique: Alarm (Pearl 1988) Sachant que: Alors: Cette dernière opération comporte moins de termes
Introduction (Réseau Bayesien) Exemple classique: Alarm (Pearl 1988) CPT (conditional probability tables)
Introduction (Réseau Bayesien) Exemple classique: Alarm (Pearl 1988) Réseau bayesien correspondant
Introduction (Réseau Bayesien) Algorithme de construction d’un réseau bayesien Choisir un ensemble de variables descriptives. Choisir un ordre pour les variables. À partir d’un réseau vide ajouter des variables 1 par 1 selon l’ordonnancement. Pour ajouter la i ème variable Xi , Déterminer pa(Xi ) dans (X11, . . . ,Xi−1) Tel que P(Xi |X1, . . . , Xi−1) = P(Xi |pa(Xi )) Relier un arc entre les variables pa(Xi ) à Xi .
Introduction (Réseau Bayesien) Ordre 1 (B, E, A, M, J)
Introduction (Réseau Bayesien) Ordre 2 (M, J, A, B, E) ?
Introduction (Réseau Bayesien) Ordre 2 (M, J, E, B, A) ?
Introduction (Réseau Bayesien) Exemple de réseau Bayesien pour le monitorage de la fatigue au volant
Introduction (Réseau Bayesien) Exemple de réseau Bayesien pour le monitorage des facultés affaiblies
Introduction (Réseau Bayesien) Exemple de réseau Bayesien: acquisition des évidences
Introduction (Réseau Bayesien) Exemple de réseau Bayesien: acquisition des évidences
Introduction (Réseau Bayesien) Exemple de réseau Bayesien: acquisition des évidences
Introduction (Réseau Bayesien) Exemple de réseau Bayesien: acquisition des évidences