LOG770 Annexe A Éléments de probabilité Chargé de cours : Yazid Attabi Local: CRIM Téléphone: (514) 840 1235 #2299 Courriel: yazid.attabi@crim.ca Responsable de cours : Pierre Dumouchel, ing., Ph.D., Local: A-3498 Téléphone: (514) 396 8996 Courriel: Pierre.Dumouchel@etsmtl.ca

Définitions Expérience aléatoire: Espace d’échantillons (S): expérience dont la sortie ne peut être prédite avec certitude à l’avance. Espace d’échantillons (S): L’ensemble de toutes les sorties possibles. S discret: s’il contient un ensemble fini de sorties S continu: s’il contient un ensemble infini de sorties Événement (E): Sous-ensemble de S Probabilité: Fréquence relative Degré de confiance, de croyance Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)

Axiomes de probabilité Soit , i=1,…,n des événements mutuellement exclusifs c.à.d. alors Soit E et F, deux événements non exclusifs c.à.d. qu’il existe un chevauchement entre ces deux événements alors Soit S, l’espace des échantillons alors Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)

Probabilité conditionnelle Formule de Bayes Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)

Probabilité conditionnelle Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)

Probabilité conditionnelle Si E et F sont indépendants alors Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)

Variables aléatoires Une variable aléatoire ( X ) est une fonction qui assigne une valeur ( a ) à chaque sortie d’un événement aléatoire (E ) dans une espace d’échantillons ( S ). Une fonction de distribution de probabilité F(˙) d’une variable aléatoire X pour tout nombre réel a est défini comme suit: Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)

Variables aléatoires Si X est une variable aléatoire discrète alors Si X est une variable aléatoire continue alors Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)

Règle de Bayes Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)

Détecteur d’émotion à partir de la voix A: données acoustiques Sortie (E)  ou ? Calculer Pr(|A) et Pr( |A) et choisir la plus grande probabilité. En langage mathématique: émotion = argmax Pr( e | A) e=, Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)

Détecteur d’émotion  ou ? A: données acoustiques Sortie (E)  ou ? Il faut donc modéliser Pr( A | e ) et Pr( e ) Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)

Comment modéliser Pr(A | e) et Pr(e) Pr( A | e ) : vraisemblance de A étant donné une émotion en particulier ( ou ) Pr( A |  ) ou Pr( A |  ) Pourrait-être estimé par des fonctions de densité de probabilité (courbe normale) Pr( e ) : probabilité apriori de l’émotion i.e. Pr(  ) ou Pr(  ) Pourrait-être estimé par des fréquences relatives Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)

Espérance, E[X] Espérance ou valeur estimée ou moyenne d’une variable aléatoire X est la valeur moyenne de X sur un grand nombre d’expériences: Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)

Variance, déviation standard et covariance Les variance, déviation standard et covariance sont des mesures de la variation de la variable aléatoire X autour de la moyenne (espérance) i.e. Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)

Variables aléatoires spéciales Distribution de Bernoulli Ex: pile ou face Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)

Variables aléatoires spéciales Distribution uniforme Ex: X est distribué uniformément sur l’intervalle [a,b] Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)

Variables aléatoires spéciales Distribution normale (ou gaussienne) 68,27% des valeurs se trouvent entre 95,45% des valeurs se trouvent entre 99,73% des valeurs se trouvent entre Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)