La présentation est en train de télécharger. S'il vous plaît, attendez

La présentation est en train de télécharger. S'il vous plaît, attendez

1 Introduction à la reconnaissance: Références: Sonka et al: sections 9.2 jusqu’à 9.2.3 Autres références: chap. 22 de Forsyth Duda, Hart et Stork Dernière.

Présentations similaires


Présentation au sujet: "1 Introduction à la reconnaissance: Références: Sonka et al: sections 9.2 jusqu’à 9.2.3 Autres références: chap. 22 de Forsyth Duda, Hart et Stork Dernière."— Transcription de la présentation:

1 1 Introduction à la reconnaissance: Références: Sonka et al: sections 9.2 jusqu’à Autres références: chap. 22 de Forsyth Duda, Hart et Stork Dernière révision P. Hébert 2008

2 2 Deux problèmes distincts Classification: action de former des classes (catégories) d'objets (en anglais «clustering»). ---> apprentissage non supervisé Classement: action de décider à quelle classe (catégorie) appartient un objet (en anglais «classification»). ---> apprentissage supervisé

3 3 Forme? Définition: concept abstrait représentant une catégorie (classe) d'objets que l'on veut reconnaître. ---> reconnaissance de formes Représentation: implique plus souvent qu'autrement un espace vectoriel. ---> espace de représentation

4 4 Poisson??

5 5 Segmentation/reconnaissance Il faut segmenter pour pouvoir reconnaître; Mais il faut reconnaître pour pouvoir segmenter!

6 6 Représentation Mesurer des propriétés: couleur, texture; géométrie: longueur, hauteur, ratios, etc.; Construire un vecteur. ---> approches statistiques Primitives élémentaires segments de droite, arcs de cercle; regroupements perceptuels; construire un graphe. ---> approches structurelles On peut reconnaître les objets par un patron de caractérisitiques.

7 7 Exemple Quels sont les objets présents dans cette image? Y a-t-il une balle? Qu'est-ce qu'une balle? ---> rond?

8 8 --Périmètre 2 / surface Cercle: (2π r ) 2 / π r 2 = 4π = 12.6 Carré: (4 c ) 2 / c 2 = 16 Rectangle: (2 l +2 h ) 2 / lh = 4( l / h + h / l + 2) l = 2 h ---> 4 x 4.5 = 18

9 9 --Autre exemple Les caractères que vous lisez sur cette page: Exemples de propriétés: Nombre de pixels noirs Nombre de traits Nombre de trous Axes d’inertie Longueur et largeur de la boîte englobante

10 10 --Exemple (suite) Reconnaissance de visages Une image peut être vue comme un vecteur de pixels! *tirée de Forsyth

11 11 Comment traiter le problème? Il faut choisir une représentation du vecteur de propriétés qui décrira les modèles et qui pourra être extraite d’une ou de plusieurs images. Il faut définir un mode d’apprentissage des modèles. Il faut formaliser une stratégie de reconnaissance à partir d’une image.

12 12 Définitions Classe (C i ): ensemble d’appartenance pour des objets ayant des propriétés communes. Une classe possède une étiquette d’identification. Pour chacune des classes, on connaît une description ou une suite d’exemples. Classe de rejet (C r ): classe pour les objets non classables. Classifieur: Un algorithme ou système qui prend en entrée un vecteur de propriétés d’un objet et qui sort l’étiquette de la classe d’appartenance. Capteur: Un système physique et logiciel qui permet de saisir un objet physique et d’en extraire un vecteur de propriétés.

13 Structure d’un classifieur *tirée de Shapiro

14 14 Performance d’un classifieur Erreur de classement: un objet appartient à la classe C i alors que la sortie est C j avec i ≠ j. Taux d’erreur empirique: ratio du nombre d’erreurs dans un ensemble indépendant de test sur le nombre d’essais. Taux de rejet: ratio du nombre de rejets dans un ensemble indépendant de test sur le nombre d’essais. Ensemble indépendant de test: ensemble d’objets dont les classes d’appartenance sont connues (incluant des objets de C r ) et qui n’ont pas servis à la construction des modèles de classe.

15 15 Performance (suite …) Décision binaire: un objet est présent ou absent Fausse alarme: un objet est signalé présent alors qu’il ne l’est pas Manque: un objet n’est pas signalé présent alors qu’il l’est. Coût associé à une mauvaise décision: L( i -> j ), un objet de la classe C i classé comme un objet de la classe C j ; L( i -> i )=0 Exemple: diagnostic en médecine!

16 ROC: Receiver Operating Curve *tirée de Forsyth

17 17 Performance (suite …) Le compromis précision vs rappel Définition pour deux classes (généralisable) Précision: ratio du nombre d’objets bien classés sur le nombre total d’objets classés dans cette classe. Rappel: ratio du nombre d’objets bien classés sur le nombre total d’objets qui auraient dû être classifiés dans cette classe.

18 Exemple précision vs rappel Rappel: Precision:

19 précision vs rappel

20 La matrice de confusion *tirée de Shapiro

21 Cumulative Match Scores 21

22 --Représentation vectorielle *tirée de Shapiro

23 23 -- Métriques de distance Distance euclidienne: ne considère pas la distribution Variation avec échelle: Distance de Mahalanobis: matrice de covariance

24 24 Lien entre les distances et les probabilités Hypothèse d’une distribution gaussienne multidimensionnelle: En 2D, l’intersection de la distribution avec un plan horizontal (de probabilité constante) est une ellipse.

25 Distance de Mahalanobis en 2D: illustration *tirée de Duda La distance est la même sur les contours elliptiques

26 26 Classifieur bayesien On dispose d’un modèle paramétrique On veut fixer un seuil: manques Fausses alarmes t Référence: classe I-> I II P(x|C i )P(C i )

27 27 Définitions P( x ): probabilité P( x |C i ): probabilité conditionnelle P(C i ): probabilité a priori P(C i |x ): probabilité a posteriori Règle de Bayes:

28 28 Règle de Bayes x

29 29 Minimisation du risque Il y a un coût associé à un mauvais classement : L( i -> j ) On veut minimiser le risque associé à une stratégie, i.e. l’espérance du coût

30 30 Suite … Le seuil de décision: seuil pour lequel les deux classes représentent le même coût moyen Bayes: x

31 Classifieur bayesien avec rejet *tirée de Forsyth

32 32 Construire un classifieur Deux approches: I.Développer un modèle explicite (paramétrique) des probabilités II.Trouver directement les frontières de décision à partir de l’ensemble d’entraînement sans passer par les probabilités

33 33 Approche 1 À l’entraînement, on estime les paramètres des distributions “supposées” et les a priori à partir des ensembles d’entraînement Remarques: La meilleure estimation d’un paramètre ne donne pas nécessairement le meilleur classifieur car le modèle supposé n’est pas forcément correct Un bon classifieur peut être obtenu même si le modèle ne décrit pas bien les distributions

34 Exemple *tirée de Forsyth

35 Cas de N classes *tirée de Forsyth volume distribution probabilité a priori Mahalanobis

36 36 Approche 2 Classifieur basé sur les plus proches voisins On ne connaît pas la distribution pour chaque classe On exploite directement l’ensemble d’entraînement Idée: classer un objet à partir d’un vote par les K objets d’entraînement les plus près de lui Plus coûteux en calcul x x x x x x x x x x x x x x x

37 K plus proches voisins *tirée de Forsyth

38 38 Comment améliorer la performance des classifieurs? Tester avec des données indépendantes. Attention au sur-apprentissage, i.e. des décisions trop près du jeu d’entraînement (cas limite: 100% si les propriétés sont les mêmes et complètement aléatoires autrement). Il faut une capacité de généralisation.

39 Complément: Deux méthodes d’amélioration La cross-validation: on peut diviser l’ensemble d’entraînement en 2. On entraîne alors avec le premier sous-ensemble et on teste avec le second. *tirée de Forsyth

40 40 Complément: Suite … Le “bootstrap” Idée: inclure le sous-ensemble, parmi l’ensemble d’entraînement, qui soit le plus significatif au lieu de tout prendre Comment? On divise en deux sous-ensembles On classifie avec un des sous-ensembles On ré-entraîne en insérant les manques et les fausses alarmes dans le sous-ensemble d’entraînement.

41 41 Complément: Apprentissage- choix des caractéristiques Analyse en composantes principales On calcule la matrice de covariance des vecteurs caractéristiques

42 42 Complément: ACP (suite) On extrait les vecteurs et valeurs propres de la matrice de covariance. Les vecteurs propres représentent une base. Les vecteurs propres associés aux plus grandes valeurs propres sont plus importants (compression).

43 Complément: Exemple: les eigenfaces *tirée de Forsyth

44 44 Complément: Exemple

45 45 Complément Autres types d’apprentissage Réseaux de neurones Clustering (apprentissage non supervisé) Construction automatique d’arbres de décision Méthodes structurelles vs


Télécharger ppt "1 Introduction à la reconnaissance: Références: Sonka et al: sections 9.2 jusqu’à 9.2.3 Autres références: chap. 22 de Forsyth Duda, Hart et Stork Dernière."

Présentations similaires


Annonces Google