Concepts avancés en mathématiques et informatique appliquées MAP-6014
Approches non-paramétriques u Technique de classification NN u Technique de classification k-NN u Erreurs de classification NN
Technique de classification NN u La technique du voisin le plus proche nous permet d’éviter le problème de calcul des probabilités u En fait, nous classons une observation x inconnue dans la classe la plus proche (NN), ou à l’observa- tion la plus proche dans les données d’entraînement
Technique de classification NN u Nous devons alors déterminer l’observation de référence la plus proche. La distance Euclidienne est donnée par
Technique de classification NN u Autres distances Différence absolue Distance maximale Minkowski
Technique de classification NN u Exemple de classification NN
Technique de classification k-NN u Une généralisation de la technique NN consiste à associer la classe C i à une observation x dont font partie une majorité des k voisins les plus proches de x u Si nous utilisons 3 voisins, l’observation de l’exemple précédent sera classé dans B puisque 2/3 voisins appartiennent à B
Technique de classification k-NN (Comparaison de l’erreur) 2 classes