Sujets spéciaux en informatique I PIF-6003. Approches non-paramétriques u Technique de classification NN u Technique de classification k-NN u Erreurs.

Présentation au sujet: "Sujets spéciaux en informatique I PIF-6003. Approches non-paramétriques u Technique de classification NN u Technique de classification k-NN u Erreurs."— Transcription de la présentation:

1 Sujets spéciaux en informatique I PIF-6003

2 Approches non-paramétriques u Technique de classification NN u Technique de classification k-NN u Erreurs de classification NN

3 Technique de classification NN u La technique du voisin le plus proche nous permet d’éviter le problème de calcul des probabilités u En fait, nous classons une observation x inconnue dans la classe la plus proche (NN), ou à l’observa- tion la plus proche dans les données d’entraînement

4 Technique de classification NN u Nous devons alors déterminer l’observation de référence la plus proche. La distance Euclidienne est donnée par

5 Technique de classification NN u Autres distances Différence absolue Distance maximale Minkowski

6 Technique de classification NN u Exemple de classification NN

7 Technique de classification k-NN u Une généralisation de la technique NN consiste à associer la classe C i à une observation x dont font partie une majorité des k voisins les plus proches de x u Si nous utilisons 3 voisins, l’observation de l’exemple précédent sera classé dans B puisque 2/3 voisins appartiennent à B

8 Technique de classification k-NN u Algorithme d’apprentissage

9 Technique de classification k-NN u Algorithme d’utilisation x

10 Technique de classification k-NN u Algorithme d’apprentissage

11 Technique de classification k-NN (Comparaison de l’erreur) 2 classes