D. Steinberg, N. Monmarché, M. Slimane, G. Venturini 16/04/2017 Découverte de Classes dans des Données Numériques par Hybridation d’une Colonie de Fourmis avec les Centres Mobiles D. Steinberg, N. Monmarché, M. Slimane, G. Venturini Laboratoire d’Informatique de l’Université de Tours E3i, 64 Av. J. Portalis, 37 200 Tours monmarche,slimane,venturini@univ-tours.fr Voici une méthode de classification qui ne dépasse pas le domaine de l'intuition. C. Guinot CERIES, 20 rue Victor Noir, 92000 Neuilly sur Seine Cédex 21-23 septembre 1998 SFC 98

16/04/2017 Découverte de Classes dans des Données Numériques par Hybridation d’une Colonie de Fourmis avec les Centres Mobiles  Classification et Fourmis  Hybridation avec les centres mobiles  Résultats 21-23 septembre 1998 SFC 98

Fourmis Artificielles 16/04/2017 Fourmis Artificielles Origines biologiques Atouts : Parallélisme, Gestion locale des agents Communication indirecte par l’environnement (stigmergie) Méthodes auto-catalytiques Emergence de comportements 21-23 septembre 1998 SFC 98

Fourmis Artificielles 16/04/2017 Fourmis Artificielles Optimisation combinatoire (PVC, QAP...) et numérique. Robotique distribuée Simulation, SMA 21-23 septembre 1998 SFC 98

Classification non supervisée 16/04/2017 Classification non supervisée Ensemble D de n individus de dimension k  trouver le nombre et la composition des classes 21-23 septembre 1998 SFC 98

Classification par colonie de fourmis 16/04/2017 Classification par colonie de fourmis Individus = objets manipulés par des fourmis Objets et fourmis disséminés sur un échiquier 2D Les fourmis se déplacent et manipulent les objets prise d’objets dépôt d’objets Rassemblement d’au moins deux objets : tas 21-23 septembre 1998 SFC 98

Algorithme de classification par colonie de fourmis 16/04/2017 Algorithme de classification par colonie de fourmis Pour chaque itération Faire Pour chaque fourmi F Faire déplacer F Si ( F ne porte pas d’objet ) Alors Scruter les cases adjacentes et faire, si possible, UNE des actions suivantes :  Prendre un objet seul  Prendre un des objets d’un tas de 2  Prendre l’objet le plus dissimilaire d’un tas de plus de 2 objets Sinon /* F porte un objet O */ Scruter les cases adjacentes et faire, si possible, UNE des actions suivantes :  Poser O sur une case vide  Poser O sur un objet seul  Poser O sur un tas 21-23 septembre 1998 SFC 98

 Création de tas d1>0.1Dmax d2<0.1Dmax 21-23 septembre 1998 16/04/2017  Création de tas d1>0.1Dmax d2<0.1Dmax A et B ne peuvent être associés pour créer un tas si on fixe le seuil de création de tas à 0.1 C et D peuvent être associés. 21-23 septembre 1998 SFC 98

 Ajout d’objets à un tas 16/04/2017  Ajout d’objets à un tas D peut être placé sur le tas car d(centre,D)<d(centre,C) E non 21-23 septembre 1998 SFC 98

Améliorations Populations hétérogènes Mémoires Distances 16/04/2017 Améliorations Populations hétérogènes Mémoires Distances Prise en compte des valeurs manquantes Mémoires : mémorisation par chaque fourmi de la position et du centre du tas sur lequel la fourmi dépose un objet. Quand une fourmi prend un objet elle choisi dans sa mémoire le tas le plus approprié. Accélération de la constitution des tas Distances :((ai-bi)^r)^(1/r) r=2 : euclidienne; r=1 : minkowski (données discretes) Valeurs manquantes remplacées par la valeur moyenne de l'attributs correspondant. Ignorées : l'attribut où il manque une valeur est ignoré. 21-23 septembre 1998 SFC 98

Centres mobiles Entrée : partition de départ 16/04/2017 Centres mobiles Entrée : partition de départ Algorithme convergent vers un optimum local Problème du choix de la partition de départ  complémentaire de la colonie de fourmis Le nombre de classes peut décroître (s'il n'y a plus d'individus dans une partition) 21-23 septembre 1998 SFC 98

Algorithme des centres mobiles 16/04/2017 Algorithme des centres mobiles Pour toute itération : • Affecter tout objet à la classe la plus proche • Recalculer les centres de gravité 1 Regroupement des n individus autours de k centres arbitraires 2 Calcul des centres de gravité g1..gk Affectation des individus à la classe dont le centre est le plus proche 3 Calcul des centres de gravité des nouvelles classes 4 Aller en 3 tant l'inertie intraclasse s'améliore Inertie intraclasse = moyenne des carrés des distances au centre de gravité 3 2 1 21-23 septembre 1998 SFC 98

Classification sur les tas 16/04/2017 Classification sur les tas Les fourmis se déplacent et peuvent prendre un tas poser un tas sur une case vide poser un tas sur un autre tas convergence vers un nombre de classes stable 21-23 septembre 1998 SFC 98

Forme finale Fourmis sur les objets Centres mobiles 16/04/2017 Forme finale Classification initiale réduction de la dimension du problème Homogénéisation des résultats Convergence du nombre de classes Fourmis sur les objets Centres mobiles Fourmis sur les tas 21-23 septembre 1998 SFC 98

Approche hiérarchique 16/04/2017 Approche hiérarchique Centres Mobiles Centres Mobiles Fourmis Objets Fourmis Tas Note : Les Données sont normalisées avant de passer par les mandibules des fourmis. Données Objets rassemblés en tas Tas "corrigés" Tas rassemblés Partition 21-23 septembre 1998 SFC 98

Paramètres d’une fourmi 16/04/2017 Paramètres d’une fourmi Seuil de création de tas (0.05-0.20) Rassemblement de tas (0.05-0.20) Vitesse (3-7) Maintien de direction (0.5-0.9) Avidité objet (0.4-0.8) Destruction de tas (0.1-0.4) Seuil de création de tas : voir transparent 8 Vitesse : Maintien de direction : proba de garder la même direction entre deux déplacements. Avidité objet : proba de prendre un objet un objet seul sur une case adjacente à la position de la fourmi. Destruction de tas : proba d'enlever le deuxième objet d'un tas. Classif des Tas : Seuil de rassemblement de tas  Seuil de création de tas Avidité tas  Avidité objet 21-23 septembre 1998 SFC 98

Paramètres généraux Nombre de fourmis (20) Itérations Objets (2000) 16/04/2017 Paramètres généraux Nombre de fourmis (20) Itérations Objets (2000) Itérations centres mobiles 1 (10) Itération tas (50000) Itérations centres mobiles 2 (10) Distance (Euclidienne/Minkowski) Mémoires (Oui/Non) Valeur manquantes (Remplaçées/Ignorées) 21-23 septembre 1998 SFC 98

Résultats 1 21-23 septembre 1998 SFC 98 16/04/2017 m0 : fourmis sur les objets seuls m1 : fourmi sur les objets seuls + centres mobiles m3 : fourmi sur les objets seuls + centres mobiles + fourmis sur les tas m4 : fourmi sur les objets seuls + centres mobiles + fourmis sur les tas + centres mobiles Résultats sur 100 Tests Données artificielles 1 : 80 ind, 2 dim, 4 classes Données artificielles 2 : 270 ind, 2 dim, 9 classes Données artificielles 3 : 200 ind, 2 dim, 4 classes Données iris : 150 ind, 4 dim, 3 classes 21-23 septembre 1998 SFC 98

Résultats 2 21-23 septembre 1998 SFC 98 16/04/2017 Le nombre de classes trouvé correspond à une moyenne sur 50 tests. L'erreur correspond à l'erreur de classification quand le nombre de classe le plus fréquent a été découvert. En %. Les paramètres généraux et des fourmis sont indentiques : Voir transparents 10 et 17. La distance utilisée change pour Soybean (Minkowski) et la mémoire n'est pas utilisée. 21-23 septembre 1998 SFC 98

Perspectives Comparaisons avec d’autres méthodes 16/04/2017 Perspectives Comparaisons avec d’autres méthodes Gestion dynamique des paramètres Nouvelles hybridations Phéromones 21-23 septembre 1998 SFC 98