Adapté de Nanda Gopal S et autres sources sur l’Internet DIC9315, Sujet spéciaux en intelligence artificielle et reconnaissance des formes L’intelligence collective Adapté de Nanda Gopal S et autres sources sur l’Internet

L’intelligence collective IA classique : la cognition est une activité individuelle sans influence de groupe au moment de son exercice. E.g. une personne qui pense à un problème, un RNA qui classifie des données, un régulateur flou, etc. L’intelligence collective ajoute au comportement individuel, jugé insuffisant (primaire), l’influence du groupe. E.g. le comportement social d’un individu L’intelligence collective reflète l’émergence d’un comportement global en partant d’un groupe d’agents simples et identiques : “Dumb parts, properly connected into a swarm, yield smart results” Kevin Kelly

Agents, nuées, volées, et autres essaims Agent : entité autonome au comportement statique en général, qui peut interagir avec son environnement et échanger de l’information avec d’autres agents E.g. un robot Essaim : groupement d’agents dans lequel l’échange d’information influe sur le comportement individuel, permettant la réalisation d’objectifs globaux hors de portée d’un agent. E.g. colonie de fourmis

Une Définition plus technique Kennedy & Eberhart : A swarm is a population of interacting elements that is able to optimize some global objective through collaborative search of a space Interactions that are relatively local are often emphasized There is a general stochastic (or chaotic) tendency in a swarm for individuals to move toward a center of mass in the population

Système multi-agents = Intelligence en essaim ? Oui et non Système multi-agents : Les agents effectuent des sous-tâches facilement identifiables au but final Peuvent adapter leur comportement L’objectif final est connu de certains Système en essaim Les agents effectuent des tâches sans relation apparente avec le but final Leur comportement est statique Personne ne connaît l’objectif

Groupements naturels

Charactéristiques communes aux essaims Composés d’agents simples Décentralisés (aucun superviseur) Comportement émergent (non préétabli) Robustes, la tâche est complétée même si des individus échouent Flexibles Peuvent répondre à des changements externes

Les techniques Deux approches : « La belge » avec les colonies de fourmis (Dorigo et al.,1989) S’inspire des activités routinières dans une colonie de fourmis « L’états-unienne » avec les essaims particulaires (Russel et Eberhart, 1995) S’inspire du comportement social des individus (particules) dans un « essaim » en mouvement. S’apparente aux algorithmes génétiques selon certains

Les techniques Algorithme à colonie de fourmis (Dorigo 1991) Algorithme initial Inspiré du comportement social des fourmis. Adapté aux problème combinatoires statiques Commis voyageur – Trouver le court chemin pour traverser un ensemble de villes en ne traversant jamais la même ville deux fois. Planification de tâches en usine – Organiser les tâches afin de minimiser les temps de production et maximiser l’usage des machines. Coloriage des graphes – Colorer un graphe de manière à ce que deux couleurs adjacentes soient différentes et que le nombre de couleurs est minimal

Les techniques Optimisation à colonie de fourmis (ACO) Version plus récente de l’ACF S’applique aussi aux problèmes combinatoires dynamiques (les paramètres varient avec le temps) Routage dans les réseaux téléinformatiques Réseaux de type Internet – les paquets d’un même message peuvent suivre des routes différentes Réseaux orientés connexion – tous les paquets suivent la même route Équilibrage du trafic dans les réseaux téléinformatiques

Les techniques Optimisation par essaims particulaires (PSO – Kennedy et Eberhart, 1995) Utilise le concept d’interaction sociale pour résoudre les problèmes Inspirée du comportement des « essaims » (bancs de poissons, volées d’oiseaux, etc.) Possède les attributs des algorithmes évolutionnaires : population, fonction d’adaptation, règles d’évolution stochastiques. Converge généralement plus vite que les AG

L’intelligence répartie 1/10 Les techniques montrent une intelligence répartie En 1996, Maris & Te Boekhorst étudièrent le comportement d’un groupe de robots dans une enceinte fermée. Chaque robot possédait deux détecteurs d’obstacles (gauche & droite) à portée très limitée

L’intelligence répartie 2/10 Les robots suivaient des règles très simples : Si un obstacle ou mur est à gauche, tourner à droite Si un obstacle ou mur est à droite, tourner à gauche Si un obstacle est à droite et un autre à gauche, ou pas d’obstacle à droite ou à gauche, continuer tout droit Si un mur est frappé, tourner à droite ou à gauche au hasard En un sens, chaque robot ne fait qu’éviter les obstacles

L’intelligence répartie 3/10 Si une configuration initiale est donnée, quel serait le résultat final? Ex: on a 3 robots et 25 obstacles disposés de manière aléatoire

L’intelligence répartie 4/10 Le comportement collectif des robots a été de “nettoyer” l’enceinte des obstacles Pousser des obstacles droit devant eux faisait que les robots les groupaient “sans le savoir”.

L’intelligence répartie 5/10 Le résultat final n’était pas prévisible a partir des comportements individuels Il s’agit d’un comportement émergeant de l’ensemble des actions individuelle. Après avoir modifié leur environnement, le comportement des robots peut aussi être affecté.

L’intelligence répartie 6/10 L’intelligence répartie se retrouve chez la plupart des insectes, mais aussi dans les bandes, les troupeaux, les bancs, etc. Ex. : modélisation d’une formation d’oiseaux en vol avec 3 règles de comportement individuel (Reynolds, 1987) : Éviter la collision avec des oiseaux voisins ou objets Essayer de garder la même vitesse que les oiseaux voisins Essayer de rester près des oiseaux voisins

L’intelligence répartie 7/10

L’intelligence répartie 8/10 En cas d’obstacle, le groupe se sépare en deux ! Ensuite, on suit le chemin le plus court pour contourner l’obstacle ! À partir d’un ensemble de règles très simple ont émergé : Le regroupement d’individus La division en cas d’obstacles

Les colonies de fourmis et l’intelligence collective Chaque fourmi est un agent aux capacités limitées, et aux règles de comportement très simples. Les individus communiquent indirectement, en utilisant un phéromone volatile Le comportement de groupe ne peut être déduit des règles de comportement d’un individu ; et l’individu n’a aucune notion du comportement du groupe. Le comportement intelligent apparaît (“émerge”) seulement en observant toute la colonie

Les colonies de fourmis et les problèmes d’optimisation Activités typiques d’une colonie de fourmis et exemples de problèmes d’optimisation équivalents : Trouver le plus court chemin vers la nourriture  Plus court chemin dans un graphe, treillis, etc. Tri de la nourriture, des morts, des œufs, etc.  groupement des données. Construction de structures  robots industriels

Solution de problèmes de tri, groupement, etc.

Activités de tri L’observation d’un nid de fourmis révèle que malgré une apparence de désordre, il existe des objets qui sont groupés : les œufs, les larves, les cocons, etc. Si on dérange le nid, les fourmis reconstruisent rapidement les groupes. On peut reproduire le comportement par un modèle très simple (Deneubourg)

Modèle de comportement Une fourmi reconnaît toujours les objets immédiatement en face d’elle Si un objet est situé près d’autres objets, la probabilité que la fourmi le ramasse est faible ; sinon la probabilité est grande Si une fourmi transportant un objet voit des objets similaires à proximité, elle a tendance à lâcher l’objet.

Modèle de comportement Les probabilités sont définies comme suit : Probabilité de ramasser un objet :

Modèle de comportement Probabilité de lâcher un objet transporté :

Modèle de comportement Il n’existe aucune communication directe entre les fourmis ! On observe néanmoins un comportement émergent : De gauche à droite, on note le passage progressif d’une distribution individuelle aléatoire des objets à des amas.

Solution de problèmes de type plus court chemin

Problème du plus court chemin Lorsque plusieurs sources de nourriture sont disponibles, les fourmis choisissent toujours la plus proche ! (Deneubourg 1989) Idées clés Les fourmis isolées se déplacent au hasard Les fourmis marquent en permanence le chemin parcouru avec un phéromone Le phéromone se dégrade avec le temps Les pistes de phéromones disponibles influent sur le déplacement ; Lorsqu’une fourmi atteint une bifurcation, elle tend à prendre le chemin le plus marqué La prise de décision est probabiliste

Problème du plus court chemin Comme les fourmis marquent le chemin à l’aller et au retour, et que le phéromone est volatile avec le temps, celui déposé sur les parcours courts est plus intense. Plus intense signifie que le parcours sera choisi plus souvent (décision probabiliste)

P C D Q R A B S

Algorithme des colonies de fourmis Créer des fourmis Population et distribution initiale statiques ou dynamiques et dépendent du problème Quantité de pheromone initiale proche de 0 Tant que objectif non atteint, pour chaque fourmi La laisser trouver une solution Mettre à jour le niveau de phéromone

Algorithme des colonies de fourmis Créer des fourmis Tant que objectif non atteint, pour chaque fourmi La laisser trouver une solution Probabilité de transition : Mettre à jour le niveau de phéromone Quantité de pheromone Heuristique de distance À Partie d’un nœud donné : Calculer Pij(t) pour tous les nœuds suivants possibles Diviser l’intervalle [0, 1] suivant les Pij(t) calculés Générer un nombre aléatoire entre 0 et 1 et l’utiliser pour sélectionner la branche à suivre α,β =constantes

Algorithme des colonies de fourmis Créer des fourmis Tant que objectif non atteint, pour chaque fourmi La laisser trouver une solution Mettre à jour le niveau de phéromone Pheromone produit par chaque fourmi k qui suit la branche (i,j) de longueur Lk Taux d’évaporation

Contraintes pour l’utilisation Le problème à résoudre doit être défini par un graphe Exigence due au fait qu’on optimise un chemin Pas toujours évident ! Doit être fini (a un début et une fin)

Applications en réseautique Réseau de télécom : Nœuds reliés par des branches Des listes de nœuds connectés définissent les états Des contraintes locales s’appliquent aux nœuds afin de définir les états Les branches ont un coût associé qui change avec le temps (phéromone) et qui sert à évaluer le coût total des états

ACO pour le plus court chemin Créer et initialiser le nombre maximum de fourmis à la source Pour chaque fourmi : Choisir le prochain nœud dépendant du niveau de phéromone de la branche qui y mène Déposer du phéromone sur la branche Mourir à destination Évaporation du phéromone

ACO pour le routage Éléments clés : Table de routage Algorithme de routage Des agents (fourmis) sont lancées dans le réseau, chacune allant d’une source à une destination Les agents mettent à jour la table de routage à chaque nœud L’influence d’un agent diminue avec le temps de parcours.

Optimisation par essaim particulaire Allie au comportement individuel la pression du groupe et l’influence des meneurs Forme de computation évolutionnaire Commence avec une population aléatoire de particules (solutions) qui ne meurent jamais Les particules se meuvent dans l’espace de recherche en enregistrant leurs meilleurs pas Elle ont une vitesse (de valeur initiale aléatoire) À chaque itération (génération) les particules subissent une accélération aléatoire vers la meilleure solution précédente et la meilleure particule globale (qui peut être un voisinage) PSO est robuste et efficace du point de vue computationnel

Anatomie d’une particule Une particule est composée de : Trois vecteurs : Le vecteur x (« x-vector ») indique la position courante de la particule Le vecteur p (« p-vector ») indique la position de la meilleure solution trouvée depuis le début Le vecteur v (« v-vector ») spécifie un gradient (direction) vers lequel la particule volerait librement. Deux fonction d’adaptation : x-fitness indique l’adaptation de x-vector p-fitness indique l’adaptation du p-vector Ik X = <xk0,xk1,…,xkn-1> P = <pk0,pk1,…,pkn-1> V = <vk0,vk1,…,vkn-1> x_fitness = ? p_fitness = ?

Déplacement d’une particule Chaque particule est un agent élementaire qui enregistre les meilleures solutions qu’il rencontre sur son chemin. Le déplacement d’une position à une autre se fait en additionnant les vecteurs x et v : Xi+1 = Xi + Vi La nouvelle position est évaluée et, si x-fitness > p-fitness, alors p=Xi+1 et p-fitness = x-fitness. Une fois les position initiales déterminées, tout dépend du vecteur v

Optimisation par essaim particulaire Le calcul du vecteur v dépend de la meilleure position enregistrée de la particule et de la meilleure position enregistrée dans le groupe (ou voisinage) : 5 10 15 20 25 pbest gbest v(k) v(k+1) C1 et C2 spécifient l’importance de la cognition vs. le social.

Swarm Robotics “We Robots” Nouveau venu qui étudie comment concevoir un collectif d’agent robotiques simples pour réaliser des tâches hors de portée des robots individuels Projets remarquables Nettoyage des nappes de pétrole à la surface de l’eau, National Science Foundation (É.U.) « Autonomous Nanorobotic Swarms (ANtS) », NASA « swarmBOTs » de iRobot, Défense É.-U. « Unmanned Air Vehicles (UAV) », Défense É.-U.

Quelques références Dorigo M. and G. Di Caro (1999). The Ant Colony Optimization Meta-Heuristic. In D. Corne, M. Dorigo and F. Glover, editors, New Ideas in Optimization, McGraw-Hill, 11-32. M. Dorigo and L. M. Gambardella. Ant Colony System: A cooperative learning approach to the traveling salesman problem. IEEE Transactions on Evolutionary Computation, 1(1):53–66, 1997. G. Di Caro and M. Dorigo. Mobile agents for adaptive routing. In H. El-Rewini, editor, Proceedings of the 31st International Conference on System Sciences (HICSS-31), pages 74–83. IEEE Computer Society Press, Los Alamitos, CA, 1998. L. M. Gambardella, ` E. D. Taillard, and M. Dorigo. Ant colonies for the quadratic assignment problem. Journal of the Operational Research Society,50(2):167–176, 1999. Kennedy, J. and Eberhart, R. (1995). “Particle Swarm Optimization”, Proceedings of the 1995 IEEE International Conference on Neural Networks, pp. 1942-1948, IEEE Press.] Kennedy, J. (1997), “The Particle Swarm: Social Adaptation of Knowledge”, Proceedings of the 1997 International Conference on Evolutionary Computation, pp. 303-308, IEEE Press.] Carlisle, A. and Dozier, G. (2001). “An Off-The-Shelf PSO”, Proceedings of the 2001 Workshop on Particle Swarm Optimization, pp. 1-6, Indianapolis, IN. Kevin Kelly. Out of Control: the new biology of machines. 4th Estate. 1994