Méthodes numériques d’Intelligence Artificielle Cours de 5ème polytech Hugues Bersini + IRIDIA

Introduction et plan du cours Qu’est ce que l’IA ?? C’est le domaine de l’informatique qui étudie comment faire faire à l’ordinateur des tâches pour lesquelles l’homme est encore aujourd’hui le meilleur C’est donc une investigation à visage humain qui inclut dans son champ d’étude tous les processus mentaux et moteurs humains: Perception, motricité, langage, créativité,apprentissage,raisonnement, émotion Cette définition ne résoud pas la tension existante entre l’IA comme sciences cognitives et l’IA comme science de l’ingénieur. Ces deux visions s’influencent et s’alimentent mutuellement.

C’est une définition opérationnelle C’est une définition opérationnelle. Les performances doivent s’observer  Le test de Turing Est-ce suffisant ?? Eliza, Searle, la chambre chinoise C’est une définition évolutive. L’IA d’aujourd’hui n’est ni l’IA d’hier ni celle de demain. L’IA symbolique: systèmes experts, base de connaissance, représentation, frame, scripts, les logiques, résolution de problèmes, plannification,… Aujourd’hui, le retour à une IA de type biologique: réseaux de neurones, robotique, apprentissage par renforcement, algorithmes génétiques,… IA distribuée, multi-agents, intelligence collective, émergente

Bref historique 1956 – naissance de l’expression « Intelligence Artificielle » à la conférence de Dortmouth Avant Dortmouth: les courants dominants pour comprendre l’intelligence: La neurophysiologie: Mc Culloch, Rosenblat, Von Neuman  intelligence = hardware neuronal sophistiqué, parallèle, adaptatif La cybernétique: Wiener, Von Foester, Van Bertanlanfy. La systémique, la science du comportement moteur  feedback et théorie du contrôle Le behaviorisme en psychologie: Watson, Skinner, apprentissage par renforcement, conditionnement, « reward, punishment » Mais un petit ilot de resistance symbolique: Boole (les lois de la pensée), Turing (la machine de Turing, la définition opérationnelle de l’IA), Gödel et l’incomplétude et la théorie de l’information de Shannon

A Dortmouth: Newell et Simon présente le GPS qui démontre des théorèmes logiques Samuel présente un logiciel capable d’apprendre à jouer aux échecs Grand enthousiasme pour l’automatisation des jeux Mc Carthy présente le langage LISP pour la manipulation symbolique et propose l’expression: Intelligence Artificielle Minsky critique très virulamment l’approche neuronale dans un livre intitulé le « perceptron » La psychologie redécouvre le « cognitivisme » en alternative au « behaviorisme » avec des auteurs comme William James, Bartlett et Jean Piaget:  Poussée très forte du « symbolisme »

Naissance de l’IA symbolique Le support matériel de l’intelligence n’est pas important Il suffit d’un système capable de manipulations symboliques: qu’il soit neuronal ou en sillicium, c’est la logique de fonctionnement qui compte et non la matérialisation de cette logique L’intelligence est logique et déductive L’IA devient essentiellement axèe sur la représentation et le traitement des connaissances et développe ses systèmes à partir d’un principe fondamental: Un système intelligent = Un moteur de raisonnement universel appliqué sur des connaissances diverses ( propres à l’application)  Systèmes experts, Prolog, représentation des connaissances, logique classique et non classique ..

the water jugs The problem: There are two jugs of water but with no indication on quantity. One has a maximal capacity of four litres, the other of three litres. How to exactly get two litres in the four litres jug. How to resolve it: First describing the states: (x,y) The initial state is (0,0) and the final one (2,n) Then a set of operators allowing to evolve the world:

The set of operators (x<4,y) (4,y) fill up the first (x,y<3) (x,3) fill up the second (x>0,y)(0,y) empy the first (x,y>0)(x,0) empty the second (x+y>4,x<4)(4,y-(4-x)) fill x with part of y (x+y>3,y<3)(x-(3-y),3) fill y with part of x (x+y<4,y>0)(x+y,0) empty y in x (x+y<3,x>0)(0,x+y) empty x in y

The inferential engine Find the operators that can be applied: their pre-conditions need to match the current state of the world Select one  the control strategy: In depth or in width, with heuristics or not Avoid looping Be able to backtrack Do that iteratively until to find the final state The solution in a planning problem is the sequence of operators. Often the shortest if you find several solutions.

Operators (0,0) 2 (0,3) 7 (3,0) 2 (3,3) 5 (4,2) 3 (0,2) 7 (2,0)

Les jeux et la stratégie min-max

Années 80 et les pierres d’achoppement L’homme n’est pas qu’un cerveau pensant désincarné et « sorti » du monde Sa pensée et un processus actif, participatif, dans ses interactions au monde. La pensée prend souvent naissance dans un blocage comportemental, une rupture motrice innatendue. L’homme est d’abord agissant, interagissant puis pensant, dans son quotidien, dans sa vie et aussi dans « l ’histoire de l’évolution ». La naissance des représentations est fortement ancrée dans les mécanismes sensori-moteurs ayant lieu dès la naissance et sont fortement conditionnés par ceux-ci. Il est difficile de capturer tout le sens d’un concept sans une mise en pratique de ce concept ou de l’objet que ce concept désigne Se limiter aux seules facultés cognitives est soit une voie tronquée mais possible ou, pour les plus radicaux, une voie impossible

Réveil du neuronal, de la cybernétique, du biologique et du behaviorisme Retour de l’IA d’avant Dortmouth Comprendre les interactions sensori-motrices au monde n’est possible qu’au prix d’une meilleur compréhension de nos « interfaces biologiques » A commencer par le support matériel des ces interfaces Ce support biologique a des aspects intrinsèques qui rendent ces interactions possibles: Parallèlisme Emergence: la coopération de multiples processus simples peut engendrer à un nouveau niveau d’observation des fonctionnalités « émergentes » intéressantes Apprentissage: la complexité de ces systèmes est tel qu’ils doivent pouvoir se cabler ou se coder d’eux même en résultat à leur fonctionnement.

Les nouveaux courants Réseaux de neurones Informatique évolutionniste: algorithme et programmation génétique Robotique autonome Robotique animale Apprentissage par renforcement Vie artificielle Intelligence collective Simulations biologiques

De nouvelles pratiques ingéniéristes Réseaux de neurones: data mining, traitement du signal, régulation non-linéaire Informatique évolutionniste: optimisation réelle et combinatoire, programmation automatique, créativité artistique Robotique autonome: robotique plus réaliste, dans un environnement moins contraint Intelligence collective: meilleures solutions, plus simples à mettre en œuvre pour des problèmes complexes (beaucoup d’acteurs, non-stationnaire)

Examples of reinforcement learning For planning a reinforcement learning can discover the sequence of actions by trial-and-error Perceptions Actions Environment

Learning Autonomous Agent Perceptions Actions Environment

Learning Autonomous Agent Delayed Reward Perceptions Actions Environment

Learning Autonomous Agent Delayed Reward New behavior Perceptions Actions Environment

Le neuronal

Contenu du cours Introduction à la vie artificielle Apprentissage par renforcement Réseaux de neurones et réseaux biologiques Régulation floue Neuronal, flou ou lazy en identification et régulation adaptative Informatique évolutionniste Robotique autonome Intelligence collective Biologie et chimie artificielle

Introduction à la vie artificielle

La vie artificielle: Définition Reproduire dans des substrats artificiels (logiciels et robotiques) des mécanismes inhérents au vivant, à des fins: De biologie théorique -> reproduire le vivant Ingéniériste -> s’inspirer du vivant Une vision essentiellement dématérialisée, fonctionnelle, du vivant.

A qui s’adresse-t-elle ? Philosophe Ingénieur Biologiste Chimiste Physicien Vie artificielle Le joueur Et l’enseignant Prédiction quantitative Prédiction qualitative Interpeler

Ce n’est pas de la bioinformatique !! La biologie et l’informatique ont toujours fait bon ménage: BioInformatique: séquençage, comparaison de séquence, prédiction de la structure 3D des protéines, data mining sur les microarrays… La Vie Artificielle, ce n’est pas l’informatique qui va à la bio mais l’inverse: la bio à l’informatique

La biologie et l’informatique se ressemble Ils fonctionnent à différents niveaux d’abstractions Au niveaux ultimes, les mécanismes doivent être simples Ils ont une possibilité infinie d’essais et d’erreurs Ils utilisent la « force brute » pour faire émerger ou trouver des solutions complexes.

Les différents niveaux d’abstraction

Simplicité et force brute

D’où vient-t-elle ?? Une incapacité de l’IA classique à traiter l’interface de la cognition au monde sans s’intéresser à la biologie. L’intérêt pour le monde du non-linéaire, des processus émergents, de l’auto-organisation Des mécanismes inspirés de la biologie. Un « come back » de la cybernétique et systémique des années 50. De Santa Fe, 1ère conférence Alife 1988 A Paris premier ECAL – 1991 et Bruxelles 1993.

IA VA

ECAL 2003 (European Conf. On Arti. Life) A universal framework for self-replication How to program artificial chemistry Conservation of genetic information with string-based artificial chemistry Group selection in artificial ants Neural nets for developmental agents Immune networks Growth of virtual plants Damage recovery of robot muscles Evolution of fault-tolerant self-replication structures Simulation of the Baldwin effect Conditions for stable vowels in a population Simulation of langage games Mesuring the dynamics of artificial evolution Generic model of ecosystems.

Des simulations de: auto-réplication et évolution darwinienne dynamique et apprentissage neuronaux écosystèmes sociétés animales: fourmis, abeilles, réacteurs chimiques et protocells réseaux biologiques: neuronaux, immunitaires, génétiques, … origine du langage

Toujours un tiraillement entre deux perspectives La vie artificielle en tant que biologie théorique La vie artificielle en tant qu’ingéniérie

Une nouvelle forme d’ingéniérie Une ingéniérie qui affronte le complexe, à la manière du vivant, avec du simple itéré infiniment dans le temps et l’espace. Une ingéniérie qui s’adapte de manière autonome et qui accepte quelque peu de « perdre le contrôle ».

Quand elle interpelle, les 3 leçons du vivant émergence adaptation environnement

Leçon I: Emergence 1: L’émergence: ou comment des processus nouveaux (souvent complexes) apparaissent à partir de règles simples mais sous-jacentes, itérées infiniment. Les sociétés d’insecte en sont un exemple frappant (voir programme)

Des fourmis aux paquets internets A IRIDIA, Marco Dorigo et ses collègues ont proposé un algorithme de choix probabiliste, qui évolue avec la qualité des solutions générées et des heuristiques locales. Cet algo est capable d’optimiser des routes de transfert de paquet Internet de très bonne manière. Egalement, les vols d’oiseaux ou les essaims ..  Hollywood. Un nouveau dialogue entre le simple et le complexe

Les automates cellulaires, l’origine de la vie artificielle Si deux voisins sur quatre sont bleus alors je deviens rouge Le jeu de la vie Le zèbre L’auto-réplication

Le jeu de la vie for (int i = 0; i < neighbours.length; i++) { sensi += neighbours[i].oldConcentration; } if ( (oldConcentration == 1) && ( (sensi == 2) || (sensi == 3))) { newConcentration = 1; else { if ( (oldConcentration == 0) && (sensi == 3)) { newConcentration = 0;

Le zèbre – Alan Turing J1 = 1; J2 = -0.1; for (int i = 0; i < neighbours.length; i++) { sensi1 += neighbours[i].oldConcentration; } for (int i=0; i< theCells.length; i++) { for (int j=0; j< theCells[i].length; j++) { if ((computeDistance(theCells[i][j]) > 1) && (computeDistance(theCells[i][j]) <6)) sensi2 += theCells[i][j].oldConcentration; } } if ((1 + J1*sensi1 + J2*sensi2) > 0) newConcentration = 1; } else { newConcentration = 0;}}

La machine universelle

L’auto-réplicateur: Von Neuman En 1950, un génotype, un phénotype qui construit et recopie.

applications Aide à la simulation, la compréhension et la maîtrise des situations complexes: Transport Régulation biologique Régulation de systèmes distribués Propagation d ’épidémie Etude des modes de communication Simulation des vols d’oiseau (démo) Robotique distribuée (film) - …

Emergence: épistémologie L’exploitant Le système Le microscope informatique Bottom-up Top-down Ses parties La nature L’ingénieur

Leçon II: Interaction avec l’environnement Le monde est son meilleur modèle: Il faut incarner la cognition dans les processus sensori-moteurs. Les concepts naissent à partir des interactions sensori-motrices et agissent en support de celles-ci.

Applications en robotique Robotique autonome: Softbots: agent autonome sur Internet, pour profiler les utilisateurs et les aider. Pathfinder sur mars

Leçon III: apprentissage et adaptation Les systèmes doivent s’adapter de manière autonome: Réseaux de neurones Apprentissage par renforcement: Améliore des choix par feedback positif et négatif Algorithme génétique: Optimise des structures complexes par une simple note attribuée à des individus générés par mutation et recombinaison.

Algorithme génétique et Dawkins

Les biomorphes de Dawkins L’horloger aveugle

Evoluer des créatures nouvelles, voir la démo cellfish

Problème génotype/phénotype Trouver le bon codage Trouver le bon mapping Trouver le bon programme dévelopemental

Algorithmes génétiques: applications Obtention rapide et simple d’une solution très satisfaisante Optimisation de l’espace aérien Ordonnancement, horaire Problème de groupement et de répartition Optimisation réelle et combinatoire, voir la démo TSP Aide à la conception d’objet, aide à l’art.

La belle boucle La bio a inspiré un ensemble d’outils très utile à la bio Les réseaux de neurones pour les microarrays Les algorithmes génétiques pour la prédiction de la forme 3D des protéines …..

Applications a IRIDIA: réseaux de neurones et data mining Prédiction des séries financières Régulation adaptative: Moteur à injection directe, optimisation de régulateurs hybrides agissant simplement, localement  contrôle du chaos Diagnostic médical automatique Modélisation de processus complexes

Emergence Interaction environnementale Apprentissage

Conclusions Naissance d’un nouveau dialogue entre le simple et le complexe Recherche d’une simplicité, souvent dissimulée, mais dont le défrichage, uniquement possible par l’informatique, permet une meilleur compréhension et maîtrise des situations complexes Une science et une ingéniérie plus informatique, plus expérimentale, plus « hors contrôle ». L’informatique crée et cherche pour nous. Nous nous bornons à guider et à sélectionner.

autoreproduction virus Pour le philosophe: Tous ces artefacts sont-ils réellement « vivants » autoreproduction virus