Réseaux neuronaux - Architectures et algorithmes

Présentation au sujet: "Réseaux neuronaux - Architectures et algorithmes"— Transcription de la présentation:

1 Réseaux neuronaux - Architectures et algorithmes
Code UE : I-PRIM-3-9 Master informatique Nancy

2 Plan du cours Neurones à spikes/ codage fréquentiel
Auto-organisation (codage perceptif) Apprentissage supervisé (le cervelet) Mémoire associative (l’hippocampe) Apprentissage par renforcement (comportement et émotions)

3 Projets M2Pro 6 projets pour l’UE (3 RN +3 MSMA)
Présentation lors du cours n°1 Organisation: Trinôme par projet; Arbitrage: concertation entre vous, enseignants en dernier recours: Envoi d’un courriel à et Evaluation: Rapport + soutenance Semaine fin Janvier

4 Sujets des projets Équipe / Projet : CORTEX Encadrants universitaires
L’équipe CORTEX travaille sur les réseaux de neurones artificiels pour étudier les propriétés et les capacités d'un traitement automatique de l'information réalisé sur des bases distribuées, numériques et adaptatives. Nous voulons en particulier montrer qu'un tel type de traitement peut permettre la réalisation de systèmes intelligents, par la mise au point de modèles neuromimétiques. Présentation globale des projets: La dernière décade a vu apparaître de nouveaux types de neurones artificiels appelés neurones impulsionnels. Ces neurones ont un potentiel computationnel plus élevé que leurs ancêtres (les neurones à fréquence de décharge) mais ils constituent également des réseaux plus complexes et parfois difficile à appréhender. Leur maîtrise nécessite en premier lieu de reproduire les fonctionnalités réalisées avec les réseaux de la génération précédente. Nous proposons dans ce cadre 3 sujets de projets. Chacun peut être traité séparément mais le premier peut servir de base au deux suivants. Il faudra dans ce cas se mettre d'accord sur une interface entre différent projets en vue d'une future intégration. Encadrants universitaires Frédéric Alexandre, LORIA, C045, Maxime Ambard, LORIA, C040,

5 Sujet RN-1 : Le codage temporel pour la perception sensible
 A la base des 5 sens humains se situent des cellules sensibles à des informations physiques (photons, molécules...) qui possèdent des caractéristiques propres (longueur d'ondes, flux photonique, concentration moléculaire...). Les cellules sensibles convertissent ces grandeurs en trains de potentiels d'action neuronal. Une hypothèse intéressante est de considérer que l'information sur ces grandeurs n'est pas contenue uniquement dans la fréquence de décharge neuronale mais également dans le moment précis et relatif de chaque potentiel d'action. Ce projet consiste à modéliser un processus bio-vraisemblable permettant de convertir une information quantitative en une information temporelle contenue dans le moment précis de génération de potentiel d'action de neurones impulsionnels. Papier de référence : "Pattern recognition computation using action potential timing for stimulus representation". J. J. Hopfield. Nature. Volume 376. July 1995.

6 Sujet RN-2 : Comparaison entre Perceptron et Tempotron
De récents travaux ont présenté un nouveau type de réseau de neurone à spikes appelé Tempotron dont le fonctionnement et la règle d'apprentissage sont très proches de son ancêtre le Perceptron. L'utilisation du support temporel dans le codage et sa transformation en événements synaptiques en fait un système à la fois performant et simple à comprendre. Ce projet consiste à programmer un Tempotron et un Perceptron afin de comparer leurs performances en classification. Papier de Référence : "The tempotron: a neuron that learns spike timing based decisions". Robert Gütig, Haim Sompolonsky. Nature Neuroscience. Volume 9. Number 3. March 2006.

7 Sujet RN-3 : Un codage temporel pour les cartes auto-organisatrices
Les cartes auto-organisatrices (ou cartes de Kohonen) sont largement utilisées dans l'extraction de connaissances (notamment en segmentation, détection d'anomalies...). L'utilisation d'un codage temporel à base de neurones impulsionnels devrait permettre à ce type de réseau d'améliorer ses performances notamment en ce qui concerne les flux d'informations qui ont une composante temporelle intrinsèque. Ce projet consiste à adapter les mécanismes d'une carte de Kohonen pour des neurones impulsionnels et de comparer les performances obtenues avec celles d'une carte classique. Papier de Référence : "Self-orginization of spiking neurons using action potential timing". Berthold Ruf and Michael Schmitt. IEEE Transactions on neural networks. Volume 9. Number 3. May 1998.