La présentation est en train de télécharger. S'il vous plaît, attendez

La présentation est en train de télécharger. S'il vous plaît, attendez

Introduction. Réseau de neurones artificiel? Abstraction du système nerveux humain – Traitement parallèle de linformation Par opposition à un automate.

Présentations similaires


Présentation au sujet: "Introduction. Réseau de neurones artificiel? Abstraction du système nerveux humain – Traitement parallèle de linformation Par opposition à un automate."— Transcription de la présentation:

1 Introduction

2 Réseau de neurones artificiel? Abstraction du système nerveux humain – Traitement parallèle de linformation Par opposition à un automate sériel comme un ordinateur – Capacité dapprentissage et dadaptation Principe de traitement très simples et identiques pour tous les éléments Mais comportement de groupe complexe! Applications – Résolution de problèmes difficiles – Modélisation biologique

3 Réseau de neurones biologique Quand un pigeon devient expert en art! (Watanabe et al. 1995) – Experience : Pigeon dans une boîte de Skinner Exposition aux tableaux de deux artistes (Chagall / Van Gogh) Récompense pour bec à la vue dun tableau de lun des artistes (e.g. Van Gogh)

4

5 Les pigeons utilisés ont pu distinguer Van Gogh de Chagall avec 95% de précision pour les tableaux dentraînement Précision de 85% pour les tableaux non vus auparavant! Mémoire oui, mais aussi – Identification de traits essentiels et/ou généralisation – Pas dusage apparent dun processus réfléchi – Force majeure des réseaux de neurones! (artificiels et biologiques)

6 Les réseaux de neurones artificiels Opèrent par apprentissage et non programmation Une fois présentés avec des stéréotypes de comportement à apprendre, peuvent généraliser. – Ex: Reconnaître des images partielles après avoir appris des images complètes. Troquent le traitement séquentiel familier pour un traitement parallèle de linformation

7 Quelques domaines dapplication Reconnaissance de formes – (ex. : détection de cellules cancéreuses) Régulation de processus industriels – (ex. : dosage dingrédients) Pilotage automatique de véhicules automobiles Reconnaissance de la voix et de lécriture manuscrite Interprétation de la parole et du texte écrit Prédiction boursière/environnementale Amélioration des moyens de trucider le voisin!

8 Catégorisation des domaines Classification Regroupement/Catégorisation Approximation de fonctions Prévision/prédiction Optimisation (plus court chemin, routage, etc.) Mémoires adressables par contenu Automatique

9 Niveaux de traitement dans le système nerveux central humain Molécules 0.1 m Synapses 1 m Neurones 100 m Réseaux locaux 1mm Régions 1cm Sous-Systèmes 10cm SNC 1m

10 RNA 101 Un réseau de neurones artificiels (RNA) incorpore Les deux composants fondamentaux dun rèseau de neurones biologique: 1. Neurones (noeuds) 2. Synapses (poids)

11 Circuits locaux dans le cortex visuel LGN inputs Cell types

12 Neurone biologique Sortie impulsive : 1 – Le neurone répond 0 – Le neurone ne répond pas (Sans nécessairement être inactif)

13 Synapse biologique Agent principal du comportement neuronal Connexion typique le long dun arbre dendritique Force de connexion variable + ou - Plasticité à court terme Utilisation de mécanismes électrochimiques Origine corrélationnelle?

14 Types de synapses Électrique (rare) 3.5 nm pré-post distance Continuité cytoplasmique (e.g. muscle cardiaque, capteurs sensoriels) Courant ionique Propagation instantanée Transmission bidirectionnelle Chimique nm pré-post distance Discontinuité cytoplasmique Vésicules présynoptiques et récepteurs postsynaptiques Transmetteur chimique Délai synaptique.3 ms Transmission unidirectionnelle

15 Synapse dendritique

16

17 TransmitterChannel-typIon-currentAction Acetylecholinnicotin. Receptor Na + and K + excitateur GlutamateAMPA / Kainate Na + and K + excitateur GABAGABA A -ReceptorCl - inhibiteur GlycineCl - inhibiteur Acetylecholinmuscarin. Rec. -metabotropic, Ca 2+ Release Glutamate NMDA Na +, K +, Ca 2+ Dépend de la tension bloqué au potentiel de repos Neurotransmetteurs

18 Synaptic Plasticity

19 Plusieurs types – Amino Acides : Glutamate, GABA – Amines biogéniques : Dopamine, Histamine – Neuropeptides … LHRH, Proctolin – Endorphines, acetylcholine, etc. NMDA, GABA A sonr frèquents au niveau des récepteurs Certains sont excitateurs et d`autres inhibiteurs Neurotransmetteurs

20 Synapse excitatrice vs. inhibitrice

21 Exemples de sommations dendritiques

22 De lentité biologique au modèle Neurone -> Nœud Synapse -> Arc pondéré

23 Modélisation simplifiée Entrée Poids synaptiques Sommateur linéaire Fonction dactivation État interne v Sortie y x1x1 x2x2 xmxm w2w2 wmwm w1w1 w0w0 x 0 = +1 Biais Hypothèses : Synapses synchrones Pas de pertes Sortie non impulsive

24 24 Fonctions dactivation communes Linformation de phase est perdue Plusieurs fonctions existent Lefficacité dépend de lapplication Simplifications des séquences dimpulsions La fréquence des impulsions remplace linformation individuelle

25 Fréquence des impulsions biologiques La valeur moyenne dépend de plusieurs facteurs – Pertes (leakage), saturation, sources de bruit Généralement modelé avec une fonction sigmoïde

26 Réside dans la présence et la force des connexions inter-neuronales (synapses), mais : – Différents types de neurones – Différents types de topologies de réseaux Comment trouver les bons poids? savoir du réseau

27 Plasticité synaptique

28 Les facteurs clès sont lactivitè prèsynaptique, la depolarisation post synaptique et lentree de calcium à travers des récepteurs specialisés Plasticité synaptique

29

30 Potentiation et dépression à long term (LTP et LTD) Stimulation de 1 s à haute fréquence (100Hz) (montre aussi l.effect de lendroit de stimulation sur larbre dendritique) Stimulation de 15 min à basse fréquence (1 Hz) Modèle simplifié à un produit de sorties dans les RNA Cependant, ne rend pas compte de la causalité temporelle des événements pré et post synaptiques.

31 Spike-timing Dependent Synaptic Plasticity (STDP) From Bi and Poo J. Neurosci. 18, (1998) La précédence des impulsions pré et post synaptiques influe sur la plasticité synaptique. Plus conforme à la règle de Hebb (ajout de la causalité temporelle) Popularité ascendante dans les modèles artificiels

32 Topologies de base En général, les réseaux récurrents utilisent des règles dapprentissage dinspiration biologique et les réseaux multicouches des règles tirées de lingénierie

33 Taxonomie +BSB, BAM, etc.

34 Capacité de classification dun PMC

35 Pourquoi aller aussi loin ? Un modèle simple de mémoire associative : 1.On part de/forme un ensemble orthogonal de vecteurs {x i } à mémoriser 2.On définit lensemble des vecteur-réponses désirés {y i } 3.On calcule la matrice 4.La fonction de rappel dun stimulus quelconque x est alors: Ça fonctionne, non? Oui, mais que se passe-t-il lorsque les entrées sont corrélées, bruitées ou non linéairement séparables ?


Télécharger ppt "Introduction. Réseau de neurones artificiel? Abstraction du système nerveux humain – Traitement parallèle de linformation Par opposition à un automate."

Présentations similaires


Annonces Google