Réseaux de neurones et probabilités

Slides:



Advertisements
Présentations similaires
Traitement d’images : concepts fondamentaux
Advertisements

Traitement d’images : concepts avancés
_________________________________________________________________________________________________________________________________________________________________________.
______________________________________________________________________________________________________________________________________________________________________.
Efficient Simplification of Point-Sampled Surfaces
Soutenance de thèse Lundi 12 décembre 2005
Comparaison de deux moyennes observées
3. Analyse et estimation du mouvement dans la vidéo

Échantillonnage-Estimation
Notions de variable aléatoire et de probabilité d’un événement
Corrélations et ajustements linéaires.
Les tests d’hypothèses
Modèles Impulsionnels de Réseaux de Neurones Biologiques
Programmes du cycle terminal
Mathématiques des Modèles Impulsionnels de Neurones Romain Brette INSERM U483.
Traitement de données socio-économiques et techniques d’analyse :
Modélisation en biologie
Modèles Impulsionnels de Réseaux de Neurones Biologiques
Le neurone Les neurones communiquent par impulsions électriques (potentiels d’action). Pourquoi des modèles impulsionnels ? -impulsions -> dépolarisent.
Décodage des informations
Le temps dans le calcul neuronal
MODULE - METHODES POTENTIELLES
RECONNAISSANCE DE FORMES
Plan d’expérience dynamique pour la maximisation
Introduction - Modèle Discret – Modèle Continu - Algorithmes - Conclusion
Signaux aléatoires.
Chapitre 6 Lois de probabilité.
Méthodes de prévision (STT-3220) Section 4 Concepts fondamentaux de séries chronologiques Version: 8 novembre 2004.
Modélisation numérique de la dynamique glaciaire
Les Neurones Structure et Fonction G.Burgess 2001
Modélisation de la topologie avec le Graphe Génératif Gaussien
Prédiction multi-step de la volatilité : le modèle ARIMA-GARCH appliqué aux séries temporelles d’affaiblissement par la pluie sur les liaisons Terre-Satellite.
Dispersion de gènes et structures génétiques spatiales
1 Algotel /05/04 Modélisation analytique des algorithmes dordonnancement GPS & WFQ BOCKSTAL Charles, GARCIA J.M. et BRUN Olivier.
Michael Esfeld Université de Lausanne
Physique quantique.
Mécanique Statistique
électroencéphalographie Estimation des conductivités in vivo
électroencéphalographie Estimation des conductivités in vivo
Extraction Automatique de formes complexes : Application à la création de modèle anatomique de la tête J. Piovano, T. Papadopoulo Séminaire Odyssee 9,
Equipe Odyssée Commune à l'ENPC, l'ENS/DI, l'INRIA (Sophia-Antipolis) Créée en Mars 2002, évaluée en Mars Trois Pôles de recherche Vision algorithmique.
Vision algorithmique Vision biologique RobotvisOdyssée Modéliser pour –Trouver des solutions pour résoudre de nouvelles problématiques dans un.
Acquis du TP précédent 4:
Filtrage de Kalman et aperçu probabiliste
Principe d`incertitude
Réseaux bayésiens: Inférence
Non-gaussianités primordiales
Homo-jonction à semi-conducteur
Distribution géographique d’un réseau de relations interpersonnelles. Pauline Dedeurwaerder Promoteur : V. Blondel MAP22.
Electrostatique- Chap.2 CHAPITRE 2 CHAMP ELECTROSTATIQUE Objectif :
Frédéric Amblard*, Guillaume Deffuant**,
Transport et thermalisation des quarks lourds (avec P.B. Gossiaux et Jörg Aichelin ) Vincent Guiho 05/07/2006QGP-France Subatech 1.
(MVT BROWNIEN, MARCHE ALEATOIRE)
Chapitre 3: Variables aléatoires réelles continues
TNS et Analyse Spectrale
TRANSFERT COUPLE DE CHALEUR ET DE MASSE
Étude de l’écoulement moyen
Théorie de Files d’Attente
Chapitre 9: Les débuts de la théorie quantique
Principales distributions théoriques
Le chaos pourquoi ? Permet de modéliser un type de mouvement récent qui n’est ni uniforme, ni accéléré. Des dynamiques chaotiques ont été mises en évidence.
Rappels sur les fonctions et les suites aléatoires
III. Dualité onde corpuscule
Traitement de la turbulence
Résolution des équations différentielles
Séries chronologiques univariées (STT-6615)
A propos du “Minimal Controllability Problem” C. Commault Département Automatique Gipsa-Lab Grenoble –FRANCE 1 Séminaire GIPSA-Lab 22 octobre 2015.
ELECTROGENESE CEREBRALE
Processus ponctuels Caractéristiques et Modèles de répartitions spatiales.
Transcription de la présentation:

Réseaux de neurones et probabilités Romain Brette Projet ODYSSEE (INRIA/ENS) brette@di.ens.fr

Réseaux de neurones et probabilités Questions de réseaux Quelle est la connectivité du cerveau? Implications fonctionnelles Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

Le neurone Les neurones communiquent par impulsions électriques (potentiels d’action). Ils reçoivent des milliers d’impulsions par les dendrites et émettent des impulsions par l’axone. Pourquoi des modèles impulsionnels ? -impulsions -> dépolarisent le potentiel -> trace bruitée -seuil -transforme trains d’impulsions en train d’impulsion

Réseaux de neurones et probabilités Questions de réseaux Quelle est la connectivité du cerveau? (« small-world »?) Implications fonctionnelles (épilepsie, oscillations) Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

Comment caractériser le graphe d’un réseau cortical? On n’a pas d’accès direct à ce graphe. Ce qu’on peut mesurer: géométrie du neurone (arbre dendritique) Cellule de Purkinje (mesure expérimentale) Cellule de Purkinje (description algorithmique) Distribution spatiale des voisins Ascoli et al (2001). Philos Trans R Soc Lond B Biol Sci 356, 1131-45.

Comment caractériser le graphe d’un réseau cortical? Hypothèse: positions des neurones = processus ponctuels indépendants (ex. Poisson) Morphologie dendritique → probabilité de connexion entre deux neurones (en fonction de la distance) Quel type de réseau obtient-on? (small-world?)

Complications Quelques difficultés: Il y a plusieurs types de neurones, avec des morphologies et des cibles spécifiques Une région corticale est typiquement organisée en couches Les positions des neurones ne sont pas indépendantes (e.g., on ne peut pas avoir deux neurones arbitrairement proches) Densité des contacts synaptiques le long des branches? Shepherd et al (2005). Nature Neurosci 8, 782-790

Réseaux de neurones et probabilités Questions de réseaux Quelle est la connectivité du cerveau? (« small-world »?) Implications fonctionnelles (épilepsie, oscillations) Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

Quelles sont les implications de la géométrie du réseau? Exemple 1: oscillations rapides dans un réseau aléatoire Graphe aléatoire à connectivité faible (1-3%), neurones type « Intègre-et-Tire » décharge irrégulière oscillation globale rapide N. Brunel (2000). J Physiol (Paris) 94, 445-463 Qu’obtient-on avec un graphe plus réaliste?

Quelles sont les implications de la géométrie du réseau? Exemple 2: comportement épileptique d’un réseau « small-world » Le réseau a une dynamique de type « épileptique » (forte activité synchrone) quand la proportion de connexions longue-distance est élevée. Résultats numériques uniquement Netoff et al (2004). J Neurosci 24, 8075-8083

Réseaux de neurones et probabilités Questions de réseaux Quelle est la connectivité du cerveau? Implications fonctionnelles Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

Modèles de neurones « Intègre-et-Tire »: Intégration synaptique: ¿ d V = ¡ + R I ( ) V(t-) = seuil → V(t+) = V0 poids synaptique Intégration synaptique: instantanée: courant synaptique: conductance synaptique: I ( t ) = X i ; j w ± ¡ temps de la je impulsion du neurone i I ( t ) = X i ; j w G ¡ I ( t ) = X i ; j w G ¡ E V potentiel « de réversion »

Formulation impulsionnelle Modèle simple: ¿ d V t = ¡ V(t-) = seuil → V(t+) = V0 impulsion du neurone i: V(t+)=V(t-) + wi Modèle avec courant synaptique G ( t ) = e x p ¡ ¿ s ¿ d V t = ¡ + I s V(t-) = seuil → V(t+) = V0 impulsion du neurone i: I(t+)=I(t-) + wi

Formulation impulsionnelle Formulation générale: d ~ X t = f ( ) X1(t-) = seuil → X1 (t+) = X0 impulsion du neurone i: ~ X ( t + ) = ¡ w i d ~ X t = f ( )

Réseaux de neurones et probabilités Questions de réseaux Quelle est la connectivité du cerveau? Implications fonctionnelles Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

Modèles stochastiques Les entrées sont des impulsions aléatoires (e.g. Poisson) ~ X ( t + ) = ¡ w i d ~ X t = f ( ) X1 (t-) = seuil → X1 (t+) = X0 Quelle est la distribution stationnaire de X? (Ergodicité?) Quelle est la loi des impulsions émises?

Approche classique: Fokker-Planck On suppose que les impulsions reçues sont très nombreuses: approximation de diffusion, ex.: d V = ( ¹ ¡ ) t + ¾ W et V(t-) = seuil → V(t+) = V0 Equation de Fokker-Planck + conditions de bord: @ p ( V ; t ) = ¡ ¹ + 1 2 ¾ Solution stationnaire = gaussienne par morceaux Difficile en dimension supérieure

Une approche par les systèmes dynamiques discrets Soit (tn) les temps d’impulsions reçues. On suppose par ex. wi = w et (tn) = processus de Poisson. On définit Suite (X(tn)) = orbite de X(t0) (ou: Xn → Xn+1 processus markovien) On cherche la mesure invariante pour X. ' n : ~ X ( t ) 7 ! + 1 suite d’applications i.i.d.

Réseaux de neurones et probabilités Questions de réseaux Quelle est la connectivité du cerveau? Implications fonctionnelles Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

Plasticité synaptique Le poids synaptique évolue en fonction de l’activité présynaptique et postsynaptique | | | | || | | | présynaptique w || | | | | || | | | postsynaptique tpre-tpost LTP (dw>0) LTD (dw<0) Impulsion présynaptique avant postsynaptique: dw>0 Impulsion présynaptique avant postsynaptique: dw<0

Dynamique des poids synaptiques Entrées poissonniennes indépendantes: Les poids évoluent vers une distribution bimodale concentrée sur les valeurs limitantes ([0,wmax]) | | | | || | | | || | | | | || | | | | | | || || | … w1 w2 w3 w1000 Song & Abbott (2001) Neuron 32, 339-350

Un modèle simple Intègre-et-Tire + LTP/LTD Formulation impulsionnelle: V t = ¡ ¿ L T P u i 8 2 f 1 ; : n g D r u i ! + ® ( > ) w m n ; a x impulsion présynaptique (de l’entrée i): V ! r + ¯ ( < ) 8 i ; w m a x impulsion postsynaptique (V>seuil):

Réseaux de neurones et probabilités Questions de réseaux Quelle est la connectivité du cerveau? Implications fonctionnelles Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

Approche mathématique Système impulsionnel à n+2 variables ~ X ! + f ( w i ; ) i d ~ X t = A s i X 1 = e u l : ~ ! g ( ) On définit: ' n : ( ~ X ; w ) t 7 ! + 1 suite d’applications i.i.d. Implicitement, dépend de l’étiquette i de l’impulsion en tn (uniformément distribuée) et de l’intervalle (tn+1-tn) (exponentiellement distribué) ' n

Questions associées Distributions marginales stationnaires des wi Ergodicité Limite Plus loin: autres lois de plasticité (ex. dw est proportionnel à w) entrées corrélées / impulsions non poissonniennes n ! + 1 e t ® ; ¯ ¼ =

Réseaux de neurones et probabilités Questions de réseaux Quelle est la connectivité du cerveau? Implications fonctionnelles Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

Qu’est-ce que la synchronisation neuronale? pas une synchronisation exacte individuellement, les trains d’impulsions ressemblent à des réalisations de processus de Poisson La fonction de corrélation entre deux trains peut ressembler par ex. à ceci: N. Brunel (2000). J Physiol (Paris) 94, 445-463

Comment générer des trains corrélés? Comment générer n trains d’impulsions tels que: individuellement, chaque train d’impulsions est poissonnien (intensité donnée) la distribution jointe est invariante par permutation la fonction de corrélation entre deux trains est donnée Le problème est-il bien défini? (en particulier: quelles contraintes sur la fonction de corrélation?)

Une idée utilisant des processus stochastiques On considère (n+1) mouvements browniens indépendants W0(t) … Wn(t). On définit n processus d’Ornstein-Ulhenbeck avec seuil (= Intègre-et-Tire + bruit): ¿ d V i = ¡ t + ® W ¯ 1 ! (impulsion émise) Propriétés: distribution jointe invariante par permutation impulsions émises « presque poissonniennes » pour  petit degré de corrélation réglé par (α,β) β =0: synchronisation parfaite α =0: trains d’impulsions indépendants

Une idée plus générique On considère un processus stochastique x(t) d’autocorrélation donnée (ex. Ornstein-Ulhenbeck) On génère n trains d’impulsions comme des réalisations d’un processus de Poisson inhomogène d’intensité x(t). Propriétés: distribution jointe invariante par permutation corrélation par paire correcte (?) quelle est la loi des trains d’impulsions individuels? que faire si x(t)<0 ? x(t)

Quel processus régit l’entrée synaptique totale? On considère n trains d’impulsions convergeant sur un neurone | | | | || | | | || | | | | || | | | | | | || || | … g ( t ) = X i ; j G ¡ neurone i impulsion j ex.: G ( s ) = £ e x p ¡ ¿ Trains poissonniens indépendants → « shot noise » limite n → (ici): g(t) = Ornstein-Ulhenbeck Trains corrélés → ? union des trains = Hawkes?

Réseaux de neurones et probabilités Questions de réseaux Quelle est la connectivité du cerveau? Implications fonctionnelles Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale