Réseaux de neurones et probabilités

Présentation au sujet: "Réseaux de neurones et probabilités"— Transcription de la présentation:

1 Réseaux de neurones et probabilités
Romain Brette Projet ODYSSEE (INRIA/ENS)

2 Réseaux de neurones et probabilités
Questions de réseaux Quelle est la connectivité du cerveau? Implications fonctionnelles Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

3 Le neurone Les neurones communiquent par impulsions électriques (potentiels d’action). Ils reçoivent des milliers d’impulsions par les dendrites et émettent des impulsions par l’axone. Pourquoi des modèles impulsionnels ? -impulsions -> dépolarisent le potentiel -> trace bruitée -seuil -transforme trains d’impulsions en train d’impulsion

4 Réseaux de neurones et probabilités
Questions de réseaux Quelle est la connectivité du cerveau? (« small-world »?) Implications fonctionnelles (épilepsie, oscillations) Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

5 Comment caractériser le graphe d’un réseau cortical?
On n’a pas d’accès direct à ce graphe. Ce qu’on peut mesurer: géométrie du neurone (arbre dendritique) Cellule de Purkinje (mesure expérimentale) Cellule de Purkinje (description algorithmique) Distribution spatiale des voisins Ascoli et al (2001). Philos Trans R Soc Lond B Biol Sci 356,

6 Comment caractériser le graphe d’un réseau cortical?
Hypothèse: positions des neurones = processus ponctuels indépendants (ex. Poisson) Morphologie dendritique → probabilité de connexion entre deux neurones (en fonction de la distance) Quel type de réseau obtient-on? (small-world?)

7 Complications Quelques difficultés:
Il y a plusieurs types de neurones, avec des morphologies et des cibles spécifiques Une région corticale est typiquement organisée en couches Les positions des neurones ne sont pas indépendantes (e.g., on ne peut pas avoir deux neurones arbitrairement proches) Densité des contacts synaptiques le long des branches? Shepherd et al (2005). Nature Neurosci 8,

8 Réseaux de neurones et probabilités
Questions de réseaux Quelle est la connectivité du cerveau? (« small-world »?) Implications fonctionnelles (épilepsie, oscillations) Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

9 Quelles sont les implications de la géométrie du réseau?
Exemple 1: oscillations rapides dans un réseau aléatoire Graphe aléatoire à connectivité faible (1-3%), neurones type « Intègre-et-Tire » décharge irrégulière oscillation globale rapide N. Brunel (2000). J Physiol (Paris) 94, Qu’obtient-on avec un graphe plus réaliste?

10 Quelles sont les implications de la géométrie du réseau?
Exemple 2: comportement épileptique d’un réseau « small-world » Le réseau a une dynamique de type « épileptique » (forte activité synchrone) quand la proportion de connexions longue-distance est élevée. Résultats numériques uniquement Netoff et al (2004). J Neurosci 24,

11 Réseaux de neurones et probabilités
Questions de réseaux Quelle est la connectivité du cerveau? Implications fonctionnelles Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

12 Modèles de neurones « Intègre-et-Tire »: Intégration synaptique: ¿ d V
= + R I ( ) V(t-) = seuil → V(t+) = V0 poids synaptique Intégration synaptique: instantanée: courant synaptique: conductance synaptique: I ( t ) = X i ; j w temps de la je impulsion du neurone i I ( t ) = X i ; j w G I ( t ) = X i ; j w G E V potentiel « de réversion »

13 Formulation impulsionnelle
Modèle simple: d V t = V(t-) = seuil → V(t+) = V0 impulsion du neurone i: V(t+)=V(t-) + wi Modèle avec courant synaptique G ( t ) = e x p s d V t = + I s V(t-) = seuil → V(t+) = V0 impulsion du neurone i: I(t+)=I(t-) + wi

14 Formulation impulsionnelle
Formulation générale: d ~ X t = f ( ) X1(t-) = seuil → X1 (t+) = X0 impulsion du neurone i: ~ X ( t + ) = w i d ~ X t = f ( )

15 Réseaux de neurones et probabilités
Questions de réseaux Quelle est la connectivité du cerveau? Implications fonctionnelles Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

16 Modèles stochastiques
Les entrées sont des impulsions aléatoires (e.g. Poisson) ~ X ( t + ) = w i d ~ X t = f ( ) X1 (t-) = seuil → X1 (t+) = X0 Quelle est la distribution stationnaire de X? (Ergodicité?) Quelle est la loi des impulsions émises?

17 Approche classique: Fokker-Planck
On suppose que les impulsions reçues sont très nombreuses: approximation de diffusion, ex.: d V = ( ) t + W et V(t-) = seuil → V(t+) = V0 Equation de Fokker-Planck + conditions de bord: @ p ( V ; t ) = + 1 2 Solution stationnaire = gaussienne par morceaux Difficile en dimension supérieure

18 Une approche par les systèmes dynamiques discrets
Soit (tn) les temps d’impulsions reçues. On suppose par ex. wi = w et (tn) = processus de Poisson. On définit Suite (X(tn)) = orbite de X(t0) (ou: Xn → Xn+1 processus markovien) On cherche la mesure invariante pour X. ' n : ~ X ( t ) 7 ! + 1 suite d’applications i.i.d.

19 Réseaux de neurones et probabilités
Questions de réseaux Quelle est la connectivité du cerveau? Implications fonctionnelles Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

20 Plasticité synaptique
Le poids synaptique évolue en fonction de l’activité présynaptique et postsynaptique | | | | || | | | présynaptique w || | | | | || | | | postsynaptique tpre-tpost LTP (dw>0) LTD (dw<0) Impulsion présynaptique avant postsynaptique: dw>0 Impulsion présynaptique avant postsynaptique: dw<0

21 Dynamique des poids synaptiques
Entrées poissonniennes indépendantes: Les poids évoluent vers une distribution bimodale concentrée sur les valeurs limitantes ([0,wmax]) | | | | || | | | || | | | | || | | | | | | || || | … w1 w2 w3 w1000 Song & Abbott (2001) Neuron 32,

22 Un modèle simple Intègre-et-Tire + LTP/LTD Formulation impulsionnelle:
V t = L T P u i 8 2 f 1 ; : n g D r u i ! + ( > ) w m n ; a x impulsion présynaptique (de l’entrée i): V ! r + ( < ) 8 i ; w m a x impulsion postsynaptique (V>seuil):

23 Réseaux de neurones et probabilités
Questions de réseaux Quelle est la connectivité du cerveau? Implications fonctionnelles Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

24 Approche mathématique
Système impulsionnel à n+2 variables ~ X ! + f ( w i ; ) i d ~ X t = A s i X 1 = e u l : ~ ! g ( ) On définit: ' n : ( ~ X ; w ) t 7 ! + 1 suite d’applications i.i.d. Implicitement, dépend de l’étiquette i de l’impulsion en tn (uniformément distribuée) et de l’intervalle (tn+1-tn) (exponentiellement distribué) ' n

25 Questions associées Distributions marginales stationnaires des wi
Ergodicité Limite Plus loin: autres lois de plasticité (ex. dw est proportionnel à w) entrées corrélées / impulsions non poissonniennes n ! + 1 e t ; =

26 Réseaux de neurones et probabilités
Questions de réseaux Quelle est la connectivité du cerveau? Implications fonctionnelles Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale

27 Qu’est-ce que la synchronisation neuronale?
pas une synchronisation exacte individuellement, les trains d’impulsions ressemblent à des réalisations de processus de Poisson La fonction de corrélation entre deux trains peut ressembler par ex. à ceci: N. Brunel (2000). J Physiol (Paris) 94,

28 Comment générer des trains corrélés?
Comment générer n trains d’impulsions tels que: individuellement, chaque train d’impulsions est poissonnien (intensité donnée) la distribution jointe est invariante par permutation la fonction de corrélation entre deux trains est donnée Le problème est-il bien défini? (en particulier: quelles contraintes sur la fonction de corrélation?)

29 Une idée utilisant des processus stochastiques
On considère (n+1) mouvements browniens indépendants W0(t) … Wn(t). On définit n processus d’Ornstein-Ulhenbeck avec seuil (= Intègre-et-Tire + bruit): d V i = t + W 1 ! (impulsion émise) Propriétés: distribution jointe invariante par permutation impulsions émises « presque poissonniennes » pour  petit degré de corrélation réglé par (α,β) β =0: synchronisation parfaite α =0: trains d’impulsions indépendants

30 Une idée plus générique
On considère un processus stochastique x(t) d’autocorrélation donnée (ex. Ornstein-Ulhenbeck) On génère n trains d’impulsions comme des réalisations d’un processus de Poisson inhomogène d’intensité x(t). Propriétés: distribution jointe invariante par permutation corrélation par paire correcte (?) quelle est la loi des trains d’impulsions individuels? que faire si x(t)<0 ? x(t)

31 Quel processus régit l’entrée synaptique totale?
On considère n trains d’impulsions convergeant sur un neurone | | | | || | | | || | | | | || | | | | | | || || | … g ( t ) = X i ; j G neurone i impulsion j ex.: G ( s ) = e x p Trains poissonniens indépendants → « shot noise » limite n → (ici): g(t) = Ornstein-Ulhenbeck Trains corrélés → ? union des trains = Hawkes?

32 Réseaux de neurones et probabilités
Questions de réseaux Quelle est la connectivité du cerveau? Implications fonctionnelles Modèles de neurones Quelques modèles simples Modèles stochastiques Plasticité synaptique Un modèle simple Approche mathématique Synchronisation neuronale