Modélisation bayésienne de la perception et de l’action Julien Diard Laboratoire de Psychologie et NeuroCognition – CNRS UE Cognition bayésienne 24/11/2009 http://diard.wordpress.fr Julien.Diard@upmf-grenoble.fr

Plan Modélisation bayésienne de la perception Introduction à la perception multi- Perception visuo-haptique (Ernst & Banks, 02) Causal Inference (Körding et al., 07) Questions ouvertes Modélisation bayésienne de l’action Introduction au contrôle moteur Modèle de minimum variance Modélisation de la perception et de l’action: boucles sensorimotrices Exemple : modélisation de l’écriture

Plan Modélisation bayésienne de la perception Introduction à la perception multi- Perception visuo-haptique (Ernst & Banks, 02) Causal Inference (Körding et al., 07) Questions ouvertes Modélisation bayésienne de l’action Introduction au contrôle moteur Modèle de minimum variance Modélisation de la perception et de l’action: boucles sensorimotrices Exemple : modélisation de l’écriture

Modélisation de la perception multi- Intramodale : multi-indice Multimodale : multi-sensorielle Modèle de pondération linéaire (Lambrey, 2005)

Modèle de pondération sensorielle

Modélisation de la perception Un problème inverse (Poggio, 1984) Modèle bayésien Inversion + hypothèse d’indépendance conditionnelle

Proprioception (Laurens, 08) Vision Perception des plans : préférence pour des plans rigides, de stationnaires (Colas, 06) Perception des formes (revue de Kersten et al., 04) : préférence pour les objets convexes préférence pour des lumières venant du haut, stationnaires préférence pour un point de vue situé au dessus de la scène Proprioception (Laurens, 08)

Fusion multi-sensorielle Fusion multi-indices Haptique : géométrie et force (Drewing & Ernst, 06) Vision (Kersten et al., 04) Fusion multi-sensorielle Visuo-haptique (Ernst & Banks, 02) Visuo-acoustique Localisation de sources (Alais and Burr, 04, Battaglia et al., 03; Körding et al., 07, Sato et al., 07) effet McGurk Reconnaissance de voyelles (Gilet, 06)

Plan Modélisation bayésienne de la perception Introduction à la perception multi- Perception visuo-haptique (Ernst & Banks, 02) Causal Inference (Körding et al., 07) Questions ouvertes Modélisation bayésienne de l’action Introduction au contrôle moteur Modèle de minimum variance Modélisation de la perception et de l’action: boucles sensorimotrices Exemple : modélisation de l’écriture

Nature, 429–433, 2002

Humans integrate visual and haptic information in a statistically optimal fashion Mécanisme d’integration visuo-haptique par fusion de gaussiennes Utilisé par les humains

Plan Protocole expérimental Modèle bayésien de fusion capteurs Comparaison du modèle au données

Matériel expérimental Conflit visuo-haptique de perception des longueurs Modèle dominant : MLE Ernst et al. (2002, Nature) MLE : cas particulier de la superposition des cartes bayésiennes Limites mathématiques Apprentissage affecte la précision de chaque modalité mais pas l’opérateur de fusion Conséquence Indépendance des facteurs antérieurs aspects dynamiques, action pour la perception consignes, attention Question Opérateur de fusion est-il cognitivement pénétrable ? Hypothèse vision non pénétrable, haptique oui modulable par l’expérience, opérateur inné ?

Stimuli visuels

Stimuli et tâche 4 niveaux de bruit visuel : 0% 67% 133% 200% 1 niveau haptique 1 s de présentation Tâche de choix forcé laquelle de ces deux barres est la plus grande ?

Cas mono-modal

Integration visuo-haptique Comparison stimulus visual and haptic heights equal vary in 47-63 mm Standard stimulus visual and haptic heights differ Δ = {±6 mm, ±3 mm, 0} mean is 55 mm

Integration visuo-haptique 0%

Integration visuo-haptique 0% 67%

Integration visuo-haptique 0% 67% 133%

Integration visuo-haptique 0% 67% 133% 200%

Plan Protocole expérimental Modèle bayésien de fusion capteurs Comparaison du modèle au données 22

Modèle bayésien de fusion « naïve » 23

Modèle bayésien de fusion « naïve » 24

Modèle bayésien de fusion « naïve » Estimateur de maximum de vraisemblance Par opposition à Bayésien « Statistiquement optimal » Moindre variance : 25

Plan Protocole expérimental Modèle bayésien de fusion capteurs Comparaison du modèle au données 26

Quelles gaussiennes ? Choix d’une gaussienne parmi 2 T = 0.085 x 55 mm Choix d’une gaussienne parmi 2 Point d’égalité subjective PSE : moyenne Seuil de discrimination 0.04 x 55 mm 27

Integration visuo-haptique Comparison stimulus visual and haptic heights equal vary in 47-63 mm Standard stimulus visual and haptic heights differ Δ = {±6 mm, ±3 mm, 0} mean is 55 mm

Integration visuo-haptique 0% 67% 133% 200%

Comparaison modèle - données 0% 67% 133% 200%

Moyennes prédites - observées 31

Variances prédites - observées JND 32

Questions, critiques ?

Plan Modélisation bayésienne de la perception Introduction à la perception multi- Perception visuo-haptique (Ernst & Banks, 02) Causal Inference (Körding et al., 07) Questions ouvertes Modélisation bayésienne de l’action Introduction au contrôle moteur Modèle de minimum variance Modélisation de la perception et de l’action: boucles sensorimotrices Exemple : modélisation de l’écriture

Perception audio-visuelle Effet ventriloque (Alais and Burr, 2004)

Causal inference (Körding et al., 07) Modèle à 1 source, modèle à 2 sources Intégration sur s, sA, sv, C

Données expérimentales

Pour chaque sujet Calcul des paramètres sur la moitié des données : R2 = 0.98 Validation croisée sur l’autre moitié : R2 = 0.96

Modèle sans sommation sur C (tirage du C le plus probable) Modèle sans alternative à 2 sources : P(C=1) = 1 Modèle sans alternative à 1 source : P(C=2) = 1

Plan Modélisation bayésienne de la perception Introduction à la perception multi- Perception visuo-haptique (Ernst & Banks, 02) Causal Inference (Körding et al., 07) Questions ouvertes Modélisation bayésienne de l’action Introduction au contrôle moteur Modèle de minimum variance Modélisation de la perception et de l’action: boucles sensorimotrices Exemple : modélisation de l’écriture

Question ouverte De nombreux exemples d’application du modèle de fusion Limite de validité du modèle ? Valeur d’un modèle qui s’applique partout ?

Plan Modélisation bayésienne de la perception Introduction à la perception multi- Perception visuo-haptique (Ernst & Banks, 02) Causal Inference (Körding et al., 07) Questions ouvertes Modélisation bayésienne de l’action Introduction au contrôle moteur Modèle de minimum variance Modélisation de la perception et de l’action: boucles sensorimotrices Exemple : modélisation de l’écriture

Modélisation du contrôle Mouvements de pointage, volontaire, chez l’humain Etude des régularités Lois du mouvement Hypothèses sur les mécanismes Modèles (neuro)cognitifs

3 lois Isochronie Loi de Fitts Loi de la puissance 2/3

Tâche : Saisie d’un cylindre à différentes distances (40,32,25) Palluel-Germain, 08 L’Isochronie : la durée du mouvement reste stable quelque soit l’amplitude du mouvement Ex : Saisie (Jeannerod 1984) Vitesse (cm/s) Tâche : Saisie d’un cylindre à différentes distances (40,32,25) Résultats : Temps similaire/augmentation de la vitesse Durée (ms) La durée du mouvement semble fixée à l’avance

Cible de taille W à une distance D

Loi de puissance de 2/3 V(t) = K * R(t) 1-β K = gain de vitesse V(t) = vitesse du mouvement R(t) = rayon de courbure 1-β = 1/3

Modèles de planification de mouvements Sélection d’une trajectoire selon un coût

Observations Les trajectoires de la main sont invariantes et quasiment rectilignes quelles que soit les positions initiales et terminales du mouvement et s’accompagnent toutes d’un profil de vitesse en cloche. Au contraire, lorsque les mouvements sont décrits selon leur trajectoire articulaire une grande variabilité est observée

Espaces de contrôle Planification intrinsèque Espace articulaire Planification extrinsèque Espace cartésien

Modèle d’interpolation linéaire dans l’espace articulaire Changement angulaire des articulations Trajectoire observée D’après Hollerbach & Atkeson (1986)

Modèle d’interpolation linéaire dans l’espace articulaire β α

Espace de travail Minimisation des dérivées de l’endpoint n=2 minimum acceleration n=3 minimum jerk n=4 minimum snap

Minimum jerk Prédit des segments droits Pas observés pour des mouvements de grande amplitude Lacquaniti et al. (1986)

Espace des couples moteurs Minimisation des couples zi générés à chaque articulation

Minimum variance Bruit dépendant du signal (signal dependent noise SDN)

Plan Modélisation bayésienne de la perception Introduction à la perception multi- Perception visuo-haptique (Ernst & Banks, 02) Causal Inference (Körding et al., 07) Questions ouvertes Modélisation bayésienne de l’action Introduction au contrôle moteur Modèle de minimum variance Modélisation de la perception et de l’action: boucles sensorimotrices Exemple : modélisation de l’écriture

Modélisation bayésienne d’une boucle sensorimotrice : application à l’écriture

Plan Modélisation bayésienne de la perception Introduction à la perception multi- Perception visuo-haptique (Ernst & Banks, 02) Causal Inference (Körding et al., 07) Questions ouvertes Modélisation bayésienne de l’action Introduction au contrôle moteur Modèle de minimum variance Modélisation de la perception et de l’action: boucles sensorimotrices Exemple : modélisation de l’écriture

Questions ouvertes Modélisation bayésienne de boucles sensorimotrices  Vraiment ?

Boucle ouverte force State change Motor commands muscles Body part

Measured sensory consequences Motor commands force State change muscles Body part Integration Sensory system Proprioception Vision Audition Measured sensory consequences Vitesse Tps Boucle fermée

Measured sensory consequences Motor commands force State change muscles Body part Integration Sensory system Proprioception Vision Audition Measured sensory consequences 100 ms 40 ms ??? 65

What we sense depends on what we predicted force State change Motor commands muscles Body part Integration Belief Sensory system Proprioception Vision Audition Measured sensory consequences Predicted sensory consequences Forward model What we sense depends on what we predicted

Expérience de saisie Expérience d’auto chatouillage

Modélisation d’une boucle sensorimotrice Apprentissage = passage d’une boucle fermée à une boucle ouverte ?

Une boucle vs. des boucles Hiérarchie de boucles Constantes de temps Apprentissage hiérarchique

Merci de votre attention ! Questions ?