Estimation du mouvement dans des images biomédicales Par Jenny Benois-Pineau, AIV/IS/LABRI Jenny.benois@labri.fr

Pourquoi? -Compensation du mouvement des organes lors du traitement local : thermothérapie; -Caractérisation des pathologies : rythme cardiaque; -Enregistrement des images à partir de plusieurs images dynamiques, obtenir une image statique; -Augmentation de la résolution d’images des organes « mosaÏcing » (basse résolution spatiale initiale- IRM 64x64 -> 128x128); -Interpolation des vues manquants ( basse résolution temporelle initiale – 1 -2 images /sec).

Typologie des mouvements -Mouvement intra-scan : le mouvement durant l’acquisition d’une seule image. Son effet : le flou dans l’image acquise. -Mouvement inter-scan : le mouvement apparent perçu dans le plan image entre les images acquises successivement par l’appareil d’acquisition. -Objet de notre cours : étude du mouvement inter-scan.

Quelques exemples Séquence d’origine Séquence compensée

Plan: Caractérisation du mouvement Formalisation du problème d’estimation Méthodes pel-récursives/différentielles Rappel des méthodes numériques Méthodes d’optimisation pour la recherche des extremums Méthodes d’estimation du mouvement par descente de gradient, gradient simple, gradient accéléré... Stratégies de multi-résolution Méthodes de flot optique avec la régularisation (Horn et Schunck) Calcul variationnel Estimation Itérative par la méthode de Horn et Schunk, et dérivées

Mouvement Réel – Mouvement apparent Mvt 2D réel est la projection du mouvement 3D via systèmes d’acquisition Y ZZ X Y Y ZZ X at t at t+1 Mouvement apparent “flot optique” est observé dans le plan image 2D grâce aux changements de la mesure observée “luminance”, “perméabilité” etc.

Caractérisation du mouvement Caractérisation locale P P’ t t+1 Vecteur de déplacement élémentaire Vecteur vitesse Premier niveau de caractérisation : calculer le flot optique ou le champ de déplacement

Caractérisation du mouvement Caractérisation globale P P’ t t+1 Le flot optique est conforme au modèle global dans le plan – image. Le problème alors consiste à estimer les paramètres de modèle

Modèles affines. En développant en série de Taylor de premier ordre autour de (9) Ici M Modèle affine à 6 paramètres

Modèles affines On peut exprimer =

Modèles affines

2. Formalisation du problème d’estimation du mouvement Hypothèse principal : conservation de l’intensité d’un point le long de son trajectoire. (1) Problème d’estimation est mal posé : Problème d’existance – occultation Unicité : deux composantes du déplacement : une seule équation ECMA Continuité : Estimation du mouvement est très sensible au bruit : un faible bruit peut amener aux fortes déviations.

Estimation du mouvement (2) Développant en série de Taylor autour de (x,y,t) et supposant la linéarité I(x,y,t) D’après (1) Comme alors u v Equation de contrainte du mouvement apparent (ECMA) (2)

Estimation du mouvement (3) est la composante parallèle à ,c’est à dire orthogonale au contour spatial local. (3) Une autre intérprétation Si les variables u,v sont supposées d’être indépendantes alors une seule équation est pour 2 inconnues. Solution?

Estimation du mouvement Criteria: EQM, MAD n’est jamais 0 à cause du bruit d’acquisition min min Estimation directe Estimation paramétrique

3. Méthodes pel-récursives/ differentielles Pour chaque pixel trouver un vecteur de déplacement tel que l’ensemble des ces vecteurs dans un domaine du plan- l’image D minimise un critère d’erreur « Pel –recursives » : pour chaque pixel en utilisant des méthodes d’optimisation itératives. -nous allons considérer les méthodes d’optimisation de 1er ordre ( gradient ).

4. Rappel des méthodes numériques Méthodes d’optimisation pour la recherche des extremums Condition nécessaire d’existence de l’extremum d’une fonction de plusieurs variables en : (4) Gradient de F : (4) est équivalent à Si on connaît la forme analytique de F(u), alors il s’agit de résoudre le système (4)

4.1.Méthodes d’optimisation pour la recherche des extremums Exemple trivial D’après (4) Les critères et sont difficiles à exprimer analytiquement, alors on utilise des méthodes numériques dites de « descente de gradient »

Méthodes d’optimisation du premier ordre Il faut trouver tel que ont lieu les conditions nécessaires d’extremum d’une fonction . On se déplace d’un point arbitraire vers dans la direction de la décroissance de la fonction Il faut donc « descendre » - la méthode de descente de gradient F(x) x* xk

Méthodes de descente On construit un processus itératif dans lequel Ici est le vecteur qui définit la direction de déplacement du point , est multiplieur scalaire. Pour s’approcher de il est naturel de se déplacer dans la direction de la décroissance de la fonction F(x). Si le point n’est pas le point de minimum de la fonction F(x), alors il existe une infinité des vecteurs p, qui définissent la direction de la descente. Chaque direction est définie par la condition ( pour F(x) dérivable) Ici (,) est le produite scalaire,

Méthodes de descente(2) Ceci peut être déduit des considérations suivantes. Soit En développant F(x) en Série de Taylor ( en supposant la dérivabilité de F(x) suffisamment de fois), on a (5) Ici Si alors pour les faibles d’après En choisissant la direction de descente et de diverses façons on peut construire des diverses algorithmes de minimisation.

Méthode de descente de gradient “Methode de descente la plus rapide”. Le plus facile est de choisir la direction p comme Descente dans la direction opposée au gradient Sous forme des coordonnées le processus s’exprime comme (6)

Algorithme de descente de gradient 1. Choisir la valeur la même pour toutes les itérations et fixer le point 2. Calculer 3. Tester l’inégalité (7) 4. Si (7) est vérifié alors sinon en pratique Tant que (7) n’est pas satisfait. 5.Réitérer 2 jusqu’à stabilité ou NbrItérationsMax

Méthode de descente de gradient Pourquoi (7) est satisfait? Théorème. Si une fonction est minorée, son gradient satisfait la condition de Liepschitz Quelque soient et le choix de s’effectue de façon décrite, alors quelque soit le point initial on a pour le processus lorsque Illustration F(x) x* xk trop petit et trop grand

4.2.Méthodes d’estimation du mouvement par descente de gradient 1. Méthode de Netravali-Robbins La méthode de descente : (8) Développement (9) (10)

Méthode de Netravali-Robbins(2) Finalement d’après (8), (9),(10) (11) Méthode fondamentale Expression en coordonnées

Méthodes de descente de gradient accélérée (1) Accelération de Netravali –Robbins (12) T.A! (2) Accélération de Benois-Pineau /Pshenichny& Daniline Calculer Tant que (13) FTq

Méthodes de descente de gradient accélérée Illustration géométrique E(d) dk0 Sans recalculer le gradient

Méthodes d’estimation du champ dense basées sur la descente de gradient(suite) 1. Méthode de Walker-Rao Principe : le pas adaptatif à l’image dans le voisinage d’un contour. (Là où le gradient est fort on diminue le pas) Le gain devient adaptatif

Méthode de Walker –Rao (2) Accélération Euristique 1). Si , alors (Fin d’estimation) 2) Si et , alors (on ne peut rien estimer sur une zone plate) 3) Si alors (calcul en arithmétique binaire) 4) Si alors

Méthode de Cafforio-Rocca Descente avec le gain adaptatif (14) L’ajout du terme correctif permet d’éviter la division par 0 dans des zones plates. Nombre d’itérations dans les méthodes à pas adaptatif : <5

Mise en œuvre sur les images numériques(1) Deux problèmes : (a) Calcul du gradient sur les images discrètes (b) La nécessité d’interpoler aux coordonnées non-entières (a) Plusieurs solutions. Calcul du gradient par l’opérateur de Sobel x y

Mise en œuvre sur les images numériques(2) (b) Interpolation du champs de gradient Interpolation bi-linéaire séparable (15) P2 P4 P(x,y) P1 P3

Méthode de gradient conjuguée(1) Considérons une fonction scalaire Le développement en série de Taylor jusqu’à 2nd ordre : Ou (16) (forme quadratique) Alors la fonction est approximée par une forme quadratique

Méthode de gradient conjuguée(2) La matrice H est appelée la matrice “Hessian” H est symétrique car si les dérivées « mixtes » sont continues , elles sont égales Le gradient de la forme quadratique

Méthode de gradient conjuguée(3) Si la fonction F(x) atteint son minimum , alors (17) Minimiser la fonction F équivaut à résoudre le système (17) Le principe de la méthode de GC: A partir de la direction de descente est construit de telle sorte que soient conjuguées : Remarquons que la notion « être conjuguées » est plus large que « être orthogonales ». Si H est une matrice unitaire alors les deux directions sont orthogonales.

Méthode de gradient conjuguée(4) Algorithme Choisir 2. Calculer le résidu La direction initiale de la descente est 3. Pour calculer

Méthode de gradient conjuguée(5) 4. Mettre a jour X et le résidu 5. Choisir la nouvelle direction de descente : 6. Condition d’arrêt ou

4.3. Stratégies de multi-resolution Problème d’initialisation : la fonctionnelle d’erreur est généralement non-convexe E(dx) dx* dx0 dx Solution : estimation multi-resolution, relaxation.

Stratégies de multi-résolution Schémas multi-resolution/ multi-échelles 1) Construction des pyramides Gaussienne pyramids for 2) Estimation des paramètres du mouvement au niveau le plus élevé de la pyramide 3) Propagation r est le facteur de sous-échantillonnage

Quelques résultats(1) 06:14

Quelques résultats(2)

Quelques résultats(3)

Resultats en monoresolution Flot optique : séquence « Reins »

Resultats en multirésolution

Méthodes de flot optique avec la régularisation (Horn et Schunck) Pourquoi les méthodes de descente locale sont-elles en difficulté ? Le pb. d’estimation du mouvement est mal posé! Solution : régularisation. Méthode de K.P.Horn et B.G.Shunk “Determining Optical Flow”,Artificial Intelligence 17 (1981) pp. 185-203

Méthodes de flot optique avec la régularisation (Horn et Schunck) Pourquoi les méthodes de descente locale sont-elles en difficulté ? Le pb. d’estimation du mouvement est mal posé! v Le long de contours de la luminance constante le vecteur de déplacement ne peut pas être estimé sans introduire les contraintes supplémentaires. u

Méthode de Horn and Shunk(1) On suppose la continuité locale de flot optique. Ajout de la contrainte de lissage : estimer le flot optique La fonctionnelle dont les arguments sont eux-mêmes les éléments d’un espace linéaire normé Le problème de recherche du min d’une telle fonction est celui du calcul variationnel.

6. Calcul Variationnel Def. Fonctionnelle F(y) définie sur l’espace linéaire normé D s’appelle dérivable dans un point de cet espace si son accroissement peut être écrit comme Où est une fonctionnelle linéaire continue de h et r Est infiniment petite o(h) On peut démontrer que est unique. Def. La fonctionnelle linéaire ainsi définie et unique s’appelle “différentiel” ou encore la variation de la fonctionnelle F en point et est dénotée par

Exemples(1) 1. dans l’espace Le noyau f(x,y) est supposé d’être continu avec les dérivées continues jusqu’à 2nd ordre. Soit Comme la fonction f est dérivable, alors est bornée Donc

Exemples(2) 2. dans l’espace Donc (18) des fonctions dérivables avec les dérivées partielles de premier ordre continues. Le noyau f(x,y,y’) est supposé d’être continu avec les dérivées continues jusqu’à 2nd ordre sur Soit En considérant la norme on peut démontrer que est bornée Donc (18)

Extremums des fonctionnelles dérivables(1) Considérons une fonfctionnelle dérivable dans l’espace linéaire normée Le problème est de trouver les points y où F atteint son extremum. Lemme 1. En chaque point y0 où la fonctionnelle dérivable F(y) atteint sont extremum, la première variation de la fonctionnelle F pour tout accroissement h est égale à 0.

Extremum des fonctionnelles dérivables(2) 1. dans l’espace Sa première variation est Soit est le point d’extremum. Par condition nécessaire Lemme 2. Si pour une fonction continue A(x) pour toute fonction continue h(x) on a alors

Extremum des fonctionnelles dérivables(3) 1. Du Lemme 2 Si on résout cette équation par rapport à y0, on aura une ou plusieurs fonctions de x 2. Fonctionnelles de forme dans l’espace - extremum

Extremum des fonctionnelles dérivables(4) Considérons le cas quand la fonctionnelle F est définie sur l’ensemble des fonctions y(x) qui prennent valeurs prédéfinies en a, b : y(a) et y(b). Alors Représentations comme Finalement Integration en parties

Equation d’Euler(1) D’après Lemme 2 Calcul de : c’est la dérivée complète d’une fonction composée. Rappel : Dans notre cas

Equation d’Euler(2) Ainsi se transforme en Equation d’Euler Si l’extremum de la fonctionnelle existe et est atteint en fonction qui possède la dérivée seconde, alors cette fonction satisfait l’équation d’Euler.

Fonctionnelles avec plusieurs fonctions inconnues(1) est considérée dans l’espace linéaire des fonctions-vecteurs définies sur le segment [a,b] et possédant les dérivées premières continues. La norme : Si la fonction f a des dérivées continues jusqu’à 2nd ordre selon tous ses arguments, alors la fonctionnelle est dérivable dans l’espace et sa variation s’écrit comme

Fonctionnelles avec plusieurs fonctions inconnues(2) En point d’extremum la variation est En particulier, si toutes les composantes du vecteur h sauf une hj sont supposées nulles, alors on obtient Nous allons résoudre le pb. de recherche d’extremum sur l’ensemble des fonctions vecteurs avec les valeurs aux limites fixes y(a) et y(b). En supposant que les fonctions recherchées y1(x),…,yn(x) sont dérivables deux fois et répétant les raisonnement que nous avions pour la fonction scalaire y(x), nous obtenons un système d’équations d’Euler

Fonctionnelles avec plusieurs variables indépendantes(1) Sont considérées dans l’espace des fonctions u(x,y) définies sur un domaine limité, plat G continues et ayant les dérivées premières continues selon chaque argument. La norme : Si la fonction f a des dérivées continues jusqu’à 2nd ordre selon tous ses arguments, alors la fonctionnelle est dérivable dans l’espace et sa variation s’écrit comme

Fonctionnelles avec plusieurs fonctions inconnues(2) Supposons que les valeurs de la fonction u(x,y) ,sont fixées sur la frontière du domaine G . Par conséquent les valeurs h(x,y) sur cette frontière sont nulles. Le même calcul pour =0

Fonctionnelles avec plusieurs fonctions inconnues(3) Finalement, Comme h(x,y) est une fonction arbitraire Equation d’Euler - Ostrogradski

Méthode de Horn and Shunk(1) Nous avons donc Système d’Euler - Ostrogradski

Méthode de Horn et Shunk(2) Après les calculs on obtient Ici sont des Laplaciens des fonctions u et v

Méthode of Horn and Shunk(3) Approximation du Laplacien 1/12 1/6 1/12 (*) 1/6 -1 1/6 1/6 1/12 1/12 Avec (*) le système peut être re-écrite La solution : soit directe, soit itérative

Méthode of Horn and Shunk(4) Approximation des dérivées par Horn et Shunk i+1 k+1 i k j j+1 1 -1 1 -1 + -1 1 +

Méthode de Horn and Shunk(4) Solution itérative Méthode itérative de Gauss-Seidel: Ici sont des moyennes pondérées dans le voisinage

Estimateur de Cornélius -Kanade Prise en compte de la variation locale de l’intensité au cours du temps Ici est la variation de luminance au cours du temps en chaque pixel

Estimateur de Cornelius -Kanade

1. HORN B. K. P. , SHUNK B. G. Determining optical flow 1.HORN B.K.P., SHUNK B.G. Determining optical flow. Artificial Intelligence, vol. 17, pp. 185-203, 1981 2.TEKALP A.M. Digital Video Processing, Prentice Hall, 1995 3. NICOLAS H. , LABIT C. Global motion identification for image sequence analysis and coding , Proc. [SCH86] 4. SCHUNK B. G. The image flow constraint equation ; Computer Vision, Graphics and Image Processing, vol. 35, pp. 20-46, 1986 5. J. Rappeoz, M. Picasso, « Introduction à l’analyse numérique », Presses Polytechniques et Universitaires Romandes, 1998, 6.A. Pchenitchny, B. Danilin « Méhtodes numériques dans la résolution des porblèmes extrémaux », Moscou, Mir, 1987, (En français) 7. Kanade T., Cornelius N., Adapting optical-flow to measure object motion in reflectance and x-ray image sequences. ACM SIGGRAPH/SIGART : pp 50 – 58, 1983