La présentation est en train de télécharger. S'il vous plaît, attendez

La présentation est en train de télécharger. S'il vous plaît, attendez

A 20071Design III / GEL-21405 H06 Introduction à la vision artificielle Deuxième partie Étalonnage géométrique de la caméra et du système Patrick Hébert.

Présentations similaires


Présentation au sujet: "A 20071Design III / GEL-21405 H06 Introduction à la vision artificielle Deuxième partie Étalonnage géométrique de la caméra et du système Patrick Hébert."— Transcription de la présentation:

1 A 20071Design III / GEL H06 Introduction à la vision artificielle Deuxième partie Étalonnage géométrique de la caméra et du système Patrick Hébert Génie électrique et génie informatique Université Laval *collaboration Éric Samson

2 A 20072Design III / GEL H05 Le robot utilise la vision pour percevoir l'environnement Mise en contexte

3 A 20073Design III / GEL H05 Qu'est-ce que la caméra permet au robot de faire? Localiser les objets sur le terrain, i.e. évaluer la position relative au robot Évaluer sa position et son orientation sur le terrain (par rapport aux bandes, coins, à la ligne rouge) Localiser les objets. Que fournit la caméra? Des images (dun certain type) Que faut-il faire avec ces images? Extraire et reconnaître des informations utiles dans les images (traitement des images) les coins et les bandes de couleurs connues (régions et droites) les objets de couleur connue Établir la relation entre la position de ces zones d'intérêt de l'image et l'environnement (le terrain) incluant le robot Magny la relation pixel mm Mise en contexte

4 A 20074Design III / GEL H05 Structure du cours Le cours d'introduction à la vision couvre en particulier 2 étapes du processus de vision qui sont nécessaires à l'atteinte de ces objectifs : 1.Reconnaître les objets dans les images Traitement des images (première partie) 2.Calculer la position des objets par rapport au robot Étalonnage géométrique de la caméra et du système (deuxième partie) À ces deux blocs sajouteront quelques considérations sur la robotique et lintelligence artificielle

5 A 20075Design III / GEL H05 Mise en contexte RGRG RcRc RPRP Magny R C : repère de la caméra R P : repère du préhenseur R G : repère global

6 A 20076Design III / GEL H05 Calcul de position : un aperçu L'objectif est de connaître la position d'un objet dans l'espace à partir de sa position dans l'image Points image Modèle de caméra Paramètres du modèle Points 3D Étalonnage L'étalonnage sert à déterminer les paramètres du modèle. Il est réalisé une seule fois

7 A 20077Design III / GEL H06 Plan de la présentation Notions de base –Formation des images –Modèle du sténopé (pinhole) –Coordonnées homogènes et transformations –Changements de repère Étalonnage d'une caméra –Modèle utilisé –Procédure Utilisation des paramètres –Calcul de la position des objets –Calcul de la position du robot

8 A 20078Design III / GEL H05 Formation des images Sténopé (idéal) Problème : quantité de lumière insuffisante Caméra réelle Solution : utilisation d'une lentille

9 A 20079Design III / GEL H05 Aberrations sphériques *tirée de Forsyth Distorsion radiale: négative (pincushion) positive (barrel-type) Aberration chromatique : la cause Problèmes reliés à l'utilisation d'une lentille : Formation des images

10 A Design III / GEL H05 Aberrations sphériques Aberrations chromatiques Distorsion radiale Profondeur de champ limitée Profondeur de champ limitée Problèmes reliés à l'utilisation d'une lentille : Formation des images

11 A Design III / GEL H05 Formation des images Sténopé (idéal)Caméra réelle Le modèle du sténopé demeure valide pour les calculs.

12 A Design III / GEL H05 Modèle du sténopé Inverseur Non-Inverseur Y Z Axe optique Plan image Centre de projection O C P = (X,Y,Z) T F Y Z Axe optique Plan image Centre de projection O C d d F Point principal Point objet P = (X,Y,Z) T Point objet

13 A Design III / GEL H05 Y Z Axe optique Plan image Centre de projection O C P = (X,Y,Z) T P' = (X',Y',Z') T F Z XF X ' FZ ' Z YF Y ' De même en X : On a : Modèle Sténopé : Projection de perspective Prévoir les coordonnées images d'un point connu dans le repère de la caméra

14 A Design III / GEL H05 Équation du rayon projecteur étant donné un point image Il nous faut introduire les notions pour traiter les points qui sont ou seront connus dans un repère autre que celui de la caméra. Modèle Sténopé : Projection de perspective

15 A Design III / GEL H06 Plan de la présentation Notions de base Notions de base Formation des images Modèle du sténopé (pinhole) Coordonnées homogènes et transformations Coordonnées homogènes et transformations –Changements de repère Étalonnage d'une caméra –Modèle utilisé –Procédure Utilisation des paramètres –Calcul de la position des objets –Calcul de la position du robot

16 A Design III / GEL H05 Coordonnées homogènes Représentation mathématique permettant de rendre linéaires (calcul matriciel) certaines opérations courantes en vision, robotique et infographie. Par exemple : On ajoute simplement une dimension aux coordonnées X'=X Y'=Y Z'=Z lorsque W = 1

17 A Design III / GEL H05 Coordonnées homogènes : Utilisation 1.On passe des coord. cartésiennes aux coord. homogènes en ajoutant un "1" comme 4 e élément au vecteur. 2.On effectue les opérations (définies par une matrice 4x4). 3.On revient aux coordonnées cartésiennes en divisant tous les éléments du vecteur résultant par W (à la condition que W0).

18 A Design III / GEL H05 Coordonnées homogènes : Transformations dintérêt pour le projet Projection Rotation Translation Changement d'échelle ("scaling")

19 A Design III / GEL H05 Coordonnées homogènes : Transformations courantes Projection (selon l'axe Z) * Matrice non- inversible Exemple : Projection d'un point P = (X,Y,Z) T Retour aux coordonnées cartésiennes

20 A Design III / GEL H05 Projection dans une image La troisième ligne est sans intérêt puisque z = F. On peut alors représenter la projection dans une image par une matrice 3x4 On normalise tout comme dans le cas précédent

21 A Design III / GEL H05 Coordonnées homogènes : Transformations dintérêt Rotation

22 A Design III / GEL H05 Coordonnées homogènes : Transformations dintérêt Translation Changement d'échelle ("scaling")

23 A Design III / GEL H05 Coordonnées homogènes : Combiner les transformations Soit E 1, E 2, …, E N, N transformations à appliquer, dans l'ordre, au point P. Ceci peut être réécrit : où On procède alors comme suit :

24 A Design III / GEL H06 Plan de la présentation Notions de base Notions de base Fonctionnement d'une caméra Formation des images Modèle pinhole Coordonnées homogènes et transformées Coordonnées homogènes et transformées Changements de repère Changements de repère Étalonnage d'une caméra –Modèle utilisé –Procédure Utilisation des paramètres –Calcul de la position des objets –Calcul de la position du robot

25 A Design III / GEL H05 Mise en contexte R C : repère de la caméra R P : repère du préhenseur R G : repère global RGRG RcRc RPRP Magny

26 A Design III / GEL H05 Coordonnées homogènes : Changements de repère Changements de repère Transformations rigides Combinaison d'une translation et d'une rotation Préservation des distances et des angles Transformation rigide : Que devient un point P, connu dans O 2, vu de O 1 ?

27 A Design III / GEL H05 Coordonnées homogènes : Changements de repère 1 - Donne la position du repère 2 par rapport au repère Permet de transformer les coordonnées d'un point exprimées dans le repère 2 en coord. exprimées dans le repère 1 2 définitions pour une même matrice Exemple : À noter : transformation inverse

28 A Design III / GEL H06 Plan de la présentation Notions de base –Fonctionnement d'une caméra –Formation des images –Modèle pinhole –Coordonnées homogènes et transformées –Changements de repère Étalonnage d'une caméra Étalonnage d'une caméra –Modèle utilisé –Procédure Utilisation des paramètres –Calcul de la position des objets –Calcul de la position du robot

29 A Design III / GEL H05 Étalonnage d'une caméra On veut connaître la relation ("Mapping") entre les points de l'espace (3D, en millimètres) et leur position dans l'image (2D, en pixels). On utilise un modèle simple (mais efficace) pour décrire le processus d'acquisition d'image : L'étalonnage consiste à déterminer les paramètres de ce modèle L'étalonnage consiste à déterminer les paramètres de ce modèle Paramètres intrinsèques Paramètres extrinsèques point 3D (en mm) point image (pixel)

30 A Design III / GEL H05 Étalonnage d'une caméra : Explication du modèle intrinsèquesextrinsèquespoint 3Dpoint image Le modèle provient de la formule suivante : (si = 0) Z Y X u v O I O c Z Y X O G (u 0,v 0 ) p=(u,v) P=(X,Y,Z) Centre de projection Axe optique Centre du plan image Plan image

31 A Design III / GEL H05 Calibrage d'une caméra : Explication du modèle 1 – Changement de repère Global Caméra Z Y X O c Z Y X O G (u 0,v 0 ) p=(u,v) P=(X,Y,Z) Centre de projection Axe optique Centre du plan image E CG u v O I Plan image

32 A Design III / GEL H05 Calibrage d'une caméra : Explication du modèle 2 – Projection Pt 3D Plan image Z Y X O c Z Y X O G (u 0,v 0 ) p=(u,v) P=(X,Y,Z) Centre de projection Axe optique Centre du plan image u v O I Plan image

33 A Design III / GEL H05 Calibrage d'une caméra : Explication du modèle 3 – Mise à l'échelle du plan image, m pixel Z Y X u v O I O c Z Y X O G (u 0,v 0 ) p=(u,v) P=(X,Y,Z) Centre de projection Axe optique Centre du plan image Plan image

34 A Design III / GEL H05 Calibrage d'une caméra : Explication du modèle 4 – changement de repère O C O I (on suppose g = 0) Z Y X u v O I O c Z Y X O G (u 0,v 0 ) p=(u,v) P=(X,Y,Z) Centre de projection Axe optique Centre du plan image Plan image

35 A Design III / GEL H05 Calibrage d'une caméra : Explication du modèle On multiplie les matrices T, S et P r pour obtenir la matrice des paramètres intrinsèques : Le modèle complet est alors : La matrice des paramètres intrinsèques possède une ligne et une colonne de "0". Ceci nous permet de réécrire le modèle de façon plus compacte : avec :

36 A Design III / GEL H05 Équation du rayon projecteur

37 A Design III / GEL H05 La distorsion radiale Le modèle présenté suppose une projection idéale (un sténopé). Or, il y a de la distorsion. Principalement de type radial Nulle au centre et maximale en périphérie Les paramètres du modèle de distorsion sont classés parmi les paramètres intrinsèques de la caméra Modèle de distorsion radiale :

38 A Design III / GEL H06 Plan de la présentation Notions de base –Fonctionnement d'une caméra –Formation des images –Modèle pinhole –Coordonnées homogènes et transformées –Changements de repère Étalonnage d'une caméra Étalonnage d'une caméra Modèle utilisé Procédure Procédure Utilisation des paramètres –Calcul de la position des objets –Calcul de la position du robot

39 A Design III / GEL H05 Étalonnage d'une caméra : Procédure (principe général) 1.Placer une cible d'étalonnage devant la caméra 2.Repérer la position de chaque marqueur de la cible dans l'image On obtient une liste de coordonnées 3D (Global) accompagnées de leur projection dans l'image

40 A Design III / GEL H05 Étalonnage d'une caméra : Procédure (idée générale) 1.Placer une cible d'étalonnage devant la caméra 2.Repérer la position de chaque marqueur de la cible dans l'image On obtient une liste de coordonnées 3D (global) accompagnées de leur projection dans l'image 3.Chaque pt nous donne 2 équations de plans et on a 11 inconnues (5 intr. + 6 extr. car il y a 6 contraintes sur R) 4.On construit un système d'équations linéaires qu'on peut résoudre à l'aide des techniques d'algèbre linéaire standards (moindre carrés) -> m ij 5.On extrait, sil y a lieu, les paramètres explicites,, t x …

41 A Design III / GEL H05 Étalonnage d'une caméra : Notes sur les techniques d'étalonnage (1/2) Il existe plusieurs techniques d'étalonnage Zhang, Tsai, Heikkilä, Faugeras, etc. Le type de cible et le modèle de la caméra utilisé changent Le système d'équations à résoudre diffère en fonction de ces variantes L'idée est toujours la même : trouver les paramètres permettant de faire le "mapping" entre les points de l'espace et leur position dans l'image.

42 A Design III / GEL H05 Étalonnage d'une caméra : Notes sur les techniques d'étalonnage (2/2) Prise en compte de la distorsion des lentilles La plupart des techniques incluent des paramètres de distorsion dans leur modèle. L'ajout de ces paramètres rend le système à résoudre non-linéaire. On procède alors en 2 étapes : 1.En supposant la distorsion nulle, on résout le système linéaire 2.Partant de cette estimation initiale, on détermine les paramètres de distorsion à l'aide de techniques d'optimisation non-linéaires

43 A Design III / GEL H05 Méthodes détalonnage géométrique avec code disponible sur internet Zhengyou Zhang (Microsoft research) Janne Heikkila (Oulu Univ.) R. Tsaihttp://www- cgi.cs.cmu.edu/afs/cs.cmu.edu/user/rgw/www/Tsa iCode.htmlhttp://www- cgi.cs.cmu.edu/afs/cs.cmu.edu/user/rgw/www/Tsa iCode.html Lien potentiellement intéressant (voir premier lien sur OpenCV): htmls/links.html htmls/links.html

44 A Design III / GEL H05 Étalonnage de votre caméra : méthode de Zhang ou celle disponible dans OpenCV Caractéristiques de la technique de Zhang Simple, robuste et précise Utilise une cible plane Nécessite au moins trois prises de vue (non coplanaires) à cause des paramètres intrinsèques Prend en compte la distorsion des lentilles Procédure à suivre : Procédure d'étalonnage de Zhang

45 A Design III / GEL H06 Plan de la présentation Notions de base –Fonctionnement d'une caméra –Formation des images –Modèle pinhole –Coordonnées homogènes et transformées –Changements de repère Étalonnage d'une caméra –Modèle utilisé –Procédure Utilisation des paramètres Utilisation des paramètres –Calcul de la position des objets –Calcul de la position du robot

46 A Design III / GEL H05 Étalonnage de votre caméra : Utilisation des paramètres obtenus L'application de la procédure fournit les paramètres intrinsèques et extrinsèques de votre caméra. Le référentiel Global (ou World) se trouve sur le coin supérieur gauche de la cible placée sur le sol. Les paramètres extrinsèques donnent donc la position de la cible sur le sol par rapport à la caméra. Lorsque le robot bouge, c'est comme si la cible se déplaçait avec lui (la position de la cible est donnée p/r à la caméra et non p/r à un référentiel absolu).

47 A Design III / GEL H05 Étalonnage de votre caméra : Utilisation des paramètres : Calcul des points 3D On désire calculer la position d'un objet dans l'espace à partir de sa position dans l'image Solution : Dans notre cas, la caméra pointe vers le sol et on connaît la position du sol (grâce au repère de la cible placé sur le sol z = 0). On peut donc déterminer la position de tout objet se trouvant sur le sol en calculant l'intersection d'une droite (projecteur) et d'un plan (sol). On peut donc déterminer la position de tout objet se trouvant sur le sol en calculant l'intersection d'une droite (projecteur) et d'un plan (sol). Problème : L'opération de projection effectuée par la caméra engendre une perte d'information : 1point dans l'image 1 droite dans l'espace (projecteur) P = (X,Y,Z) T Y Z O C O G

48 A Design III / GEL H05 Étalonnage de votre caméra : Utilisation des paramètres : Calcul des points 3D Étape 1 : Déterminer le projecteur à partir du modèle Modèle complet Modèle simplifié P = (X,Y,Z) T Y Z O C O G

49 A Design III / GEL H05 Étalonnage de votre caméra : Utilisation des paramètres : Calcul des points 3D Étape 1 : Déterminer le projecteur à partir du modèle ; avec 2 Équations de plan ! Plan 1: Plan 2:

50 A Design III / GEL H05 Étalonnage de votre caméra : Utilisation des paramètres : Calcul des points 3D Étape 1 : Déterminer le projecteur à partir du modèle Le projecteur correspond à l'intersection des deux plans Le point 3D se trouve donc à l'intersection de trois plans Étape 2 : Le point 3D se trouve à l'intersection entre le projecteur et le sol (plan Z G =0)

51 A Design III / GEL H05 Étalonnage de votre caméra : Utilisation des paramètres : Calcul des points 3D Le point 3D se trouve à l'intersection de trois plans P = (X,Y,Z) T Y Z O C O G G

52 A Design III / GEL H05 Étalonnage de votre caméra : Utilisation des paramètres : Calcul des points 3D Le point 3D se trouve à l'intersection de trois plans Plan "u" Plan "v" Plan Z=0 L'intersection est donnée par : avec

53 A Design III / GEL H05 Étalonnage de votre caméra : Utilisation des paramètres : Calcul des points 3D Le point 3D se trouve à l'intersection de trois plans L'intersection est donnée par : avec En développant, on obtient :

54 A Design III / GEL H05 Étalonnage de votre caméra : Utilisation des paramètres obtenus Vos points 3D qui seront calculés avec ces paramètres extrinsèques, seront toujours p/r à ce repère "virtuel", placé devant le robot. OCOC E CG Magny E PG OPOP OGOG Vous devrez alors déterminer la transformation qui donne la position de la cible p/r à ce nouveau repère. Cette transformation pourra être appliquée à tous les points 3D calculés à partir des paramètres déterminés lors de la procédure d'étalonnage. Peut-être serait-il préférable de se définir un repère situé à un endroit plus approprié (e.g. sur le préhenseur, au centre du robot, etc.) ?

55 A Design III / GEL H05 Représentation des repères

56 A Design III / GEL H06 Plan de la présentation Notions de base –Fonctionnement d'une caméra –Formation des images –Modèle pinhole –Coordonnées homogènes et transformées –Changements de repère Étalonnage d'une caméra –Modèle utilisé –Procédure Utilisation des paramètres Utilisation des paramètres Calcul de la position des objets Calcul de la position du robot Calcul de la position du robot

57 A Design III / GEL H05 Étalonnage de votre caméra : Utilisation des paramètres : Positionnement du robot (1/3) Trouver la position du robot revient à déterminer le changement de repère E AR. On a : Et

58 A Design III / GEL H05 Étalonnage de votre caméra : Utilisation des paramètres : Positionnement du robot (2/3) On décompose E AR : Sur le plan du jeu, il n'y a qu'une rotation autour de l'axe Z Ainsi Sous forme d'équations :

59 A Design III / GEL H05 Étalonnage de votre caméra : Utilisation des paramètres : Positionnement du robot (3/3) On a 2 points donc 4 équations et 3 inconnues : On élimine t X et t Y. On conserve deux équations avec lesquelles on élimine le membre de gauche et on peut obtenir l'angle par la tangente inverse. On calcule ensuite t X et t Y (position X et Y du robot).


Télécharger ppt "A 20071Design III / GEL-21405 H06 Introduction à la vision artificielle Deuxième partie Étalonnage géométrique de la caméra et du système Patrick Hébert."

Présentations similaires


Annonces Google