Interfaces perceptuelles

Présentation au sujet: "Interfaces perceptuelles"— Transcription de la présentation:

1 Interfaces perceptuelles
Interaction avec une caméra

2 Comment enlever le bruit dans une image de caméra ?
Calculer la moyenne des N images les plus récentes On a besoin de stocker les N images le plus récentes Désavantages: temps de calcul O(N), et mémoire requis O(N) Exemple du résultat de calculer une moyenne d’images:

3 Comment enlever le bruit dans une image de caméra ? (suite)
Calculer une moyenne des images, avec un poids qui diminue de façon exponentielle avec le temps: L’image la plus récente a alors un poids de α, l’image précédente un poids de (1-α)α, la précédente (1-α)2α, la précédente (1-α)3α, etc. On a seulement besoin de stocker la moyenne précédente, et l’image actuelle, pour calculer la nouvelle moyenne Temps de calcul O(1), mémoire requis O(1) (si on laisse tomber la résolution des images comme étant des constantes)

4 Une première technique pour reconnaître des gestes de mains

5 Le gradient Le gradient est un vecteur calculé à partir d’une fonction scalaire Les changements sont plus rapides dans la direction du gradient. Autrement dit, le gradient est perpendiculaire aux “arêtes” (“edges”, ou “edgels”) dans l’image.

6 Pour estimer l’orientation de l’arête passant par un pixel :
Utiliser un estimé du gradient: L’angle du vecteur donne l’orientation La norme du vecteur est proportionnelle au contrast entre les deux côtés de l’arête

7 Exemples de gradients

8 Histogrammes d’orientation : apprentissage
Freeman et al. 1998, “Computer Vision for Interactive Computer Graphics”

9 Histogrammes d’orientation : reconnaissance
NB: Un retour visuel de la confiance aide à déboguer et à apprendre à exprimer le bon geste. Freeman et al. 1998, “Computer Vision for Interactive Computer Graphics”

10 Histogrammes d’orientation : Cas problématiques pour une main
Rotation globale de la main Des ensembles de doigts différents, mais orientés dans la même direction Freeman et al. 1998, “Computer Vision for Interactive Computer Graphics” La main n’occupe pas la majorité de l’image

11 Une deuxième technique pour reconnaître une main (sur un fond monochrome)
D’un article de Malik et Laszlo (2004)

12 Deuxième technique Comment distinguer les pixels du fond des pixels de la main ? Il faut “segmenter” l’image en deux parties: l’avant plan (“foreground”) et l’arrière plan (“background”)

13 Deuxième technique

14 Deuxième technique

15 Deuxième technique

16 Deuxième technique

17 Deuxième technique Questions:
- Est-ce que le seuil à utiliser pourrait changer à mesure que les conditions d’éclairage changent, ou avec différents utilisateurs? - Comment trouver un bon seuil de façon automatique?

18 Deuxième technique (Ici, avec du bruit rajouté manuellement.)

19 Deuxième technique On identifie chaque region de pixels connexes avec une couleur unique (ceci peut se faire, par exemple, avec des opérations de “floodfill”).

20 Deuxième technique On élimine toutes les régions avec une aire plus petite qu’un seuil, et on garde au maximum les deux régions les plus grandes. Question: comment identifier la main gauche et la main droite ?

21 Deuxième technique Pourquoi un fond noir ? Et un fond vert ou bleu ?
Avantages: fonctionne assez bien même avec des ombres Et un fond vert ou bleu ? Pourrait fonctionner mieux si la peau a une couleur foncée

22 Deuxième technique Comment trouver les doigts ?

23 Deuxième technique Suivre le contour des pixels d’avant plan, et évaluer l’angle entre les pixels i-k, i, et i+k …

24 Deuxième technique

25 Deuxième technique

26 Deuxième technique

27 Deuxième technique angle position i
Comment trouver le bout de chaque doigt ?

28 Deuxième technique Comment trouver la direction de chaque doigt ?
D’un article de Malik et Laszlo (2004)

29

30 TAFFI (Thumb and Fore-Finger Interface; Andy Wilson 2006)

31 Tanglible User Interface (TUI) : reactable ( http://www. reactable