Chapitre 4 -------- Théories et modèles perceptifs Jean-Sylvain Liénard LIMSI-CNRS ORSAY M2 Recherche Informatique Filière Sciences Cognitives Module PNPA Déc 04 – Fév 05

Le point de vue: information verbale seulement Niveaux acoustico-phonétiques Des indices aux phonèmes Voyelles consonnes   Accès lexical Des phonèmes aux mots Modèles Modèles multi-niveaux Trace

La perception acoustico-phonétique niveau 6 500ms unités cognitives niveau 2 15ms indices acoustiques niveau 1 1ms unités cochléaires niveau 0 0.1ms Signal niveau 3 30ms traits phonétiques niveau 4 60ms unités phonetiques niveau 5 200ms unités lexicales branche verbale branche prosodique

Niveaux acoustico-phonétiques : 2 à 4 Evidence et limites du niveau phonémique (niveau 4) - Les traits distinctifs (niveau 3) - Indices acoustiques (niveau 2) - formants, F'2, enveloppe spectrale grossière - Voyelles - Systèmes vocaliques - Typicalité des voyelles - Consonnes - Transitions de formants - VOT vs invariants acoustiques - Théorie motrice

Evidence du niveau phonémique - Double articulation : dizaines de phonèmes ---> millions de mots - Système phonémique = ensemble de symboles représentant les sons de la parole - Sons arbitraires, mais tous formés par l'organe vocal humain - N'importe quelle structure à 3 formants ne peut pas être perçue comme un son de parole - La perception détermine les meilleurs sons ? - Ensemble de 30 à 40 phonèmes dans toutes les langues, incluant 3 à 20 voyelles - Pas de système universel

Limitations du niveau phonémique Phonème = concept abstrait Formé à partir de distinctions minimales entre mots d'une langue Donc à partir de ressemblances acoustiques et linguistiques La reconnaissance comme la synthèse montrent qu'un phonème n'est pas un état acoustique du signal Nécessité de représentations intermédiaires Débit d'information phonémique au niveau 4 : 50 à 100 bits par seconde Débit d'information cochléaire : peut atteindre 25000x100 bps ! La réduction d'information ne peut se faire en 1 étape

Les traits distinctifs Jakobson, Fant et Halle 1952

Les traits distinctifs Intérêt de la notion Intègre divers points de vue : acoustique, production, perception ? "constituants ultimes" de la langue Binarisme règles phonologiques et phonotactiques: assimilation, régression, nasalisation… Limites En 50 ans, personne n'a pu extraire les traits distinctifs du signal de manière fiable et robuste… Binarisme contesté ---> voir dans le détail la structure des signaux, à partir du niveau 2

Les voyelles spectrogrammes des voyelles F1 et F2 prépondérants: démo Snack Formants

Question : la perception utilise-t-elle les formants ? Pour : - travaux de Delgutte sur le chat - pertinence de F1 et F2 en production - équivalence avec point d'articulation (un peu simpliste) F1 <---> ouvert/fermé F2 <---> avant/arrière

? Contre - difficulté de repérer les formants - difficulté d'identifier les formants ?

Contre : - même voyelle perçue avec divers jeux de formants Fant : 2e formant équivalent F'2 [i] [e] Chistovitch : intégration large bande 3,5 Bark Contre : - le vocodeur à formants n'a jamais fonctionné - les systèmes de reconnaissance ont consacré l'utilisation du banc de filtres mfcc, qui n'implique pas d'identification des formants

Indices acoustiques pour les consonnes Consonnes: plusieurs types acoustiques - phase statique: fricatives - transition de formants: plosives, liquides, nasales - cas général: succession d'indices acoustiques (niveau 2) VCV : - fermeture (transition de formants) - occlusion totale ou partielle - explosion (burst) - aspiration - ouverture (transition de formants)

Fricatives (constrictives)

Plosives (occlusives)

Rôle perceptif des transitions formantiques Liberman, Delattre, Cooper 1955 Expériences avec le Pattern Playback

La théorie du locus Proposition: de même que toute voyelle est définie par F1 et F2, le point d'articulation de toute consonne est défini par les loci de F1 et F2 Concerne en fait F2 Problèmes - à l'analyse, la détermination du locus est difficile: - suppose que les formants soient identifiés - et qu'on sache à quelle abscisse faire la mesure - /k/ et /g/ ont 2 loci, selon la voyelle qui suit ---> relatif abandon de la notion, inutilisable en reconnaissance. Résurgence récente (équations du locus, Sussman 1991)

Voice Onset Time VOT Lisker et Abramson 1967

Voice Onset Time VOT Le VOT, indice perceptif des plosives à l'initiale ? OUI mais - dépend de la langue, - de la vitesse d'articulation, - de la force de voix…

Théorie motrice (A.Liberman, 1967) Constat de base - la parole est produite par des commandes motrices, qui constituent le "vrai code" de la parole - les mouvements des articulateurs sont lents, ce qui entraîne la coarticulation - la perception interprète le signal en termes de commandes motrices, qui ont un caractère universel - "speech is special"

Limitations de la théorie motrice - l'existence d'un module cérébral traitant uniquement la parole n'est pas prouvée sur le plan neurobiologique - on ne sait pas inverser le processus articulatoire --> acoustique - la variabilité articulatoire est au moins aussi grande que la variabilité acoustique (plusieurs configurations pour un même son perçu) - on peut comprendre sans savoir articuler - le mainate

Le retour des invariants acoustiques Stevens et Blumstein 1978 Gabarit spectral de l'explosion, indépendant de la voyelle

L'accès lexical niveau 6 500ms unités cognitives niveau 2 15ms indices acoustiques niveau 1 1ms unités cochléaires niveau 0 0.1ms Signal niveau 3 30ms traits phonétiques niveau 4 60ms unités phonetiques niveau 5 200ms unités lexicales branche verbale branche prosodique

Modèles de reconnaissance de mots et d'accès lexical Théorie des logogènes (Morton 1969) - A chaque mot du lexique mental sont associés tous ses aspects: significations, rôles syntaxiques, fréquence dans le lexique, chaîne phonétique, chaîne orthographique etc. - Chacun de ces aspects contribue à une fonction d'activation du logogène. - A un instant donné un logogène devient actif si sa fonction d'activation dépasse un seuil. ---> modèle mot, passif, mettant sur le même plan toutes les sources de connaissances - ne dit pas comment ces connaissances sont apprises et exploitées, ni comment les logogènes interagissent

Modèles de reconnaissance de mots et d'accès lexical Théorie de l'accès lexical par les spectres LAFS (Klatt 1979) - les mots du répertoire mental sont reconstruits en mémoire à partir de spectres constituant des diphones - le mot à reconnaître est aussi représenté par une suite de spectres - la comparaison est faite sur une base acoustique ---> vision influencée par la reconnaissance automatique pas de représentation en traits ou en phonèmes processus d'analyse par synthèse

Le Modèle Cohorte Marslen-Wilson (1975) - strictement gauche-droite - incorporation possible de connaissance de plus haut niveau - difficulté avec les effets de fréquence de mots - sensible aux erreurs phonémiques --> incompatible avec la variabilité de la parole réelle

Le Modèle Trace Elmann et MacClelland 1986 Equilibre entre 3 niveaux niveau 6 500ms unités cognitives niveau 2 15ms indices acoustiques niveau 1 1ms unités cochléaires niveau 0 0.1ms Signal niveau 3 30ms traits phonétiques niveau 4 60ms unités phonetiques niveau 5 200ms unités lexicales branche verbale branche prosodique Elmann et MacClelland 1986 Equilibre entre 3 niveaux

Le Modèle Trace - 3 niveaux: traits distinctifs, phonèmes, mots - connexions inhibitrices intra-niveau (en bleu), excitatrices d'un niveau à l'autre (en rouge et en vert) - unités à seuil - Réglages manuels - modèle actif, bottom-up et top-down - tolère certaines distorsions et erreurs - problème: duplication massive des unités à chaque pas de temps Fig2 – Un sous-ensemble des unités dans TRACE II. Chaque rectangle représente une unité différente. Les étiquettes indiquent l'élément représenté et la largeur du rectangle indique son empan temporel. Les spécifications d'entrée pour la trace "tea cup" précédée et suivie par un silence sont indiquées par le noicissement des unités traits correspondantes