Le Signal Vocal 1. Production du signal ; Modèles de production

Présentation au sujet: "Le Signal Vocal 1. Production du signal ; Modèles de production"— Transcription de la présentation:

1 Le Signal Vocal 1. Production du signal ; Modèles de production
2. Notions sur l’audition 3. Allure temporelle Analyse en fréquence Typologie des signaux (phonèmes) Représentation Temps-Fréquence, spectrogramme Détection de la mélodie, de l’intonation Analyse « cepstrale » et par prédiction linéaire 4. Transmission (compression) 5. Principe de la synthèse de parole 6. Données utilisées en reconnaissance de parole

2 1. Production du signal ; Modèles de production

3 1. Production du signal

4 1. Production du signal

5 Production du signal les cordes vocales temps

6 Wolfgang von Kempelen (1770)
1. Production du signal Wolfgang von Kempelen (1770)

7 The speech organ of Professor Faber from 1846
1. Production du signal The speech organ of Professor Faber from 1846 (from the Journal of the Acoustical Society of America [3]).

8 Analyse et Synthèse du Signal Vocal
1. Production du signal Analyse et Synthèse du Signal Vocal vers les années 1950/1960 : développement de l’électronique vocoders à canaux : reproduire l’évolution de l’amplitude du signal dans quelques dizaines de bandes spectrales vocoders à formants : trouver les 3 à 5 maxima du spectre à court terme et reproduire ces fréquences avec les amplitudes associées vers les années 1960/1970 : développement de l’informatique traitement numérique et beaucoup plus de souplesse, par exemple prédiction linéaire

9 guimbarde, chants diphoniques, arc à bouche, didgeridoo
1. Production du signal clics en langue xhosa en Afrique du sud

10 Synthèse numérique (ou équivalent analogique)
1. Production du signal Synthèse numérique (ou équivalent analogique) Signal synthétisé Impulsions des cordes vocales (intonation) ou bruit (fricatives) Filtre récursif Filtre linéaire variant lentement dans le temps représentant les évolutions temporelles des résonances du conduit vocal (Sa réponse en fréquence correspond au spectre du signal vocal)

11 temps Cordes vocales intonation Conduit vocal résonances Signal sonore
1. Production du signal temps Cordes vocales intonation Conduit vocal résonances Signal sonore synthétique fréquence

12 2. Audition http://www.cochlea.org

13 2. Audition

14 2. Audition bruit excessif = dommages irrémédiables

15 Phénomène de masquage (mp3)
2. Audition Phénomène de masquage (mp3) x(n) = sinusoïde masquante q(n) = sinusoïde masquée fréquence fréquence Sx(f) = DSP du signal Sm(f) = Seuil de masquage

16 Analyse spectrale à court terme
3. Analyse, description et typologie des signaux Analyse spectrale à court terme temps fréquence spectre 2500 Hz 50 ms Spectre (log) Spectre échelle mel 3000 Hz 2500 Hz fréquence fréquence Hz

17 Spectre de la portion analysée : formants
Signal vocal temps Zoom quasi périodicité de l’ordre de 5 à 10 ms suivant l’intonation temps Spectre de la portion analysée : formants harmoniques de la fréquence fondamentale fréquence

18 spectre 3. Analyse Deux secondes de signal temporel
Analyse d ’une portion de 100 ms temps Module de la transformée de Fourier fondamental Formants (résonnances) harmoniques fréquence spectre

19 Allure temporelle des signaux
3. Analyse Allure temporelle des signaux Voyelles et consonnes voisées a, e, oe, i, o, u, ou, é, è, l, r Voyelle et consonnes nasalisées m, n, on, an, in, un Fricatives f, s, ch Fricatives voisées v, z, j Plosives p, t, k Plosives voisées b, d, g +sons « doubles », diphtongues, ... w, ll mais il y a une grande variabilité même pour un locuteur en fonction du contexte du son prononcé, de l’intonation, de l’état de santé, etc...

20 ‘ eu ’ ‘ a ’ ‘ o ’ ‘ ai ’ 3. Analyse temps temps fréquence fréquence

21 3. Analyse ‘ i ’ ‘ u ’ temps temps fréquence fréquence

22 ‘ (ll)an ’ ‘ on ’ ‘ in ’ 3. Analyse temps temps fréquence fréquence

23 (a)ll ‘ m ’ ‘ n ’ 3. Analyse temps temps fréquence fréquence temps

24 ‘ po ’ ‘ ta ’ ‘ co ’ ‘ b ’ ‘ d ’ ‘ g ’ 3. Analyse temps temps temps
fréquence fréquence fréquence ‘ b ’ ‘ d ’ ‘ g ’ temps temps temps fréquence fréquence fréquence

25 ‘ f ’ ‘ s ’ ‘ ch ’ ‘ v ’ ‘ z ’ ‘ j ’ 3. Analyse temps temps temps
fréquence fréquence fréquence ‘ v ’ ‘ z ’ ‘ j ’ temps temps temps fréquence fréquence fréquence

26 spectrogramme 3. Analyse fréquence perspective temps amplitude
chronogramme

27 Spectrogramme, sonogramme, sonagramme
3. Analyse Spectrogramme, sonogramme, sonagramme Evolution au cours du temps de l ’analyse spectrale à court terme fréquence amplitude fréquence temps temps

28 3. Analyse ph o n e t i c i an fréquence temps

29 - Analyse de la fréquence fondamentale chant, intonation
Le « cepstre » - Analyse de la fréquence fondamentale chant, intonation - Paramètres de base pour la reconnaissance variations lentes du spectre périodicité des harmoniques « temps » fréquence déconvolution source (harmoniques) / conduit (enveloppe)

30 Analyse de la fréquence fondamentale
chant, intonation . 4 temps fréquence fondamental harmoniques

31 Analyse de la mélodie (pitch)
fondamental fréquence Passe bas temps harmoniques fréquence Passe bande démodulation temps fondamental retrouvé par démodulation fréquence Passe bas sur le résultat temps

32 4. Codage de la parole : différents débits en
fonction des applications et de la qualité acceptée Codage à bas débit (moins de 15kbits/s) : prédiction linéaire Codage à débit moyen : 16 à 32 kbits/s : modulation delta Téléphonie : 8bits x 8000 éch./s = 64 kbits/s Haute fidélité 16bits x éch./s = 700 kbits/ MP3 = 144 kbits/s

33 Échantillonnage à 8kHz quantification sur 8 bits
4. Codage Téléphonie numérique Échantillonnage à 8kHz quantification sur 8 bits Réduire la dynamique Loi « mu »

34 Codage par modulation delta (parole)
pour les débits de 16 à 32 kBits/s Quantification de la différence entre le signal et sa prédiction + _ Transmission Synthèse Analyse

35 Principe du codage MP3 4. Codage Filtrage des signaux
dans différentes bandes de fréquences T. Cos et codage T. Cos et codage T. Cos et codage Emission des données T. Cos et codage T. Cos et codage Sélection des canaux utiles (effet de masquage) 1er codage T. Fourier

36 Analyse par prédiction linéaire
4. Codage Analyse par prédiction linéaire Canal vocal Impusions (cordes vocales) Signal Synthétique Bruit (pour les fricatives) Filtre récursif évoluant « lentement » au cours du temps et dont la réponse en fréquence est celle du spectre à court terme

37 - Calcul de 11 coefficients de corrélation
4. Codage - Calcul de 11 coefficients de corrélation sur une portion de 25 ms (200 échantillons) - Application de l ’algorithme de Levinson pour obtenir les coefficients du filtre récursif (sous la forme d ’un filtre en treillis) - Transmission des coefficients et du signal résiduel (erreur de prédiction) au récepteur qui en déduit la synthèse du signal

38 Codage par prédiction linéaire
analyse transmission synthèse calcul de corrélation algorithme de Levinson signal analysé signal synthétisé filtre non récursif A(z) coefficients du filtre A(z) filtre récursif 1/A(z) recherche de périodicité L (max de corrélation) e(t)e(t+L) signal résiduel e(t) signal résiduel e(t) v(t)=e(t)-r.e(t-L) e(t)=v(t)+r.e(t-L) L v(t) v(t) quantification recherche d’un élément ressemblant à un tronçon de v(t) dans un dictionnaire reconstruction de v(t) à partir des d(n) étape de compression d(n) d(n)

39 Analyse par prédiction linéaire
4. Codage Analyse par prédiction linéaire Spectre de la portion de signal analysé fréquence Réponse en fréquence du filtre récursif modélisant le signal vocal

40 Code Excited Linear Prediction (CELP)
4. Codage Code Excited Linear Prediction (CELP) Dictionnaire de signaux élémentaires Prédiction à long terme (intonation) Modèle du conduit vocal génération du signal d’entrée du filtre (cordes vocales, bruit)

41 Illustration de l ’application de la prédiction linéaire
4. Codage Illustration de l ’application de la prédiction linéaire au codage de la parole en téléphonie fréquence temps (Ech Hz) temps

42 Réponse impulsionnelle du filtre non récursif A(z) Signal modélisé
4. Codage Corrélation : r(n) Coefficients de A(z) Algo de Levinson ou Schur temps temps Réponse impulsionnelle du filtre non récursif A(z) Signal modélisé Réponse impulsionnelle du filtre récursif 1/A(z) temps

43 Réponse impulsionnelle du filtre récursif 1/A(z) modélisant
amplitude 4. Codage Signal analysé Réponse impulsionnelle du filtre récursif 1/A(z) modélisant la production de ce signal temps Zéros de A(z) (pôles de 1/A(z)) Réponse en fréquence du filtre récursif 1/A(z)) fréquence

44 Signal résiduel à coder - Recherche de la périodicité (pitch :
4. Codage Spectre du signal résiduel L temps Signal résiduel à coder - Recherche de la périodicité (pitch : prédiction à long terme on code x(t)-x(t-L) : estimer L - Quantification vectorielle fréquence (~ bruit blanc) On découpe le signal résiduel en tronçons comparaison à des formes de signal mémorisées dont on transmet le numéro + transmission des coefs du filtre temps

45 5. Synthèse de son ; diphones
Difficultés: Enchainement de sons élémentaires Intonation naturelle

46 Synthèse de parole Découpe d’un son élémentaire (p. ex. diphone)
mbrola Découpe d’un son élémentaire (p. ex. diphone) en période de longueur double de la période du pitch . Chacun des ~1000 diphones (33x33) est découpé en 10 ou 20 sons élémentaires de 100 à 200 échantillons

47 On peut rajouter ces tronçons après les avoir décalés
5. Synthèse On peut rajouter ces tronçons après les avoir décalés et amplifiés en fonction de la mélodie, de l ’intonation, ... Plus aigu : diminuer Plus grave : augmenter Modification de l ’amplitude en changeant

48 6. Reconnaissance de la Parole fondée sur les Modèles de Markov Cachés
Hidden Markov Models 1. Introduction 2. Formulation en reconnaissance de parole 2.1 Reconnaissance (Viterbi) 2.2 Probabilité d’une séquence 2.3 Apprentissage 3. Mise en œuvre 3.1 Analyse spectrale à court terme 3.2 Quantification vectorielle 3.3 Forme usuelle de l’automate

49 2. Automates utilisés dans les modèles de Markov cachés
6. Reconnaissance 2. Automates utilisés dans les modèles de Markov cachés mesures n’ n états m’ m (Probabilités) transition Séquence d’états : Séquence de mesures : probabilité de transition de l’état m’ à l’état m probabilité de mesurer ‘n’ quand l’automate est dans l’état m probabilité que l’état initial soit m

50 Les trois problèmes : 6. Reconnaissance Séquence d’états :
Séquence de mesures : 1. Reconnaissance : Y donné quelle est la S la plus probable ? 2. Quelle est la probabilité d’observer Y avec l ’automate (a,b,d) ? 3. Apprentissage : comment calculer a(m,m’), b(m,n) et d(m)

51 Algorithme de Viterbi 6. Reconnaissance
Obtention de la séquence la plus probable Algorithme de Viterbi Calcul par récurrence de Initialisation Récurrence Fin de l’algorithme Etat m « Treillis » pour représenter l ’évolution de l ’automate au cours du temps temps

52 Probabilité d’observation d’une séquence Y avec (a,b,d)
6. Reconnaissance Probabilité d’observation d’une séquence Y avec (a,b,d) Calcul à t croissant Utilisé pour comparer la pertinence de différents automates (un automate est associé à un mot) (aussi utilisé dans les « turbocodes en détection d ’erreurs »

53 Apprentissage de mots (cf. notes de cours)
6. Reconnaissance Apprentissage de mots (cf. notes de cours) Calculer à partir de mesures Y de a(m,m’), b(m,n), d(m) (lourd : nécessite de nombreuses réalisations deY) Automate usuel (Bakis) Défauts de rythmes (doublement ou suppression d’une étape) voir aussi le « dynamic time warping » t’ t

54 3. Mise en forme des données mesurées sur la parole
6. Reconnaissance 3. Mise en forme des données mesurées sur la parole F o n e t i ch i an Associer à une portion de signal vocal (~20ms) une mesure y(t) : - Analyse spectrale à court terme un vecteur (dim 20) - Quantification vectorielle

55 Analyse spectrale à court terme
6. Reconnaissance Analyse spectrale à court terme Fréquence centrale du filtre linéaire exponentielle Echelle Mel Banc de filtres

56 Coefficients cepstraux
6. Reconnaissance Coefficients cepstraux Energie en sortie des différents filtres : C(n) Peuvent être liés aux coefficients de la prédiction linéaire

57 « expectation maximization »
6. Reconnaissance les HMM nécessitent une quantification (assez grossière) des données traitées Passer des c(k) aux y (mesures) Quantification vectorielle Trouver des représentants pour des nuages de points Choisir des centres de classes Assigner à cette classe les points voisins Prendre comme centre de classe le barycentre des points d’une classe réitérer jusqu ’à convergence « expectation maximization »

58 Toutefois, beaucoup de réglages et de variantes…
6. Reconnaissance Toutefois, beaucoup de réglages et de variantes… Recherche : « comprendre » le signal vocal et l ’information qu ’il contient (et non se contenter d ’une « simple » comparaison) Comprendre le fonctionnement de la cochlée et du système nerveux auditif