Applications du perceptron multicouche

Présentation au sujet: "Applications du perceptron multicouche"— Transcription de la présentation:

1 Applications du perceptron multicouche
Chapitre 4 (suite) Applications du perceptron multicouche

2 Plan 4- Perceptron multicouche Applications  Sélection des paramètres
GPA-779 Plan 4- Perceptron multicouche  Sélection des paramètres Améliorations des performances Applications Reconnaissance optique de caractères Base d’apprentissage incrémentale Extraction de caractéristiques Compression d’images (réseau Diabolo) Automne 2005

3 GPA-779 Découverte J.C. Principe, N.R. Euliano et W.C. Lefebvre Neural and Adaptive Systems: Fundamentals Through Simulations John Wiley & Sons, 2000 Approche systèmes linéaires adaptatifs Simulateur de base fourni sur CD-ROM Couvre majorité des modèles, y compris MVS (machines à vecteurs de support) ACP Éléments de TNS: Réponse en fréquence et transformée en Z Filtre adaptatif Trouvé chez le Camelot, sept. 2005, $124 Systèmes linéaires adaptatifs: exemple: filtre adaptatif qui s’ajuste au bruit Automne 2005

4

5 Neurones cachés versus complexité des données
GPA-779 Neurones cachés versus complexité des données TABLEAU: Sélection des paramètres et Amélioration des performances Automne 2005

6

7

8

9

10 Apprentissage versus généralisation

11 Généralisation en régression

12 Problématique: rappel
Base de données étiquetée Base d’apprentissage de test généralisation apprentissage

13 Système complet de classification

14 Influence du nombre d’époques d’apprentissage

15 Influence du nombre de neurones

16 Influence du nombre de données

17 Applications 6 Reconnaissance Optique des Caractères (O.C.R)
GPA-779 Applications 6 Reconnaissance Optique des Caractères (O.C.R) Seuillage d’images Base d’apprentissage incrémentale Data Mining, Extraction des connaissances Automne 2005

18 Applications - OCR 6 Reconnaissance Optique des Caractères (O.C.R) la lettre « s » Objectif Système OCR s Reconnaissance sans contrainte Reconnaissance hors contexte 2 9 2 8 5 deux Reconnaissance du scripte Reconnaissance des caractères manuscrits

19 Reconnaissance des chiffres manuscrits
Applications - OCR 6 Reconnaissance des chiffres manuscrits Système de prétraitement Acquisition d’images « 0 » « 1 » « 2 » …… « 9 » Extraction des primitives Système de décision

20 6 Applications - OCR Résolutions spatiale Acquisition d’images
et en niveaux de gris Acquisition d’images Système de prétraitement Extraction d’imagettes Filtrage/réduction du bruit Mise à l’échelle Extraction des primitives Primitives visuelles  méthodes syntaxiques Prototypes des classes Paramètres numériques (données brutes, données transformées, ….)  méthodes numériques

21 w 6 Le neurone formel en reconnaissance de chiffres
Applications - OCR 6 Le neurone formel en reconnaissance de chiffres Séparation entre deux classes Classe 1 : -1 Classe 2 : +1 Imagette d’entrée X Poids synaptiques w

22 Image des poids synaptiques
Applications - OCR 6 Exemple : Classe 1 Classe 2 Image des poids synaptiques

23 Le réseau multicouches en reconnaissance de chiffres
Applications - OCR 6 Le réseau multicouches en reconnaissance de chiffres Base d’apprentissage étiquetée , 16 (0, 0, 0, 1, 0, …, 0) 16 L

24 t L 6 LOptimal Applications - OCR
Nombre de neurones dans la couche cachée ? Base d’apprentissage étiquetée Base d’apprentissage Base de test t L LOptimal

25 Seuillage d’images : 6 Applications - Seuillage d’images
Opération que l’on effectue sur une image afin d'obtenir une nouvelle image à deux niveaux de gris. Réseau CMB (Connexionnist Model Binarization)

26 Applications - Seuillage d’images
6

27 Concept d’apprentissage
Applications - Base d’apprentissage incrémentale 6 Base d’apprentissage incrémentale Concept d’apprentissage incrémental Ajout de nouvelles classes Les réseaux multicouches n’admettent pas cette possibilité Ajout de nouvelles formes OCR, Reconnaissance de parcellaires en imagerie satellitaire, etc.

28 6 Applications - Base d’apprentissage incrémentale
Base incrémentale en imagerie satellitaire Position du problème Vert Spot Rouge Proche infrarouge Composé couleur

29 6 x1 x2 x3 Applications - Base d’apprentissage incrémentale
Il s’agit de la classe Cm x1 x2 x3 Position, (x1 , x2, x3 ), Cm

30 6 Applications - Base d’apprentissage incrémentale Base (t) (t+1)
Classification Base (t) (t+1) Extraction d'exemples Base (t) Connaissances de l'expert Base (t+1)

31 Construction dynamique d'une base d'apprentissage
Applications - Base d’apprentissage incrémentale 6 Construction dynamique d'une base d'apprentissage Base (tf = 15) Base (t = 0) 1600 exemples /classe 100 exemples /classe

32 Extraction des connaissances d'une base d'exemples
Applications - Extraction des connaissances 6 Extraction des connaissances d'une base d'exemples Absence de connaissances a priori Une base d'exemples étiquetée Approche d'extraction de connaissances Apprentissage d'un réseau multicouches Analyse des poids synaptiques Application aux données MSN MSN, Malaises Graves (MG) et Fratries (F) 42 données épidémiologiques

33 Extraction de connaissances d'une base d'exemples
Applications - Extraction des connaissances 6 Extraction de connaissances d'une base d'exemples D1 MSN D5