Applications du perceptron multicouche Chapitre 4 (suite) Applications du perceptron multicouche

Plan 4- Perceptron multicouche Applications  Sélection des paramètres GPA-779 Plan 4- Perceptron multicouche  Sélection des paramètres Améliorations des performances Applications Reconnaissance optique de caractères Base d’apprentissage incrémentale Extraction de caractéristiques Compression d’images (réseau Diabolo) Automne 2005

GPA-779 Découverte J.C. Principe, N.R. Euliano et W.C. Lefebvre Neural and Adaptive Systems: Fundamentals Through Simulations John Wiley & Sons, 2000 Approche systèmes linéaires adaptatifs Simulateur de base fourni sur CD-ROM Couvre majorité des modèles, y compris MVS (machines à vecteurs de support) ACP Éléments de TNS: Réponse en fréquence et transformée en Z Filtre adaptatif Trouvé chez le Camelot, sept. 2005, $124 Systèmes linéaires adaptatifs: exemple: filtre adaptatif qui s’ajuste au bruit Automne 2005

Neurones cachés versus complexité des données GPA-779 Neurones cachés versus complexité des données TABLEAU: Sélection des paramètres et Amélioration des performances Automne 2005

Apprentissage versus généralisation

Généralisation en régression

Problématique: rappel Base de données étiquetée Base d’apprentissage de test généralisation apprentissage

Système complet de classification

Influence du nombre d’époques d’apprentissage

Influence du nombre de neurones

Influence du nombre de données

Applications 6 Reconnaissance Optique des Caractères (O.C.R) GPA-779 Applications 6 Reconnaissance Optique des Caractères (O.C.R) Seuillage d’images Base d’apprentissage incrémentale Data Mining, Extraction des connaissances Automne 2005

Applications - OCR 6 Reconnaissance Optique des Caractères (O.C.R) la lettre « s » Objectif Système OCR s Reconnaissance sans contrainte Reconnaissance hors contexte 2 9 2 8 5 deux Reconnaissance du scripte Reconnaissance des caractères manuscrits

Reconnaissance des chiffres manuscrits Applications - OCR 6 Reconnaissance des chiffres manuscrits Système de prétraitement Acquisition d’images « 0 » « 1 » « 2 » …… « 9 » Extraction des primitives Système de décision

6 Applications - OCR Résolutions spatiale Acquisition d’images et en niveaux de gris Acquisition d’images Système de prétraitement Extraction d’imagettes Filtrage/réduction du bruit Mise à l’échelle Extraction des primitives Primitives visuelles  méthodes syntaxiques Prototypes des classes Paramètres numériques (données brutes, données transformées, ….)  méthodes numériques

w 6 Le neurone formel en reconnaissance de chiffres Applications - OCR 6 Le neurone formel en reconnaissance de chiffres Séparation entre deux classes Classe 1 : -1 Classe 2 : +1 Imagette d’entrée X Poids synaptiques w

Image des poids synaptiques Applications - OCR 6 Exemple : Classe 1 Classe 2 Image des poids synaptiques

Le réseau multicouches en reconnaissance de chiffres Applications - OCR 6 Le réseau multicouches en reconnaissance de chiffres Base d’apprentissage étiquetée , 16 (0, 0, 0, 1, 0, …, 0) 16 L

t L 6 LOptimal Applications - OCR Nombre de neurones dans la couche cachée ? Base d’apprentissage étiquetée Base d’apprentissage Base de test t L LOptimal

Seuillage d’images : 6 Applications - Seuillage d’images Opération que l’on effectue sur une image afin d'obtenir une nouvelle image à deux niveaux de gris. Réseau CMB (Connexionnist Model Binarization)

Applications - Seuillage d’images 6

Concept d’apprentissage Applications - Base d’apprentissage incrémentale 6 Base d’apprentissage incrémentale Concept d’apprentissage incrémental Ajout de nouvelles classes Les réseaux multicouches n’admettent pas cette possibilité Ajout de nouvelles formes OCR, Reconnaissance de parcellaires en imagerie satellitaire, etc.

6 Applications - Base d’apprentissage incrémentale Base incrémentale en imagerie satellitaire Position du problème Vert Spot Rouge Proche infrarouge Composé couleur

6 x1 x2 x3 Applications - Base d’apprentissage incrémentale Il s’agit de la classe Cm x1 x2 x3 Position, (x1 , x2, x3 ), Cm

6 Applications - Base d’apprentissage incrémentale Base (t) (t+1) Classification Base (t) (t+1) Extraction d'exemples Base (t) Connaissances de l'expert Base (t+1)

Construction dynamique d'une base d'apprentissage Applications - Base d’apprentissage incrémentale 6 Construction dynamique d'une base d'apprentissage Base (tf = 15) Base (t = 0) 1600 exemples /classe 100 exemples /classe

Extraction des connaissances d'une base d'exemples Applications - Extraction des connaissances 6 Extraction des connaissances d'une base d'exemples Absence de connaissances a priori Une base d'exemples étiquetée Approche d'extraction de connaissances Apprentissage d'un réseau multicouches Analyse des poids synaptiques Application aux données MSN MSN, Malaises Graves (MG) et Fratries (F) 42 données épidémiologiques

Extraction de connaissances d'une base d'exemples Applications - Extraction des connaissances 6 Extraction de connaissances d'une base d'exemples D1 MSN D5