La présentation est en train de télécharger. S'il vous plaît, attendez

La présentation est en train de télécharger. S'il vous plaît, attendez

Les réseaux de neurones. Plan de lexposé Réseaux de neurones Techniques dapprentissage Reconnaissance optique de caractères (OCR)

Présentations similaires


Présentation au sujet: "Les réseaux de neurones. Plan de lexposé Réseaux de neurones Techniques dapprentissage Reconnaissance optique de caractères (OCR)"— Transcription de la présentation:

1 Les réseaux de neurones

2 Plan de lexposé Réseaux de neurones Techniques dapprentissage Reconnaissance optique de caractères (OCR)

3 Le réseau de neurones Définition Un réseau de neurones est un outil danalyse permettant de construire un modèle à partir de données, dexemples. Un réseau de neurones est constitué dun graphe dont les nœuds sont les neurones.

4 Le réseau de neurones Vue simplifiée d'un réseau de neurones artificiel

5 Le neurone Neurone biologique Neurone artificiel

6 Motivation, utilité Reconnaissance de caractères (OCR) Classification Approximation dune fonction inconnue Prédiction Transitions de phase

7 Perceptron Architecture x i = entrées (i = 1…n) w i = poids (i = 1…n) w 0 = biais y = sortie Le neurone est un dispositif « feedforward »

8 Perceptron Règle dactivation 1. Activité a = 2. Sortie y = f(a) = activation Fonctions dactivation f: 1.Sigmoïde (Fermi) 2.Seuil (Heaviside)

9 Perceptron Séparabilité linéaire Cette équation définit un hyperplan dans lespace des entrées. -w 0 = 0

10 Perceptron Limitation Le perceptron peut uniquement résoudre les problèmes linéairement séparable. Le problème XOR

11 Perceptron Le problème XOR Solution

12 Perceptron multi-couches Architecture

13 Perceptron multi-couches Problème linéairement non séparable

14 Réseaux de neurones Discussion Le réseau est une « boîte noire ». Il fournit uniquement une réponse (sortie) lorsquon lui présente des données (entrées). Il ny a pas de justification sur la manière dont le réseau a donné sa réponse!

15 Exemples Carte auto-organisatrice Réseau multi-couche Réseau de Hopfield

16 Apprentissage Observations Généralisations 1.Méthode supervisée Convergence fixée 2.Méthode non supervisée Convergence libre

17 Algorithme dapprentissage 1. EntraînementApprentissage du réseau 2. ValidationVérification de lentraînement 3. TestMesure de la performance du réseau

18 Mode supervisé Motivation On aimerait une machine qui classe différents échantillons dans différentes classes. Par exemple, une machine qui puisse reconnaître des caractères. Celle-ci donnerait la valeur 1 à la sortie sil sagit dun « A » et 0 sinon. Des erreurs sont permises.

19 Mode supervisé Motivation On possède une base de données. On a P couples entrées-sorties x est la valeur dentrée t est la valeur désirée (target value)

20 Mode supervisé Vue générale

21 Perceptron Algorithme du perceptron Initialisation aléatoire des poids du perceptron Comparaison de la sortie du perceptron avec la valeur désirée Ajustement des poids (apprentissage) Convergence

22 Perceptron Descente de gradient Erreur quadratique Ajustement des poids

23 Perceptron Descente de gradient

24 Perceptron Algorithme du perceptron

25 Perceptron multi-couches Algorithme de backpropagation Généralisation de la descente du gradient Rendre le problème linéairement séparable

26 Surapprentissage Spécialisation Tester plusieurs architectures de réseau avec différents nombres de neurones Méthode du « early stopping »

27 Reconnaissance optique de caractères Perceptron multi-couches Backpropagation Surapprentissage Test

28 Reconnaissance optique de caractères Déroulement 1. Déterminer une base de données 2. Preprocessing des données 3. Séparer en base dapprentissage (entraînement et validation) et en base de test 4. Entraîner le réseau (à laide de lalgorithme de backpropagation) 5. Optimiser lerreur (validation) 6. Mesurer la performance du réseau (à laide de la base de test)

29 Reconnaissance optique de caractères

30

31 Entraînement

32 Reconnaissance optique de caractères Test

33 Reconnaissance optique de caractères Test

34 Fin


Télécharger ppt "Les réseaux de neurones. Plan de lexposé Réseaux de neurones Techniques dapprentissage Reconnaissance optique de caractères (OCR)"

Présentations similaires


Annonces Google