La présentation est en train de télécharger. S'il vous plaît, attendez

La présentation est en train de télécharger. S'il vous plaît, attendez

Résumé Domaine des réseaux de neurones. Chapitre 7 Réseau ART.

Présentations similaires


Présentation au sujet: "Résumé Domaine des réseaux de neurones. Chapitre 7 Réseau ART."— Transcription de la présentation:

1 Résumé Domaine des réseaux de neurones

2 Chapitre 7 Réseau ART

3 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # n Structure du ART 1 F 2 Catégories j F 1 Caractéristiques i RAZ G1G1 G2G2

4 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # n Exemple - ART1

5 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # n ART1: convergence et robustesse

6 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # n Améliorations ä ART1:Entrées binaires ä ART2:Entrées analogiques Normalisation + Contraste ä ARTMAP:ART1s ou ART2s couplés avec apprentissage supervisé ( augmenté pour certains exemples)

7 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # n ART2

8 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # n ARTMAP

9 Chapitre 8 Les réseaux de neurones compétitifs

10 Problématique de Reconnaissance de Formes Espace d'entrée X Extraction des primitives Espace des primitives Y Système de décision Espace des décisions D

11 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Composantes principales Système de décision Espace dobjets Espace des primitives Espace des décisions Les réseaux de neurones extracteurs de primitives v x z u V1 V2 y y1y z x1x1 i j i j

12 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Réseaux Compétitifs Linéaires Implémentation mathématiques {X k, k = 1, 2, …, K} une base dapprentissage Initialisation aléatoire des poids synaptiques 1 Apprentissage 2 Présentation de la forme X k à la couche dentrée Calcul de lactivation des neurones de la couche de sortie y j (k), j = 1, 2,.. a b Détermination du neurone gagnant j* c Ajustement des poids synaptiques du neurone gagnant : d pour n = 1, …, N

13 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Réseaux Compétitifs Linéaires Explication graphique k (j 1 ) k (j 2 ) k (j m ) k (j*) XkXk Neurone gagnant vecteur des poids synaptiques du neurone gagnant k (j 1 ) k (j 2 ) k (j m ) k (j*) XkXk Nouveau vecteur des poids synaptiques Compétition Adaptation

14 GPA-779 Application des réseaux de neurones et des systèmes experts Cours #

15 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # A2A2 A3A3 A1A1 A4A Le réseau Maxnet Fonction dactivation : Étape 0 : Initialiser les activations et les poids Étape 1 (tant que 4 vrai faire 2-4) : Étape 2 : Mise à jour des activations Étape 3 : Sauvegarder activations Étape 4 : Si plus dune activation 0 continuer, sinon arrêt

16 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # A2A2 A3A3 A1A1 A4A Le réseau Maxnet : Exemple 4.1 (Fausett p. 160) Étape 0 : Initialiser les activations et les poids Étape 1 (tant que 4 vrai faire 2-4) : Étape 2 : Mise à jour des activations Étape 3 : Sauvegarder activations Étape 4 : Si plus dune activation 0 continuer, sinon arrêt

17 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Cartes topologiques de Kohonen 1 ère constatation Lorganisation linéaire na pour intérêt que laspect pédagogique. 2 ème constatation Les réseaux compétitifs linéaires séloignent de la réalité Neurobiologique « les zones dactivité ».

18 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Cartes topologiques de Kohonen Architecture proposée : une couche linéaire mono ou multi dimensionnel. m Voisins ordonnés du neurone m i j Un neurone est caractérisé par ses poids synaptiques et par sa position ( notion de voisinage topologique)

19 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Cartes topologiques de Kohonen Formes de voisinage (2D)

20 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # U2U2 U1U1 C4C4 C2C2 C3C3 C1C1 C5C Pour lentrée (0.5, 0.2) et un taux dapprentissage de 0.2 a) Soit D m la distance entre lentrée et le poids du vecteur C m on a : D 1 = ( ) 2 + (0.7 – 0.2) 2 = 0.29 D 2 = (0.6 – 0.5) 2 + (0.9 – 0.2) 2 = 0.50 D 3 = (0.1 –0.5) 2 + (0.5 – 0.2) 2 = 0.25 D 4 = (0.4 – 0.5) 2 + (0.3 – 0.2) 2 = 0.02 D 5 = (0.8 – 0.5) 2 + (0.2 – 0.2) 2 = 0.09 Le neurone le plus proche de lentrée est donc C 4, il gagne ainsi la compétition. Ex. 4.2 : Carte de Kohonen

21 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # b) Mise à jour des poids pour le neurone gagnant J w 14 (nouveau) = w 14 (vieux) (x 1 – w 14 (vieux)) = (0.5 – 0.4) = = 0.42 w 24 (nouveau) = w 24 (vieux) (x 2 – w 24 (vieux)) = (0.2 – 0.3) = = 0.28 U2U2 U1U1 C4C4 C2C2 C3C3 C1C1 C5C

22 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # U2U2 U1U1 C4C4 C2C2 C3C3 C1C1 C5C c) Si on permet à J-1 et à J+1 dapprendre alors w 13 (nouveau) = w 13 (vieux) (x 1 – w 13 (vieux)) = (0.5 – 0.1) = = 0.18 w 23 (nouveau) = (0.2 – 0.5) = = 0.44 w 15 (nouveau) = (0.2 – 0.8) = = 0.74 w 25 (nouveau) = (0.2 – 0.2) = = 0.2

23 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Réseaux de quantification vectorielle Quantification vectorielle non supervisée Quantification vectorielle supervisée

24 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Réseaux de quantification vectorielle Explication graphique k (j 1 ) k (j 2 ) k (j m ) k (j*) XkXk Neurone gagnant vecteur des poids synaptiques du neurone gagnant k (j 1 ) k (j 2 ) k (j m ) k (j*) XkXk Nouveau vecteur des poids synaptiques Compétition Adaptation

25 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Réseaux de quantification vectorielle Il sagit d un apprentissage non supervisé Adaptation des poids plus sévère que celle de Hebb Règle de Hebb Algorithme LVQ Convergence non garantie

26 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Réseaux de quantification vectorielle Lalgorithme dapprentissage LVQ1 Retour au principe de Récompense/Punition (1) (2) (j) (j*) XkXk Récompense Classe(X k ) = Classe( (j*)) Punition Classe(X k ) Classe( (j*)) (1) (2) (j) (j*) XkXk (j*) = + (t) [X k - (j*)] Si Classe(X k ) = Classe( (j*)) (j*) = - (t) [X k - (j*)] Si Classe(X k ) Classe( (j*))

27 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Réseaux de quantification vectorielle Lalgorithme dapprentissage LVQ2 La course aux performances ……... L'adaptation des vecteurs de référence correspondant (j 0 ) et (i 0 ) est réalisée si et seulement si les trois conditions suivantes sont vérifiées : La compétition fournie deux neurones gagnants : le premier j 0 et le second i 0 gagnants. Lesprit de l algorithme de Rosenblatt : Maintenir le principe de Récompense/Punition

28 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Ex. 4.5 : Réseau LVQ C4C4 C2C2 C3C3 C1C1 C2C2 C4C4 C1C1 C3C3 C4C4 C2C2 C3C3 C1C1 C2C2 C4C4 C1C1 C3C

29 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # a)Si on présente une entrée de valeur (0.25, 0.25) étiqueté classe 1, le neurone C 1 (0.2, 0.2) est le plus proche, il est bien étiqueté et ses poids sont ajustés par (0.2, 0.2) + 0.5(0.25 – 0.2, 0.25 – 0.2) = (0.225, 0.225) C4C4 C2C2 C3C3 C2C2 C4C4 C1C1 C3C3 C4C4 C2C2 C3C3 C1C1 C2C2 C4C4 C1C1 C3C (0.25, 0.25) C1C

30 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # C4C4 C2C2 C3C3 C2C2 C1C1 C3C3 C4C4 C2C2 C3C3 C1C1 C2C2 C4C4 C1C1 C3C C1C1 b) Si on présente une entrée de valeur (0.4, 0.35) étiqueté classe 1, le neurone C 4 (0.4, 0.4) est le plus proche mais il est mal étiqueté et ses poids sont ajustés par (0.4, 0.4) - 0.5(0.4 – 0.4, 0.35 – 0.4) = (0.4, 0.425) C4C4 (0.4, 0.35)

31 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # C4C4 C2C2 C3C3 C2C2 C1C1 C4C4 C2C2 C3C3 C1C1 C2C2 C4C4 C1C1 C3C3 c) Si on présente une entrée de valeur (0.4, 0.45) étiqueté classe 1, le neurone C 4 (0.4, 0.4) est le plus proche mais il est encore mal étiqueté et ses poids sont ajustés par (0.4, 0.4) - 0.5(0.4 – 0.4, 0.45 – 0.4) = (0.4, 0.375) C4C (0.4, 0.45) C1C C3C3

32 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # C4C4 C2C2 C3C3 C2C2 C1C1 C4C4 C2C2 C3C3 C1C1 C2C2 C4C4 C1C1 C3C3 d) Présenter (0.4, 0.35) tend à éloigner C 4 de la zone où les entrées dapprentissage représentent la classe 1, alors que (0.4, 0.45) tend à rapprocher C 4 de la zone où les entrées dapprentissage représentent la classe 1. La première alternative est la plus efficace. C4C (0.4, 0.45) C1C C3C3 Classe 1 Classe 4

33 Chapitre 9 Systèmes experts

34 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Systèmes experts n Plan ä Vue d ensemble ä Architecture ä Représentation des connaissances ä Moteur de déduction

35 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Vue d ensemble n Un système expert est un logiciel qui a pour but de simuler le comportement dun spécialiste humain dans un domaine bien précis lorsquil accomplit une tâche de résolution de problèmes pour lesquels il nexiste pas de solution évidente ou algorithmique.

36 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # n Programmation de l expertise : ä Insuffisamment structurée pour être transcrite sous forme d algorithmes ä Sujette à de nombreuses révisions ä Incomplète parce quen continuelle évolution n Sinon : ä Problème mieux résolu par algos classiques ä Problème hors de portée (expertise difficilement formalisable)

37 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # n Domaines d utilisation des SEs ä Configuration ä Diagnostic ä Enseignement ä interprétation ä Surveillance ä Planification ä Prédiction ä Diagnostic médical ä Commande de processus

38 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # n Quelques SEs célèbres ä DENDRAL (le premier, 1965)chimie interprétation de la structure moléculaire ä CADHELPélectronique instructions pour la CAO ä MYCIN (beaucoup d influence)médecine diagnostic pour infections bactériennes ä PROSPECTORgéologie interprétation données géol. Minerais ä XCON (beaucoup de succès)informatique configuration mini ordi. VAX de DEC

39 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # n Composantes de base dun SE ä Connaissances ä Mécanisme de raisonnement n Expertise = Savoir - Faire ä Connaissances correspondent à ce que nous savons du domaine considéré ä Mécanismes de raisonnement correspondent à ce que nous faisons pour obtenir une solution

40 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Architecture Connais- Faits sances Connais- Faits sances Module dinférence dexplica- tion Interface Moteur de déduction Base de connaissance ExpertUtilisateur acquisition consultation

41 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # n Systèmes de production ä Architecture de SE la plus répandue ä Connaissances : règles de production ä Mécanisme d inférence

42 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # ä Moteurs dinférence –Cycle de base o Sélection des règles o Filtrage o Résolution des conflits o Exécution –Stratégies de recherche o Largeur dabord o Profondeur dabord å Stratégie irrévocable å Stratégie par tentatives o Profondeur limité o Recherche heuristique –Mode dinvocation des règles o Chaînage avant o Chaînage arrière

43 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Représentation des connaissances n Règles de production Si (proposition logique) Alors (actions) prémisse conclusions

44 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Moteur dinférence n Cycles de base 1-Phase de restriction Choix du sous-ensemble de connaissances 2-Phase de filtrage Choix des règles applicables

45 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Phase de sélection –Stratégies de recherche o Largeur dabord o Profondeur dabord å Stratégie irrévocable å Stratégie par tentatives o Profondeur limité o Recherche heuristique –Résout conflits lorsque plusieurs règles sappliquent o Sélection simple (1ère de la liste, la + utilisée, etc.) o Sélection selon contexte (chaînage avant, arrière, la plus prometteuse, la plus fiable, etc.)

46 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Phase dexécution –Appliquer la règle sélectionnée o Modification de lensemble de faits (générer des états intermédiaires) o Questionner lusager o Exécuter les actions externe

47 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # n Stratégies de recherche 1. La recherche en largeur dabord 2. La recherche en profondeur dabord 3. La recherche en profondeur limitée 4. La recherche heuristique

48 GPA-779 Application des réseaux de neurones et des systèmes experts Cours # Illustration: labyrinthe


Télécharger ppt "Résumé Domaine des réseaux de neurones. Chapitre 7 Réseau ART."

Présentations similaires


Annonces Google