Les réseaux de neurones compétitifs

Présentation au sujet: "Les réseaux de neurones compétitifs"— Transcription de la présentation:

1 Les réseaux de neurones compétitifs
Exercices Les réseaux de neurones compétitifs

2 2 : Réseau LVQ1 réf . Fausett, ex. 4.5 C3 C4 C1 C2 0.8 C1 C2 C3 C4 0.6 C3 C4 C1 C2 0.4 C1 C2 C3 C4 0.2 0.2 0.4 0.6 0.8

3 C3 C4 C1 C2 0.8 C1 C2 C3 C4 0.6 (0.25, 0.25) C3 C4 C1 C2 0.4 C1 0.225 C2 C3 C4 0.2 0.2 0.225 0.4 0.6 0.8 Si on présente une entrée de valeur (0.25, 0.25) étiqueté classe 1, le neurone C1 (0.2, 0.2) est le plus proche, il est bien étiqueté et ses poids sont ajustés par (0.2, 0.2) + 0.5(0.25 – 0.2, 0.25 – 0.2) = (0.225, 0.225)

4 C3 C4 C1 C2 0.8 C1 C2 C3 C4 0.6 0.425 C4 C3 C1 C2 0.4 C1 (0.4, 0.35) C2 C3 C4 0.2 0.2 0.4 0.6 0.8 b) Si on présente une entrée de valeur (0.4, 0.35) étiqueté classe 1, le neurone C4 (0.4, 0.4) est le plus proche mais il est mal étiqueté et ses poids sont ajustés par (0.4, 0.4) - 0.5(0.4 – 0.4, 0.35 – 0.4) = (0.4, 0.425)

5 C3 C4 C1 C2 0.8 C1 C2 C3 C4 0.6 (0.4, 0.45) C3 C1 C2 0.4 C4 0.375 C1 C2 C3 C4 0.2 0.2 0.4 0.6 0.8 c) Si on présente une entrée de valeur (0.4, 0.45) étiqueté classe 1, le neurone C4 (0.4, 0.4) est le plus proche mais il est encore mal étiqueté et ses poids sont ajustés par (0.4, 0.4) - 0.5(0.4 – 0.4, 0.45 – 0.4) = (0.4, 0.375)

6 Classe 4 Classe 1 C3 C4 C1 C2 0.8 C1 C2 C3 C4 0.6 C3 C1 C2 0.4 C4 C1
(0.4, 0.45) C3 C1 C2 0.4 C4 0.375 C1 C2 C3 C4 0.2 0.2 0.4 0.6 0.8 Classe 1 d) Présenter (0.4, 0.35) tend à éloigner C4 de la zone où les entrées d’apprentissage représentent la classe 1, alors que (0.4, 0.45) tend à rapprocher C4 de la zone où les entrées d’apprentissage représentent la classe 1. La première alternative est la plus efficace.

7 Pour l’entrée (0.5, 0.2) et un taux d’apprentissage de 0.2
C4 C2 C3 C1 C5 0.3 0.7 0.6 0.9 0.1 0.5 0.4 0.8 0.2 3 : Carte de Kohonen réf. Fausett, ex. 4.2 Pour l’entrée (0.5, 0.2) et un taux d’apprentissage de 0.2 a) Soit Dm la distance entre l’entrée et le poids du vecteur Cm on a : D1 = ( )2 + (0.7 – 0.2)2 = 0.29 D2 = (0.6 – 0.5)2 + (0.9 – 0.2)2 = 0.50 D3 = (0.1 –0.5)2 + (0.5 – 0.2)2 = 0.25 D4 = (0.4 – 0.5)2 + (0.3 – 0.2)2 = 0.02 D5 = (0.8 – 0.5)2 + (0.2 – 0.2)2 = 0.09 Le neurone le plus proche de l’entrée est donc C4, il gagne ainsi la compétition.

8 b) Mise à jour des poids pour le neurone gagnant J
C4 C2 C3 C1 C5 0.3 0.7 0.6 0.9 0.1 0.5 0.42 0.28 0.8 0.2 b) Mise à jour des poids pour le neurone gagnant J w14(nouveau) = w14(vieux) (x1 – w14(vieux)) = (0.5 – 0.4) = = 0.42 w24(nouveau) = w24(vieux) (x2 – w24(vieux)) = (0.2 – 0.3) = = 0.28

9 c) Si on permet à J-1 et à J+1 d’apprendre alors
U2 U1 C4 C2 C3 C1 C5 0.3 0.7 0.6 0.9 0.18 0.44 0.4 0.74 0.2 c) Si on permet à J-1 et à J+1 d’apprendre alors w13(nouveau) = w13(vieux) (x1 – w13(vieux)) = (0.5 – 0.1) = = 0.18 w23(nouveau) = (0.2 – 0.5) = = 0.44 w15(nouveau) = (0.2 – 0.8) = = 0.74 w25(nouveau) = (0.2 – 0.2) = = 0.2